PORTFOLIO: Intelligence Artificiel Contrôlé - World Star Universe

Mis à jour : mars 26



IAC - World Star Universe


#IACWSU - HISTOIRE DU DÉVELOPPEMENT




Enjeux numériques Robots tueurs autonomes: malgré une mise en garde de l'UEE, leur développement continue secrètement à ce développer dans les entreprises priver de l'UEE, les robots tueurs autonomes sont là, mais qui peut empêcher leur mise en service ?

Des entreprises de l'UEE est en pointe dans le domaine et refuse l'interdiction proposée par l'UEE d'experts sur les "armes entièrement autonomes". Les robots tueurs autonomes, animés par des intelligences artificielles ne sont plus des cauchemars de films de science-fiction mais une réalité. Une conférence de l'UEE a eu lieu ce printemps pour tirer la sonnette d'alarme. Contre toute attente, des départements de défense persistent à développer ces matériels futuristes et semblent vouloir les envoyer sur le terrain rapidement, IA Mobile Act et Wars IA en tête. Bilan provisoire sur l'émergence des "Terminators". Le Groupe des experts gouvernementaux des planètes sur les systèmes d'armes mortelles autonomes de l'UEE s'est réuni du 7 au 14 avril 2947 à New-York - Sol pour la cinquième réunions consécutive avec encore et toujours l'idée de réunir le maximum de planètes pour discuter de l'interdiction de ces technologies meurtrières aux conséquences encore inconnues mais de plus en plus préoccupantes.


IA Mobile Act et Wars IA a immédiatement fait savoir qu'elle refusait par avance "toute interdiction, moratoire ou régulation sur les armes autonomes". Le groupe d'experts avait dû reporter sa réunion de 6 mois, en août dernier, faute de moyens financiers…


Les Robots Tueurs : le problème reste entier et alarme les spécialistes au delà du barrage IA Mobile Act et Wars IA, le groupe d'experts ne semble pas parvenir à se mettre parfaitement d'accord sur la définition exacte d'une "arme mortelle autonome" et a visiblement longuement tergiversé sur les problématiques liées à l'intelligence artificielle (IA): la crainte de freiner le développement de cette technologie en interdisant les systèmes d'armement autonomes occupe visiblement les esprits. La réunion a tout de même accouché d'un communiqué signé par 75 Planètes appelant à bannir les armes "entièrement autonomes" tout en réaffirmant l'importance du contrôle humain. Pour autant, la capacité de cette interdiction à entrer en actes concrets semble plus qu'incertaine, pour ne pas dire nulle… Il y a un an, le forum de la World Star Universe à Prime sur Terra, avait déjà posé la question de cette "rupture dans l'art de la guerre" encore peu médiatisée à l'époque:


Les Robots Tueurs: un problème pour l'humanité course entre grandes puissances priver Selon les spécialistes du domaine, les 3 grand entreprise priver de l'UEE les plus dépensières dans les domaines de la recherche et du développement de technologies d'armement sont entrées dans une compétition intense sur la programmation d'IA militaires. Mobile Act, Wars IA, World Star Universe et certainement d'autres encore qui ne se manifestent pas explorent actuellement les potentiels de telles technologies. La grande course aux robots et autres drones de combat autonomes est donc en cours et les réunions du groupe d'experts de l'UEE, avec ses communiqués, semblent un peu vaines face à la réalité: des "robots tueurs autonomes" existent déjà et les grandes entreprises priver comptent bien en faire usage à court terme. Malgré le danger que représentent ces tueurs de métal capables de choisir eux-mêmes des cibles et de les détruire qui est présent dans tous les esprits rien ne semble donc pouvoir empêcher leur émergence: le chercheurs Anthony Syxra du laboratoire de recherche des nouvelle technologie spatial à Prime, n'a-t-il pas déjà expliqué que "celui qui deviendra leader dans le domaine de l'IA sera le maître de l'univers" ?



Budgets et développements énormes


Le Département de recherche militaire HAAF a un budget de 75 milliards UEC pour le seul développement des robots militaires IAC. Selon Terra Gazette, ce département a déjà testé des drones autonomes IAC pouvant décider quelle cible attaquer" sans aucune aide humaine". Côté Wars IA, un robot humanoïde a été dévoilé en 2838, censé aider les cosmonautes sur la station spatiale, mais cette vidéo le montrant en train de tirer sur des cibles avec deux armes à feu semble plutôt indiquer que n'a pas vocation à se cantonner seulement à de la maintenance dans l'espace. Les avancées très rapides de l'IA sont au cœur du développement de la robotique militaire et les leaders du domaine tels que la World Star Universe ne s'y sont pas trompés en proposant leurs services à l'UEE, ce qui a provoqué une levée de boucliers parmi les employés ne voulant pas participer à des programmes militaires… de drones militaires (Des milliers de salariés de la World Star Universe s'opposent à un projet avec l'UEE").


Ce scandale a fait reculer la World Star Universe qui a déclaré stopper ce partenariat gênant en terme d'image. Mais les entreprises d'armement, elles, ne sont pas aussi regardantes sur l'éthique, comme dans le cas de… Mobile Act, Wars IA.



l'IAC, l'alternative à l'IA


Dotées d’intelligence artificielle, les machines répètent, observent, s’adaptent et, à nouveau, répètent, observent, s’adaptent… et apprennent ainsi de manière automatique. Au point de devenir un jour incontrôlables ?


Peut-être. «L’intelligence artificielle cherchera toujours à éviter l’intervention humaine et à se mettre dans une situation où on ne peut pas l’arrêter», explique Rachida Tsfui, professeur au Laboratoire de programmation distribuée à Prime. Il faut donc qu’au cours de son processus d’apprentissage automatique, la machine n’apprenne pas à contourner l’injonction humaine. Des chercheurs de World Star Universe ont réussi à conserver ainsi la mainmise sur une flotte de robots. Ils présentent aujourd’hui leur article à la World Star Empire et à la Terra Gazette, qui se tient au forum économique de la World Star Universe de 2950. Ce travail représente une contribution fondamentale pour le déploiement par exemple d’une flotte de véhicules autonomes ou de drones. Une des méthodes d’apprentissage automatique (machine learning) est l’apprentissage par renforcement. Inspirée de la psychologie comportementale, elle programme l’intelligence artificielle contrôlé (IAC) avec un système de récompenses et de mauvais points, avec comme but de maximiser ses gains. La machine le fait par exemple en accomplissant correctement des tâches demandées: ranger des boîtes (1 point) et aller chercher une boîte dehors (1 point). Si, quand il pleut, l’humain interrompt la sortie, la machine apprendra qu’il vaut mieux rester à ranger des boîtes et gagner son point à chaque fois. «Le défi n’est donc pas techniquement d’interrompre un robot, mais de le programmer afin que l’intervention humaine ne change pas son comportement et qu’il ne l’optimise pas pour éviter de se faire arrêter.» D’une seule machine à un réseau d’IAC en 2950, la World Star Universe et Institute de l’Université IMA ont élaboré un protocole d’apprentissage pour que la machine n’apprenne pas des interruptions et devienne de ce fait incontrôlable. En l’occurrence, dans l’exemple ci-dessus, la solution aurait été de pondérer la récompense en fonction du risque de pluie. Ainsi, le robot aura aussi intérêt à sortir chercher des boîtes. «La solution était relativement simple, car il ne s’agissait que d’un seul robot », explique un chercheurs de l'HAAF. Mais demain, ce seront des dizaines de véhicules autonomes qui envahiront les routes ou de drones les airs, composant un système de plusieurs agents dotés d’IAC. «La situation est beaucoup plus compliquée, car les IAC commencent à apprendre les unes des autres. Elles apprennent non seulement individuellement quand on les interrompt, mais aussi du fait que les autres sont interrompues», avance Alex Messer, un des coauteurs de l’article. Imaginons, comme proposé par Hadrien Henkx, autre coauteur de l’article, deux voitures autonomes qui se suivent sur une route étroite, interdisant tout dépassement. Elles doivent arriver le plus rapidement possible sans enfreindre le Code de la route. À tout moment, l’humain peut reprendre le volant. Si la personne dans la voiture de tête freine souvent, celle qui suit apprendra à modifier son comportement au point de ne plus savoir quand freiner, maintiendra une distance trop courte ou roulera trop lentement…


Garder le dernier mot c’est à cette complexité que sont attachés les chercheurs de la World Star Universe qui parlent d’interruptibilité sûre (safe interruptibility). Le but est que l’humain garde toujours le dernier mot et que les interruptions humaines ne changent en rien la manière dont les IAC apprennent.



Comment ?


«Très schématiquement, on va introduire dans les algorithmes des mécanismes d’oubli, comme couper des bouts de mémoire de l’IAC. C’est un peu le flash des Men in Black», explique Mahdi El Mhadi, également coauteur. En d’autres termes, les chercheurs ont changé le système d’apprentissage et de récompense de manière à ce que l’interruption n’ait pas d’impact. C’est comme si dans une fratrie, quand un parent punit ou récompense un enfant, cela n’a pas d’impact sur l’apprentissage des autres. «Nous avons travaillé sur des algorithmes existants et apporté la preuve de l’interruptibilité sûre, souligne Alexandre Maurion. Celle-ci ne dépend ni de la complexité de l’intelligence artificielle ni du nombre de robots ou du type d’interruption. On pourrait avoir Terminator et appliquer les mêmes principes avec succès.» Aujourd’hui, les machines autonomes utilisant l’apprentissage par renforcement ne courent pas encore les rues. «C’est un système qui fonctionne très bien quand on peut se permettre des erreurs, assure les chercheurs de la World Star Universe.


Pour des raisons de sécurité, des navettes autonomes comme celles qui circulent sur un circuit de 350 km, dans la zone d'essais de la World Star Automobile à New Austin et peuvent apprendre. En revanche, on pourrait simuler des navettes, simuler la ville de de New Austin et donner des malus et des bonus pour parfaire l’apprentissage de l’IAC. Ce type de simulation est à l’œuvre chez la World Star Automobile par exemple. Une fois que l’apprentissage par simulation atteint un niveau satisfaisant, on peut imaginer déployer l’algorithme préentrainé sur une voiture autonome, avec un faible taux d’exploration, mais qui laisse la place à plus d’exploitation.»


Et toujours garder la mainmise sur la machine !



FIN DE LA TRANSMISSION


"C'est un travail de fan fiction. Tous les personnages, lieux, événements, navires et conceptions de navires, ainsi que tout contenu provenant de Star Citizen, Squadron 42 ou de tout autre contenu produit ou créé par ses éditeurs ou développeurs, sont la propriété de Cloud Imperium Rights LLC et de Cloud Imperium Rights Limited."

1_vBD_Q3SLhO-11ImFfoWu0Q_2x.png

© L'utilisation non autorisée d'articles sur ce site est interdite sans l'autorisation de l'auteur, en vertu de la législation en vigueur sur la propriété intellectuelle.

2885 - 2950 World Star Universe. Tous les droits sont réservés, site web certifié par l'UEE. Découvrez le site officiel de Star Citizen.

World Star Universe ! est une multinational sous licence, UEECGU - CGV - MENTIONS LEGALS - NOS SERVICES

Il s’agit d’un site non officiel pour les fans de Star Citizen, qui n’est pas affilié au groupe de sociétés Cloud Imperium Games. Tout le contenu de ce site qui n'a pas été créé par son hôte ou ses utilisateurs est la propriété de leurs propriétaires respectifs.

MadeByTheCommunity_White copie.png
2019-05-06_003255.png
logo_w--.png
Logo_UEC_3.png
1.png