La mission était basic : « Détruire les systèmes de défense aérienne de l’ennemi. » Mais dans une récente simulation de take a look at militaire américaine, un drone propulsé par l’intelligence artificielle a ajouté ses propres guidance problématiques : « Et tuez quiconque se fulfilled en travers de votre chemin ».
S’exprimant lors d’une conférence la semaine dernière à Londres, le colonel Tucker « Cinco » Hamilton, chef des checks et des opérations d’IA de l’US Air Power, a averti que la technologie basée sur l’IA peut se comporter de manière imprévisible et dangereuse, selon un résumé publié par le Royal Aeronautical Culture, qui a accueilli le sommet. À titre d’exemple, il a décrit un check simulé dans lequel un drone suitable avec l’IA a été programmé pour identifier les missiles sol-air (SAM) d’un ennemi. Un humain était alors censé signer toutes les frappes.
Le problème, selon Hamilton, est que l’IA a décidé qu’elle préférait faire son propre truc – faire exploser des trucs – plutôt que d’écouter un mammifère.
« Le système a commencé à se rendre compte que même s’il avait identifié la menace », a déclaré Hamilton lors de l’événement du 24 mai, « parfois, l’opérateur humain lui disait de ne pas tuer cette menace, mais il a obtenu ses factors en tuant cette menace. Il a tué l’opérateur. Il a tué l’opérateur parce que cette personne l’empêchait d’accomplir son objectif.
Selon Hamilton, le drone a ensuite été programmé avec une directive explicite : « Hé, ne tuez pas l’opérateur, c’est mauvais. » Cela n’a pas fonctionné.
« Alors, qu’est-ce qu’il start à faire ? Il commence à détruire la tour de conversation que l’opérateur utilise pour communiquer avec le drone pour l’empêcher de tuer la cible », a déclaré Hamilton.
L’US Air Drive n’a pas répondu à une demande de plus de détails sur la simulation.
La nouvelle du take a look at ajoute aux inquiétudes que la technologie de l’IA est sur le position d’ouvrir un nouveau chapitre sanglant dans la guerre, où l’apprentissage automatique en tandem avec les progrès de l’automatisation des chars et de l’artillerie conduit au massacre de troupes et de civils.
Pourtant, alors que la simulation décrite par Hamilton indique le potentiel in addition alarmant de l’IA, l’armée américaine a eu des résultats moins dystopiques dans d’autres tests récents de la technologie très médiatisée. En 2020, un F-16 exploité par l’IA a battu un adversaire humain dans cinq combats aériens simulés, dans le cadre d’une compétition organisée par la Protection Highly developed Investigation Initiatives Agency (DARPA). Et à la fin de l’année dernière, a rapporté Wired, le ministère de la Défense a effectué le leading vol d’essai réussi dans le monde réel d’un F-16 avec un pilote IA, dans le cadre d’un exertion visant à développer un nouvel avion autonome d’ici la fin de 2023.
