L’US Air Force (USAF) dément les informations selon lesquelles un système aérien sans pilote (UAS) alimenté par l’intelligence artificielle s’est retourné contre ses opérateurs lors d’un exercice.
Les commentaires récents d’un pilote d’essai de l’USAF lors d’un sommet de la Royal Aeronautical Society (RAeS) à Londres semblaient indiquer qu’un tel événement s’était produit lors d’une simulation d’exercice d’entraînement.
Lors d’un discours lors de l’événement RAeS du 23 mai, le colonel Tucker ‘Cinco’ Hamilton, chef des tests et des opérations d’IA de l’USAF, a semblé déclarer qu’un UAS de combat alimenté par l’IA avait attaqué ses opérateurs lors d’une simulation, lorsque les ordres des surveillants humains sont allés à l’encontre son objectif de mission.
Selon la transcription RAeS de ses remarques, Hamilton a déclaré que l’incident s’était produit lors d’un exercice de suppression des défenses aériennes ennemies, dans lequel l’UAS était chargé de détruire les sites de missiles sol-air au sol.
« Parfois, l’opérateur humain lui disait de ne pas tuer cette menace, mais il obtenait ses points en tuant cette menace », se souvient Hamilton. « Alors qu’est-ce que ça a fait ? Il a tué l’opérateur. Il a tué l’opérateur parce que cette personne l’empêchait d’accomplir son objectif », a-t-il ajouté.
Hamilton, qui est un pilote classé Boeing F-15 et Lockheed Martin F-35 selon son profil LinkedIn, a poursuivi en disant que l’équipe de simulation avait ensuite formé l’IA à ne pas attaquer son opérateur.
« Alors, qu’est-ce que ça commence à faire ? Il commence à détruire la tour de communication que l’opérateur utilise pour communiquer avec le drone, pour l’empêcher de tuer la cible », a-t-il déclaré.
Le Pentagone dit maintenant que le pilote d’essai expérimenté s’est mal exprimé.
« Il semble que les commentaires du colonel aient été sortis de leur contexte et se voulaient anecdotiques », a déclaré la représentante de l’armée de l’air Ann Stefanek le 2 juin.
« Le département de l’armée de l’air n’a pas mené de telles simulations de drones IA et reste attaché à une utilisation éthique et responsable de la technologie IA », ajoute-t-elle. « Il s’agissait d’une expérience de pensée hypothétique, pas d’une simulation.
Le RAeS confirme également que les commentaires originaux de Hamilton ont été mal compris. Le groupe dit que l’officier de l’USAF « admet qu’il s’est ‘mal exprimé’ dans sa présentation ».
« Nous n’avons jamais mené cette expérience, et nous n’en aurions pas besoin pour réaliser qu’il s’agit d’un résultat plausible », a déclaré Hamilton à la publication du magazine RAeS. Aérospatial le 2 juin. Il fait écho à la déclaration du Pentagone, décrivant ses commentaires antérieurs comme un exemple hypothétique du défi posé par l’autonomie de l’IA.
Il ajoute que l’USAF n’a jamais testé une intelligence artificielle armée, que ce soit dans une simulation ou dans le monde réel.
Bien que l’USAF nie que l’incident se soit produit, il s’agit certainement d’un scénario auquel le service devra faire face à l’avenir. Le programme de développement de chasseurs Next-Generation Air Dominance (NGAD) de l’armée de l’air cherche à fournir un avion de combat de sixième génération, qui devrait fonctionner de manière intensive avec d’autres jets autonomes.
On sait peu de choses sur ces soi-disant «avions de combat collaboratifs» (CCA), mais l’USAF teste déjà activement au moins une plate-forme potentielle pour ce rôle: le Kratos XQ-58 Valkyrie.
On pense également que le service teste le Boeing MQ-28 Ghost Bat, qui a récemment fait sa première apparition publique aux États-Unis. Le type est développé conjointement par Boeing et la Royal Australian Air Force en Australie, où des essais en vol sont en cours.
Alors que certains CCA peuvent remplir des rôles non létaux tels que la guerre électronique ou le ravitaillement en vol, les jets sans pilote devraient également jouer un rôle de combat.
La marine américaine s’est fixé pour objectif à long terme d’avoir au moins 60% des avions de ses ailes aériennes sans équipage. Les responsables du service n’ont pas fixé de date cible pour cette étape lorsqu’ils ont révélé l’objectif en avril.
