C'est une première sur le front de la guerre entre la Russie et l'Ukraine et elle est particulièrement inquiétante. En Ukraine, un drone russe entièrement piloté par l'intelligence artificielle (IA) aurait frappé de manière autonome une station-service à Zaporijia, le 6 juillet, tuant trois Ukrainiens. Ce dramatique évènement, raconté en détails par le New York Times (NYT), pourrait constituer le premier cas documenté de civils tués par un drone russe équipé d'un système de ciblage automatique, selon Kateryna Bondar, chercheuse principale au Centre Wadhwani d'IA du Centre d'études stratégiques et internationales de Washington, interrogée par le quotidien américain.
Pour en arriver à cette conclusion, des responsables ukrainiens ont montré des débris de deux de ces drones russes Molniya à des journalistes du New York Times. Le média a photographié le module informatique Nvidia embarqué et a transmis les images à l'entreprise. La puce Nvidia utilisée lors de l'attaque de Zaporijia n'était pas cryptée. Nvidia, qui produit la majorité des puces équipant les systèmes d'IA les plus avancés au monde, a confirmé que les photos montraient un mini-ordinateur embarqué produit par la société, un Jetson Orin. De tels modules, qui ne coûtent que quelques centaines de dollars, ont été retrouvés sur plusieurs types d'armes russes.
Dans un communiqué, l'entreprise a indiqué que le mini-ordinateur était un produit grand public "destiné aux étudiants, aux développeurs et aux start-up pour une large gamme d'applications utiles". Nvidia commercialise cet ordinateur dans de nombreux pays, mais pas en Russie. Il est cependant largement disponible auprès de revendeurs.
Un système d'IA entraîné sur des milliers d'images
La Russie a ciblé des infrastructures civiles, comme des pompes à essence ou des réservoirs de propane dans des stations-service, lors d'essais de ces drones autonomes à Zaporijia, ainsi que des centres de recrutement militaires. Les raisons du choix de ces cibles pour ces tests restent floues.
Interrogé par le quotidien américain, Vadym Kushnikov, expert en drones à l'Institut d'aviation de Kharkiv en Ukraine, indique que le drone qui a tué les trois civils à Zaporijia était "un outil préprogrammé entraîné en réalité virtuelle pour suivre des objets spécifiques". Les systèmes d'IA autonomes peuvent être entraînés sur des milliers d'images pour reconnaître des catégories telles que "camion militaire" ou "personne". Les drones à ciblage automatique utilisent leurs caméras pour repérer ces éléments avec une précision supérieure à celle d'un pilote humain.
Ce n'est pas la première fois que ce type de matériel de guerre est utilisé sur le front. La Russie a entamé en mai dernier des vols d'essai de drones Molniya à guidage IA, un modèle à voilure fixe produit en série. Plusieurs mois auparavant, Moscou avait commencé à tester des systèmes d'autociblage sur le V2U, un autre drone à voilure fixe, selon des experts ukrainiens de la défense aérienne. "Ils perfectionnent cette technologie", affirme le colonel Minaiev, commandant de la défense aérienne de la ville, à propos des Russes. Il précise que l'IA est performante mais pas encore parfaite. Elle progresse néanmoins : "Ils repèrent les erreurs et les corrigent."
Un comportement imprédictible
Comme le rappelle le NYT, les premiers modèles de drones étaient généralement pilotés par des opérateurs humains, via des transmissions radio ou des câbles à fibres optiques, ou bien préprogrammés avec des coordonnées. Avec la prolifération des drones sur le champ de bataille en Ukraine, leurs pilotes sont devenus des cibles privilégiées. Un drone autonome guidé par une intelligence artificielle, lui, ne nécessite aucun pilote humain. Autre avantage : il peut être plus précis qu'une munition programmée pour atteindre des coordonnées.
Mais, sans intervention humaine, les drones sont davantage susceptibles de commettre des erreurs dramatiques ou des violations du droit de la guerre, notamment en ne faisant pas la distinction entre civils et combattants. Des organisations de défense des droits humains et la Croix-Rouge internationale alertent sur ces risques et les conséquences. Elles s'opposent fermement à l'utilisation de ces armes dotées d'intelligence artificielle sans intervention humaine.
La Russie n'est toutefois pas la seule à utiliser des systèmes d'IA à ciblage automatique. L'Ukraine a également testé ces outils. L'ancien ministre de la Défense Mykhailo Fedorov, récemment limogé, a déclaré dans une interview accordée au New York Times fin novembre que l'Ukraine avait auparavant utilisé un système d'IA entièrement autonome en Crimée, un territoire occupé par la Russie. Il avait précisé que les dispositifs ciblaient des sites de stockage de carburant et du matériel militaire, et qu'aucune victime civile n'était à déplorer.
