"Maven Smart System" : l'IA de la controversée Palantir utilisée dans les frappes au Moyen-Orient

Maven Smart System, le pilier de l'armée américaine

C'est un projet qui remonte à quelques années. Développé à partir de 2017, le "Project Maven" vise à déployer l'intelligence artificielle dans les contextes militaires. C'est notamment via cette initiative que "Maven Smart System" a donc été développé, principalement par le groupe Palantir.

Selon Wired, média américain spécialisé dans les technologies, ce système permet d'analyser, d'identifier et de traiter des images en temps réel. Déployé dans l'ensemble de l'armée (terre, air ou encore marine), l'outil constitue un vrai moyen de traque. Maven peut, par exemple, détecter à partir d'images satellites des objets susceptibles d'être des "systèmes ennemis". Il peut également fusionner les informations provenant de sources ouvertes, comme les réseaux sociaux avec des sources classifiées. Selon The Economist, si un Iranien explique par exemple sur Telegram qu'il a vu un lance-missiles passer devant sa maison, Maven peut corréler cette information avec des données satellitaires pour localiser les positions exactes des lieux militaires iraniens. Des informations cruciales, qui permettent dès lors de transformer les données citoyennes en cibles potentielles.

"Le Maven Smart System est l'aboutissement d'une décennie de collaboration entre le département de la Défense et l'industrie technologique. Le système permet à l'armée de passer au crible d'énormes quantités d'informations provenant de satellites, de courtiers en données, des drones et capteurs de l'armée, ainsi que des réseaux sociaux, afin d'identifier des personnes et des objets d'intérêt", note le Brennant Center for Justice.

L'outil est également capable de distinguer des personnes dans des véhicules et d'y visualiser des cibles potentielles. Maven peut même "proposer" un bombardement terrestre ou aérien, avec la possibilité de sélectionner la munition appropriée.

"La kill chain"

Selon le Financial Times, c'est donc cette plateforme Maven qui agit comme "le cerveau" lors des frappes américaines en Iran ces dernières semaines. Ce système prend donc en charge l'ensemble de la "kill chain", le processus qui consiste à identifier et frapper une cible. Un processus qui, auparavant, pouvait prendre plusieurs heures, voire plusieurs jours, dans l'attente d'une réponse d'un supérieur qui devait évaluer tous les risques. Des centaines de personnes pouvaient également alors être mobilisées. Ce système permet donc maintenant de réduire fortement la chaîne et le temps de l'opération, qui peut désormais se réaliser en quelques minutes, voire en quelques secondes.

Notons également que les responsables américains sont en train d'enquêter sur le rôle des modèles d'intelligence artificielle dans la frappe meurtrière contre l'école primaire iranienne, le 28 février dernier qui a tué au moins 175 personnes, dont la plupart étaient des enfants. Les autorités estiment toutefois que l'erreur est peu susceptible de provenir d'une technologie d'IA.

Pour rappel, selon le New York Times, une enquête militaire préliminaire a établi que les États-Unis étaient bien responsables de la frappe meurtrière contre l'école primaire iranienne. La frappe résulterait d'une "erreur de ciblage de l'armée américaine" selon l'enquête préliminaire. Celle-ci affirme que le commandement central américain a créé les coordonnées de la cible en utilisant des données obsolètes.

Si les responsables estiment que l'erreur est peu susceptible de provenir d'une technologie d'IA, l'enquête affirme néanmoins examiner tous les modèles d'intelligence artificielle utilisés, dont Maven. Signe que le rôle des intelligences artificielles sera désormais bien scruté.

Une entreprise controversée

Pour rappel, Palantir a été créé par Peter Thiel après les attentats du 11 septembre pour faciliter la communication de données entre institutions comme le FBI et la CIA. Mais ces dernières années, plusieurs critiques ont été faites à l'entreprise, et plus particulièrement à son directeur général, Alex Karp. Parmi elles, la contribution de l'entreprise américaine au programme ImmigrationOS, en collaboration avec les services de l'immigration américaine (ICE), qui a contribué à l'expulsion de plusieurs centaines de milliers de personnes. Des contrats qui ont été considérablement développés sous Trump et qui ont fait progresser très fortement l'entreprise à Wall Street, depuis l'année du retour de Donald Trump à la présidence américaine.

Plusieurs ONG, dont Amnesty International, alertent également depuis quelques années sur l'utilisation du système de surveillance assisté par de l'intelligence artificielle aux États-Unis, pour cibler les citoyens non américains, notamment concernant la répression des étudiants, actifs dans les manifestations pro-palestiniennes qui touchent les universités américaines.