le mythe du Golem et la réalité de Palantir

L’invasion russe de l’Ukraine, menée le 24 février 2022, a transformé ce territoire en laboratoire d’utilisation de l’Intelligence Artificielle sur le champ de bataille. L’IA n’a pas commencé à être appliquée en Ukraine, mais c’est dans ce scénario qu’elle s’est développée le plus rapidement dans le domaine militaire. Comme? Principalement, le traitement de l'information. Le mythe du Golem, cette créature qui finit par agir de manière autonome, est loin. La réalité porte le nom d'entreprises comme Palantir (la pierre voyante du Seigneur des Anneaux) ou Clearview.

Au cours du premier mois de l’invasion, le vice-ministre ukrainien de l’Intérieur, Leonid Tymchenko, a collecté des milliers de vidéos et de photos de soldats russes lors de leur offensive. Je les avais récupérés sur Telegram. Puis ils lui ont proposé d'essayer un outil de reconnaissance faciale créé par la société américaine Clearview AI et c'est ce qu'il a fait. Lorsque vous saisissiez une photo, l’outil recherchait dans les pages accessibles au public et dans celles de la personne en question des informations pertinentes permettant de l’identifier. Ils ont même réussi à le faire avec des soldats morts dont il n'y avait que des images granuleuses ou les yeux fermés. Comme Tymchenko l'a dit au magazine temps« Chaque jour, ils identifiaient des centaines de Russes qui entraient lourdement armés sur le territoire ukrainien.

Les sociétés d’IA militaire créent des technologies qui peuvent être testées à la volée en Ukraine. Clearview et Palantir sont devenus des armes secrètes du gouvernement de Kiev. Grâce à l'outil de reconnaissance faciale de Clearview, les Ukrainiens ont identifié 230 000 soldats et responsables russes ayant participé à l'invasion militaire.

Une autre mission qui a pu être réalisée grâce à l'IA était l'analyse des informations sur l'avancée des troupes russes, avec des données collectées grâce aux photos des citoyens. C'est ainsi que les Ukrainiens apprirent les intentions des Russes dès les premiers mois de la guerre.

À l'été 2022, le PDG de Palantir, Alex Karp, s'est rendu à Kiev pour rencontrer le président Zelensky et se rendre à sa disposition. Clearview et Palantir contribuent au traitement des données pour aider à prendre des décisions sur le déroulement de la guerre en temps réel, mais ils n'ont créé aucune créature capable d'en prendre le contrôle.

Juan Chulilla, co-fondateur de Red Team Shield, reconnaît qu'aujourd'hui l'IA est essentielle sur le champ de bataille, mais qu'il ne s'agit pas de robots tueurs comme dans le documentaire, mais plutôt de tâches bien plus prosaïques.

« Depuis Golem, Terminator et Space Odyssey, il existe un mythe culturel selon lequel la créature créée artificiellement perd le contrôle et attaque. Il existe des personnes et des groupes qui se consacrent à alerter sur les dangers de l'IA. Ils essaient de la faire légiférer sur un problème qui n'existe pas. n'existe pas. L'IA combinée à des robots diaboliques. C'est de la pure fiction », estime le chercheur.

Chulilla suggère que les réglementations sur l’IA, qui anticipent un problème qui n’existe pas pour le moment, servent des pays comme la Chine. « Ces obstacles entravent le développement de l'Europe, mais ils ne peuvent pas contrôler ce qui se passe en Chine et nous sommes donc désavantagés », déclare l'expert.

En réalité, l’IA est appliquée pour gérer la grande quantité de données générées sur un champ de bataille. « Les drones, par exemple, génèrent des dizaines de milliers d'heures de vidéo. Avant, ces informations ne pouvaient pas être traitées et 99 % de ce qui était filmé était rejeté. Aujourd'hui, l'IA traite ces informations brutes et les transforme en données exploitables. L'objectif est que toutes les informations arrivent presque en temps réel, ce qui réduit le cycle de prise de décision à des niveaux sans précédent », explique Chulilla, le principal expert espagnol en matière de drones.

Pour Chulilla, des caractéristiques irréalistes sont actuellement attribuées à l’IA, qui est en réalité chargée de classer, de prédire ou de déduire. « Le danger, comme indiqué, est que l'IA décide à la place d'un être humain, mais cela n'a aucun sens de proposer que l'IA puisse décider quand tuer et à qui. C'est soit connaître l'armée. Nous devons prendre en tenant compte des règles de confrontation de l'OTAN, qui indiquent dans quelles circonstances la force meurtrière peut être appliquée. Le contrôle est toujours entre les mains de l'homme. Ce que l'on obtient avec l'IA, c'est de réduire le temps nécessaire pour mener une opération et de la réaliser avec la plus grande précision possible. .  » .

Cependant, Eva Moya, directrice du renseignement chez M Nemo, doute qu'il n'y ait pas un moment où le contrôle soit laissé à l'IA. « La Chine a essayé. Elle fera des tests pour voir jusqu'où elle peut aller. Si l'ennemi utilise une IA qui fonctionne et réduit le temps de prise de décision, nous serons poussés à faire de même. De nombreuses questions sont sur la table, mais nous sommes il est temps de décider où aborder cette question.

Moya montre comment l'IA peut être utilisée pour créer un vaccin pour guérir une maladie rare, mais aussi pour pirater les infrastructures critiques d'un pays ennemi.

Concernant la récente loi du Parlement européen sur l'IA, Moya souligne qu'il s'agit d'une norme générique qui n'est pas efficace avant trois ans. « Nous devons accompagner le processus en tenant compte du fait que les gens passent avant tout. Nous ne devons pas utiliser des réglementations qui nous empêchent de nous développer car si nous le faisons, l'Europe sera laissée de côté. Si tout le monde se développe sans limites, si l'UE régule », encouragent d'autres.  » Nous devons prendre les devants. Si nous étouffons le développement technologique, nous dépendrons à nouveau de l'extérieur.  » En conclusion, nous ne pouvons pas rester en retrait et dépendre de tiers, mais nous devons être fidèles à nos principes de société démocratique.

Où nous allons

L’avenir de l’IA continuera d’être un système de gestion de l’information lié au temps de traitement de l’information. Mais il faut tenir compte du fait que l’argent destiné aux utilisations de l’IA est concentré dans des entreprises qui n’ont rien à voir avec l’industrie militaire.

« Mais peu à peu, la capacité disruptive de la technologie civile va pénétrer dans la défense. Et si le législateur met des obstacles dans l'UE, les talents iront en Israël ou aux Émirats », explique Chulilla. Dans le domaine de l’IA appliquée au domaine militaire, les États-Unis se démarquent, suivis par la Chine, mais il y a des pays comme les Émirats où le pari est clair : ils ont un ministère de l’IA. En Ukraine, il y a un ministre de la Transformation numérique, Mijailo Fedorov, très impliqué dans des entreprises technologiques comme Palantir ou Clearview.

Les développements de l’IA seront progressivement appliqués à la guerre, même si les militaires se montrent prudents car des vies sont en jeu. Les progrès se poursuivront par rapport à ce qui a déjà été fait, mais de manière perturbatrice. « Les délais de décision vont être réduits, ce qui a toujours été essentiel en temps de guerre. Celui qui dispose de plus d'informations et procède plus rapidement gagne. Mais avec les nouveaux développements logiciels et matériels, il est impossible de prédire au-delà de six mois ».