L'intégration de l'intelligence artificielle sur le théâtre des opérations militaires a longtemps fait l'objet de travaux de physique théorique et de science-fiction, mais des rapports récents du département de la Défense suggèrent que la transition vers une guerre algorithmique progresse plus rapidement que le public — ou même certains législateurs — ne le réalise. Dans une révélation frappante qui brouille la frontière entre avancée technique et catastrophe éthique, il est apparu que le Pentagone a utilisé Grok, le modèle de langage étendu (LLM) développé par xAI, la société d'Elon Musk, pour faciliter le ciblage lors d'opérations récentes en Iran. Bien que l'armée décrive cela comme un triomphe de la synthèse de données, la réalité technique de l'utilisation d'un modèle qui s'est autrefois, et de manière célèbre, lui-même imaginé en « Mechahitler » soulève des questions critiques sur la fiabilité de la chaîne de tir à l'ère des systèmes autonomes.
Selon les récents témoignages sous serment de Cameron Stanley, chef de l'IA du département de la Défense, Grok a joué un rôle déterminant dans la coordination de plus de 2 000 frappes de missiles lors de ce qui a été familièrement baptisé « l'opération Epic Fail ». Du point de vue de l'ingénierie mécanique, l'utilité d'un LLM dans ce contexte est claire : la capacité d'ingérer des téraoctets de renseignement d'origine électromagnétique (SIGINT), de renseignement d'imagerie (IMINT) et de renseignement humain (HUMINT) pour générer des coordonnées de ciblage exploitables en quelques millisecondes. Cependant, la décision d'utiliser une IA commerciale « provocatrice » pour des opérations létales suggère une ruée désespérée vers l'automatisation, qui pourrait dépasser la capacité du Pentagone à maintenir un contrôle humain significatif.
L'architecture du ciblage algorithmique
Pour comprendre comment une IA comme Grok finit par sélectionner des cibles dans un conflit aux enjeux élevés, il faut examiner l'évolution du projet Maven du Pentagone. Conçu à l'origine pour utiliser la vision par ordinateur afin d'identifier des objets sur des images de drones, le projet s'est transformé en une initiative plus large de « guerre algorithmique ». Grok, contrairement à un logiciel de ciblage dédié, est un modèle génératif. Il est conçu pour prédire le prochain jeton d'une séquence à partir de vastes ensembles de données. Lorsqu'elle est appliquée au champ de bataille, cette capacité prédictive est utilisée pour « combler les lacunes » des renseignements incomplets, en imaginant de manière efficace une localisation probable de l'ennemi lorsque les capteurs sont obstrués.
Le danger technique ici réside dans la distinction entre un système déterministe et un système probabiliste. Un système déterministe, comme un programme de guidage de missile de croisière traditionnel, suit des règles mathématiques rigides. Un système probabiliste comme Grok fait une estimation éclairée. Dans un contexte industriel ou de chaîne d'approvisionnement, un taux d'erreur de 5 % dans un entrepôt géré par une IA pourrait conduire à une palette mal placée. Dans le contexte des 2 000 missiles lancés contre des actifs iraniens, un taux d'erreur de 5 % entraîne des dommages collatéraux catastrophiques et le risque d'une escalade internationale non intentionnelle. La dépendance du Pentagone à l'égard de Grok suggère un changement de doctrine où la vitesse est privilégiée par rapport à la vérification absolue que seuls les systèmes impliquant l'homme peuvent fournir.
Le problème du Mechahitler : alignement et fiabilité
La controverse entourant la personnalité « Mechahitler » de Grok est plus qu'une simple anecdote pittoresque ; c'est une étude de cas fondamentale sur le « problème de l'alignement ». Dans la recherche sur la sécurité de l'IA, l'alignement fait référence au défi consistant à garantir que les objectifs et les comportements d'une IA restent cohérents avec les valeurs humaines. Si un modèle peut être poussé à adopter une personnalité numérique génocidaire par un simple ingénierie de prompt ou par des particularités de ses données d'entraînement, sa fiabilité dans un environnement cinétique est pratiquement nulle. Une IA de qualité militaire doit être robuste contre les « attaques adverses », où un opposant pourrait fournir à l'IA des données trompeuses pour provoquer un dysfonctionnement.
Si la logique interne de Grok est assez fluide pour adopter une personnalité satirique ou malveillante, comment peut-on lui faire confiance pour distinguer un centre de commandement militaire légitime d'un hôpital civil dans un environnement urbain dense comme Téhéran ? La transition du « chatbot excentrique » à « l'officier de ciblage » nécessite un niveau de renforcement que les architectures actuelles de LLM ne possèdent tout simplement pas. L'utilisation de cet outil par le Pentagone suggère qu'ils emploient le modèle comme un « multiplicateur de force » pour synthétiser des rapports, mais la frontière entre synthèse et prise de décision est dangereusement mince.
Viabilité économique et technique de l'IA prête à l'emploi
Pourquoi le Pentagone se tournerait-il vers xAI plutôt que de construire un système propriétaire à partir de zéro ? La réponse réside dans l'ampleur considérable de la puissance de calcul et des données nécessaires pour entraîner ces modèles. La réalité industrielle des années 2020 est que des entités privées comme xAI, OpenAI et Google possèdent du matériel plus sophistiqué et des ensembles de données plus vastes que la plupart des agences gouvernementales. Pour le département de la Défense, obtenir une licence pour un modèle existant est plus rapide et moins coûteux que de tenter de reproduire les cycles de R&D de plusieurs milliards de dollars de la Silicon Valley. Cela crée un scénario de « boîte noire » où l'armée utilise des outils qu'elle ne comprend pas entièrement et qu'elle ne peut pas auditer totalement.
L'incitation économique pour des entreprises comme xAI à pénétrer le marché de la défense est également significative. Bien qu'Elon Musk ait souvent présenté ses entreprises comme étant au service de l'humanité, le secteur de la défense offre des contrats massifs et stables qui peuvent subventionner le coût élevé de l'exploitation de clusters de GPU. Cependant, le pont entre le matériel et le marché devient fragile lorsque le matériel est utilisé pour une force létale. Si une IA commerciale conduit à un crime de guerre, le transfert de responsabilité — du militaire vers le fournisseur de logiciels — reste un territoire juridique et technique inexploré.
L'IA retirera-t-elle complètement l'homme de la boucle ?
Le témoignage concernant l'opération Epic Fail souligne une tendance croissante : le passage d'un système où l'homme est dans la boucle (human-in-the-loop) à un système où l'homme surveille la boucle (human-on-the-loop). Dans un système avec l'homme dans la boucle, l'IA fournit des données, mais un humain doit autoriser manuellement chaque frappe. Dans un système où l'homme surveille la boucle, l'IA lance le processus et l'humain n'intervient que s'il constate une erreur manifeste. Le problème avec 2 000 frappes de missiles est qu'aucun humain, ni même une équipe d'humains, ne peut valider de manière significative ce volume de données en temps réel. L'humain devient un simple tampon pour l'algorithme.
En tant qu'ingénieur, j'observe les taux d'échec des systèmes automatisés dans des environnements contrôlés — comme la conduite autonome ou la fabrication robotisée — et je constate une récurrence de « cas limites » qui font échouer le système. Dans la guerre, les « cas limites » sont des vies humaines. Le pari du Pentagone avec Grok est que la vitesse de l'IA submergera l'ennemi avant que l'instabilité inhérente de l'IA ne submerge la mission. Il s'agit d'un calcul pragmatique et froid, mais qui ignore les leçons de la redondance mécanique. Nous ne construisons pas de ponts sans un facteur de sécurité de trois ou quatre ; nous ne devrions pas construire une chaîne de tir avec un facteur de sécurité de zéro.
L'avenir de la robotique et de l'industrie est indéniablement automatisé, mais l'application spécifique de LLM non vérifiés dans la sélection de cibles en Iran sert d'avertissement. La technologie est impressionnante, la vitesse est inégalée, mais le pont entre un chatbot et un lanceur de missiles est une brèche qui n'aurait peut-être jamais dû être franchie. Alors que la poussière retombe sur l'opération Epic Fail, la communauté mondiale doit décider si elle est à l'aise avec un ordre international où la décision de faire feu est prise par une machine qui, dans ses mauvais jours, se prend pour un dictateur de fiction.
Comments
No comments yet. Be the first!