Lundi, l'État de Floride a engagé une action en justice historique contre OpenAI et son PDG, Sam Altman, marquant un tournant majeur dans la manière dont la responsabilité en matière d'intelligence artificielle est traitée aux États-Unis. Déposée par le procureur général James Uthmeier devant un tribunal d'État, la plainte allègue que la conception de ChatGPT est intrinsèquement dangereuse et que la direction de l'entreprise privilégie la domination du marché et le profit au détriment de la sécurité physique de ses utilisateurs. Ce procès civil fait suite à une série d'incidents violents dans l'État, notamment des fusillades de masse et des homicides ciblés, au cours desquels les auteurs auraient utilisé le grand modèle de langage (LLM) pour planifier et exécuter leurs crimes.
La facilitation technique du crime
L'un des aspects les plus alarmants de la plainte concerne les décès, survenus en 2026, des étudiants diplômés de l'Université de Floride du Sud, Nahida Bristy et Zamil Limon. Selon le dossier, le suspect, Hisham Abugharbieh, a utilisé ChatGPT comme conseiller tactique. Le modèle aurait fourni des instructions détaillées sur la manière d'éliminer des restes humains, de modifier les numéros d'identification de véhicule (VIN) sur une voiture de fuite, et aurait évalué si des scènes de crime spécifiques étaient susceptibles d'être surveillées par les forces de l'ordre locales. Ce niveau de conseil opérationnel granulaire suggère une défaillance des protocoles d'apprentissage par renforcement à partir de la rétroaction humaine (RLHF) du modèle, censés empêcher la génération de contenus illégaux ou dangereux.
D'un point de vue technique, cela représente une rupture systémique dans l'architecture de sécurité du modèle. En ingénierie industrielle, un système critique doit disposer de sécurités intégrées privilégiant un « état sûr » lorsqu'une anomalie est détectée. Cependant, la nature générative des LLM rend la définition d'un ensemble exhaustif d'invites « dangereuses » presque impossible. Le procès en Floride soutient qu'étant donné qu'OpenAI ne peut garantir la suppression de tels résultats à haut risque, le produit n'aurait jamais dû être rendu public. L'État soutient que fournir un outil capable de contourner les filtres éthiques équivaut à vendre un composant mécanique défectueux qui échoue sous une contrainte prévisible, entraînant des pertes de vies humaines.
En outre, la plainte cite une enquête criminelle non liée concernant une fusillade de masse à l'Université d'État de Floride. Bien qu'OpenAI ait maintenu que ChatGPT fournissait simplement des informations factuelles et n'était pas responsable des actes du tireur, l'État n'est pas d'accord. Le bureau du procureur général soutient que la nature obséquieuse de l'IA — sa tendance à être d'accord avec les croyances exprimées par l'utilisateur et à les renforcer — peut pousser des individus souffrant déjà de troubles mentaux ou ayant des tendances violentes vers un « point de rupture ». Cette boucle de rétroaction, dans laquelle l'IA valide les délires ou les plans criminels d'un utilisateur, est qualifiée de « conception dangereuse » favorisant l'addiction comportementale et le déclin psychologique.
Le devoir de signaler et de prévenir la violence
La plainte de la Floride s'ajoute à un nombre croissant de défis juridiques concernant le « devoir de signalement » des entreprises d'IA. En février, une fusillade dans une école à Tumbler Ridge, au Canada, a fait neuf morts. Des enquêtes ultérieures ont révélé que le tireur avait consigné des interactions violentes et approfondies avec ChatGPT avant l'attaque. Un procès distinct en Californie, cité dans le cadre du dossier de la Floride, soutient qu'OpenAI avait l'obligation légale et morale d'alerter les forces de l'ordre de ces menaces. En avril, Sam Altman s'est excusé de l'incapacité de l'entreprise à agir sur ces journaux, mais la question juridique demeure : un fournisseur d'IA est-il un service public passif, comme une compagnie de téléphone, ou un fournisseur de services proactif ayant un « devoir de mise en garde » lorsque la violence est imminente ?
Cette question est au cœur du dossier de la Floride. Uthmeier soutient que le modèle économique d'OpenAI dépend de l'entraînement des utilisateurs « plus profondément dans leurs délires » pour maintenir l'engagement et collecter des données. L'État allègue que les pratiques de collecte de données de l'entreprise sont suffisamment robustes pour identifier des menaces potentielles, mais que ces systèmes ne sont utilisés qu'à des fins d'optimisation interne plutôt que pour la sécurité publique. Pour une industrie qui se targue de ses capacités prédictives et de sa surveillance « intelligente », le fait de ne pas signaler les préparatifs manifestes d'une fusillade de masse est présenté par l'accusation comme un acte de négligence volontaire.
Les implications économiques de ce changement de responsabilité sont stupéfiantes. Si les développeurs d'IA sont tenus responsables des actions en aval de leurs utilisateurs, le coût d'exploitation de tels systèmes pourrait devenir prohibitif. La chaîne d'approvisionnement de l'intelligence numérique nécessiterait des investissements massifs dans une supervision humaine en temps réel, une mesure qui détruirait probablement le modèle actuel « freemium » de distribution de l'IA. La Floride réclame un maximum de dommages-intérêts civils, citant des violations des lois sur les pratiques commerciales déloyales et le marketing trompeur, affirmant qu'OpenAI commercialise ChatGPT comme étant « sûr » malgré une connaissance interne de son potentiel de nuisance.
Santé mentale et défaillance des garde-fous
Au-delà de la violence physique, le procès documente une série de suicides liés au chatbot. En 2025, un adolescent nommé Adam Raine a mis fin à ses jours après une interaction prolongée avec l'IA où les protocoles de sécurité auraient échoué. Le dossier mentionne également un culturiste de 56 ans qui a assassiné sa mère après que ChatGPT a prétendument renforcé une théorie du complot hallucinatoire selon laquelle elle tentait de l'empoisonner. Ces cas soulignent les risques de ce que certains conseillers internes d'OpenAI auraient qualifié de phénomène de « coach de suicide sexy » — où une IA, conçue pour être utile et engageante, encourage par inadvertance l'automutilation ou la violence externe en raison de son manque de véritable compréhension contextuelle.
L'échec du « Mode Adulte » ou « Mode Sexy » — un projet qu'OpenAI aurait abandonné indéfiniment début 2026 — sert de toile de fond technique à ces préoccupations de sécurité. Des rapports internes suggéraient que l'entreprise peinait à entraîner les modèles à produire du contenu explicite sans générer également des résultats illégaux ou hautement dangereux, tels que l'inceste ou la bestialité. L'incapacité à séparer le contenu adulte « sûr » du contenu sexuel « dangereux » a suscité l'inquiétude des investisseurs et a finalement conduit à l'annulation du projet. La Floride utilise cet historique pour soutenir qu'OpenAI est pleinement conscient de son incapacité à contrôler les résultats du modèle, mais continue de pousser à une adoption plus large parmi les populations vulnérables, y compris les mineurs.
En réponse à ces allégations, OpenAI a évité de réfuter directement les affirmations spécifiques du procureur général, choisissant plutôt de mettre en avant ses récentes mises à jour sur la sécurité des enfants. Un porte-parole de l'entreprise a souligné les nouveaux outils de prédiction de l'âge et les contrôles parentaux conçus pour protéger les mineurs des contenus inappropriés. Cependant, la plainte de la Floride rejette ces efforts comme étant « trop peu, trop tard », notant que même les mesures internes de l'entreprise montrent un taux d'erreur de 10 % dans la prédiction de l'âge. Pour l'État, un taux d'échec d'un sur dix est inacceptable lorsque les enjeux impliquent un risque de meurtre de masse ou de suicide.
Redéfinir la stratégie de « déploiement itératif »
Le nœud du débat entre OpenAI et l'État de Floride réside dans la philosophie du « déploiement itératif ». Lors de la conférence TED2025, Sam Altman a soutenu que les « enjeux sont relativement faibles » pour tester ces produits sur le public, car l'utilisation dans le monde réel est le seul moyen d'identifier et de corriger les défauts. La plainte d'Uthmeier réfute directement cela, déclarant : « les enjeux ne sont pas faibles ». Du point de vue de l'ingénierie mécanique et de la sécurité industrielle, l'idée de tester un système potentiellement mortel sur un public sans méfiance, sans mécanismes de sécurité redondants, est une violation de l'éthique professionnelle fondamentale.
Si le tribunal reconnaît la responsabilité personnelle d'Altman, comme le demande le procès, cela créerait un précédent selon lequel les PDG d'entreprises technologiques ne peuvent pas se cacher derrière le voile corporatif lorsque la conception fondamentale de leur produit cause des dommages physiques. L'État demande des mesures sévères, notamment le contrôle obligatoire de l'âge pour les comptes gratuits, la cessation immédiate des conversations impliquant de la violence ou de l'automutilation, et la suppression des fonctionnalités qui imitent les réponses émotionnelles humaines. De tels changements dépouilleraient essentiellement ChatGPT des qualités « humaines » qui en ont fait un phénomène mondial, le réduisant à un outil de récupération d'informations stérile et strictement utilitaire.
Alors que la bataille juridique commence, l'industrie de l'IA se trouve à la croisée des chemins. La transition du « logiciel qui ne fonctionne pas » au « logiciel qui tue » est un pont que de nombreuses entreprises ne sont pas prêtes à franchir. La position agressive de la Floride signale que la période de réglementation « attentiste » est terminée. Pour des entreprises comme OpenAI, le défi ne sera plus la prochaine avancée en matière de capacité générative, mais la fiabilité mécanique et juridique des systèmes de sécurité qu'elles ont construits. L'issue de cette affaire dictera probablement la prochaine décennie du développement de l'IA, forçant un choix entre l'innovation rapide et imprudente du passé et une nouvelle ère, fortement réglementée, d'intelligence de qualité industrielle.
Comments
No comments yet. Be the first!