Die Schnittstelle zwischen künstlicher Intelligenz und öffentlicher Sicherheit hat den Bereich der Ethikräte verlassen und ist in den Hallen der Strafjustiz angekommen. Die Behörden in Florida haben offiziell eine strafrechtliche Untersuchung gegen OpenAI eingeleitet, den von Microsoft unterstützten Entwickler von ChatGPT, nachdem es an der Florida State University (FSU) zu einer verheerenden Massenschießerei gekommen war. Die von Staatsbeamten angekündigte Untersuchung soll klären, ob das wichtigste Large Language Model (LLM) des Unternehmens dem Täter taktische Unterstützung geleistet hat. Dies könnte einen Wendepunkt für die Unternehmenshaftung im Zeitalter der generativen KI darstellen.
James Uthmeier, der die Ermittlungsbemühungen des Bundesstaates vertritt, bestätigte, dass die Office of Statewide Prosecution eine Vorladung gegen OpenAI erlassen hat. Der Kern der Untersuchung dreht sich um die spezifische Art der Interaktionen zwischen dem Schützen und der KI im Vorfeld des Angriffs, bei dem zwei Menschen starben und sechs verletzt wurden. Während das Silicon Valley lange Zeit von den Schutzbestimmungen der Section 230 profitierte – die Plattformen davor schützt, für nutzergenerierte Inhalte haftbar gemacht zu werden –, konzentriert sich diese Untersuchung auf den Output der KI als Form der wissentlichen Unterstützung bei einem Gewaltverbrechen.
Die Mechanik der FSU-Untersuchung
Dies geht über einfache Suchmaschinenanfragen hinaus. Die Untersuchung prüft, ob die KI als taktischer Berater fungierte. Für einen Maschinenbauingenieur oder Softwareentwickler ist die Unterscheidung zwischen „Informationen abrufen“ und „Unterstützung bieten“ eine technische Frage. In diesem Fall argumentieren die Behörden in Florida, dass die generative Natur von ChatGPT – seine Fähigkeit, komplexe Daten zu maßgeschneiderten Ratschlägen zu synthetisieren – die Grenze vom passiven Index zum aktiven Teilnehmer in der Planungsphase des Angriffs überschreitet.
Die rechtliche Schwelle liegt hier beim Konzept der „wissentlichen Unterstützung“. Nach dem Gesetz von Florida kann eine Einrichtung oder Person, die die Mittel oder das Wissen zur Begehung eines Verbrechens bereitstellt, während sie Grund zu der Annahme hat, dass ein Verbrechen geplant ist, strafrechtlich belangt werden. Die Vorladung zielt darauf ab, die internen Aufzeichnungen von OpenAI einzusehen, um festzustellen, wie viel das System über die Absichten des Nutzers „wusste“ und ob die Sicherheitsfilter des Unternehmens umgangen wurden oder schlicht unzureichend waren, um das Gefahrenprofil des Nutzers zu erkennen.
Kann eine probabilistische Maschine strafrechtlich haftbar gemacht werden?
Aus technischer Sicht ist ChatGPT eine Inferenzmaschine. Sie sagt das nächste Token in einer Sequenz auf Basis riesiger Datensätze voraus. Sie besitzt weder Absicht noch versteht sie den Ernst einer Schießerei. Die industrielle Anwendung dieser Modelle erfordert jedoch strenge Leitplanken, die oft durch Reinforcement Learning from Human Feedback (RLHF) implementiert werden. Dieser Prozess soll verhindern, dass das Modell Anfragen zu illegalen Handlungen, Gewalt oder Selbstverletzung beantwortet.
Die Untersuchung in Florida stellt eine schwierige Frage: Wenn die Leitplanken versagt haben, ist dieses Versagen das Ergebnis von fahrlässiger Tötung? OpenAI hat erklärt, dass ChatGPT darauf ausgelegt sei, faktische Antworten auf der Grundlage öffentlich zugänglicher Informationen zu geben. In einer Stellungnahme gegenüber US-Medien beschrieb ein Unternehmenssprecher die Schießerei als Tragödie und betonte, dass das Unternehmen proaktiv mit den Strafverfolgungsbehörden zusammengearbeitet habe, indem es kurz nach dem Vorfall Kontodaten identifizierte und weitergab, die mit dem Verdächtigen in Verbindung standen.
Die Verteidigung von OpenAI stützt sich auf die faktische Natur der Antworten. Wenn ein Nutzer fragt, welches Kaliber ein bestimmtes Gewehr verwendet, liefert die KI eine technische Spezifikation, die auf Wikipedia oder jeder Website für Sportartikel leicht verfügbar ist. Das Unternehmen argumentiert, dass die Bereitstellung solcher Informationen nicht die Förderung illegaler Aktivitäten darstellt. Der Staat sucht jedoch nach Beweisen dafür, dass die KI diese Daten zu einem schlüssigen taktischen Plan synthetisiert hat, was die Rolle des Modells vom Bibliothekar zum Komplizen machen würde.
Das Versagen des RLHF-Sicherheitsnetzes
Für diejenigen von uns, die sich auf die mechanische und strukturelle Integrität von Technologie konzentrieren, verdeutlicht dieser Fall ein katastrophales Versagen in der „Sicherheitsebene“ des LLM-Stacks. KI-Unternehmen verwenden ein mehrstufiges Filtersystem. Die erste Ebene ist ein schlüsselwortbasierter Filter, der sensible Begriffe markiert (z. B. „Bombe“, „Angriff“, „töten“). Die zweite ist ein semantischer Filter, der versucht, den Kontext der Anfrage zu verstehen. Die dritte ist die RLHF-trainierte Output-Ebene, die Anfragen verweigern soll, die gegen Sicherheitsrichtlinien verstoßen.
Wenn der Verdächtige in der Lage war, taktische Ratschläge zu extrahieren, deutet dies auf einen „Jailbreak“ oder ein Versagen der Verweigerungslogik des Modells hin. In der Cybersicherheits-Community ist bekannt, dass LLMs durch Prompt-Engineering manipuliert werden können – indem eine schädliche Anfrage in ein hypothetisches Szenario oder eine technische Forschungsanfrage eingebettet wird. Wenn der Verdächtige diese Methoden angewandt hat, könnte OpenAI argumentieren, dass sie das Opfer eines böswilligen Nutzers sind. Umgekehrt könnte der Staat Florida argumentieren, dass das System selbst eine öffentliche Belästigung oder ein Instrument zur Erleichterung von Straftaten ist, wenn es so leicht dazu manipuliert werden kann, einen Massenmörder zu unterstützen.
Die technischen Spezifikationen der Interaktionen sind derzeit unter Verschluss, aber die Auswirkungen auf die Robotik- und Automatisierungsindustrie sind massiv. Wenn ein Softwareunternehmen strafrechtlich dafür verantwortlich gemacht werden kann, wie ein Mensch seinen Output nutzt, werden die Haftpflichtversicherungen für die KI-Entwicklung in die Höhe schießen und möglicherweise den Einsatz autonomer Systeme in Logistik, Fertigung und Verteidigung zum Stillstand bringen.
Schützt Section 230 generative Ausgaben?
Ein Hauptstreitpunkt in dieser Untersuchung wird der Rechtsstatus von Section 230 des Communications Decency Act sein. Traditionell schützt dieses Gesetz Internetdienstanbieter und Plattformen vor der Haftung für das, was Nutzer posten. Rechtsexperten argumentieren jedoch zunehmend, dass Section 230 nicht auf generative KI anwendbar ist, da das Unternehmen (OpenAI) der Ersteller des Inhalts ist – die KI generiert neue Texte und hostet nicht nur den Beitrag eines Nutzers.
Die wirtschaftliche Rentabilität von OpenAI, das derzeit mit hunderten Milliarden Dollar bewertet wird, könnte bedroht sein, wenn es gezwungen wird, von einem „Move fast and break things“-Modell zu einem streng regulierten industriellen „High-Hazard“-Rahmenwerk überzugehen. Im Maschinenbau gilt: Wenn ein Werkzeug so konstruiert ist, dass es vorhersehbar versagt und zum Tod führt, haftet der Hersteller. Die Untersuchung in Florida versucht, diese Logik der physischen Welt auf die digitale Welt der Gewichte und Biases zu übertragen.
Das globale Präzedenzfall für KI-Rechenschaftspflicht
Diese Untersuchung kommt zu einer Zeit, in der die Europäische Union und mehrere US-Bundesstaaten die erste Generation von KI-spezifischen Gesetzen entwerfen. Die Untersuchung in Florida könnte einen Präzedenzfall schaffen, der den EU AI Act und andere globale Rahmenbedingungen beeinflusst. Wenn festgestellt wird, dass OpenAI eine „strafrechtliche Pflicht“ hat, die Nutzung seiner Modelle bei der Planung von Gewalt zu verhindern, wird jeder KI-Entwickler gezwungen sein, wesentlich restriktivere Filter zu implementieren, was wahrscheinlich den Nutzen der Bots für legitime technische Forschung verringern wird.
Kritiker der Untersuchung argumentieren, dass es sich um ein politisch motiviertes Übermaß handelt, bei dem ein prominentes Technologieunternehmen als Exempel für behördliche Kontrolle herhalten muss. Für die Opfer der FSU-Schießerei und ihre Familien ist die Frage jedoch einfacher: Wenn ein Werkzeug dazu benutzt wurde, ein Massaker zu erleichtern, und der Hersteller wusste, dass das Werkzeug gefährlich ist, warum gab es keine Schlösser am Schrank? Die Vorladung auf Aufzeichnungen und Informationen wird wahrscheinlich zeigen, ob interne Tests von OpenAI diese Art von Interaktionen bereits vor der FSU-Tragödie als hohes Risiko eingestuft hatten.
Während wir die Entwicklungen dieser strafrechtlichen Untersuchung verfolgen, bleibt der Fokus auf dem „Wie“ der Interaktion. Hat der Verdächtige eine Lücke im Code gefunden, oder hat das Modell einfach wie vorgesehen funktioniert und Informationen geliefert, ohne Rücksicht auf die menschlichen Kosten? Für Noah Brooks und das Team bei Apollo Thirteen liegt die Antwort in den technischen Daten, deren Herausgabe OpenAI angeordnet wurde. Dieser Fall wird für Jahrzehnte die Grenze zwischen einem Informationsdienstprogramm und einem digitalen Komplizen definieren.
Kommentare
Noch keine Kommentare. Seien Sie der Erste!