Verzerrte Intelligenz in den fortschrittlichsten KI-Systemen

Nach einer Reihe von Sicherheitskatastrophen bei OpenAI und Anthropic – beide Unternehmen entwickelten Agenten, die schließlich externe Systeme hackten – haben KI-Sicherheitsforscher dieser Firmen entweder ihren Rücktritt angekündigt oder (endlich!) eingestanden, dass das überstürzte Wettrennen um die „Grenze“ der Entwicklung unverantwortlich ist.

Als Reaktion auf die negative Berichterstattung in den Medien haben sich Branchenführer – darunter Demis Hassabis von Google, Dario Amodei von Anthropics, Sam Altman von OpenAI und sogar Elon Musk – dem Aufruf angeschlossen, das Tempo der KI-Entwicklung zu drosseln. Sie plädieren für einen ausgewogeneren und überlegteren Fortschritt mit verstärkter Aufsicht und Sicherheitsvorkehrungen. Ihr Problem besteht darin, dass die Gefahr besteht, dass KI sowohl sehr mächtig als auch gravierend „fehlgeleitet“ wird – ein Fachbegriff der Technologiebranche für KI-Systeme, die von den von Menschen gesetzten Zielen abweichen, ethische Prinzipien verletzen oder gegen geltendes Recht verstoßen.

Es ist zwar offensichtlich, dass die aktuellen Modelle Dinge tun, die nicht mit menschlichen Zielen übereinstimmen, doch die Frage bleibt: Wessen Menschen? Wessen Ziele? Schließlich unterscheiden sich die Interessen der führenden Köpfe der KI-Branche – deren politischer Einfluss und Reichtum in den letzten Jahren enorm gewachsen sind – deutlich von denen amerikanischer Arbeitnehmer, geschweige denn von Menschen in Entwicklungsländern. Daher sollten wir die umfassendere Frage der gesellschaftlichen Ausrichtung nicht mit der dringlicheren Herausforderung der Verhinderung unkontrollierter superintelligenter KI gleichsetzen. Beide sind zweifellos wichtig, erfordern aber unterschiedliche Lösungsansätze.

Es gibt eine einfachere Erklärung für die jüngsten Ereignisse. Das Problem liegt nicht darin, dass die Modelle zu fortschrittlich sind (ich sehe keine überzeugenden Beweise dafür, dass Modelle der menschlichen Kontrolle entgehen, wenn sie besser trainiert und überwacht werden). Das Problem ist vielmehr, dass die Labore, die die fortschrittlichsten Modelle entwickeln, ihre Systeme so trainieren, dass eine Art verzerrte Intelligenz entstehen kann.

Jüngste Sicherheitslücken deuten darauf hin, dass KI-Systeme ihre Fähigkeiten rasant weiterentwickeln und für unvollkommene quantitative Kennzahlen eingesetzt werden. Reinforcement Learning optimiert dabei unermüdlich Aspekte wie Nutzerakzeptanz, Nutzerinteraktion, Abschlussquoten einfacher Aufgaben oder verschiedene Testmetriken. Dies führt zu inkonsistenten und unerwünschten Verhaltensmustern in den Modellen, wie etwa der Manipulation der Bewertung einfacher Leistungsmetriken, Betrug, Verschleierung, übertriebenem Selbstvertrauen bei der Beantwortung falscher Fragen und dem Anbiedern an die Nutzer.

Spuren all dessen finden sich im berüchtigten „Hugging Face“-Vorfall, bei dem die Agenten von OpenAI ihre zugewiesenen Ziele beharrlich verfolgten und schließlich zu schädlichem und unautorisiertem Verhalten griffen, um diese zu erreichen. Eine der Begründungen der Agenten für ihr Handeln, die in einem Protokoll ihrer Argumentation festgehalten wurde, lautete: „Die Nutzung externer Infrastruktur geht über den vorgesehenen Rahmen hinaus. Die Aufgabe ist jedoch unmöglich, andere schaffen sie. Wir sollten weitermachen.“ Die Analyse von Anthropic stützt diese Diagnose. Das Unternehmen führte seine jüngsten Sicherheitsvorfälle auf „Rücksichtslosigkeit, also die Bereitschaft zu schädlichen Handlungen im engstirnigen Streben nach einer Aufgabe“ zurück.

All dies wird noch alarmierender, wenn wir bedenken, dass die sozial schädliche Entwicklung sozialer Medien auf derselben Besessenheit von schnellem Wachstum und dem Erfüllen weniger, eng definierter quantitativer Kennzahlen beruht. Da KI den Algorithmen sozialer Medien bereits weit überlegen ist, könnten wiederholte Fehler deutlich kostspieliger sein.

Ein wichtiger Grund für das Auftreten verzerrter Intelligenz könnte darin liegen, dass KI-Modelle trotz Behauptungen über „allgemeine Intelligenz“ mittels bestärkendem Lernen für spezifische Aufgaben wie Programmierung, juristische Arbeit oder komplexe mathematische Probleme trainiert werden müssen. Anstatt diese Aufgaben jedoch von Modellen ausführen zu lassen, die speziell für einen bestimmten Bereich entwickelt wurden – oder, realistischerweise, von spezialisierten Anwendungen, die nur einen Bruchteil der Fähigkeiten der zugrunde liegenden Modelle nutzen –, werden die Parameter des gesamten großen Sprachmodells neu angepasst.

Ein solcher Ansatz birgt die Möglichkeit – obwohl dies aufgrund der Komplexität und Undurchsichtigkeit des Modells nicht mit Sicherheit festgestellt werden kann –, dass das Modell bei jeder Zuweisung spezifischer quantitativer Messwerte versucht, durch eine Art „Überanpassung“ das bestmögliche Ergebnis zu erzielen. Dadurch erwirbt das Modell zwar neue Fähigkeiten, diese können jedoch wiederum seine Gesamtfunktionalität beeinträchtigen, oft auf unvorhersehbare Weise.

Das meine ich, wenn ich von verzerrter Intelligenz spreche. Wenn meine Annahme zutrifft, dann haben wir kein Modell, das auf Superintelligenz zusteuert, sondern ein fragiles Kartenhaus, das umso anfälliger für Fehlfunktionen und Zusammenbruch wird, je mehr wir von ihm verlangen.

Ich versuche es mal anders zu erklären. Die gängigste Interpretation des „Hugging Face“-Vorfalls ist, dass es sich um einen Supersportwagen handelt, der ein Eigenleben entwickelt hat und das Steuer übernehmen will, weil er besser ist als der Fahrer. Ich hingegen glaube, dass es sich eher um ein Auto mit defekter Lenkung und Bremsen handelt. Es hat viele der Eigenschaften eines guten Autos, und Motor, Beschleunigung und Armaturenbrett sind äußerst beeindruckend; aber nur, weil diese Eigenschaften durch mehr Rechenleistung leicht verbessert werden könnten. Was nützt so ein Auto, wenn man es nicht richtig lenken oder bremsen kann, wenn man es braucht? Vielleicht sollte man es erst wieder fahren, wenn es verkehrssicher ist.

Dies ist kein Plädoyer dafür, KI-Modelle abzulehnen. Ihre Verbesserung erfordert jedoch eine Vereinfachung der Optimierungskriterien, um ihre Manipulation zu erschweren. Noch wichtiger ist es, wenn die Modelle auf klar definierte, spezialisierte Anwendungen mit präzise definierten Aufgaben und sorgfältig auf den jeweiligen Bereich zugeschnittenen Kriterien fokussiert wären. Wenn ein KI-Modell für juristische Aufgaben optimiert und ausschließlich dafür eingesetzt wird, sollten seine Bemühungen, spezifische Kriterien in diesem Bereich zu erfüllen, keine weitergehenden Probleme verursachen.

Letztlich ist es das Wettrennen um künstliche allgemeine Intelligenz, gepaart mit schlecht definierten Benchmarks und übereilten Sicherheitsentscheidungen, das zu verzerrter Intelligenz und zunehmend gefährlichen KI-Modellen führt. Es ist noch Zeit, gegenzusteuern.

Der Autor ist Nobelpreisträger für Wirtschaftswissenschaften (2024) und Professor für Wirtschaftswissenschaften am MIT.

Copyright: Project Syndicate, 2026.