Was ist AGI und wie würden wir erkennen, dass sie da ist?

Der Begriff, den alle verwenden, aber über den sich niemand einig ist

Künstliche allgemeine Intelligenz – AGI – ist zum Nordstern der Technologieindustrie geworden. Unternehmen von OpenAI über Google DeepMind bis Nvidia investieren Milliarden in die Entwicklung einer Maschine, die die menschliche Kognition bei nahezu jeder Aufgabe erreichen oder übertreffen kann. Doch hinter dem Hype verbirgt sich ein grundlegendes Problem: Niemand ist sich einig, was AGI eigentlich bedeutet, und ohne eine gemeinsame Definition bleiben Behauptungen über das Erreichen von AGI unmöglich zu überprüfen.

Spezifische KI vs. Allgemeine Intelligenz

Jedes heute verwendete KI-System – von Sprachassistenten über Bildgeneratoren bis hin zu medizinischen Diagnosetools – wird als spezifische KI (auch künstliche spezifische Intelligenz oder ANI genannt) klassifiziert. Diese Systeme zeichnen sich bei spezifischen, klar definierten Aufgaben aus, können ihre Fähigkeiten aber nicht auf neue Bereiche übertragen. Eine Schach-Engine, die Großmeister besiegt, weiß nichts über Sprache; ein Chatbot, der Gedichte schreibt, kann kein Auto fahren.

AGI wäre im Gegensatz dazu ein System, das in der Lage ist, zu lernen, zu schlussfolgern und sich anzupassen, und zwar bei nahezu allen kognitiven Aufgaben, die ein Mensch ausführen kann. Es könnte ein juristisches Gutachten lesen, eine Krankheit diagnostizieren, eine Symphonie komponieren und einen Geschäftsabschluss aushandeln – alles, ohne speziell für jede Aufgabe programmiert zu werden. Das Konzept entstand, um ein System mit der Flexibilität des menschlichen Geistes zu beschreiben, das mit einer kleinen Menge an Informationen umgehen und diese auf völlig neue Situationen verallgemeinern kann.

Warum die Definition wichtig ist

Die Bedeutung der Definition von AGI geht weit über die akademische Debatte hinaus. Wie die Zeitschrift Science dokumentiert hat, bringen Forscher aus den Bereichen Informatik, Kognitionswissenschaft, Politik und Ethik jeweils grundlegend unterschiedliche Verständnisse des Konzepts ein. Einige definieren AGI anhand der Leistung bei Benchmarks, andere anhand interner Abläufe, wirtschaftlicher Auswirkungen oder – wie Kritiker anmerken – einfach anhand von "Vibes".

Diese Mehrdeutigkeit hat reale Konsequenzen. Bei Unternehmen wie OpenAI und Microsoft sind Vertragsklauseln und Gewinnbeteiligungsvereinbarungen daran gebunden, ob AGI offiziell erreicht wurde. Wenn die Definition elastisch genug ist, um alles zu bedeuten, kann sie strategisch – oder vorzeitig – eingesetzt werden.

Rahmenbedingungen zur Messung des Fortschritts

Mehrere Organisationen haben versucht, der Ordnung ins Chaos zu bringen. Google DeepMind hat einen Rahmen für "AGI-Level" veröffentlicht, der fünf Leistungsstufen definiert – Emerging, Competent, Expert, Virtuoso und Superhuman – kombiniert mit der Breite der Fähigkeiten, von eng (einzelner Bereich) bis allgemein (breite kognitive Aufgaben). Eine "Competent AGI" würde 50 % der qualifizierten Erwachsenen in einer Vielzahl von Aufgaben übertreffen, während eine "Superhuman AGI" 100 % übertreffen würde.

Entscheidend ist, dass DeepMind Leistung von Autonomie trennt und argumentiert, dass die Frage, wie fähig ein System ist und wie unabhängig es arbeitet, zwei verschiedene Fragen sind, die separat bewertet werden müssen.

OpenAI unterhält eine eigene interne Fünf-Stufen-Skala zur Verfolgung des Fortschritts. Inzwischen versuchen Benchmarks wie ARC-AGI, echtes Denkvermögen und nicht nur das Auswendiglernen von Mustern zu testen – obwohl Kritiker argumentieren, dass kein einzelner Test allgemeine Intelligenz endgültig beweisen kann, so wie kein einzelner IQ-Test die menschliche Kognition perfekt erfasst.

Warum Skeptiker sich wehren

Kognitionswissenschaftler weisen auf ein tiefer liegendes Problem hin: Die Wissenschaft hat keine strenge Definition von "allgemeiner Intelligenz", nicht einmal beim Menschen. Intelligenz ist keine einzelne Größe, die man hoch- oder runterregeln kann, sondern eine komplexe Integration von spezialisierten und allgemeinen Fähigkeiten, die durch Evolution, Kultur und Erfahrung geformt werden.

Wie Scientific American berichtet hat, halluzinieren aktuelle KI-Systeme immer noch Fakten, haben Schwierigkeiten mit neuartigen Schlussfolgerungen und es mangelt ihnen an echtem Verständnis in der Art und Weise, wie Menschen es durch gelebte Erfahrung aufbauen. Einige Forscher, darunter Yann LeCun von Meta, argumentieren, dass Intelligenz – selbst menschliche Intelligenz – grundsätzlich spezialisiert und aufgabenoptimiert ist, was das Konzept der "allgemeinen" Intelligenz selbst irreführend macht.

Die Sicherheitsdimension

Unabhängig davon, ob AGI bald kommt oder nicht, wirft das Streben danach dringende Sicherheitsfragen auf. Forscher warnen vor dem Kontrollproblem: wie sichergestellt werden kann, dass sich ein rekursiv selbstverbesserndes System weiterhin so verhält, dass es mit den menschlichen Werten übereinstimmt. Die Bedenken reichen von Arbeitsplatzverlusten und politischer Manipulation bis hin zu, im Extremfall, existenziellen Risiken.

Viele Experten für KI-Sicherheit argumentieren, dass die Fixierung auf AGI als zukünftigen Meilenstein von gegenwärtigen Schäden ablenkt – algorithmische Verzerrungen, Deepfake-Fehlinformationen und die Aushöhlung kritischer Denkfähigkeiten –, die jetzt Aufmerksamkeit erfordern, unabhängig davon, wann oder ob Maschinen ein kognitives Niveau des Menschen erreichen.

Ein sich bewegendes Ziel

Die vielleicht ehrlichste Einschätzung von AGI ist, dass sie ein sich bewegendes Ziel bleibt. Jedes Mal, wenn KI eine Aufgabe meistert, von der man einst annahm, dass sie allgemeine Intelligenz erfordert – Go spielen, Code schreiben, medizinische Prüfungen bestehen –, verschieben sich die Zielpfosten. Was einst als Beweis für AGI galt, wird im Nachhinein nur zu einer weiteren spezifischen Leistung. Solange sich die Wissenschaftler nicht auf eine Definition einigen, sagt die Frage "Haben wir AGI erreicht?" vielleicht mehr über die Person aus, die sie beantwortet, als über die Technologie selbst.