Wer wissen will, ob Künstliche Intelligenz denkt, muss zunächst wissen, was Denken überhaupt ist. Genau daran fehlt es gegenwärtig – in der medialen Berichterstattung ebenso wie in weiten Teilen der Wissenschaft und bei den Herstellern der Sprachmodelle selbst. Man schreibt KI Intelligenz, Verstehen, Lernen, Entscheiden oder gar Empathie zu, ohne zuvor zu klären, was mit diesen Begriffen eigentlich bezeichnet ist. Wer sprachlich souverän erscheint, dem wird Verstehen zugeschrieben; wer Probleme löst, gilt als intelligent; und wer „ich“ sagt, scheint bereits ein Bewusstsein zu besitzen. Statt die Sache begrifflich zu bestimmen, ist man von der beeindruckenden Leistung geblendet und schließt auf einen ebenso beeindruckenden Maschinengeist.

Hegel ist für eine Kritik dieser Fehlurteile besonders ergiebig, weil er Intelligenz nicht als messbare Leistungsfähigkeit, sondern als den Prozess bestimmt, in dem ein Subjekt die Welt über Anschauung, Vorstellung, Sprache und begriffliches Denken zu seinem eigenen Inhalt macht. Dazu muss man ihn nicht einmal vollständig vom Kopf auf die Füße stellen, sondern lediglich seine idealistische Metaphysik abstreifen: Nicht der Geist findet sich in der Welt wieder, sondern ein körperliches, gesellschaftliches und sprachbegabtes Wesen bildet Begriffe, um eine unabhängig von ihm bestehende Welt zu erkennen und zu verändern.

In meinem Text (download pdf) führt der Weg zur KI zunächst scheinbar von ihr weg: Von ein paar ganz grundsätzlichen Bestimmungen von Sprache, Intelligenz, Denken, zu Bienen und Primaten, Säuglingen und sprachlich isolierten Kindern, gehörlosen Menschen und Gebärdensprachen, und den Inuit, Homer und der Frage, ob verschiedene Sprachen unterschiedliche Formen des Denkens begünstigen. Der Vergleich dieser verschiedenen Ausprägungen kognitiver und sprachlicher Fähigkeiten macht sichtbar, was Wahrnehmung, Erinnerung, Kommunikation und Symbolgebrauch bereits leisten – und worin der Übergang zu Sprache und begrifflichem Denken besteht. Vor diesem Hintergrund zeigt die Analyse dessen, was ein Large Language Model ist und tut: Es verdichtet die sprachlichen Resultate menschlicher Welterfahrung zu begriffslosen statistischen Beziehungen. Es kann täuschend verständig sprechen, aber besitzt Sprache nur als berechenbare Form: Empfinden, Erkennen, Verstehen, und Entscheiden simuliert es, indem es aus den sprachlichen Sedimenten menschlicher Wahrnehmungen, Handlungen und Erfahrungen statistisch neue Äußerungen extrapoliert – ohne den Weg von der Welt zum Begriff jemals selbst vollzogen zu haben.

Damit beantwortet sich auch die Frage nach der Gefährlichkeit der KI. Die Gefahr liegt jedoch nicht in einem LLM, das irgendwann Bewusstsein entwickelt, eigene Zwecke setzt und sich gegen den Menschen erhebt. Als bloßes Sprachmodell kann es durch noch so viel Training und Skalierung kein Bewusstsein hervorbringen: Es bleibt ein System probabilistischer Zeichenverarbeitung ohne eigenen Weltbezug, eigenen Standpunkt und selbstbestimmte Zwecke. Kreuzgefährlich wird es dennoch – durch seinen menschlichen Gebrauch als gehorsames Instrument staatlicher, militärischer, industrieller und krimineller Interessen. Nicht der Aufstand der Maschinen ist das Problem, sondern die Geschwindigkeit, Reichweite und Effizienz, mit der sie bestehende Macht-, Gewalt- und Kontrollapparate bedienen und deren Zwecke dabei durchsetzen.

Diese Argumentation steht in deutlichem Gegensatz zu verbreiteten Positionen in Philosophie, Psychologie, Kognitionswissenschaft und KI-Forschung und fordert daher grundsätzlichen Widerspruch heraus. Am Ende des Textes werden die wichtigsten Einwände in ihrer stärksten Form dargestellt und anschließend erwidert.

Der ganze Text findet sich hier als pdf.