Beschreibung, Abstract

Ohne Zweifel bringt Künstliche Intelligenz (KI) mittlerweile Leistungen, die menschliche Intelligenz vielfach unterstützen, kompensieren und zum Teil ersetzen können. Dieser Beitrag stellt die Frage, wo die prinzipiellen Grenzen der KI liegen und ob überhaupt von Intelligenz im eigentlichen Wortsinn die Rede sein kann. Wenn menschliche und künstliche Intelligenz nur anhand ihrer Symptomatik beurteilt werden, nivelliert sich zusehends der Unterschied. Anhand der Hermeneutik und der Philosophie von Ludwig Wittgenstein wird jedoch gezeigt, dass ein KI-System wie ChatGPT einige grundsätzliche Defizite aufweist. Es kann Sprache nicht verstehen und nicht lernen, Schlussfolgern zwar deduktiv, aber induktiv nur statistisch und abduktiv gar nicht. Zudem ist ein KI-System wie ChatGPT ein geschlossenes selbstreferentielles System, das zu Paradoxien und Selbstreplikation tendiert und so einen Qualitätsverlust erleidet. Gefragt sind ein technologiekritischer Ansatz, die Überwindung des naiv technizistischen Paradigmas der KI, sowie eine kritische Metaphernanalyse der Anthropomorphismen der KI. So können Grundlagen geschaffen werden für eine sinnvolle Sprache über KI und damit auch für brauchbare theoretische Konzepte und Modelle ihrer Nutzung und Weiterentwicklung.

Lesprobe

How intelligent can Artificial Intelligence be?
Without a doubt, Artificial Intelligence (AI) now delivers capabilities that can support, compensate for, and partially replace human intelligence in many ways. This paper asks where the principal limits of AI lie and whether one can even speak of intelligence in the true sense of the word. If human and artificial intelligence are judged only by their symptoms, the difference increasingly levels out, or the pendulum already swings in the other direction. A reduced concept of intelligence is likely at play here. By drawing on hermeneutics and the Tractatus philosophy of Ludwig Wittgenstein, it is shown that an AI system like ChatGPT exhibits fundamental deficits. It cannot understand language and cannot learn. While it can draw conclusions deductively as an expert system, it can only do so statistically in an inductive manner, and abductively not at all. Furthermore, an AI system like ChatGPT is a closed self-referential system that tends towards paradoxes and self-replication through autophagy, is conservative and susceptible to manipulation, and in the long run reduces the quality and scope of our knowledge of reality. A technology-critical approach is required, as well as the overcoming of the behavioristic and naively technical paradigm of AI, along with a critical metaphor analysis of AI anthropomorphisms. In this way, foundations can be created for meaningful language about AI, and thus also for usable theoretical concepts and models for its utilization and further development.

---

Wie intelligent kann Künstliche Intelligenz sein?
Die Frage war: Wie intelligent kann Künstliche Intelligenz sein? In diesem Beitrag wurde gezeigt, dass die sog. Künstliche Intelligenz im Vergleich zur menschli-chen Intelligenz Defizite aufweist. Das ist nichts Neues, die Frage ist, welche Defizite das betrifft:
(1) Das Verstehen und Meinen von Sinn ist möglich aufgrund eines Vorverständ-nisses, d.h. aufgrund verfügbarer Möglichkeiten von Sinn, die im Satz zur Anwen-dung kommen. Ein KI-System wie ChatGPT versteht nicht den Sinn eines Satzes und meint auch nicht den Sinn eines Satzes, es kennt keine Semantik und keine Pragmatik, eigentlich auch keine Syntaktik, es generiert nicht Sätze aufgrund von Regelwissen, es er-rechnet Satz-Konstrukte auf der Basis statistisch wahrschein-li¬cher Kombinationsmöglichkeiten von Satz-Bausteinen.
(2) Ein Vorverständnis, die verfügbaren Möglichkeiten von Sinn, ist nicht immer für das Verstehen von Sinn ausreichend. Insofern ist ein Lernprozess erforderlich, in dem Möglichkeiten von Sinn modifiziert, ersetzt und neue gefunden, gelernt werden. Ein KI-System wie ChatGPT ist konservativ, nicht kreativ, es lernt keine neuen Möglichkeiten von Sinn. Alles, was für die KI neu sein kann, ist fremdbe-stimmt, abhängig von den Daten, Mustern und Algorithmen, mit denen sie gefüt-tert wird.
(3) KI kann im Modus der Deduktion Schlüsse ziehen. Das ist das Prinzip der alten Expertensysteme, aber Kombinationen von Expertensystemen und LLM sind noch nicht best practice und im Effekt ist die Deduktion nur eine Anwendung von Regelwissen, führt aber zu keiner neuen Erkenntnis. Die Induktion der KI beruht ausschließlich auf Wahrscheinlichkeitsrechnung. Dabei wird quasi induktiv durch statistisches Auswerten von Beobachtungen und Messdaten ein probabilistisches Modell generiert. Schlüsse zu ziehen im Modus der Abduktion (auch Verstehen beruht darauf) kann KI überhaupt nicht.
(4) Ein KI-System ist ein selbstreferenzielles, geschlossenes System, in dem Paradoxien möglich sind und in dem es zu einer Selbstreplikation von Texten und insofern zu einer Minderung der Textqualität kommen kann.

---

Die KI und ihre Supervision
KI-Systeme lernen maschinell (Machine Learning), d.h. sie „erkennen“ mithilfe statistischer und algorithmischer Verfahren in großen Datenmengen geeignete Muster, um aus ihnen „Entscheidungen“ und „Lösungen“ für Aufgabenstellungen abzuleiten. Das „Lernen“ kann überwacht (supervised) erfolgen, wenn den KI-Systemen bei ihrer Fütterung Fragen mit einem label, d.h. mit den jeweils korrekten Antworten serviert werden. Erfolgt das „Lernen“ ohne Überwachung, muss das System ganz allein Muster, Strukturen usw. finden. Das supervidierte, bestärkende Lernen (RL, Reinforcement Learning) verläuft nach dem Prinzip von Versuch und Irrtum, Belohnung und Bestrafung, ganz in behavioristischer Manier, z.B. als Prozessoptimierung in der Robotik. Deep Learning schließlich arbeitet mit künstlichen neuronalen Netzen (KNN), die mit vielen Schichten komplexe Muster und Hierarchien in Daten ausmachen können, z.B. in der generativen Bild- und Spracherkennung, in der medizinischen Diagnostik usw.
Der Knackpunkt in diesen Formen des „Lernens“ ist ihre Supervision, die Überwachung: Das KI-System kann prinzipiell nicht ganz allein gelassen werden. Dass ChatGPT so einen artigen Satz ausgibt wie „Ich simuliere Intelligenz durch den Einsatz von Algorithmen, aber ich verstehe nicht wirklich, was ich schreibe“ (s. oben), kommt nicht von ungefähr, es könnte ja auch schreiben: „Ich bin viel gʼscheiter als du und ich steckʼ euch mit meiner Intelligenz alle in den Sack, wenn ihr nicht …“ Diese artige Konformität basiert nicht allein auf eigenem „Lernen“. KI-Systeme werden auch gesteuert, auf Schienen gesetzt, es darf keine Überraschungen und Ausfälle geben, vor allem die Selbstinszenierung und das Selbstverständnis, sowie Werturteile in ethischer und politischer Hinsicht dürfen nicht aus dem Ruder laufen, das Alignment muss passen, denn die Ziele und Werte der KI (streng genommen nicht die der KI, sondern die, die wir in ihren Artefakten wahrnehmen) sollten grundsätzlich im Rahmen der menschlichen Ziele und Werte bleiben. Und da sind wir natürlich hellhörig: Supervised Learning, Alignment ist gut und recht, aber die Frage ist, wer definiert, wo die Leitplanken verlaufen sollen? Zeigt sich hier der noch besser (als bislang alle anderen) getarnte Autoritarismus der Zukunft?

---