ChatGPT und KI – was bedeutet das alles?

Bei all dem Hype um ChatGPT, grosse Sprachmodelle (LLMs) und KI, den scheinbar unbegrenzten Möglichkeiten dieser Technologie, fehlt die Auseinandersetzung, was diese Entwicklung für uns bedeutet. Das Thema wird auf Youtube, Twitter und überall wo ein Publikum ist breitgetreten, die Schlagzeilen überschlagen sich. Leider steckt hinter den Schlagzeilen, hinter dem Hype keine tiefergehende Reflexion.

Sprache

Die Diskussionen über ChatGPT und LLMs konzentrieren sich sehr stark auf die westliche Welt und westliche Weltanschauungen. Die meisten Trainingsdaten sind in Englisch. Wenn die Verteilung in etwa der allgemeinen Verteilung von Texten im Internet entspricht, werden es mehr als 50% in Englisch sein. Russisch, Spanisch, Französisch und Deutsch folgen weit abgeschlagen mit jeweils 4–5 %.

Sprache dient nicht nur der Kommunikation, Sprache ist tief mit Kultur, Identität und Zugehörigkeit verbunden. Einsprachigkeit ist die Ausnahme, Mehrsprachigkeit die Regel. In einigen Gebieten verwenden die Menschen eine Umgangssprache, eine Standardsprache und vielleicht sogar eine Lingua Franca, um über sprachliche Grenzen hinweg zu kommunizieren. Die meisten Feinheiten der Sprache gehen in den aktuellen Diskussionen verloren und das wird nicht besser: LLMs beschleunigen die Entwicklung des Englischen zur globalen Lingua Franca. Das ist nicht ohne Präzedenz – bis vor nicht allzu langer Zeit wurde ein Grossteil der europäischen Literatur in Latein verfasst. Und trotzdem ist es eine tote Sprache.
Vielleicht wird es dem Englischen genauso ergehen?

Hobbes' Guillotine

Ein wesentliches Problem, das ich in Bezug auf KI sehe, ist das Sein-Sollen-Problem. Der Philosoph David Hume formulierte das Problem im 18. Jahrhundert. Es zeigt den Fehlschluss auf, normative Aussagen (was «soll» sein) aus rein deskriptiven Aussagen (was «ist») abzuleiten.
Aber hier fangen die Probleme erst an! Was «soll» sein? Diese Frage ist überraschend schwierig zu beantworten – abgesehen von einem Verbot von Sklaverei, Folter und Völkermord gibt es wenig globalen Konsens, was «gerecht» ist, was «soll» sein. Ich denke im Diskurs über KI und LLM fehlt Demut. Wie können wir erwarten, dass ein System, das wir kaum verstehen, Probleme löst, über die wir als Menschheit seit Jahrtausenden nachdenken?

Wissen

In den letzten Wochen wurden zahlreiche historische Vergleiche im Zusammenhang mit KI gemacht. Sie reichten von Textverarbeitungsprogrammen, der Entdeckung von Feuer und Elektrizität bis zu sehr skurrilen Beispielen.
Der Vergleich, der mich am meisten anspricht: Die Einführung des modernen Drucks durch Johannes Gutenberg. Ebenso war eine der Säulen der Reformation, die Bibel in der jeweiligen Volkssprache verfügbar zu machen und nicht nur in Latein, damit sie von der breiten Masse verstanden werden konnte. Vor diesen Entwicklungen war Wissen erheblich zentralisierter.
Gelehrte und Klerikerinnen hielten das Wissen in den Händen und gaben es an die Öffentlichkeit weiter: Sie fungierten als Torwächter.

Für diejenigen von uns, die sich an die Zeit vor Smartphones erinnern: Auch wir sind in einer Ära aufgewachsen, in der Torwächter (Redakteure, Gelehrte usw.) den Zugang zu Informationen kontrollierten.
Mit dem Aufkommen des Internets, Seiten wie Wikipedia und nun KI, werden die traditionellen Wissenssysteme und ihre Torwächter erneut herausgefordert. Diese technologischen Fortschritte verändern allmählich die Art und Weise, wie Informationen verbreitet werden. KI ist nur ein weiterer, zugegebenermassen ziemlich grosser, Schritt in einem Prozess, der schon seit langem in Zyklen abläuft. So wie wir uns früher angepasst haben, werden wir uns auch diesmal wieder anpassen.

Eine übermässige Abhängigkeit von LLMs könnte zu einer Schleife führen, in der die Entstehung neuer Ideen selten wird. Logisches Denken wird ersetzt durch das Abrufen von Informationen und das Reproduzieren bereits existierender Inhalte. Was wie neue und innovative Konzepte und Ideen erscheint, ist in Wirklichkeit nichts anderes als ein Fraktal, das gleiche Muster wird immer weiter wiederholt.

Ich denke, im Diskurs über KI und LLM haben wir die falsche Perspektive. Ja, LLMs sind ein gewaltiger technologischer Sprung und haben unzählige Anwendungen mit dem Potenzial, unser Leben zu verbessern. Aber vergessen wir nicht, was wir nicht wissen; Wir sind alle nur auf unserem blassen blauen Punkt im unendlichen Nichts des Weltraums.
Wir stehen an einer Gabe. Die Richtung, die wir einschlagen werden, hängt davon ab, wie wir die menschliche Natur betrachten. Sind wir im Innersten gut oder schlecht? Hobbes oder Rousseau?