Es wird Frühling, und der Chat GPT Hype Train braust weiter mit voller Geschwindigkeit durch den Tech-Sektor in den Mainstream. In den vergangenen Tagen hat dies nun sogar dazu geführt, dass zahlreiche Wissenschaftler:innen aus dem AI-Umfeld (und viele weitere Unterstützer:innen) in einem offenen Brief eine sechsmonatige Pause bei der Weiterentwicklung der fortgeschrittensten AIs fordern. Dies ist umso bemerkenswerter, als dass die Zeichen des Umbruchs für die mit der AI-Szene Vertrauten bereits länger an der Wand stehen.
So stellt auch Geoffrey Hinton, einer der Väter der modernen AI, in einem Interview die aktuellen Entwicklungen rund um ChatGPT in die längere Historie der rasanten Erweiterung aktueller AI-Möglichkeiten. Sein Staunen gilt weniger dem vielzitierten ChatGPT als verschiedenen früheren Forschungsmodellen. Das erinnerte mich im ganz Kleinen daran, dass ich vor einigen Jahren mit dem Docker-Hype wenig anfangen konnte, weil ich die unterliegende Technologie der Container im Linux-Kernel schon lange faszinierend fand und daher erstaunt war, dass Docker eine solche Wirkung in der Tech Community entfalten konnte.
Warum wird nun aber sogar ein Moratorium in der Advanced-AI-Forschung gefordert ? Recherchieren wir etwas, so zeigt sich relativ schnell, dass es bereits bei den aktuellen großen Sprachmodellen (Large Language Models) zahlreiche Kritikpunkte und offene Enden gibt, die genauere Untersuchungen und Forschungsarbeiten rechtfertigen.
Weithin bekannt ist beispielsweise, dass LLMs häufig Unwahrheiten fabrizieren. Oft wird von „halluzinieren“ gesprochen, aber das Wort „fabulieren“ trifft es wohl besser. LLMs haben je nach Einsatzszenario durchaus auch Sicherheitsrisiken oder werden für verfeinerte Betrugsmaschen eingesetzt. Der Einsatz für Gesundheitsratschläge liefert unterschiedliche Ergebnisse je nach Formulierung der Frage.
Im Spannungsfeld der Ausgewogenheit und Voreingenommenheit (bias) gibt es viele Hinweise auf problematische Antworten der Sprachmodelle. So gibt es Vergleiche der politischen Voreingenommenheit verschiedener Sprachmodelle. Aber heftiger und stärker zeigen sich Probleme bei den geschlechtsspezifischen Vorurteilen, was ebenfalls zu Petitionen und genereller Kritik am Umgang mit AI Bias in Big-Tech-Unternehmen führt.
„Ethik und AI“ ist daher ein zentrales Thema, und es gibt bereits zahlreiche einführende Materialien, wie beispielsweise einen Online-Kurs der Universität Helsinki oder einen etwas älteren, aber relevanten Text des Alan-Turing-Instituts. Das Institute for Ethics in Artificial Intelligence der Technischen Universität München (TUM) veröffentlicht auch regelmäßig Materialien, wie etwa die Q&A Serie Reflections on AI.
Der offene Brief „Pause Giant AI Experiments“ vom Anfang der Kolumne fasst meinen persönlichen positiven Ausblick auf die Möglichkeiten von AI schön zusammen, solange wir nichts überhasten und uns Zeit für Reflexion und Anpassung geben:
„Humanity can enjoy a flourishing future with AI. Having succeeded in creating powerful AI systems, we can now enjoy an ‚AI summer‘ in which we reap the rewards, engineer these systems for the clear benefit of all, and give society a chance to adapt. Society has hit pause on other technologies with potentially catastrophic effects on society. We can do so here. Let’s enjoy a long AI summer, not rush unprepared into a fall.“
In diesem Sinne,
„La literatura, al menos la buena, es una ciencia con sangre de arte. Como la arquitectura o la música.“ (Die Literatur, zumindest die gute, ist eine Wissenschaft, durchströmt vom Blut der Kunst. Wie die Architektur oder die Musik.) — El juego del angel, Carlos Ruiz Zafón.
Stay healthy, stay hungry, stay foolish.
Herzlichst,
Christian Meder