Zwischenruf: Halluzinationen für alle
von Olaf Cless
„Weiß die KI, dass sie nichts weiß?“ So fragt die Informatikprofessorin Katharina Zweig im Titel eines ihrer lesenswerten Bücher. Nein, die Künstliche Intelligenz weiß es nicht. Muss sie auch nicht. Ihre Sprachmodelle bilden bloß Textwahrscheinlichkeiten ab, basierend auf großen Datenmengen, für deren Bereitstellung immer mehr Rechenzentren Fläche und Energie fressen. Dass die KI nichts weiß, sollten die Menschen aber schon wissen. Zum Beispiel auch der Thüringer Ministerpräsident Mario Voigt (CDU). Er ist dank Recherchen der Plattform Frag den Staat unter dringenden Verdacht geraten, für das Verfassen von Gastbeiträgen und Gedenkreden KI genutzt zu haben, und zwar reichlich. Redenschreiber und andere Vertraute wären ja okay. Aber eine KI, um etwa der Opfer der Nazidiktatur zu gedenken? Aus Voigts Regierung kam kein Zeichen der Einsicht. Sondern das pampige und in der Sache schwammige Pochen darauf, „dass der Einsatz von künstlicher Intelligenz im Jahr 2026 zum Arbeitsalltag moderner Organisationen gehört.“ Die FAZ hat einen sogenannten Gastbeitrag von Voigt wieder entfernt bzw. „depubliziert“, wie es feinsinnig hieß. Er enthielt offenbar erfundene Zitate eines bekannten Psychologen. Die KI hatte sie, was immer wieder vorkommt, einfach halluziniert. Es muss nur plausibel wirken, darauf ist sie trainiert.
Mit solchen Halluzinationen schlägt sich auch die Justiz herum. Der deutsche Anwaltverein beklagte schon letztes Jahr, die Gerichte würden zunehmend mit Schriftsätzen konfrontiert, „die etwa erfundene Urteile enthalten, die als Präzedenzfälle ausgegeben werden.“ Im US-Bundesstaat Mississippi wurde ein Prozess abgebrochen, „nachdem aufgefallen war, dass die Anwälte beider Parteien, Kläger und Beklagte, Schriftsätze eingereicht hatten, die mindestens in Teilen von einer generativen KI stammten.“ (SZ) Auch hier gab es erfundene „Präzedenzfälle“.
Der Ministerpräsident Voigt ist ein kleiner Fisch, genau wie der Bundesdigitalminister Karsten Wildberger (CDU), der in seinen Artikeln und Reden eigene Gedanken ebenfalls eher sparsam einsetzt, oder der langjährige Chefredakteur des Tagesspiegel, Stephan-Andreas Casdorff, der sich einige Kommentare heimlich von KI „erstellen“ ließ und nun eine Zwangspause ableistet. Beunruhigender ist, dass inzwischen über die Hälfte aller neu ins Netz flutenden Texte künstlich generiert sind. Open-AI-Chef Sam Altman tönte schon 2024, sein Unternehmen erzeuge täglich hundert Milliarden Wörter. Das entspricht grob einer Million Bücher – pro Tag. Wohin gelangen wir, wenn die KI-Sprachmodelle wiederum mit diesem Content-Schrott gefüttert und trainiert werden? Mario, schreib uns bitte noch einen Deiner originellen Gastbeiträge!
Olaf Cless gönnt sich auch weiterhin das wohltuende Selberschreiben.
