Inga Strümke zeigt in »Künstliche Intelligenz«, warum wir maschinellem Lernen nicht hilflos ausgeliefert sind –

Cognitive off-loading wird die Lieblingsvokabel meines diesjährigen Messebesuchs. Beim Forum Mensch und KI sprechen die Monopol-Podcaster Friedrich von Borries und Alexander Doudkin mit Schriftstellerin Jenifer Becker darüber, ob Künstliche Intelligenz auch kreativ sein kann.

Kulturwissenschaftlerin Becker, die 2023 in ihrem Debütroman »Zeiten der Langeweile« das Suchtpotential von Social Media auslotete, lässt als Dozentin für Literarisches Schreiben an der Universität Hildesheim ihre Studenten Künstliche Intelligenz als Writing Buddies einsetzen.

In »Künstliche Intelligenz. Wie sie funktioniert und was sie für uns bedeutet« von 2023 (auf Deutsch seit 2024) bescheinigt die norwegische Physikerin Inga Strümke auch weit entwickelten Formen der KI kein kreatives Potenzial, also kein Bewusstsein, das nicht aus Rechenleistung erwächst. »Vielschichtige neuronale Netze sind keine künstlichen Gehirne, sondern ein langes, strukturiertes Rechenstück mit angepassten Parametern«.

Strümkes Rundumschlag von den Anfängen der KI bis hin zu den drängenden Fragen der Gegenwart ist sogar für Informatik-Dummies wie mich verständlich geschrieben. Übersetzt hat das Buch Christel Hildebrandt, die es mir auf der vergangenen Leipziger Buchmesse (ehem, also der von 2025) ans Herz legte.

Wem Künstliche Intelligenz immer noch unheimlich ist, weil sie sich menschliche Fähigkeiten anzueignen scheint, so ist genau das, laut Strümke, ihre Achillesferse. Wie wir Menschen, könnten trainierte Lernmodelle mit Sinnestäuschungen gefüttert werden und würden dann einen Auftrag ad absurdum führen, ohne die Konsequenzen ihres Tuns im Blick zu behalten. Klingt vertraut?

Strümke bringt ein Beispiel aus der norwegischen Wirtschaft, das auf das kurzsichtige Handeln jeder kapitalistischen Gesellschaft übertragen werden kann. Mit Misaligned Goals, also Zielen, die auf lange Sicht nicht vereinbar sind (z.B. der Maßgabe, soviel Öl zu fördern wie nur geht und gleichzeitig die natürlichen Ressourcen der Erde zu schonen), könne man den Lernprozess einer KI so lenken, dass sie die gleichen Fehler macht, wie ein Mensch und letztlich sich selbst schadet. Wenn das nicht tröstlich ist!

Strümkes Forderung: Transparenz und Nachvollziehbarkeit von KI-Rechenprozessen gesetzlich verankern, wie dies, in einem ersten Schritt, mit dem europäischen AI-Act geschehe. Solange der Mensch in der Rechenkette als Instanz auftauche („human in the loop“), könne KI auch noch kontrolliert werden, wenn ihre Antworten weniger offensichtlich falsch sind, als heute vielfach noch.

Dass KI-Antworten häufig haarsträubende Fehler enthalten, läge daran, dass der Computer zu halluzinieren anfange, um seinen Auftrag, also ein Rechenziel, trotz mangelnder Informationen zu erreichen. Die KI habe aufgrund riesiger menschlicher Datenmengen gelernt, auch aus wenigen Informationen scheinbare Tatsachen zu stricken, indem sie die Leerstellen des Wissens „kreativ“ fülle. Das ergibt dann alternative Fakten, wie wir sie aus der zeitgenössischen Politik schon kennen.

Strümke betont also mit Blick auf das Thema Kreativität die Fähigkeit von KI-Modellen, enorme Datenmengen in kürzester Zeit statistisch zu bearbeiten (und den kreativen Menschen so zu entlasten). Aber die menschliche Absicht hinter den Datenmengen zu erkennen, Gefühle oder gar übergeordnete Werte, gelingt ihnen nicht. Auch deshalb, weil diese Komponenten menschlichen Bewusstseins schwer in digitalen Code umzusetzen sind.

An dieser Stelle wird es besonders interessant für Schriftstellerinnen, die ja Bewusstsein in den Code der Sprache verpacken. Seit Jahrtausenden ringen Autoren genau darum: Empfindungen und innere Werte in Schriftsprache zu codieren, damit sie Eingang finden in die Blackbox des Gegenübers.

»Letzte Frage«. Podcaster und Startup-Gründer Alexander Doudkin mit Schriftstellerin und Dozentin Jenifer Becker beim Forum Mensch und KI der Leipziger Buchmesse

Welchen Nutzen hatten also die Studentinnen in Hildesheim vom Einsatz Künstlicher Intelligenz in ihren Schreibprozessen? »KI kürzt den Schreibprozess nicht ab«, betont Jenifer Becker. Sie könne aber durchaus durch die Fülle an Vorschlägen schneller über Schreibblockaden hinweghelfen. Phasen der Unsicherheit, das gelegentliche »Schwimmen«, könnten damit schneller überwunden werden.

Die letzte Frage der Moderatoren an Jenifer Becker betrifft die eher unkreative Seite ihres Jobs.
»Wenn Ihre Studenten Künstliche Intelligenz zum Schreiben benutzen, nehmen Sie dann KI auch zum Bewerten?«
Antwort: »Nein!«

Hier meine Besprechung von Jenifer Beckers Debütroman »Zeiten der Langeweile« von 2023

Inga Strümke, »Künstliche Intelligenz. Wie sie funktioniert und was sie für uns bedeutet«, aus dem Norwegischen übersetzt von Christel Hildebrandt, Rheinwerk Verlag, 273 Seiten. Erschienen am 3.9.2024.