Wie Ängste rund um KI sinnvolle Diskussionen und seriösen Journalismus verhindern

Reden Erwachsene darüber, was Kinder mit Technologie tun, dann können sie sich zwischen zwei Verfahren entscheiden.

Das erste Verfahren geht so: Sie können konkret mit Kindern ins Gespräch kommen und mit ihnen gemeinsam verstehen, was genau passiert. Fragen stellen, Emotionen zulassen – und sich nur ganz langsam ein Urteil bilden, das die Perspektive von Kindern einbezieht. Die Technologienutzung wird so mit der Gestaltung von Beziehungen und konkreten Situationen verbunden, sie wird zu einer Praxis von realen Kindern, die erklären können, was sie sich dabei denken, wenn sie Technologie nutzen. Eltern können Kindern dann helfen, indem sie sie bei einer gesunden Entwicklung begleiten, sie stärken, ihnen Mut machen – und ihnen zuhören, wenn die Kinder mit Problemen kämpfen.

Das zweite Verfahren geht von Ängsten aus, vom Schlimmsten, was Kindern zustossen könnte. Erwachsene, die sich daran orientieren, denken, sie müssten Kinder primär davor schützen. Sie orientieren sich an einer Slippery Slope, bei der scheinbar harmlose Verfahren nur der erste Schritt auf dem Weg zur grossen Gefahr sind. Die Begeisterung von Kindern für problematische Verhaltensweisen und die Bereitschaft, Technologie heimlich zu nutzen, werden immer wieder betont, so dass die vielen Kinder, die harmlos und offen mit diesen Möglichkeiten umgehen, in Vergessenheit geraten.

Das zweite Verfahren kann man als Moral Panic bezeichnen. Die damit verbundenen Ängste tauchen verstärkt auf, wenn Erwachsene Medien und Technik, mit der sie sozialisiert worden sind, normalisieren – und alles, was sich seither verändert hat, als Abweichung davon problematisieren. Das passiert mit jeder digitalen Technologie. Aktuell erleben wir das bei KI. Dabei ist besonders verstörend, dass die tatsächlich mit KI verbundenen Probleme in der Aufmerksamkeitsökonomie von den Ängsten verdrängt werden, die das zweite Verfahren erzeugt und verstärkt. Weil diese Ängste Magnete für das Interesse von Menschen sind, zersetzen sie auch die Qualitätsstandards im eher hochwertigen Journalismus.

Ein Beispiel ist kürzlich in der Süddeutschen Zeitung erschienen. Wolfgang Luef interviewt zum wiederholten Mal Daniel Wolff, den er als «Digitaltrainer» bezeichnet – wie das Wolff selber tut, um seine Kurse zu vermarkten. Wolff formuliert die Panik in einem populistischen Rahmen, in dem er der Warner und Retter vor einer grossen Gefahr ist:

Für mich ist die KI hier auch so etwas wie der letzte Weckruf. Wenn wir als Gesellschaft bei dieser Technologie nicht verstehen, dass wir unsere Kinder besser schützen und begleiten müssen, werden wir einen Teil unserer Kinder verlieren, und zwar vor allem der Teil, der schon sehr früh unbegleitet in digitale Welten geschickt wird.

Luef und Wolff klappern alles ab, was Sorgen erregen könnte: Pornographie, Suizide, Jugendsprache, Bildschirmzeit, Waffenbau, Cybermobbing, De-Skilling, Misogynie, Sucht. KI wird mit allem in Verbindung gebracht. «Eine ständige Überforderung», sagt Wolff.

Luef inszeniert Wolff so, als präsentiere er die Sicht von Kindern. Im Lead schreibt er, Wolff habe «mit Tausenden Kindern darüber gesprochen, wie sie mit Chatbots interagieren». Was damit gemeint ist: Wolff führt Kurse für Kinder durch, in denen er ihnen eine ganz klare Message bezüglich KI vermittelt. Er warnt, er zeigt Gefahren auf, er macht Angst. Die Reaktionen der Kinder interpretiert er dann so, wie er es im Interview zum Ausdruck bringt.

Das Gespräch macht deutlich, wie Wolff zu seinen Erkenntnissen kommt. Zwei Passagen sind besonders aufschlussreich:

1. «Ich frage in den 10. Klassen manchmal auch: Stellt euch vor, ihr seid König der Welt und habt einen roten Knopf, und wenn ihr den drückt, verschwindet Social Media für alle Menschen auf der Welt: Würdet ihr ihn drücken?»
2. «Es gibt einen »Geheimbefehl«, mit dem man den gesamten Chatverlauf und auch serverseitig alle Daten löschen lassen kann, die man der KI anvertraut hat: »/reset-all-ais«. Das erzähle ich den Kindern, und stoße damit auf ein unglaubliches Interesse. Neulich haben sich ein paar Kinder diesen Befehl sogar mit dem Kugelschreiber auf den Arm geschrieben, damit sie ihn auf keinen Fall vergessen. […] weil sie Sorgen haben, ihre intimen Themen und Gedanken bleiben irgendwo gespeichert. Oder dass die Eltern den Verlauf prüfen könnten. Kinder sind sich des Risikos also bewusst.»

Wolff führt also Workshops durch, in denen er eine klare Message vermittelt. Durch den Filter seiner «Sorgen», die er im Interview mehrmals erwähnt, interpretiert er die Reaktion der Kinder und Jugendlichen auf seine Botschaften. Selbstverständlich stösst man bei jungen Menschen auf Interesse, wenn man ihnen von einem «Geheimbefehl» erzählt – weil Geheimwissen faszinierend ist und Eingeweihte sich davon einen Statusvorteil versprechen. Was danach folgen müsste, wäre aber das Gespräch mit Jugendlichen, in dem deutlich wird, in welchen Situationen sie KI-Bots benutzen, was sie sich davon versprechen, welche Erfahrungen sie damit gemacht haben. Hier verweist Wolff dann auf eine im Artikel nicht näher spezifizierte «Studie», derzufolge bis zu zehn Prozent der Kinder sich an KI-Bots wenden, um sich von negativen Gefühlen abzulenken oder «vertrauliche Dinge zu besprechen».

Die aktuelle, repräsentative Jugendstudie von Pro Juventute kommt für Schweizer:innen zwischen 14 und 25 Jahren zu folgenden Umfrageergebnissen:

Man müsste also sagen: Jugendliche und junge Erwachsene wenden sich bei Problemen lieber an Freund:innen, Eltern oder Geschwister als an KI. Wolff blendet diese Ergebnisse aber aus und konstruiert aus den 10% ein Problem, das möglicherweise gar nicht existiert: Es kann bei Problemen durchaus sinnvoll sein, auch KI-Ergebnisse einzubeziehen. Die KI hat hier die Websuche ersetzt, die in dieser Befragung nicht mehr erwähnt wird – beides sind sinnvolle Wege, um z.B. medizinische Informationen zu erhalten.

Würde Luef die Aussagen von Wolff journalistisch sauber einordnen oder junge Menschen ins Gespräch einbeziehen, könnte man diese Verzerrungen leicht beheben (Wolff selber war früher auch Journalist). Man könnte dann Muster identifizieren, in denen die KI-Nutzung tatsächlich problematisch sein könnte, könnte verstehen, welche Fehlkonzepte jungen Menschen einen sinnvollen Umgang mit der Technologie erschweren. Daran ist Wolff aber gar nicht interessiert, weil er aus der Angst vor digitaler Technologie ein Geschäftsmodell gebaut hat.

Im Kapitalismus dürfen Menschen auch mit Angst Geschäfte machen. Es wäre aber schön, wenn der Journalismus hier kritisch draufschauen, seriös einordnen und eine konstruktive Auseinandersetzung ermöglichen würde. Wenn er die Angst befeuert und hofft, so Leser:innen abzuholen, verlieren grosse Teile der Menschen, die sich mit ehemals qualitativ hochwertigen Zeitungen informieren, den Bezug zur medialen und sozialen Realität.