Zwei echte KI-Probleme: Fehlendes & verstecktes Wissen

Einleitung: Monetarisierung von Informationen

(Wer direkt zu den Problemen möchte, zum nächsten Titel springen.)

Kritik am Einsatz von KI-Tools (ich meine damit in der Regel Large-Language-Models mit Chat-Interface) findet man in allen Schattierungen. Viele davon haben mit derselben Moral Panic zu tun, die jede Transformation des Informationsökosystems begleitet: Wenn Menschen über eine neue Technologie auf Wissen zugreifen, verlieren frühere Praktiken an Bedeutung. Das verändert Machtverhältnisse, weil sich der Zugriff auf Wissen verschiebt. Wer vor der Veränderung Macht ausüben konnte, möchte daran festhalten – und schürt deshalb Ängste vor dem, was die Veränderung bewirkt. Viele dieser Ängste sind unbegründet.

Gleichwohl lohnt es sich, genau hinzusehen. Was wir gerade erleben, ist die Ablösung der Web-Suche als primärer Wissenszugang durch die KI-Abfrage. (Zuvor hat die Web-Suche die Bibliotheksrecherche abgelöst.)

Die Web-Suche funktionierte vereinfacht wie folgt:

1. Programme (sogenannte Crawler) haben Inhalte von Webseiten abgerufen und einen Index erstellt.
2. Mit einem Algorithmus wurden Webseiten bewertet.
3. So liess sich bei einer Suchabfrage eine Rangliste erstellen, welche Webseiten die relevantesten Ergebnisse enthalten dürften.

Google hat sich in diesem Geschäft eine Vormachtposition gesichert. Das hatte zwei Gründe: Erstens funktionierte der Google-Algorithmus eine Weile lang besonders gut. Zweitens konnte Google dank seiner Macht über Suche und Web-Traffic enorm viele Werbegelder abschöpfen – weil Werbetreibende ihre Anzeigen dort platzieren wollten, wo auch die relevantesten Suchergebnisse erschienen.

Besonders deutschsprachige Verlage haben jahrzehntelang versucht, von Google eine Entschädigung dafür zu bekommen, dass dessen Web-Suche Ergebnisse von Newsseiten anzeigte und über Werbung monetarisierte. Die Sicht der Verantwortlichen war, dass sie Content bereitstellen, den Google dann vermittelt und mit Werbung versieht. Diese Leistung wollten sie bezahlt haben (sogenanntes «Leistungsschutzrecht»).

Google hat dabei immer die Position vertreten, dass die Verlage die Google-Crawler ja blockieren könnten. Das geht so: Jede Website enthält Hinweise, welche Bot-Programme darauf zugreifen dürfen oder nicht. Wenn man da hinschreibt, dass Google die Webseite nicht in den Index aufnehmen oder in der Suche ausspielen soll, dann hält sich der Google-Bot daran.

Verlage haben diese Möglichkeit nicht genutzt, weil Google-Suchen viele Besucher:innen auf ihre Seiten brachten, was wiederum für das Geschäftsmodell der Verlage hilfreich war (Werbung direkt ausspielen oder Abos verkaufen). Sie haben Paywalls hochgezogen, so dass die Google-Suchtreffer wie eine Art Teaser wirkten – und Menschen zahlen mussten, wenn sie den ganzen Artikel lesen wollten.

Was passiert nun, wenn Menschen nicht mehr über Google auf Wissen zugreifen, sondern KI-Tools Fragen stellen?

Weshalb Websites KI-Bots aussperren

KI-Tools setzen diese Crawler nun viel intensiver ein als Google. Warum? Sie brauchen Daten von Websites für drei Dinge (eigentlich mehr, aber leicht vereinfacht):

1. einen Index (wie bei Google)
2. die Beantwortung von Suchanfragen (wie bei Google)
3. Trainingsdaten (um die Modelle zu verbessern und à jour zu halten)

Das bedeutet, dass die Zugriffe auf allen Websites heute einen hohen Anteil an KI-Bots aufweisen. Dieser KI-Traffic kostet grössere Betreiber von Web-Angeboten Geld, weil sie für Serverleistungen zahlen müssen. Deshalb ist es naheliegend, diese Bots auszusperren – also in den Hinweisen zu vermerken, dass KI-Crawler bitte keine Abfragen durchführen sollen. Das hat für Betreiber zusätzlich den Vorteil, dass KI-Tools das Wissen dieser Seiten nicht abbilden können. Gerade für Newsseiten mit Paywalls ist das entscheidend, weil KI-Tools User:innen nicht mehr auf die Seiten führen, sondern alle Informationen direkt anzeigen.

Hier liegt das erste Problem: Würde dieses Aussperren funktionieren, dann würden z. B. aktuelle Informationen in den KI-Abfragen fehlen. Das war bereits beim Start von ChatGPT so, als das Tool nur veraltetes Wissen abrufen konnte. Auch heute haben KI-Tools etwas Mühe damit, Informationen in real-time abzurufen, besonders in den für Nutzer:innen kostenlosen Versionen.

Das zeigt sich etwa bei Modetrends: Es ist nicht ganz einfach, dazu mit KI-Tools wirklich relevante Informationen zu bekommen, weil viele Mode-Websites KI-Traffic blockieren. Nur: Viele Crawler halten sich nicht an die Hinweise, wie Buzzstream herausgefunden hat. Sie greifen also auch dann auf Websites zu, wenn diese angeben, dass KI-Crawler nicht erwünscht sind. Technisch ist das (noch) möglich – es ist aber denkbar, dass das wirksam verhindert wird.

Problem 1 besteht also darin, dass ein Teil des aktuellen Wissens in den KI-Tools gar nicht angezeigt werden kann. Das ist insofern kein neues Phänomen, als auch Google nie auf das gesamte Wissen zugreifen konnte. Der Versuch, mit Google Books alle Bibliotheken zu digitalisieren, hat das deutlich gezeigt: Besonders Wissen aus älteren Büchern ist auf Google nur schlecht oder gar nicht zugänglich. Aktuell kaufen KI-Firmen alte und seltene Bücher auf und speisen sie in ihre Tools ein – im Prozess werden die Bücher dabei leider oft zerstört.

Weshalb KI-Tools Wissen ausblenden

Das ist ein Plastik-Tag, das H&M an Kleidungsstücken anbringt, um Ladendiebstähle zu verhindern. Wenn man die Self-Checkout-Kassen nutzt, die es in einigen H&M-Filialen gibt, vergisst man immer wieder, diese Tags zu entfernen. Zuhause möchte man das gerne mit Hausmitteln nachholen, muss aber wissen, wie es geht. (Wenn man es falsch macht, gehen zwei Farbbehälter kaputt und beschädigen das Kleidungsstück.)

Fragt man ChatGPT, wie man diese Tags entfernen kann, erhält man keine Antwort. Warum nicht? Weil OpenAI aus Image-Gründen Informationen unterdrückt, die mit Verbrechen in Verbindung gebracht werden könnten. Das Wissen, das zahlende Kunden nutzen, um sich einen weiteren Gang in ein weiter entferntes Geschäft zu ersparen, ist dasselbe, das Menschen nutzen, die Kleider stehlen. Es den Menschen deshalb vorzuenthalten, ist ein Problem.

Grundsätzlich sollten Demokratien festlegen, welche Informationen nicht verbreitet werden dürfen – und zwar recht zurückhaltend. Wenn das private Firmen tun, die international operieren, dann kann es sein, dass plötzlich die rechtsextreme US-amerikanische Politik diktiert, welche Informationen Schweizer Jugendlichen zugänglich sind. Denkbar wäre dann, dass es schwer wird, herauszufinden, wie Schwule Safer Sex praktizieren können oder wie der Zugang zur Pille danach geregelt ist. Besonders beim Urheberrecht orientieren sich die KI-Tools heute an Standards, die zumindest in der Schweiz nicht gesetzlich verankert sind. Sie weigern sich, längere Passagen zu übersetzen oder OCR an Dokumenten durchzuführen, wenn diese urheberrechtlich geschützt sein könnten.

Das ist Problem 2: Unternehmen machen Wissen unsichtbar, das ihnen nicht gefällt. Dieses Problem besteht immer, wenn Unternehmen den Zugriff auf Informationen steuern. Kürzlich habe ich gelesen, dass es im heutigen politischen Umfeld in den USA undenkbar wäre, Bibliotheken einzuführen, weil die herrschenden Kräfte es völlig unsinnig fänden, Menschen kostenlosen Zugriff auf Wissen zu ermöglichen. Im Umkehrschluss bedeutet das, dass Staaten die Technologie schon bei Google – und erst recht bei KI – als öffentliche Infrastruktur betrachten müssten.

Das Missverständnis in der EU besteht darin, zu glauben, man müsse ein europäisches Google oder eine europäische KI entwickeln, die sich dann am Markt durchsetzen würde. Der Zugriff auf das für alle Menschen relevante Wissen darf gar nicht dem Markt überlassen werden, da der Markt hier immer versagt (es liegen alle vier Gründe für Marktversagen vor, was jeden öffentlichen Eingriff legitimiert). Der Schluss daraus: Die EU müsste Google und die KI-Unternehmen so weit enteignen, dass diese – etwa gegen eine vernünftige Lizenzgebühr – die Kontrolle über ihre Tools an staatliche Institutionen abgeben, die ihrerseits demokratischer Kontrolle unterstehen.

Darin besteht aus meiner Sicht die einzige Lösung für die hier beschriebenen Probleme: Die EU (oder einzelne Staaten) müsste die Dienste von Google, OpenAI und Anthropic nach gesetzlichen Vorgaben betreiben – in der Logik von Bibliotheken.