Schule und Überwachung

Der folgende Text ist eine Übersetzung von Audrey Watters’ Rede: School Work and Surveillance. Im Original erschienen auf ihrem Blog: http://hackeducation.com/2020/04/30/surveillance (30. April 2020)

Diese Übersetzung ist lizenziert unter einer Creative Commons Namensnennung 4.0 International Lizenz. Bitte auch auf den Originaltext verlinken, danke!

* * *

Ich durfte heute Morgen im MA-Lehrgang Elearning am Cork Institute of Technology einen Vortrag halten. Vielen Dank an Gearóid Ó Súilleabháin für die Einladung. Was folgt ist ein Teil von dem, was ich erzählt habe… 

Vielen Dank, dass Sie mich für einen Vortrag eingeladen haben. Es ist aktuell seltsam, aber doch notwendig, über EdTech (Bildungstechnologie) zu sprechen, einen Kurs über EdTech zu belegen, einen Abschluss in Bildungstechnologie zu erlangen – denn was früher als fakultativ oder erstrebenswert erschien, ist jetzt obligatorisch – unter den schlechtesten Umständen. Es ist also seltsam, aber doch notwendig, als Kritikerin von EdTech aufzutreten, denn während ich die Leute früher schon sehr wütend gemacht habe, stehe ich jetzt noch mehr unter Druck, etwas Nettes über EdTech zu sagen und zu versichern, dass mit der Zeit, sicherlich bis zum Herbstsemester alles besser wird. 

Das kann ich nicht. Tut mir leid.

Es ist auch zutiefst unangenehm, Amerikanerin mit irgendeiner Art von Expertise zu sein. Das war schon lange vor der Wahl 2016 so, aber seitdem erlebe ich das verstärkt. Ich möchte heute nicht so tun, als würde ich allgemeine, pauschale Aussagen über das gesamte Bildungswesen aller Länder machen, wenn ich sehr spezifisch über das Bildungssystem in den USA und die EdTech-Branche in den USA spreche. Das als Vorbehalt und Entschuldigung im Voraus. 

Einer der Gründe dafür, dass ich EdTech nicht gerade zuversichtlich gegenüberstehe: Ich betrachte sie nicht als autonom und kontextfrei. EdTech ist kein Werkzeug, das der Verbesserung des Lehrens und Lernens dient, auch wenn sie sehr oft so verkauft wird. Es gibt mehr zu bedenken als nur Pädagogik, als nur die Frage, was EdTech besser oder schlechter oder ungefähr gleich gut, aber dafür teurer macht. Pädagogik findet nicht in einem Vakuum statt. Sie ist an die Geschichte von Institutionen gebunden. Pädagogik ist politisch. Werkzeuge sind politisch. Sie haben eine Geschichte. Sie werden entwickelt, finanziert und aus einer Vielzahl von Gründen angenommen oder abgelehnt. Diese Gründe hängen nicht damit zusammen, »was funktioniert«. Allein die Vorstellung, »was funktioniert« sollte uns veranlassen, verschiedene weitere Fragen zu stellen: »Für wen?«, »Auf welche Weise?« und »Warum?«

Ich möchte heute ein wenig über einen Trend in der Bildungstechnologie sprechen, der meiner Meinung nach in den kommenden Monaten und Jahren sehr wichtig sein wird. Ich kann das mit einiger Sicherheit behaupten, weil es seit sehr langer Zeit einer der wichtigsten Trends in der Bildungstechnologie ist. Es geht um Überwachung.

Ich behaupte nicht, dass Überwachungstechnologie zwangsläufig wichtiger und durchdringender sein wird. Ginge es nach mir, würde das Bildungswesen in Zukunft nicht stärker überwacht, mit Daten untermauert, analysiert, vorhergesagt, geformt und kontrolliert. Ich möchte nicht, dass sich Bildung in diese Richtung entwickelt, aber sie tut es.

Überwachung ist nicht nur deshalb allgegenwärtig, weil sie in der Technologie steckt, die an Schulen verkauft wird. Vielmehr spiegelt die Überwachung in vielerlei Hinsicht Werte, denen wir bereits Priorität eingeräumt haben: Kontrolle, Zwang, Effizienz. Überwachung spielt sich für verschiedene Schüler*innen an verschiedenen Schulen sehr unterschiedlich ab: Das hängt davon ab, ob Schulen verlangen, dass Schüler*innen durch Metalldetektoren gehen, ob sie bei Disziplinarverstößen die Polizei einschalten, ob sie verfolgen, was die Schüler*innen online tun, auch wenn sie zuhause sind. Im Moment besonders dann, wenn sie zuhause sind.

Um die Bildungseinrichtungen von einer Überwachungskultur wegzubewegen, müssen wir Prioritäten und Praktiken fundamental verändern – Prioritäten und Praktiken, die bereits lange vor dieser globalen Pandemie Bestand hatten.

In der Vergangenheit diente ein großer Teil der Überwachung dazu, aufzuzeichnen, was die Lehrerin tat (und sie dabei zu kontrollieren). Sie – mir ist klar, dass nicht alle Lehrkräfte weiblich sind, aber der Beruf ist sicherlich weiblich geprägt – ist schließlich allein in einem Klassenzimmer mit Kindern anderer Leute. Ich werde gleich noch einmal auf diese Vorstellung der Überwachung von Lehrkräften zurückkommen.  Denken Sie daran, dass keine der Technologien, über die ich spreche, nur Schülerinnen und Schüler betrifft.

Die vielleicht offensichtlichste Form der Überwachung in Schulen betrifft Technologien, die Betrug verhindern oder aufdecken sollen. Wenn wir unsere Definition von »Technologie« so erweitern, dass sie mehr als nur Dinge mit Zahnrädern oder Silizium einschließt, dann erkennen wir vielleicht, dass ein Großteil der physischen Klassenraumgestaltung darauf abzielt, Überwachung zu verstärken und die Betrugsmöglichkeiten zu verringern: Die Lehrerin in einer Aufsichtshaltung vor der Klasse, die zwischen Schreibtischreihen auf und ab geht und den Schüler*innen über die Schulter schaut. (Lehrerinnen und Lehrer wissen natürlich, wie sie diese physische Umgebung verändern können – indem sie zum Beispiel die Stühle umstellen. In einem digitalen Klassenraum fällt das aber vielen Lehrkräften schwerer, teilweise können sie Überwachung dort nicht verhindern.)

Trotz aller Voraussagen, EdTech würde Schulen massiv verändern, gar zu einer Disruption führen, ist es genauso wahrscheinlich, dass sie bestehende Tendenzen verstärkt. Das heißt, es ist weniger wahrscheinlich, dass wir EdTech einsetzen, um Lernaufgaben oder Bewertungen zu überdenken, als dass wir EdTech einsetzen, um das Verhalten der Schülerinnen und Schüler genauer zu beobachten.

Einige der frühesten Formen von EdTech – Maschinen, die in der Mitte des 20. Jahrhunderts entwickelt wurden, um den Unterricht zu automatisieren – sahen sich dem Vorwurf ausgesetzt, sie würden es den Schüler*innen leichter machen zu betrügen. Wenn diese Maschinen es den Lernenden ermöglichen würden, sich in ihrem eigenen Tempo und ohne Aufsicht durch eine Lehrerin durch die Kursmaterialien zu bewegen, musste es (musste es!) einen Mechanismus geben, um betrügerisches Verhalten zu verhindern. Wie heute versprachen diese Technologien eine »Personalisierung« der Bildung; aber diese zunehmende Individualisierung brachte auch die Forderung mit sich, in neue Geräte Möglichkeiten einzubauen, um die Lernenden genauer zu verfolgen. Mehr Personalisierung bedeutet mehr Überwachung – das kennen wir von Facebook und Amazon, nicht wahr?

Und das ist entscheidend: Die Angst, dass Schülerinnen und Schüler betrügen könnten, ist konstitutiv für einen Großteil der Bildungstechnologie. Dieser Glaube diktiert, wie sie designt und eingesetzt wird. Und im Gegenzug bestärkt er die Vorstellung, dass alle Studenten potenzielle Schul-Kriminelle sind.

Die wohl bekannteste Technologie zur Betrugsverhinderung war lange Zeit die Plagiatserkennungssoftware TurnItIn. Das Unternehmen wurde 1998 von Doktorierenden in Berkeley gegründet, die über Betrug in den von ihnen unterrichteten Naturwissenschaftskurse besorgt waren. Denken wir an die Kosten der Technologie, ist erwähnenswert, dass diese Dozierenden besonders besorgt darüber waren, wie die Studenten eine neue digitale Funktion nutzten: Copy-and-Paste. Also wendeten sie einige ihrer Forschungsergebnisse über Mustervergleiche von Gehirnwellen an, um eine Software zu entwickeln, die Muster in Texten identifizieren konnte. Und wie Sie sicher wissen, wurde TurnItIn zu einem riesigen Unternehmen, das seit 2008 mehrfach von Private-Equity-Firmen gekauft und verkauft wurde: zuerst von Warburg Pincus, dann von GIC und 2014 von Insight Partners. Verkaufspreis: 754 Millionen Dollar. TurnItIn wurde im vergangenen Jahr für 1,75 Milliarden Dollar von dem Medienkonglomerat Advance Publications übernommen.

Wir sollten also fragen: Was ist so wertvoll an TurnItIn? Ist es die Größe des Kundenstamms – die Anzahl der Schulen und Universitäten, die für die Nutzung des Produkts bezahlen? Sind es die Algorithmen, die Fähigkeiten zur Mustererkennung, die Plagiate identifizieren sollen? Ist es die riesige Datensammlung, die das Unternehmen angehäuft hat: Jahrzehnte gefüllt mit Aufsätzen, Abschlussarbeiten und Wikipedia-Einträgen, die es zur Bewertung von Arbeiten verwendet?

TurnItIn wurde mehrfach von Studierenden angeklagt, die sich darüber beschwert haben, dass die Software ihre Rechte auf Eigentum an ihren Arbeiten verletze. Ein Richter entschied jedoch 2008, das Urheberrecht der Studenten werde nicht verletzt, da sie den Nutzungsbedingungen zugestimmt hatten.

Aber was bleibt einem anderes übrig, als auf »Ich stimme zu« zu klicken, wenn man von seiner Professorin oder seiner Universität gezwungen wird, eine Software zu benutzen? Welche Wahl hat man, wenn der gesamte Bewertungsprozess an den Glauben geknüpft ist, dass die Schülerinnen und Schüler betrügen? Wie verhindert man den Einsatz von EdTech, die darauf ausgerichtet ist, Unehrlichkeit festzustellen und einzudämmen?

Alle Studierenden sind schuldig, bis der Algorithmus ihre Unschuld beweist.

Übrigens verspricht eines der neueren Produkte von TurnItIn, den Lernenden zu helfen, Plagiate zu vermeiden. So verwenden es nun auch Unternehmen, die Hausarbeiten gegen Geld schreiben. Sie können ihren Kunden nun versprechen, dass sie nicht beim Betrügen erwischt werden. Das Unternehmen bedient beide Seiten des Plagiatmarkts. Genial.

Bei Anti-Betrugs-Software geht es natürlich nicht nur um Plagiate. Sie analysiert nicht mehr nur die Aufsätze der Schüler, um sicherzustellen, dass der Text ein Original ist. Es gibt eine wachsende digitale Kontrollindustrie, die den Schulen die Möglichkeit bietet, Schüler*innen während einer Online-Prüfung zu überwachen. Bekannte Namen in der Branche sind ProctorU, Proctorio, Examity, Verificient. Viele dieser Unternehmen wurden um das Jahr 2013 gegründet – also mit dem Rückenwind des »Jahres des MOOC« –, in dem Glauben, dass immer mehr Studierende online lernen würden und Dozierende eine Art Verfahren zur Überprüfung von Identität und Integrität verlangen würden. Laut einer Investmentgesellschaft wurde erwartet, dass der Markt für Online-Beaufsichtigung im vergangenen Jahr 19 Milliarden Dollar erreichen würde – viel kleiner als der Markt für Plagiatsentdeckung, wenn Sie mich fragen, aber ein Markt, der nach Ansicht der Investoren schnell wachsen würde, insbesondere im Hinblick auf die Coronavirus-Pandemie.

Diese Aufsichtsinstrumente sammeln und analysieren weit mehr Daten als nur die Wörter eines Studenten, als seine Antworten in einer Prüfung. Sie verlangen, dass die Studierenden vor Beginn der Prüfung einen Lichtbildausweis vor ihrer Laptop-Kamera vorzeigen. Je nachdem, welche Art von Ausweis sie verwenden, sammelt die Software Daten wie Name, Unterschrift, Adresse, Telefonnummer, Führerscheinnummer, Passnummer sowie alle anderen persönlichen Daten des Ausweises. Dazu können Staatsangehörigkeit, Herkunft oder Militärstatus gehören. Die Software sammelt auch physische Merkmale oder persönliche Daten wie Alter, Rasse, Haarfarbe, Größe, Gewicht, Geschlecht oder Geschlechtsidentität. Anschließend gleicht sie diese Daten mit dem »biometrischen Gesichtsabdruck« des Studenten ab, der von der Laptop-Kamera erfasst wurde. Einige dieser Produkte erfassen auch die Tastenanschläge und Tastenmuster eines Schülers. Manche verlangen, dass der Student das Passwort auf ihrem Rechner abgibt. Einige verfolgen die Standortdaten, um festzustellen, wo der Student arbeitet. Sie nehmen Audio- und Videoaufnahmen von der Sitzung auf – die Hintergrundgeräusche und die Szenerie von zu Hause des Studenten.

Die Überwachungssoftware verwendet diese Daten dann, um das Verhalten eines Studenten während der Prüfung zu überwachen und Muster zu erkennen, die sie auf Betrug schließen lassen – wenn die Augen zu lange vom Bildschirm abweichen, steigt beispielsweise der »Verdacht«-Score. Der Algorithmus entscheidet – manchmal unter Beizug einer menschlichen Aufsichtsperson, wer verdächtig ist. Der Algorithmus entscheidet, wer betrügt.

Wir wissen, dass Algorithmen parteiisch sind, weil wir wissen, dass Menschen parteiisch sind. Wir wissen, dass Gesichtserkennungssoftware Mühe hat, Nicht-Weisse zu identifizieren, und es gab Berichte von schwarzen Studierenden, dass die Aufsichtssoftware von ihnen verlangte, sich während der Prüfung in besser beleuchtete Räume zu begeben oder mehr Licht auf ihre Gesichter zu werfen. Da die Algorithmen, die die Entscheidungsfindung in diesen Produkten vorantreiben, proprietär in einer Blackbox ablaufen, wissen wir nicht, ob oder wie sie bestimmte physische Merkmale oder kulturelle Charakteristika nutzen, um verdächtiges Verhalten festzustellen.

Wir wissen jedoch, dass es eine lange und rassistische Geschichte der Physiognomie und Phrenologie gibt, die versucht hat, den moralischen Charakter von Menschen anhand ihrer körperlichen Erscheinung vorherzusagen. Und wir wissen, dass auch Schulen eine lange und rassistische Geschichte haben, die daran anschließt.

Natürlich geht es bei der Überwachung in Schulen nicht immer um die Verhinderung von Betrug; es geht nicht immer um akademische Unehrlichkeit – aber es geht immer, so meine These, um die Überwachung von Verhalten und Charakter. Und bei der Überwachung geht es immer um die Ungleichheiten, die Schüler*innen in unseren Bildungseinrichtungen bereits erleben.

In den letzten Jahren hat, zumindest in den USA, eine wachsende Zahl von Schulen Überwachungstechnologie eingeführt, die speziell zur Verhinderung von Amokläufen an Schulen entwickelt wurde. In gewisser Weise ähneln diese Angebote den Online-Überwachungsinstrumenten, außer dass sie gleichzeitig physische wie auch Online-Räume überwachen und dabei Gesichtserkennungssoftware und Algorithmen verwenden, die vorgeben, Bedrohungen zu erkennen. Diese Online-Überwachung umfasst eine Auswertung der Social-Media-Konten Schüler*innen, das Suchen nach bedrohlichen Schlüsselwörtern und Ausdrücken. (Diese Produkte werden auch an Schulen in anderen Ländern verkauft, und zwar nicht als Prävention von Schießereien an Schulen – das scheint ein groteskes amerikanisches Phänomen zu sein –, sondern oft als Mittel zur Erkennung von potenziellem politischen und religiösen Extremismus und Radikalisierung unter Schülern).

Und es gibt noch viele weitere Beispiele, die ich Ihnen leider auch nennen könnte, wie Überwachungstechnologien die Schulen durchdringen. Schulen mit Iris-Scannern in der Mensa. Schulen, die Schülerausweise mit Chips ausstatten und die Mobiltelefone der Schüler überwachen, um sicherzustellen, dass sie im Unterricht sind. Und all dies zusätzlich zu den unglaublichen Datenmengen, die von der täglichen Verwaltungssoftware der Schulen gesammelt und analysiert werden – vom Lernmanagementsystem (LMS), dem Schulinformationssystem, dem Schulnetzwerk selbst und so weiter. Wie ich schon sagte: Es geht hier nicht nur darum Betrug zu verhindern, sondern all dies ist Ausdruck einer Schulkultur, die den Schüler*innen nicht vertraut.

Was passiert nun also, da wir alle von zu Hause aus arbeiten und lernen?

Nun, zum einen werden die Schulen noch stärker unter Druck geraten, Überwachungssoftware zu kaufen – natürlich, um Betrug zu verhindern, aber auch, um alle möglichen Vorschriften zu erfüllen und die Präsenzpflicht zu überwachen. Sind die Schüler wirklich eingeschrieben? Nehmen sie tatsächlich am Unterricht teil? Erledigen sie die Arbeit? Loggen sie sich in das Lernmanagementsystem ein? Tauchen sie in Zoom auf? Lernen sie wirklich etwas? Wie geht es ihnen? Sind sie »gefährdet«? Was machen die Lehrerinnen und Lehrer? Halten sie den Unterricht regelmässig ab? Wie schnell reagieren sie auf die Meldungen der Studierenden im Lernmanagementsystem?

Und damit sind wir wieder bei etwas, das ich eingangs erwähnt habe: die Überwachung der Lehrkräfte.

Sehr lange Zeit war das Argument, das viele Arbeitgeber gegen Homeoffice vorbrachten, dass sie ihren Angestellten nicht zutrauten, produktiv zu sein. Vorgesetzte mussten jederzeit am Schreibtisch vorbeigehen und sicherstellen können, dass »diese TPS-Berichte bis heute Nachmittag bei uns vorliegen«, um einen Satz aus dem grandiosen Film Office Space zu entlehnen. Und so wie EdTech auf der Grundlage des Misstrauens gegenüber den Studierenden entwickelt wird, so wird die Unternehmenstechnologie – d.h. die Technologie, die an große Unternehmen verkauft wird – auf der Grundlage des Misstrauens gegenüber den Arbeitnehmenden entwickelt. Auch hier gibt es eine lange Geschichte – eine, in der es nicht nur um Computer geht. Die Stempeluhr zum Beispiel wurde 1888 von dem Juwelier William LeGrand Bundy erfunden, um zu verfolgen, wann seine Angestellten kamen und gingen. Er und sein Bruder gründeten die Bundy Manufacturing Company, um die Geräte herzustellen, und nach einer Reihe von Fusionen wurde sie Teil einer kleinen Firma namens International Business Machines oder IBM. Diese »Business Machines« wurden mit dem Versprechen effizienterer Arbeitsplätze verkauft. Und das bedeutete eine Überwachung der Arbeitnehmenden.

Zoom, diese wunderbare Videokonferenzsoftware, die wir gerade benutzen, ist ein weiteres Beispiel für Unternehmenstechnologie. Zoom hatte nie die Absicht, den Bildungsmarkt zu bedienen. Und es gibt eine ganze Menge Funktionalitäten der Software, die offenbart, wessen Interessen sie dient – zum Beispiel die Möglichkeit zu verfolgen, wer zuhört und wer tatsächlich an etwas anderem arbeitet (eine Funktion, welche die Firma zugegebenermaßen Anfang dieses Monats nach Beschwerden über ihre ziemlich miserablen Sicherheits- und Datenschutzpraktiken deaktiviert hat). Wer betrügt die Stempeluhr? Wer betrügt den Chef? 

Social-Media-Überwachungsinstrumente, die zur Überwachung von Studierenden eingesetzt werden, werden auch zur Überwachung von Arbeiter*innen eingesetzt, um diejenigen zu identifizieren, die möglicherweise kurz davor sind, sich gewerkschaftlich zu organisieren oder zu streiken. Gaggle, ein Überwachungsinstrument, das von vielen Schulen eingesetzt wird, schrieb vor ein paar Jahren einen Blog-Beitrag, in dem er den Schulverwaltungen vorschlug, die Überwachung auch auf die Lehrenden auszudehnen: »Denken Sie an die Arbeitsniederlegung von Lehrkräften in West Virginia, die kürzlich stattfand«, hieß es in dem Beitrag. »Hätte die Geschichte anders verlaufen können, wenn die dortigen Schulleiter bereits Monate zuvor Suchergebnisse für ‚Krankenversicherung‘ oder ‚Streik‘ angefordert hätten? Gelegentliche Suchanfragen nach ‚Gehalt‘ oder ‚Entlassungen‘ könnten Bedenken des Personals abwehren, die zu negativer Presse für Ihren Schulbezirk führen.« Als Reaktion auf einen wilden Streik an einer US-Universität Anfang dieses Monats drohte die Verwaltung denjenigen Lehramtsstudierenden, die sich nicht in das Lernmanagementsystem eingeloggt hatten, mit dem Verlust ihrer Stipendien.

Eine meiner größten Befürchtungen im Moment ist, dass diese Pandemie diese Überwachungskultur in der Schule verstärkt. Und die neuen Technologien, die eingeführt wurden, um den »Umbruch zur Digitalisierung« zu erleichtern, werden die bestehenden Ungleichheiten im Bildungsbereich verschärfen und gefährdete Schüler*innen einem noch größeren Risiko aussetzen. Diese Technologien werden Möglichkeiten sowohl für Lernende als auch für Lehrende unterbinden und Dissens, Diskussionen, Neugierde und Gemeinschaft verhindern.

Allzu oft haben wir im Bildungswesen und in der EDV Überwachung mit Betreuung verwechselt. Wir müssen die Schüler*innen genau beobachten, sagen wir uns, denn wir wollen, dass sie sicher sind und es ihnen gut geht. Aber Fürsorge bedeutet Vertrauen, und Vertrauen bedeutet, in der Lage zu sein, einen Kontrollblick abzuschalten. Es scheint leider so, als würden wir ihn aufdrehen.