Dringende Überlegungen zu künstlicher Intelligenz und Bildung

von Mauro Jarquín Ramírez,* Mexiko

(8. August 2023) (Red.) Die digitale Form der Medien hat das Zusammenleben der Menschen nachhaltig verändert. Die Benutzung von Computer und Internet ist aus unserem alltäglichen Leben nicht mehr wegzudenken. Die Informatik hat die Fähigkeit entwickelt, nicht nur Informationen aufzunehmen und zu verarbeiten, sondern Muster zu erkennen, zu analysieren und Vorhersagen anzustellen. Seit den 60er-Jahren spricht man von «künstlicher Intelligenz» oder kurz KI.

Bereits nach kurzer Zeit machte sich unter den Forschern ein Unbehagen breit. Transatlantische Konzerne, Stiftungen, Verbände und Lobby-Gruppen wie der international Medienkonzern Bertelsmann, die Europäische Union, die Welthandelsorganisation WTO, die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung OECD und die Weltbank IWF sind die treibenden Kräfte im Umbau des nationalen Bildungswesens. Dieses, in seinem Wesen auf das Gemeinwohl ausgerichtet, wird im Sinne der Unternehmensinteressen untergraben.

Auch in Mittelamerika hat sich ein Unbehagen über digitale Medien und die Entwicklung der Künstlichen Intelligenz breit gemacht. In einem im Mai 2023 in «La Jornada» erschienen Artikel warnt der mexikanische Philosoph Mauro Jarquín Ramírez vor einer neokolonialen Ausbeutung von Bildung und Schule. Digitale Strukturen, Plattformen und Formen der KI verletzen die staatliche Souveränität über die Bildung, denn verschiedene KI-Produkte haben eine ideologische Implikation.

* * *

Die Entwicklung der künstlichen Intelligenz (KI) hat in den letzten Jahren einen regelrechten Boom erlebt. Als die Ausbreitung der KI auch den Bildungssektor erreichte, löste sie dort einen Innovationswirbel aus. Begleitet wurde sie von Werbekampagnen, welche die grossen Vorteile für das Bildungswesen betonten. Man konstruierte die Geschichte, die KI sei im wesentlichen ein Werkzeug, das Lehrende und Lernende im Lehr-Lern-Prozess durch Strategien wie die Personalisierung unterstützen könne und an das Lehrende eine breite Palette von Aufgaben delegieren können, insbesondere administrative Aufgaben, die oft zeitaufwändig seien.

Zuversicht, aber auch Skepsis herrschen

Der angekündigte Einzug privater KI in Schulsysteme auf der ganzen Welt hat in weiten Teilen der Gesellschaft und der Wissenschaft grosses Interesse geweckt, wobei sowohl Zuversicht in die potenziellen Verbesserungen des Lehrens und Lernens als auch Skepsis oder offene Besorgnis über die Auswirkungen der «Anwendung» einer solchen Technologie herrschen. In der Folge wurden Vorträge und Debatten organisiert, in denen die Perspektiven von KI und Bildung erörtert wurden.

Obwohl diese Treffen äusserst interessant waren, konzentrierte sich die Diskussion bisher hauptsächlich auf strukturelle Beschränkungen und Ungleichheiten beim Zugang zu Technologien und zum Internet sowie auf instrumentelle Bedenken, wie unsere Produktivität gesteigert und die Vorteile dieser Technologien genutzt werden könnten. Bestimmte Risiken, die im Allgemeinen mit Missbrauch, Plagiaten oder Vorurteilen in der generativen KI verbunden sind, wurden ebenfalls diskutiert.

Geschichte und Kontext erfragen

KI im Bildungsbereich wird häufig als selbstverständlich angesehen, als ob sie keine Geschichte oder keinen Kontext hätte. Darüber hinaus wird sie so dargestellt, als sei sie ein Werkzeug, das von seinen Nutzern nach Belieben eingesetzt werden könne. Sie wird nicht als eine technische, historisch bedingte Ausdrucksform betrachtet, die Auswirkungen auf jene hat, die sie nutzen; als eine Technologie, die nicht nur nützliche und «zugängliche» akademische Inhalte, sondern auch eine neue Soziabilität im Bildungsbereich hervorbringt.

Ausbeutung von Bildung und Schule

Es ist wichtig, mindestens drei Aspekte im Zusammenhang mit der historischen Entwicklung der KI im Bildungswesen zu berücksichtigen: Die Erfassung von digitalen Daten bezieht sich auf den Prozess, bei dem die Bildungsrealität in grosse Mengen von Informationen umgewandelt wird, die von Maschinen verarbeitet werden (Daten). Dadurch wird die KI in die Lage versetzt, Aufgaben wie Berechnungen, Projektionen, Diagnosen usw. durchzuführen. Da die komplexe Alltagswirklichkeit von Maschinen untersucht werden muss, bringt die Erfassung von digitalen Daten auch eine Vereinfachung mit sich.

Während die Generierung von Bildungsdaten auf unterschiedliche Weise erfolgen kann – beispielsweise durch gross angelegte standardisierte Tests, unter denen PISA hervorsticht –, erhöht der Einsatz von Plattformen und Software im Bildungswesen die Kapazität zur Informationsgewinnung erheblich. Die Erhebung solcher Daten muss kontinuierlich erfolgen. Auf diese Weise fungieren Schulen als Datenminen, und die Bildungsarbeit wird zu einer ausbeuterischen Praxis, von der die grossen Unternehmen profitieren können, denen die digitalen «Werkzeuge» gehören.

Souveränität und ideologische Implikationen

Die Frage der Macht ist entscheidend, wenn wir über digitale Strukturen, Plattformen und Formen der KI sprechen. Dies gilt in mindestens dreierlei Hinsicht:

b) Die Technologie, insbesondere die generative KI, hat ideologische Implikationen, die sich in Form von «Verzerrungen» in den von ihr produzierten Texten ausdrücken. Verschiedene KI-Produkte erzeugen politisch definierte Ergebnisse, wie Studien zu Google Bard und Open AI's Chat GPT Positionierungen zum Russland-Ukraine-Krieg gezeigt haben.

c) Andererseits ist das pädagogische Erfassen von Daten eine Machtausübung, da sie ein Handlungsfeld konstruiert, in das Akteure wie Bürokraten und Unternehmen anschliessend von aussen durch politische Instrumente eingreifen können, um Verhalten zu modulieren und Profit zu machen.

Dominieren Plattform-Unternehmen die Wirtschaft?

Schliesslich bildet die Ausbreitung des digitalen Kapitalismus den Kontext für den Vorstoss in die KI im Bildungssektor. Dies ist auch das Ergebnis des offenen Wettbewerbs zwischen Google und Microsoft bei der Bereitstellung von KI für die Bildung. Dies hat mindestens zwei Auswirkungen:

a) die Schaffung von Enklaven privater Rentabilität im Bereich der öffentlichen Bildung durch die Kommerzialisierung von KI-Produkten, was zu einem weiteren Zyklus der Bildungsprivatisierung führen könnte;

b) die Verwendung von KI in der Bildung, die sich in erster Linie auf die Bildung von Humankapital konzentriert, was nun mit den Anforderungen der vierten industriellen Revolution verbunden ist.

Kontrolle über das Bildungswesen bewahren

Angesichts des Enthusiasmus für die digitale Transformation der Bildung ist es ratsam, eine kritische Distanz zu wahren, die es Bildungsgemeinschaften, Lehrern, Schülern und Familien ermöglicht, ihre Ränder und internen Spannungen zu verstehen und zu diskutieren. Auf diese Weise werden wir in der Lage sein, mehr Klarheit über den Aufbau bzw. die Konsolidierung aktueller Bildungsprojekte zu erlangen, die in der Lage sind, die Bildungsanforderungen des 21. Jahrhunderts zu erfüllen, ohne die Kontrolle über die Bildung an externe Akteure abzugeben.

Das Streben nach einer kritischen und demokratischen Bildung im 21. Jahrhundert setzt die Überwindung des Technologiefetischismus voraus. Bevor man also Lehrer und Schulen auffordert, sich diskussionslos zu «modernisieren», ist es wichtig, die komplexen historischen Umstände der KI sowie die möglichen (positiven oder negativen) Auswirkungen ihres Einsatzes auf den Bildungsalltag zu berücksichtigen.

Quelle: https://www.jornada.com.mx/notas/2023/05/24/politica/consideraciones-urgentes-sobre-inteligencia-artificial-y-educacion/?from=page&block=politica&opt=articlelink, 24. Mai 2023

(Übersetzung aus dem Spanischen «Schweizer Standpunkt»)