Réflexions urgentes concernant l’intelligence artificielle et la formation

par Mauro Jarquín Ramírez,* Mexique

(8 août 2023) (Réd.) La forme numérique des médias a changé durablement la coexistence des personnes. L’utilisation de l’ordinateur et d’Internet fait désormais partie intégrante de notre vie quotidienne. L’informatique a développé la capacité non seulement de prendre et d’utiliser des informations, mais aussi de reconnaître et d’analyser des modèles et de faire des prédictions. Depuis les années 1960, on parle d’«intelligence artificielle» ou, plus simplement, d’IA.

Au bout de peu de temps, un malaise s’est installé parmi les chercheurs. Des sociétés transnationales, des fondations, des associations et des groupes de pression tels que le groupe médiatique international Bertelsmann, l’Union européenne, l’Organisation mondiale du commerce (OMC), l’Organisation de coopération et de développement économiques (OCDE) et la Banque mondiale (FMI) sont les forces motrices de l’éducation nationale. Celle-ci étant en substance orienté vers le bien commun est sapée pour servir les intérêts des entreprises.

En Amérique centrale aussi, un malaise s’est répandu à propos des médias numériques et du développement de l’intelligence artificielle. Dans un article paru en mai 2023 dans «La Jornada», le philosophe mexicain Mauro Jarquín Ramírez met en garde contre une exploitation néocoloniale de l’éducation et de l’école. Les structures numériques, les plateformes et les formes d'IA violent la souveraineté de l'Etat sur l’éducation, car différents produits d’IA ont une implication idéologique.

* * *

Le développement de l’intelligence artificielle (IA) a connu un véritable boom ces dernières années. Lorsque l’expansion de l’IA a atteint le domaine de l’éducation, elle a déclenché une vague d’innovation. Elle a été accompagnée de campagnes publicitaires soulignant les grands avantages pour le domaine de l’éducation. On a inventé l’histoire selon laquelle l’IA est pour l’essentiel un outil qui peut aider les enseignants et les apprenants dans le processus d’enseignement et d’apprentissage grâce à des stratégies telles que la personnalisation et auquel les enseignants peuvent déléguer un large éventail de tâches, en particulier les tâches administratives prenant souvent beaucoup de temps.

La confiance, mais aussi le scepticisme dominent

L’arrivée annoncée de l’IA privée dans les systèmes scolaires du monde entier a suscité un grand intérêt dans de larges secteurs de la société et de la communauté scientifique, avec à la fois de la confiance dans les améliorations potentielles de l’enseignement et de l’apprentissage et un scepticisme ou une franche inquiétude quant aux conséquences de l’«application» d’une telle technologie. Des conférences et des débats ont alors été organisés pour discuter des perspectives de l’IA et de l’éducation.

Bien que ces rencontres aient été extrêmement intéressantes, la discussion s’est jusqu’à présent principalement concentrée sur les restrictions structurelles et les inégalités en matière d’accès aux technologies et à l’Internet, ainsi que sur les préoccupations instrumentales concernant la manière dont notre productivité pourrait être améliorée et les avantages de ces technologies exploités. Certains risques généralement associés aux abus, au plagiat ou aux préjugés en matière d’IA générative ont également été discutés.

S’interroger sur l’histoire et le contexte

L’IA utilisée dans le domaine de l’éducation est souvent considérée comme allant de soi, comme si elle avait ni d’histoire ni de contexte. De plus, elle est présentée comme un outil que ses utilisateurs peuvent utiliser à leur guise. Elle n’est pas considérée comme une forme d’expression technique, historiquement conditionnée, qui a un impact sur ceux qui l’utilisent; comme une technologie qui produit non seulement un contenu académique utile et «accessible», mais aussi une nouvelle sociabilité dans le domaine de l’éducation.

Exploitation de l'éducation et de l'école

Il est important de prendre en compte au moins trois aspects liés au développement historique de l’IA dans l’éducation: la saisie de données numériques fait référence au processus par lequel la réalité éducative est transformée en grandes quantités d’informations qui sont traitées par des machines (données). L’IA est ainsi en mesure d’effectuer des tâches telles que des calculs, des projections, des diagnostics, etc. Etant donné que la réalité quotidienne complexe doit être étudiée par des machines, la collecte de données numériques apporte également une simplification.

Alors que la production de données sur l’éducation peut se faire de différentes manières – par exemple par des tests standardisés à grande échelle, parmi lesquels les tests PISA se distinguent –, l’utilisation de plateformes et de logiciels dans le domaine de l’éducation augmente considérablement la capacité de collecter des informations. La collecte de ces données doit se faire en continu. De cette manière, les écoles fonctionnent comme des mines de données et le travail éducatif devient une pratique d’exploitation dont peuvent profiter les grandes entreprises possédant les «outils» numériques.

Souveraineté et implications idéologiques

La question du pouvoir est cruciale lorsque nous parlons de structures numériques, de plateformes et de formes d’IA. Cela est vrai à au moins trois égards:

a) Toutes ces expressions représentent des systèmes sociotechniques qui réorganisent différents processus d’éducation, de programmes scolaires, de gestion et d’évaluation. Les structures numériques et l’IA elle-même demandent à la fois l’interaction numérique des utilisateurs et les résultats de la recherche.

b) La technologie, en particulier l’IA générative, a des implications idéologiques qui s’expriment sous la forme de «distorsions» dans les textes qu’elle produit. Différents produits d’IA produisent des résultats influencés par la politique, comme l’ont montré des études sur Google Bard et les positionnements du chat GPT d’Open AI sur la guerre Russie-Ukraine.

c) D’autre part, la collecte pédagogique de données est un exercice de pouvoir, car elle construit un champ d’action dans lequel des acteurs tels que les bureaucrates et les entreprises peuvent ensuite intervenir de l’extérieur par le biais d’instruments politiques afin de moduler les comportements et de faire du profit.

Les entreprises de plateformes dominent-elles l’économie?

Pour finir, l’expansion du capitalisme numérique constitue le contexte de l’avancée de l’IA dans le domaine de l’éducation. C’est aussi le résultat de la concurrence libre entre Google et Microsoft pour la fourniture d’IA à l’éducation. Cela a au moins deux conséquences:

a) la création d’espaces limités ou se forme une rentabilité privée dans le domaine de l’éducation publique par la commercialisation de produits d’IA. Ceci pourrait conduire à un nouveau cycle de privatisation de l’éducation;

b) l’utilisation de l’IA dans l’éducation, qui se concentre principalement sur la formation du capital humain, désormais liée aux exigences de la quatrième révolution industrielle.

Maintenir le contrôle sur le domaine de l’éducation

Face à l’enthousiasme pour la transformation numérique de l’éducation, il est conseillé de maintenir une distance critique qui permette aux communautés éducatives, aux enseignants, aux élèves et aux familles de comprendre et de discuter de leurs limites et de leurs tensions internes. De cette manière, nous serons en mesure d’y voir plus clair dans la construction ou la consolidation des projets éducatifs actuels, capables de répondre aux besoins de formation du XXIe siècle sans céder le contrôle de l’éducation à des acteurs extérieurs.

La quête d’une éducation critique et démocratique au XXIe siècle passe par le dépassement du fétichisme technologique. Ainsi, avant de demander aux enseignants et aux écoles de se «moderniser» sans discussion, il est important de prendre en compte les circonstances historiques complexes de l’IA ainsi que les éventuels effets (positifs ou négatifs) de son utilisation dans la vie quotidienne dans les domaines de l’éducation et de la formation.

* Professeur de la Facultad de Filosofia y Letras UNAM (Université autonome de Mexico)

Source: https://www.jornada.com.mx/notas/2023/05/24/politica/consideraciones-urgentes-sobre-inteligencia-artificial-y-educacion/?from=page&block=politica&opt=articlelink, 24 mai 2023

(Traduction de l’espagnol par «Point de vue Suisse»)