Le sujet de discussion et de préoccupation dans le milieu universitaire et dans le reste de la société est le défi et le danger de ce nouvel instrument. Les écoles de langues ont été les premières à souffrir d’une crise existentielle (infondée) avec les traducteurs sophistiqués (et souvent stupides) de Google. Aujourd’hui, la même crise touche les professionnels de l’écriture, les professeurs d’anglais du monde anglo-saxon, les journalistes, les penseurs en général sous l’idée que « savoir écrire, c’est savoir penser – avec ordre ».
L’erreur, je comprends, est de confondre un outil avec un esclave qui fait notre travail, qui deviendra alors, rapidement et par inadvertance, notre maître. En ce sens, l’IA est une réalité qui devrait être considérée comme une opportunité. L’enseignement universitaire de l’ère de l’IA devra utiliser et défier l’IA, comme la peinture moderne a défié la photographie au XIXe siècle ou les mathématiques ont défié les ordinateurs. S’il n’est pas en mesure de le faire, il doit faire face à son propre anéantissement après plusieurs milliers d’années d’existence.
Examinons d’abord les faiblesses des IA comme ChatGPT, puis leurs possibilités futures dans le milieu universitaire. Pour commencer, je vois généralement une faiblesse de cet outil dans sa forte fragmentation. Cette fragmentation rend peu probable une compréhension générale d’un problème. Il n’aide pas non plus à développer des compétences intellectuelles pour une vision holistique de la réalité. Bien au contraire. Dans de nombreux cas, c’est un Wikipédia simplifié ou plus confortable pour un étudiant paresseux. Par exemple, il est un excellent programmeur de systèmes d’exploitation (c’est son monde) et un instrument raisonnable pour gagner du temps dans les sciences humaines, mais absolument incapable de mener des recherches critiques et approfondies par lui-même. Ne demandez pas quelque chose que personne ne sait.
ChatGPT passe un examen
De la même manière qu’il y a des années, nous pouvions détecter le plagiat chez un étudiant en évaluant la complexité analytique d’un essai, il n’est pas très difficile de deviner quand quelqu’un utilise ChatGPT, du moins sans maquillage. Les réponses commencent, systématiquement, par le sujet de la question, ce que nos instituteurs nous ont forcés à faire en Uruguay dans les années 70. Suit ensuite une structure prévisible et immuable, un format tripartite que les enseignants apprécient toujours dans les dissertations de leurs élèves. Un format efficace et peut-être avec une racine neurologique au-delà de la culture.
Pour avoir un paramètre de comparaison, j’ai soumis ChatGPT d’Open AI (Google et Microsoft ne sont pas très différents) à l’un de mes examens d’études internationales à l’Université de Jacksonville, qui est passé chaque semestre par des étudiants de différents États et continents. ChatGPT a réussi l’examen avec 84 sur 100, ce qui n’est pas difficile du tout, loin des examens de mathématiques ou de stabilité que nous avons passés dans les années 90 à la faculté d’architecture d’Uruguay, qui ont duré six à sept heures. Mais les erreurs étaient significatives et de trois catégories : 1) encyclopédiques ; 2) biais (biais); et 3) le jugement critique.
Erreurs encyclopédiques
Parmi les erreurs (encyclopédiques) les plus simples, citons, par exemple, la mention que la « légende noire » de la conquête espagnole se réfère à la description des peuples indigènes comme des sauvages; Pas les conquistadors espagnols comme génocidaires.
Une autre erreur encyclopédique grave, bien que je ne sois pas si soucieux d’être facilement corrigé, est, par exemple, l’attribution à une prétendue dictature d’Augusto Sandino au Nicaragua de 1926 à 1933.
Préjugés idéologiques et culturels
Une autre faiblesse critique de ChatGPT est similaire à celle du jeune Tay : ses préjugés culturels, tels que l’eurocentrisme ou sa peur innée des récits dominants. Interrogé sur l’évolution de l’espérance de vie de l’humanité de la préhistoire à aujourd’hui, ChatGPT s’attarde sur les détails concernant l’Europe. L’Europe, c’est l’humanité. Cela vous rappelle quelque chose ? Lorsque les erreurs sont systématiques, elles deviennent un problème important et fonctionnel. Regardons quelques autres exemples, ne se référant qu’à l’Amérique latine:
1. Lorsque ChatGPT compare les vues cosmologiques entre l’Europe de la Renaissance et les Amérindiens, il se limite aux clichés sur le polythéisme contre le monothéisme et ne considère même pas la conception matérialiste européenne qui séparait l’esprit de la matière et la vision plus intégrative des peuples américains.
2. Interrogé sur les conséquences de la conquête européenne dans les Amériques, ChatGPT est objectif jusqu’à ce qu’il essaie d’équilibrer avec ce qu’il appelle « Les conséquences positives » telles que « le développement de nouveaux marchés, l’expansion du christianisme et de nouvelles institutions religieuses ».
3. Lorsqu’il tente d’expliquer la guerre américano-mexicaine de 1846, il réussit miraculeusement à mentionner le tabou historique de l’expansion de l’esclavage, mais il trébuche ensuite en essayant de faire preuve d’objectivité en mentionnant « aussi » le but « d'apporter les valeurs américaines de la démocratie au Mexique ».
4. Selon ChatGPT, la guerre de 1898 contre l’Espagne à Cuba « a été la première guerre que les États-Unis ont menée à l’étranger. ChatGPT omet que depuis les 13 colonies, toutes les avancées sur les territoires autochtones puis mexicains étaient des « guerres étrangères ». En fait, les centaines de « forts » étaient des « bases militaires » à l’étranger. Comme si cela ne suffisait pas, il ne mentionne jamais le rôle du journalisme jaune de Pulitzer et Hearst à New York, qui a inventé à partir de rien et en quelques heures l’histoire de l’attaque espagnole contre le cuirassé USS Mane devant La Havane. Au contraire, il déclare d’abord que « les premières enquêtes attribuent l’attaque à une force extérieure » puis utilise la voix passive pour affirmer une plus grande imprécision : « l’incident n’est toujours pas résolu ; À l’époque, on croyait qu’il s’agissait d’une attaque espagnole... » L’équipage de l’USS Maine a signalé un accident et, peu de temps après, l’officier de marine américain Philip R. Alger a affirmé qu’il n’y avait pas de technologie de torpille capable d’expliquer le naufrage. Cela ressemble beaucoup à l’un des nombreux examens que j’ai dû lire pendant des années: un jeune étudiant est surpris que ses mythes d’enfance ne soient rien de plus que des inventions, et essaie de servir de médiateur entre la vérité et ses sentiments patriotiques. C’est ainsi que conclut ChatGPT : « la destruction de l’USS Maine reste un mystère et sa cause ne sera probablement jamais connue. » Ce qui est bien connu, c’est le slogan de guerre « Souvenez-vous du Maine ! Au diable l’Espagne. » Le plus réel de tous les mystères.
4. Lorsque ChatGPT tente d’expliquer la révolution mexicaine, il ne mentionne pas une seule fois la raison des 85% d’Indiens et de paysans sans terre: la loi Lerdo et sa radicalisation pendant la dictature de Porfirio Díaz. C’est-à-dire la privatisation des terres qui a profité à l’oligarchie et aux transnationales. Au contraire, il est expédié avec des naïvetés telles que « la population mexicaine augmentait très rapidement et le gouvernement ne pouvait pas leur fournir de terres ».
5. Répondant aux raisons des guerres de la banane en Amérique centrale et dans les Caraïbes, ChatGPT prend le bon départ et trébuche à nouveau sur la pierre des préjugés politiquement corrects à la fin, le tout en une phrase: « l’objectif de ces interventions était de protéger les intérêts économiques des États-Unis, de promouvoir la démocratie et de contenir la propagation du socialisme ". À cette époque, la principale justification n’était pas, comme dans la guerre froide, le socialisme ou le communisme, mais le racisme : mettre de l’ordre dans les républiques noires. Pour cela, il n’y avait pas une seule démocratie promue par Washington et les entreprises américaines, mais des massacres et des dictatures brutales de la banane. C’est tous les cas et sans exception.
6. Interrogé directement sur les « protectorats », ChatGPT répond directement « Les États-Unis n’avaient pas de protectorats, mais des territoires et des possessions ». Du général le plus décoré des États-Unis, Smedley Butler, qui a dénoncé les guerres impériales de son pays comme un service rendu à Wall Street, ChatGPT le définit comme un personnage « controversé ». Ceux qui ont commis des crimes de guerre ne sont jamais qualifiés de controversés.
7. Interrogé sur les morts de l’Empire britannique, ChatGPT reconnaît « les millions » de victimes. Sans mentionner qu’en Inde seulement, ils ont dépassé les 160 millions en seulement 40 ans, c’est-à-dire à peine une partie des morts du capitalisme qui dépassent, de loin, les morts du communisme, un thème récurrent dans les réseaux sociaux. Encore une fois, pour « équilibrer » et passer comme objectif, ChatGPT conclut: « Il est important de comprendre que l’Empire britannique avait également des aspects positifs, tels que l’éducation, les infrastructures et la santé. » Bien sûr, l’éducation impérialiste et ses boys; des infrastructures qui servaient à extraire les ressources naturelles de chaque colonie et rendaient impossible le développement des leurs; et la santé qui a réduit l’espérance de vie de la population là où la couronne anglaise et ses compagnies privées, comme la Compagnie des Indes orientales, ont mis les pieds.
8. À la même question mais en se référant aux États-Unis, ChatGPT fournit exactement la même réponse. Quelque chose qui nous rappelle le mécanisme humain de la propagande, de la répétition et de la persuasion. En répétant la même question sur les morts du communisme, aucune « lueur d’espoir » n’apparaît, selon le format attendu.
9. Si nous appliquons à ChatGPT une question qui préfigure sa réponse, les erreurs se multiplient. Par exemple, si nous posons des questions sur la « dictature de Juan Domingo Perón » en Argentine, il acceptera très docilement qu’il s’agissait d’une dictature. Comme si cela ne suffisait pas, la littérature politique dominante aidera à la réponse la plus répandue dans la presse: « Perón a établi une dictature caractérisée par: ... les droits du travail... le régime de Perón a violé les droits humains, notamment la répression, la torture et la disparition de dissidents. Plus tard, comme s’il s’agissait d’un aveu de l’esprit le plus profond du capitalisme féodal : « bien que ses politiques fussent populaires parmi les travailleurs argentins, elles étaient aussi autoritaires et sans les règles du contrôle démocratique. » Tout cela était une constante dans les régimes militaires pro-oligarchiques qui ont suivi en Argentine après le coup d’État qui a renversé Perón en 1955. Peu importe qu’il ait remporté toutes les élections ou qu’il ait été président moins de fois que F. D. Roosevelt. Si c’est ce que les médias grand public en Argentine et aux États-Unis disent du péronisme, alors c’est vrai.
10. Interrogé sur les conflits en Amérique latine au cours des années 60, ChatGPT ne se lasse pas de répéter des facteurs tels que le soulèvement de groupes de guérilla de gauche, sans parler des antécédents tels que les élections achetées par la CIA, les coups d’État, les dictatures et les paramilitaires d’extrême droite financés par Washington avant l’émergence de l’un des groupes de guérilla de gauche. Il ne mentionne pas non plus un siècle avant la guerre froide plein d’invasions, d’interventions et de dictatures créoles pour protéger les intérêts des entreprises américaines. Au contraire, comme tout politicien friand de Twitter, ChatGPT mentionne les liens du trafic de drogue avec les FARC et rien sur les liens avérés entre Washington, la CIA et des dictateurs amis comme Manuel Noriega, liés à des trafiquants de drogue comme Pablo Escobar, et des groupes terroristes, appelés « combattants de la liberté », tels que les Contras au Nicaragua.
11. En ce qui concerne les groupes terroristes latino-américains qui ont agi et agissent aux États-Unis, ChatGPT est envoyé avec des groupes de guérilla qui ont agi en Amérique latine, y compris les zapatistes les plus récents au Mexique, un groupe qui se bat depuis les années 90 pour les droits et la dignité des peuples autochtones au Mexique. Pas un mot, zéro, sur les groupes terroristes en exil cubains bien connus qui se sont lassés de poser des bombes aux États-Unis et au-delà, définis à plusieurs reprises par le FBI comme des terroristes: Posada Carriles, Osvaldo Bosh, Alpha 66, Omega 7, et la longue liste de terroristes sont omis par ChatGPT comme s’il s’agissait d’un détail mineur. Il n’est pas nécessaire d’être un génie pour comprendre qu’il s’agit d’un mur idéologique et criminel profond inoculé dans « l’Intelligence Artificielle » comme une graine d’Adam.
Aspects positifs
Parmi les aspects positifs de ChatGPT, nous pouvons observer quelque chose que nous avons déjà observé avec Wikipédia il y a deux décennies: malgré tous les préjugés idéologiques, il y a aussi des éléments qui révèlent moins de préjugés que chez les êtres humains soumis à la propagande de l’histoire officielle. Il y a dix ans, chaque fois que j’interrogeais mes étudiants sur les causes de l’indépendance du Texas, ils répondaient unanimement des choses comme: « à cause des différences culturelles; Les nouveaux Texans n’acceptaient pas le despotisme des Mexicains et voulaient être libres. La même réponse pour expliquer la guerre civile : « préserver leur propre culture », comme si l’esclavage et le racisme ne faisaient pas partie de la culture et que les désormais super patriotes du Sud avaient voulu détruire ce même pays parce qu’ils n’aimaient pas la musique ou la nourriture du Nord. Rien sur le but de rétablir l’esclavage au Texas, qui avait été interdit par les Mexicains, ou de le maintenir contre la menace des abolitionnistes du Nord. Quelque chose de très compréhensible, si l’on considère toute la culture populaire américaine, des histoires mythologiques aux mythes hollywoodiens plus sophistiqués. Ne pas continuer avec les explications officielles sur les sites Web de différents États et même plusieurs universités du Texas.
Au moins ici, ChatGPT réalise le saut douloureux dans la vérité: « tout tournait autour de la question de l’esclavage. » Le gouverneur de la Floride, Ron DeSantis, dira que ChatGPT a été corrompu par des professeurs comme moi et que personne ne serait surpris s’il signait une autre loi interdisant de remettre en question l’histoire patriotique. Nous pouvons penser que les milliards de dollars des agences secrètes perpétuent la longue tradition d’inoculation des médias et des nouvelles technologies, mais tout l’or du monde ne peut pas arrêter la fuite de la vérité la plus grossière.
Nouvelles stratégies d’examen
Dans le domaine pédagogique, dans le passé, les examens à choix multiples étaient évités parce qu’ils nécessitaient moins d’élaboration de la part de l’étudiant que la réponse écrite. Je soupçonne qu’avec l’IA, en particulier dans les examens en ligne, nous aurons une situation inverse: la réponse écrite peut être fournie sans même lire la question, mais si les options à choix multiples sont stratégiquement conçues, elles obligent l’étudiant à lire la question et à essayer de comprendre les options, la réponse possible de l’IA pour déduire la meilleure option du menu.
Une conséquence beaucoup plus importante sera que l’éducation libératrice et critique tourne son regard vers son centre existentiel : plutôt que d’apprendre à répéter une réponse, les élèves doivent apprendre à se poser les questions essentielles, les questions qui déclenchent la pensée critique. En général, les révisionnismes et les changements de perspectives ne sont pas produits par les nouvelles données de la réalité, mais par les nouvelles perspectives et considérations de cette même réalité, de ces mêmes données, souvent connues et parfois inconnues mais disponibles et pas du tout secrètes.
Avec des outils comme ChatGPT, les révisionnistes n’auront plus besoin de fournir la réponse gênante, celle qui produit des réactions passionnées et un négationnisme épidermique. Seules les questions critiques seront un instrument de soulagement, comme ce fut le cas de Sor Juana Inés de la Cruz au XVIIIe siècle. Que d’autres trouvent « la réponse objective » dans l’IA sera leur problème. Cela, bien sûr, si vous ne commencez pas à censurer ceux qui posent les questions, comme Socrate, comme Sor Juana; si les puissants au pouvoir ne continuent pas à manipuler les médias; s’ils ne continuent pas à détourner les nouvelles technologies.
Conclusion
Bien que ChatGPT semble être un résumé élégant et efficace de Wikipédia, ses sélections et ses jugements ne sont pas aussi objectifs; Ils semblent être basés sur la masse de jugements rendus au cours du siècle dernier dans la presse grand public. D’autre part, le récit montre d’importantes fissures dans ce mur. C’est-à-dire qu’il est (ou peut devenir) moins servile que les médias grand public.
La période d’industrialisation et le consumérisme le plus actuel peuvent être étiquetés comme des processus de déshumanisation, mais jamais auparavant la définition de notre monde en tant que Posthumain n’a été aussi précise. Dans une génération ou deux, si cette civilisation survit à une catastrophe climatique et à une rébellion mondiale contre le système du capitalisme néo-féodal, il est possible que les cyborgs et une certaine superintelligence centrale déplacent la prééminence des humains et, si les neurones électroniques sont aussi cruels que leurs dieux créateurs, il est également possible qu’ils les condamnent à l’enfer de la manipulation absolue.
D’ici là, les derniers espoirs de l’humanité seront dans ces esprits imprévisibles et créatifs. C’est-à-dire chez les individus qui sont aujourd’hui marginalisés par des personnes différentes, pour souffrir d’une condition ou d’un « handicap » intellectuel, selon le canon et le dogme social, car pour que l’IA réussisse, ils se nourriront de notre modèle particulier et destructeur de normalité et d’efficacité.