Prise de recul | Analyse
Que sommes-nous en train de vivre ?
Depuis le 30 novembre 2022 – date d’ouverture de GPT 3.5 au grand public – chacun a accès à une machine à langage.
Avec un peu de recul, on se rend compte qu‘on est face à une révolution. Pour le meilleur et pour le pire.
La particularité de celle-ci, c’est que cette révolution se situe au niveau des pensées.
Quelques éléments d’analyse de ce nouveau phénomène.
1. Des tâches mentales
L’accessibilité au grand public de l’IA générative depuis fin 2022 marque le début d’une nouvelle révolution technologique = l’invention d’une machine à produire du langage.
Mais pour la première fois dans l’histoire de l’humanité, cette révolution technique n’est pas uniquement d’ordre physique ou matériel, mais aussi et essentiellement d’ordre cognitif ou mental.
Jusque-là, les révolutions (agricole, urbaine, industrielle, informationnelle) transformaient des ressources naturelles, décuplaient la force physique, malaxaient la matière, maitrisaient le déplacement d’électrons ou d’ondes. Internet a décuplé l’accès au savoir, qui certes a eu des effets mentaux, mais ne manipule pas le savoir directement.
Depuis 2022, un automate est capable de travailler, de transformer, de reformuler la parole, la pensée, les connaissances, les opinions, les idées.
Désormais, le langage, la discussion, les capacités cognitives constituent un « terrain de jeu » avec les machines.
Le service rendu par ces chatbots, modèles de langage et autres générateurs d’images est une nouvelle capacité à assurer des processus mentaux.
Ces processus mentaux sont liés à l’accomplissement des tâches cognitives telles que :
- le traitement de l’information
- la traduction
- la communication, la formulation
- le raisonnement, la logique
- l’analyse comme la synthèse d’information, la comparaison entre informations, la mise à jour de tendances
Bref, de quoi décupler nos forces… mentales. Et refondre nos processus décisionnels, l’information étant à la base de nos décisions.
2. Avec un fonctionnement peu prévisible
C’est aussi une révolution cognitive au sens où le fonctionnement précis de l’outil est un mystère intellectuel.
La structure exacte qui émerge de ces algorithmes est imprévisible.
C’est la 1ère fois qu’une machine, un outil fabriqué par les humains et utilisé à grande échelle, rend des résultats inattendus !
Dario Amodei, dans son texte « The Urgency of Interpretability » fait l’analogie avec une plante qui pousse dans des conditions que nous connaissons certes, mais dont la forme et la croissance exactes sont impossibles à prédire. Et qui plus est, difficile à expliquer précisément, même après que la plante a poussé.
C’est ce qui se passe avec les LLM et autres IA génératives.
Des avancées de la recherche indiquent que l’on peut identifier des sortes de circuits de raisonnement, des zones sémantiques qui s’éclairent plus que d’autres, mais la compréhension précise est encore à découvrir.
3. Pour une tempête dans le cerveau
Troisième élément de la dimension cognitive de cette révolution : elle se passe à l’intérieur d’un organe neurologique, le cerveau humain.
Et non dans un objet.
On le voit par exemple dans le fait que l’on a tendance à personnaliser les chatbot, de la même manière que nous avons tendance à personnaliser notre relation aux animaux, voire aux plantes.
Étonnamment, on retrouve l’analogie biologique. Il n’y a pas plus numérique que l’IA générative, et pourtant cette invention a une « personnalité », comme un humain.
L’University College London utilise l’IA générative pour modéliser les processus de mémoire et d’imagination du cerveau humain, confirmant que ces systèmes présentent des similitudes fonctionnelles avec les mécanismes neuronaux naturels.
4. Qui nous mène à quoi ?
Le tout à la vitesse de l’éclair : l’adoption de l’IA est d’une rapidité sans précédent. Cette progression surpasse largement celle de toutes les innovations technologiques précédentes, renforçant l’idée d’une révolution d’une temporalité et d’une ampleur inédite.
Les effets de l’utilisation de ces outils commencent à apparaitre, et on voit poindre un risque d’atrophie cognitive. La sollicitation des régions cérébrales impliquées dans l’intégration sémantique, la créativité ou le contrôle exécutif tendent à diminuer.
De même que l’invention du livre a pu réduire nos capacités de mémoire tout en favorisant la diffusion du savoir et de l’innovation, quelles capacités vont baisser et augmenter post LLM ?
Une nouvelle sorte de métacognition, une habileté à analyser l’analyse ?
Une plus grande flexibilité cognitive, une facilité d’adaptation au brassage de connaissances ?
Un développement de la compétence à structurer le raisonnement ?
Un dialogue amélioré et fécond entre langues et disciplines ?
Ces interrogations sont aujourd’hui ouvertes, et nous tenterons de les suivre ici !
Comment ces nouveaux outils peuvent-ils nous aider à nous améliorer ? Nous aider à comprendre une situation ? A prendre de bonnes décisions ? À être plus pertinent ?
Comment peut-on être augmenté, c’est-à-dire faire ce qui était jusqu’alors humainement hors de portée ?
Et comment éviter d’être diminué par ces IA ?
Faire le tri entre les gadgets nocifs et les opportunités constructives est l’objet de ce site !