Quels sont les impacts des grands modèles de langage (LLM) et leurs hallucinations sur les monopoles du savoir ?
Ecrit par : Emma Crettenand, Mike Gutierrez, Sophia Ouhnana, Antoine Barone
L’émergence de l’IA
L’IA n’est pas du tout un sujet nouveau.
Dès les années 1950, Alan Turing a expliqué comment détecter l’intelligence dans les machines (test de Turing), ce qui a suscité les premières réflexions sur le concept.
Cependant, son utilisation est de plus en plus répandue depuis le milieu des années 2010 avec l’expansion des processus d’apprentissage automatique qui ont été favorisés par le développement d’un matériel, d’une architecture, de techniques et de données plus puissants disponibles pour l’entraînement à l’IA.
Alexa, Siri, les chatbots ainsi que les algorithmes de recommandation de contenu ou de publicité sont des formes d’IA.
En raison de son succès, l’IA générative, qui peut générer des informations en utilisant du texte, de l’audio ou des images par exemple, gagne une popularité exponentielle.
Les GAFA (Google, Apple, Facebook, Amazon) ne sont pas en reste avec cette nouvelle technologie. Dans ces grands groupes, l’IA est utilisée pour développer des technologies avancées telles que les moteurs de recherche alimentés par des grands modèles de langage (LLM), améliorant ainsi la pertinence des résultats et la personnalisation des expériences en ligne. L’innovation demeure la clé de leur succès, la richesse de données dont ils disposent étant une conséquence de cette innovation, plutôt qu’une cause première. Les GAFA n’ont pas acquis leur statut de géants simplement en accumulant d’énormes volumes de données. Leur ascension fulgurante résulte de leur capacité à exceller à l’échelle mondiale.
- Google a surpassé Yahoo! dans l’algorithme de recherche sur internet.
- Apple a offert la meilleure expérience utilisateur.
- Facebook a créé une nouvelle forme de lien social.
- Amazon a révolutionné le modèle de vente au détail et le service client en ligne.
Le véritable atout des géants du net réside non seulement dans le volume de données, mais surtout dans leur capacité financière à investir massivement, notamment dans l’IA, où la qualité des data scientists façonnant et éduquant les intelligences artificielles est cruciale.
Prise de conscience du grand public
L’arrivée de ChatGPT déclenche une véritable ruée vers l’or dans le secteur de l’IA. Accompagnée d’un gain d’intérêt par le grand public sans précédent. Ça amène énormément de discussion autour du sujet mais il est important de garder en tête que l’IA n’a pas encore de conscience au sens d’un être vivant. Evidemment, cela peut être amené à changer dans un futur plus ou moins proche.
ChatGPT a établi un record en tant qu’application la plus rapide à atteindre 100 millions d’utilisateurs actifs, atteignant ce cap en seulement deux mois. OpenAI projette que ChatGPT rapportera 200 millions de dollars cette année et 1 milliard de dollars en 2024.
C’est ainsi qu’apparaissent ses nombreux concurrents tels que Bard de Google, Bing Chat, Perplexity, etc.
Certains croient dans la promesse que l’IA puisse développer une éthique qui permettra aux chercheurs de trouver une vérité impartiale pour le bien de l’humanité. D’autres ne sont pas du tout d’accord : <<Ce saint apathique est cependant cognitivement faillible : il est sujet à des erreurs
Malheureusement, nous voyons déjà apparaître les failles, les problèmes et autres inquiétudes qu’apporte l’IA. Cependant, cette nouvelle technologie apporte son lot d’avantages non négligeables. Ces avantages et inconvénients ont besoin d‘être connus au mieux pour que les utilisateurs des outils qui utilisent l’IA aient toutes les cartes en mains dans le cadre de l’utilisation de ces outils.
Pour trouver les défauts et les qualités d’une personne, quoi de mieux que de lui poser la question directement ? Il nous a donc paru intéressant de questionner ChatGPT 3.5 pour analyser les informations rendues et constater si celles-ci collent à nos recherches.
En synthétisé, voici les points forts que ChatGPT nous propose :
- L’aide à la production grâce à la capacité de calcul de l’IA et la réalisation rapide de tâches peu complexes.
- Sa capacité d’apprentissage qui lui permet de s’améliorer constamment et de s’adapter à de nouveaux scénarios sans l’intervention humaine.
- Enfin, il aborde son application dans le domaine médical et sa capacité d’assistant virtuel, mais ces points se retrouvent déjà dans l’aide à la production mentionnée en premier.
En ce qui concerne ses points faibles, ChatGPT nous en propose bien plus, ce qui peut déjà nous donner un indice sur les inquiétudes du monde face à l’IA :
- Les biais, l’IA est en effet victime de biais par un manque de contexte ou un contexte mal interprété. Cela mène à des erreurs et des hallucinations. Point sur lequel nous reviendrons lors du développement.
- Un manque de créativité par rapport à la capacité humaine qui voit l’IA être encore complètement dépassée dans sa capacité à résoudre une variété de tâches complexes.
- La sécurité est aussi un point soulevé avec des données pas toujours bien sécurisées.
- L’IA pourrait aussi avoir un effet de dépendance technologique dont nous ne pourrions pas nous passer avec en plus de cela, un coup en développement très élevé. Cependant ce point est mitigé car c’est le cas pour une grande majorité des anciennes technologies découvertes au cours de l’histoire qui jouent aujourd’hui un rôle dont nous pouvons difficilement nous passer.
- Enfin, ChatGPT soulève le manque d’éthique et de réglementation autour de cette nouvelle technologie qui pourrait amener et amène déjà à des abus.
Loin de nous proposer encore un scénario à la « Terminator », les résultats que nous retourne ChatGPT collent sans surprise avec les articles qui abordent le sujet : Les 20 menaces les plus dangereuses de l’intelligence artificielle et Intelligence artificielle : opportunités et risques, etc.
Bien entendu, cette émulsion entourant l’intelligence artificielle suscite l’imagination de nombreux artistes, auteurs et cinéastes.
Dans le cas de l’IA, sa capacité simulée d’imagination conduit à des hallucinations, ce qui n’est pas exactement un défaut mais une caractéristique qui peut être utile dans la création d’art de l’IA mais qui peut être très défectueuse lorsqu’elle est employée à d’autres fins.
Quel sera l’effet de l’IA lorsqu’elle sera intégrée dans des systèmes de moteurs de recherche à caractère monopolistique ?
Les GAFA et l’IA
Dans le contexte des GAFA, ces entreprises exercent un contrôle assez centralisé sur l’accès à la connaissance. Par exemple, Google concentre 90% des recherches
Image tirée du livre : Le Nouveau Western de Olivier Bomsel et Rémi Devaux (2022)
Les résultats de recherche qui comportent des publicités, du contenu sponsorisé et des liens souvent consultés (comme Wikipédia dans le cas des recherches Google) apparaissent en tête de liste.
En raison du mode de fonctionnement du LLM, l’IA, comme ChatGPT, apprend en récupérant de grandes quantités de données sur des sites web tels que wikipedia, commoncrawl ainsi que des livres, y compris ceux qui n’ont jamais été publiés.
Le type d’hallucinations le plus courant est la contradiction par laquelle l’IA répond à une requête avec des phrases qui s’opposent les unes des autres. Il peut également s’agir d’une contradiction directe à la demande de l’utilisateur où l’IA fait le contraire de ce qui lui est demandé. Des contractions factuelles ainsi que des hallucinations absurdes peuvent se produire ce qui pourrait poser problème, par exemple :
- Sydney de Microsoft a admis être tombé amoureux des utilisateurs et avoir espionné les employés de Bing.
- Bard de Google a affirmé que le télescope spatial James Webb avait pris les premières images au monde d’une exoplanète n’appartenant pas à notre système solaire.
- LLM Galactica de Meta a fourni à ses utilisateurs des informations erronées et un faux article.
Cela peut être dû en partie à la qualité des données, étant donné que les LLM se basent sur le matériel avec lequel ils ont été formés, ce n’est pas toujours des ressources exactes.
Dans les cas où les données sont exactes mais où la demande peut être nuancée ou complexe, les LLM doivent généraliser pour faire une affirmation prédictive basée sur les données disponibles sans être en mesure de vérifier leur pertinence ni leur validité.
Image tirée du livre- Rebooting AI : Building Artificial Intelligence We Can Trust (2019) – Gary Marcus and Ernest Davis
Exemple d’inférences qu’une IA peut faire au sujet des restaurants
Les réglages peuvent être réduits (nous parlons ici de température) pour diminuer les hallucinations. L’utilisateur doit également apprendre à donner des instructions claires et précises au système.
Dans un sens, l’utilisateur forme l’IA autant que l’IA le forme. L’usager peut développer une certaine pensée critique s’il est conscient que l’IA peut halluciner et être non fiable. Ceci incite à l’utilisateur responsable de prendre de bonnes habitudes en matière de recherche d’information.
Cela peut être prometteur, les monopoles de la connaissance peuvent être remis en question par la création d’une base d’utilisateurs plus engagés et critiques.
L’infrastructure sur laquelle repose l’IA est très dépendante des GAFA ainsi que d’autres grands acteurs tels que Nvidia, leader des fabricants des GPU . L’utilisation de l’IA accroît les masses de données accumulées par les GAFA et est basée sur ces dernières.
L’IA nécessite une quantité incroyable d’énergie et d’argent pour fonctionner : <<l’économie digitale, qui regroupe l’univers internet, les réseaux, les crypto-monnaies, la technologie blockchain et les centres de stockage pèsera d’ici 2020 pour 20% dans la consommation électrique mondiale ! >>. Avec 10% de croissance de besoin énergétique par année, Internet va bientôt être le plus grand consommateur d’électricité sur la planète.
Le coût de fonctionnement de ChatGPT est estimé d’aller jusqu’à 700 000 $ USD par jour. C’est probablement pour cette raison qu’il est hébergé sur le cloud Azure de Microsoft.
Néanmoins, serait-il possible pour les utilisateurs d’utiliser l’IA pour la décentraliser des fondations monopolistiques dont elle est issue ?
OpenEdition vous propose de citer ce billet de la manière suivante :
Benoît Epron (5 décembre 2023). Quels sont les impacts des grands modèles de langage (LLM) et leurs hallucinations sur les monopoles du savoir ? . Économie du document. Consulté le 12 octobre 2024 à l’adresse https://doi.org/10.58079/beap
Merci pour ce billet très intéressant !
Bien que votre billet ne se concentre pas spécifiquement sur l’impact de l’IA dans l’art, il me semble intéressant de mentionner les répercussions de l’émergence de ces technologies dans le domaine artistique. En effet, je suis particulièrement perplexe face à l’utilisation de l’IA dans le monde de l’art car, malgré les nouvelles perspectives créatives qu’elles offrent, les problèmes liés à l’originalité, à l’éthique de la création et à la place de l’artiste dans ce processus me paraissent assez préoccupants pour l’avenir. Il est donc essentiel d’approfondir la réflexion sur ces aspects pour trouver un juste équilibre entre la créativité humaine et l’intervention algorithmique, même dans des domaines aussi sensibles que l’art.
En effet, je suis d’accord avec toi, c’est important d’approfondir cette réflexion. Je vois de plus en plus d’articles concernant ces aspects. J’ai vu un article, il y a quelques semaines, qui disait que sur la plateforme Kindle Direct Publishing d’Amazon, il y avait une prolifération de livres écrits par l’IA, et que la plateforme a dû demander aux auteurs de déclarer sur le site si leurs ouvrages sont générés par une IA. Voici, le lien de l’article si ça t’intéresse : https://www.sudouest.fr/culture/litterature/intelligence-artificielle-le-monde-de-l-edition-bouscule-par-l-ia-17181881.php
Au-delà des problématiques que vous soulevez avec le contrôle centralisé sur l’accès à la connaissance (GAFA) et les hallucinations dans les réponses des LLM, je constate que les intelligences artificielles comme ChatGPT mettent en lumière des problématiques sociétales, telles que les stéréotypes. Cette mise en lumière peut être intéressante pour travailler sur ses stéréotypes et leurs conséquences sur la société.
Bonjour Michele et merci beaucoup pour votre réponse.
L’intelligence artificielle est souvent accompagnée par l’idée qu’elle peut dépasser l’intelligence humaine en raison de sa capacité de traitement d’informations ainsi que sa capacité d’effectuer des calculs ultra-complexes en quelques secondes. Cependant, les gens ne se rendent souvent pas compte que l’intelligence artificielle, malgré le terme “artificielle”, est programmée et informée par des humains “organiques” qui ont de réelles faiblesses morales et intellectuelles. L’écrivain de science-fiction Harlan Ellison, dans “I Have No Mouth, and I Must Scream” (1967), a compris ce concept.
https://en.wikipedia.org/wiki/I_Have_No_Mouth,_and_I_Must_Scream
Un super ordinateur connu sous le nom d’AM est devenu conscient, mais il était obsédé par la torture de cinq individus qu’il maintenait artificiellement en vie. Dans le jeu vidéo de 1995, il est révélé que la méchanceté d’AM est due au fait que des vices humains ont été inconsciemment intégrés dans sa programmation.
De même, l’IA et les algorithmes sont basés sur des données humaines existantes qui incluent des données reflétant les meilleurs et pires aspects de la culture et la société.
Malheureusement, comme le souligne l’auteure Safiya Umoja Noble dans Algorithms of Oppression (2018), les résultats des recherches sur Google ont révélé les préjugés négatifs existants à l’encontre des femmes et plus particulièrement les femmes racisées. Le livre peut aider à comprendre comment le racisme est tristement créé et maintenu en cet ère numérique.
https://en.wikipedia.org/wiki/Algorithms_of_Oppression
Pour revenir plus précisément à l’idée de l’intelligence artificielle et les stéréotypes, une jeune étudiante américaine d’origine asiatique a utilisé l’IA pour modifier son profil Linkedin afin de le rendre plus professionnel. À sa surprise, l’IA l’a transformée en femme blanche.
https://www.businessinsider.com/student-uses-playrgound-ai-for-professional-headshot-turned-white-2023-8
Si l’IA est influencée par des préjugés humains, le résultat peut être catastrophique. Surtout si l’IA est considérée comme un oracle de vérité. Selon moi, il est important de déterminer comment établir l’éthique des algorithmes et de l’IA afin d’éviter les bias et que les côtés les plus sombres de l’humanité ne s’incrustent dans sa programmation. Si l’IA a le pouvoir d’être plus intelligente que nous en utilisant le savoir de l’être humain, elle peut aussi être plus maléfique que nous en utilisant les même ressources… 🙁
Bonjour à vous quatre !
Je vous remercie pour votre billet, bien informé.
La section « Prise de conscience du grand public » de votre article a retenu ma meilleure attention. Vous évoquez un point très important à mes yeux : l’intelligence artificielle (IA) sera-t-elle à l’avenir dotée d’une « conscience au sens d’un être vivant », pour reprendre vos propres mots ? Il me paraît peu probable que cette éventualité se produise un jour. Que l’IA puisse développer une certaine forme de conscience artificielle, cela n’est certes pas impossible ; mais de là à ce qu’elle développe une conscience de sa propre existence, qu’elle soit douée de sentiments et d’émotions, ainsi que d’une faculté de jugement, qu’elle atteigne en somme un tel degré de complexité et d’indépendance, cela me semble aujourd’hui très hypothétique.
D’autre part, vous listez les principaux points faibles de ChatGPT, inconvénients que l’on peut aisément généraliser à l’IA. J’ajouterai à cette liste, avec laquelle je suis d’accord, une problématique essentielle, celle des rapports souvent conflictuels entre l’IA et le droit d’auteur (c’est peut-être ou entre autres ce que vous aviez à l’esprit quand vous écrivez que « ChatGPT soulève le manque d’éthique et de réglementation autour de cette nouvelle technologie qui pourrait amener et amène déjà à des abus »). Quoiqu’il en soit, la question se pose indiscutablement de savoir si l’IA est éligible ou non à la protection conférée par le droit d’auteur. En termes juridiques, l’IA pose de nombreux défis au droit international, lequel devra probablement repenser son cadre juridique et adapter sa législation à l’IA.
Salutations,
Federico
Premier frein à cette expansion de l’IA sur le net : l’avalanche de contenu généré par IA qui sert à nourrir cette IA. Se dessine de plus en plus, lorsqu’on l’interroge, non pas un condensé des écrits originaux pour former de nouveles idées mais un miroir à cliché, en quelque sorte un serpent qui se mord la queue. A voir l’avenir de cette tendance mais cette thématique risque d’arriver bientôt sur le devant de la scène.
En effet, je pense que tu as raison car plus l’IA est utilisée, plus il y aura de contenu générés par celle-ci et potentiellement plus de données biaisées sur laquelle elle va s’appuyer ou s’inspirer.