L’IA n’est ni mauvaise ni intelligente, mais elle est partout et rien ne pourra l’arrêter !

L’intelligence artificielle et son impact actuel

L’intelligence artificielle (IA) basée sur de grands modèles de langage est déjà en phase de déclin de son cycle de hype. Contrairement à la cryptomonnaie, elle ne disparaîtra pas dans les recoins sombres et indignes d’Internet une fois que son statut de « tendance » s’estompera. Au contraire, elle s’installe déjà dans un domaine où son utilisation est courante, même pour des tâches pour lesquelles elle est clairement inadaptée. Certains pensent que l’IA deviendra si intelligente qu’elle asservira ou anéantira l’humanité, mais en réalité, elle est bien plus menaçante en tant que couche omniprésente d’erreurs et d’hallucinations qui s’infiltrent dans notre réservoir intellectuel commun.

Le débat entre pessimisme et enthousiasme

Le débat entre pessimisme et enthousiasme sur l’IA se poursuit, avec des arguments solides et factuels de part et d’autre, comme on peut s’y attendre de la part des élites de la Silicon Valley, réputées pragmatiques. Il est important de se rappeler que ces figures d’influence passent leur carrière à vanter ou à critiquer le succès ou l’échec extrême de la technologie sur laquelle elles parient, pour finalement constater que ladite technologie n’atteint jamais l’état parfait ou catastrophique. On peut mentionner par exemple la conduite autonome, la réalité virtuelle et le métaverse, qui sont des exemples récents de technologies qui n’ont pas tenu leurs promesses.

Les débats utopiques et dystopiques

Les débats utopiques et dystopiques dans le domaine de la technologie ont toujours pour effet de détourner l’attention des véritables conversations sur l’impact réel des technologies actuellement déployées et utilisées. L’IA a indéniablement eu un impact considérable, notamment depuis l’introduction de ChatGPT il y a un peu plus d’un an. Cependant, cet impact ne réside pas dans le fait que nous aurions involontairement semé les graines d’une divinité virtuelle, mais dans le fait que ChatGPT s’est avéré beaucoup plus populaire, viral et accrocheur que ce que ses créateurs avaient prévu, même si ses capacités correspondent en réalité à leurs attentes relativement modestes.

L’utilisation répandue de l’IA générative

Les études les plus récentes montrent que l’utilisation de l’IA générative est assez répandue et en croissance, notamment chez les jeunes utilisateurs. Les principales utilisations ne sont pas des nouveautés ou des divertissements, comme le montre une récente étude de Salesforce sur l’utilisation au cours de l’année écoulée. Au contraire, elle est principalement utilisée pour automatiser les tâches et les communications professionnelles. À quelques rares exceptions près, comme la préparation d’arguments juridiques, les conséquences de légères erreurs d’IA dans la génération de ces communications et de ces tâches sont négligeables, mais elles entraînent inévitablement une couche numérique d’erreurs factuelles et d’inexactitudes mineures difficiles à repérer.

Le rôle de l’erreur dans la communication humaine

Cela ne signifie pas que les êtres humains sont particulièrement doués pour diffuser des informations sans erreurs factuelles ; au contraire, nous avons pu le constater avec la montée de l’économie de la désinformation sur les réseaux sociaux, en particulier dans les années précédant et pendant la présidence de Trump. Même en mettant de côté les intentions malveillantes et les actes intentionnels, l’erreur fait simplement partie intégrante de la croyance et de la communication humaine, et a toujours imprégné les connaissances partagées.

L’IA générative et son influence

La différence réside dans le fait que les modèles d’IA basés sur de grands modèles de langage le font de manière décontractée, constante et sans réflexion, et cela avec une assurance autoritaire à laquelle les utilisateurs sont sensibles en raison de nombreuses années de résultats de recherche Google relativement stables, factuels et fiables (même si le terme « relativement » est ici très important). Au début, les résultats de recherche et les informations en ligne provenant de nombreuses sources étaient accueillis avec un sain scepticisme critique, mais des années, voire des décennies, d’informations assez fiables fournies par les recherches Google, Wikipedia et autres ont court-circuité notre méfiance à l’égard des résultats d’une simple requête dans une boîte de texte sur Internet.

Les conséquences de l’IA générative

Je pense que les conséquences de la production en masse de contenu par ChatGPT et ses semblables, avec une précision discutable, pour des communications quotidiennes banals, seront subtiles, mais elles méritent d’être étudiées et potentiellement atténuées. La première étape consisterait à examiner pourquoi les gens ont l’impression de pouvoir confier autant de choses à l’IA dans son état actuel. Dans tous les cas, les véritables changements importants que l’IA apporte sont déjà là, et même s’ils ne ressemblent en rien à Skynet, ils méritent d’être étudiés plutôt que de se fier à des rêves technologiques optimistes.