IA : Un chercheur déjoue une revue scientifique avec l'aide d'un assistant rédactionnel

Les faits : une opération de déguisement numérique

Un lecteur du « Canard enchaîné » s’est lancé dans un projet audacieux. Il a simulé être un expert en tricot afin de soumettre un article à une revue scientifique dédiée au textile. La rédaction de cet article, d’une vingtaine de minutes seulement, a été réalisée grâce à l’aide d’une intelligence artificielle. L’IA a permis de générer un texte cohérent et argumenté sur le sujet, malgré le manque de connaissances du chercheur dans ce domaine. Le travail ainsi produit a ensuite été publié par la revue après avoir été prétendu relu par des « pairs ». Ce procédé met en évidence la facilité avec laquelle une IA peut être utilisée pour produire des contenus scientifiques, même sans expertise préalable. La prolifération des revues scientifiques au cours des dernières décennies, atteignant près de six millions d’articles publiés annuellement, accentue ces risques (source : “intelligence artificielle” - Google Actualités).

Les acteurs : un chercheur et une intelligence artificielle

L’opération a été menée par un chercheur français. Son objectif était de tester la crédibilité des revues scientifiques et de démontrer la facilité avec laquelle une IA peut être utilisée pour produire des articles scientifiques. L’IA, quant à elle, a agi comme un assistant rédactionnel, produisant le texte initial en quelques minutes. La revue scientifique, dont le nom n’est pas précisé, a publié l’article sans effectuer de vérification approfondie sur la compétence du soumissionnaire et sans contrôler rigoureusement la qualité du contenu (source : “intelligence artificielle” - Google Actualités). L’affaire met également en lumière les préoccupations croissantes concernant l’utilisation des outils d’IA dans le domaine de la recherche.

Réactions : peur et questionnements

L’incident a suscité des réactions diverses. Certains soulignent que l’affaire illustre les dangers liés à la prolifération des publications scientifiques et au manque de contrôle sur la qualité des travaux publiés (source : “intelligence artificielle” - Google Actualités). D’autres mettent en avant le potentiel des outils d’IA pour faciliter la recherche, mais insistent également sur la nécessité de mettre en place des mécanismes de vérification rigoureux. L’ESSENTIEL est que l’engouement autour de ChatGPT et les récits associés à l’intelligence artificielle ont créé des peurs et de l’angoisse concernant son impact (source : “intelligence artificielle” - Google Actualités). Ces discours, souvent états-uniens, soulignent le besoin d’un récit plus positif pour l’IA.

Enjeux : crédibilité et diffusion de la recherche

L’affaire soulève des questions cruciales concernant la crédibilité des données scientifiques. La publication d’articles produits par une IA, sans vérification préalable, pose un risque important sur la confiance du public dans la recherche scientifique. De plus, l’incident met en lumière les enjeux liés à la diffusion de l’innovation. Comme le souligne Joseph Schumpeter, la diffusion d’une innovation dépend de son acceptabilité sociale et de la manière dont ses usages sont perçus (source : “intelligence artificielle” - Google Actualités). Sans cette acceptation, une innovation risque d’être cantonnée aux expérimentations des scientifiques et aux spéculations des investisseurs. La prolifération des revues scientifiques, combinée à l’utilisation de l’IA pour la rédaction d’articles, complexifie davantage ce processus (source : “intelligence artificielle” - Google Actualités).

Ce qu’il faut retenir

• L’utilisation de l’IA pour la rédaction d’articles scientifiques soulève des questions importantes sur la vérification et la qualité des publications.
• La prolifération des revues scientifiques, combinée à l’essor de l’IA, augmente le risque de publication de fausses informations dans le domaine scientifique.
• Le succès ou le rejet d’une technologie dépend en grande partie du récit qui l’accompagne et de son acceptation par la communauté scientifique et le public.