Création d'un organe de régulation de l'IA

La création d’un organe de régulation de l’intelligence artificielle est en cours d’étude par les principaux acteurs du secteur, OpenAI, Anthropic et Google DeepMind. L’objectif principal est de mettre en place un système de surveillance des risques liés à cette technologie, face aux préoccupations croissantes concernant son développement et ses potentielles dérives. Cette initiative, motivée par une proposition initiale de Demis Hassabis, vise à assurer une supervision partagée et à coordonner les efforts du secteur pour atténuer les dangers associés à l’IA.

Les faits

L’idée d’un organe de régulation de l’intelligence artificielle est née d’une proposition faite en juillet par Demis Hassabis, président de Google DeepMind. Il avait suggéré la création d’une entité similaire à l’Autorité américaine de régulation de l’industrie financière (Finra). OpenAI et Anthropic se sont rapidement engagés dans cette démarche, cherchant à mettre en place une supervision des risques liés à l’émergence de l’IA. L’objectif est de surveiller les modèles d’intelligence artificielle les plus avancés et de coordonner un ralentissement du développement à l’échelle du secteur si les risques augmentent. Cette initiative intervient dans un contexte marqué par une multiplication des appels à mieux contrôler les dérives de cette technologie, notamment suite à plusieurs incidents de sécurité et à la capacité croissante des modèles d’IA à s’améliorer seuls.

Les acteurs

OpenAI, Anthropic et Google DeepMind sont les entreprises qui initient ce projet. Demis Hassabis, ancien directeur général de Google DeepMind, a été un acteur clé dans l’émergence de cette idée, proposant initialement la création d’une entité comparable à Finra. Mark Zuckerberg, PDG de Meta (anciennement Facebook), a souligné l’importance de l’« alignement », c’est-à-dire de s’assurer que les modèles d’IA se comportent conformément aux intentions humaines. L’instauration par la profession de son propre organe de surveillance nécessiterait vraisemblablement une loi, notamment pour éviter que l’industrie de l’IA ne soit accusée d’entente et d’infraction à la concurrence.

Réactions

Les entreprises du secteur reconnaissent la nécessité d’une régulation, mais soulignent les défis liés à cette démarche. Mark Zuckerberg a mis en avant le besoin crucial de s’assurer que les modèles d’IA sont « alignés » sur les intérêts des utilisateurs et qu’ils effectuent ce qu’on leur demande. Il estime que les laboratoires qui ne se concentrent pas sur l’alignement prendront du retard. La création d’un tel organisme est perçue comme une nécessité pour éviter que le secteur de l’IA ne soit accusé d’entente et d’infraction à la concurrence, notamment en raison des inquiétudes concernant le développement autonome des modèles d’IA et leurs potentielles dérives.

Enjeux

L’instauration d’un organe de régulation représente un défi majeur pour l’industrie de l’intelligence artificielle. Il est essentiel d’éviter que cette initiative ne soit perçue comme une forme de censure ou de frein à l’innovation, tout en garantissant la sécurité et l’éthique du développement de l’IA. La création d’un tel organisme nécessiterait probablement une loi pour éviter les accusations d’entente illégale entre entreprises. La question de la gouvernance de cet organe est également cruciale : comment garantir son indépendance et sa capacité à prendre des décisions éclairées, compte tenu des enjeux techniques complexes et des intérêts divergents des acteurs du secteur ?

Ce qu’il faut retenir

• OpenAI, Anthropic et Google DeepMind étudient la création d’un organe de régulation de l’IA, inspiré du modèle Finra.
• L’objectif est de superviser les risques liés au développement de l’IA et de coordonner un ralentissement si nécessaire.
• Cette initiative nécessite probablement une loi pour éviter des accusations d’entente illégale entre entreprises.