L'IA peut-elle s'améliorer seule ? Anthropic demande un ralentissement mondial

L'auto-amélioration récursive : un risque croissant

Anthropic relance le débat sur les risques liés à l'intelligence artificielle. L'entreprise affirme que les systèmes d'IA pourraient, à terme, atteindre un niveau leur permettant de s'améliorer eux-mêmes sans intervention humaine. Ce phénomène, connu sous le nom d'« auto-amélioration récursive », désigne la capacité d'une IA à perfectionner ses propres performances de manière autonome.

Si cette étape n'a pas encore été franchie, Anthropic estime qu'elle pourrait survenir plus tôt que prévu. L'entreprise fondée par d'anciens chercheurs d'OpenAI appelle les principaux acteurs du secteur à réfléchir à des mécanismes permettant de mieux contrôler le rythme des avancées technologiques.

Un appel à la coordination internationale

Selon Anthropic, un accord international pourrait être nécessaire afin de ralentir temporairement le développement des systèmes les plus puissants. L'entreprise souligne également l'importance de mettre en place des mécanismes de vérification capables de garantir le respect de tels engagements par les différents acteurs du marché.

Pour Jack Clark, co-fondateur d'Anthropic, cette réflexion ne doit pas être réservée aux seules entreprises du secteur. Les pouvoirs publics, les chercheurs indépendants et la société civile doivent également participer à la définition des règles qui encadreront l'avenir de l'intelligence artificielle.

Les conséquences économiques et sociales

Les dirigeants d'Anthropic alertent régulièrement sur les conséquences potentielles d'une IA toujours plus performante. Dario Amodei, PDG de l'entreprise, a notamment averti que ces technologies pourraient accentuer les inégalités économiques et entraîner la disparition d'une part importante des emplois de bureau débutants.

Pour Anthropic, la question n'est plus seulement technologique, mais également sociétale. Les transformations induites par l'IA pourraient être si rapides que les institutions, les entreprises et les gouvernements peineraient à s'y adapter.

Des divergences parmi les experts

Cette vision n'est toutefois pas partagée par l'ensemble de la communauté. Yann LeCun, figure de référence dans le domaine de l'intelligence artificielle, considère que les grands modèles de langage actuels restent fondamentalement incapables d'atteindre une intelligence comparable à celle des humains.

Malgré ces divergences, le débat gagne en intensité à mesure que les capacités des modèles progressent. Pour Anthropic, il est urgent de donner à la société le temps de suivre l'évolution technologique.