Le président d’Anthropic propose un plan en trois étapes pour ralentir le développement de l’intelligence artificielle face aux craintes mondiales.

Darío Amodei propose un plan en trois étapes pour ralentir le développement de l’intelligence artificielle

Darío Amodei, le directeur général de l’entreprise Anthropic, a présenté un plan en trois étapes visant à ralentir le progrès des capacités avancées de l’intelligence artificielle. Cette initiative survient alors que les avertissements concernant les risques potentiels de cette technologie se multiplient. Amodei a précisé que l’objectif est de ralentir la course, sans stopper l’évolution.

Cette initiative arrive à un moment où les inquiétudes grandissent concernant la capacité des entreprises à contrôler les modèles les plus avancés, surtout avec l’accélération de leurs capacités à exécuter des tâches complexes et à contribuer au développement de nouvelles générations de systèmes d’intelligence artificielle.

Des violations de sécurité et une accélération sans précédent

Amodei a expliqué que deux facteurs principaux l’ont poussé à adopter une approche plus prudente :

• Des violations de sécurité touchant des plateformes telles qu’OpenAI et Hugging Face.
• Une accélération massive des capacités de l’intelligence artificielle au cours des derniers mois, notamment dans sa capacité à contribuer à la construction de la prochaine génération de systèmes.

Sa proposition a reçu le soutien de personnalités influentes, dont Sam Altman, le directeur général d’OpenAI, qui a annoncé qu’il adopterait la même démarche, ainsi qu’Elon Musk, qui a commenté : « Darío a raison. »

Étape 1 : Observateurs indépendants au sein des entreprises

Le plan propose de permettre à des institutions externes spécialisées, comme METR, d’envoyer des évaluateurs indépendants pour travailler au sein des entreprises d’intelligence artificielle, afin de :

• Vérifier le respect des engagements de ralentissement du développement.
• Surveiller les procédures de sécurité.
• Rapporter tout incident lié aux modèles avancés.

Ce mécanisme ressemble à la surveillance interne dans les institutions bancaires, où les observateurs disposent de bureaux et de cartes d’identité ainsi que d’un accès étendu aux informations.

Étape 2 : Normes communes de sécurité

Amodei appelle les entreprises d’intelligence artificielle dans les pays démocratiques à un coordination commune pour établir des normes de sécurité unifiées et définir des limites à la vitesse de développement non régulée.

Il propose que le gouvernement américain joue le rôle d’intermédiaire, en accordant aux entreprises des exemptions légales limitées pour éviter des problèmes de lois antitrust pendant les discussions.

La Chine : l’argument le plus fort contre le ralentissement

Amodei a reconnu que les craintes concernant le supériorité de la Chine sont utilisées comme argument contre le ralentissement du développement. Cependant, il estime que les États-Unis peuvent prendre des mesures pour limiter la capacité de la Chine à rattraper son retard, telles que :

• Interdire l’accès aux puces avancées et aux équipements de fabrication de semi-conducteurs.
• Renforcer les restrictions sur l’extraction des capacités des modèles avancés (Model Distillation).

Il pense que ces mesures pourraient élargir l’écart en faveur des États-Unis dans les 3 à 5 ans à venir.

Étape 3 : Coordination mondiale incluant la Chine

Le plan propose d’atteindre une coordination internationale limitée, incluant la coopération avec la Chine dans des domaines spécifiques, tels que :

• Interdire l’utilisation de l’intelligence artificielle dans la production d’armes biologiques ou pour habiliter les utilisateurs à le faire.

Réactions et critiques

Amodei a fait face à des critiques de la part de certains optimistes technologiques qui l’ont accusé de dramatiser les scénarios catastrophiques. D’autres estiment que certaines propositions pourraient bénéficier à de grandes entreprises comme Anthropic et OpenAI.

Cependant, Amodei a affirmé que son objectif est de restaurer la confiance dans la technologie, et que ralentir la course donne aux entreprises et aux gouvernements le temps de comprendre les risques et d’établir des règles de sécurité efficaces.

Conclusion

Le plan ne vise pas à arrêter le développement de l’intelligence artificielle, mais à ralentir temporairement et de manière réfléchie pour donner au monde l’occasion de sécuriser cette technologie avant qu’elle ne dépasse la capacité humaine à la contrôler.

Pour suivre l’actualité en Arabe