Le président d’Anthropic propose un plan en trois étapes pour ralentir le développement de l’intelligence artificielle.

Une nouvelle initiative pour ralentir le développement de l’intelligence artificielle

Darío Amoudi, le directeur général d’Anthropic, a présenté un plan en trois étapes visant à ralentir le progrès des capacités avancées de l’intelligence artificielle. Cette initiative survient alors que les avertissements concernant les risques potentiels de cette technologie se multiplient. Amoudi a précisé que l’objectif est de ralentir la course, sans stopper l’évolution.

Des préoccupations croissantes face à des avancées rapides

Cette initiative arrive à un moment où les inquiétudes grandissent quant à la capacité des entreprises à maîtriser les modèles les plus avancés. En effet, ces modèles exécutent des tâches complexes et contribuent au développement de nouvelles générations de systèmes d’intelligence artificielle.

Des facteurs clés motivent un changement de cap

Amoudi a identifié deux facteurs principaux qui l’ont poussé à adopter une approche plus prudente :

• Des violations de sécurité touchant des plateformes comme OpenAI et Hugging Face.
• Une accélération significative des capacités de l’intelligence artificielle au cours des derniers mois, notamment dans sa contribution à la création de la prochaine génération de systèmes.

Sa proposition a reçu le soutien de personnalités influentes, dont Sam Altman, le PDG d’OpenAI, qui a annoncé qu’il adopterait la même démarche. Elon Musk a également commenté : « Darío a raison. »

Étape 1 : Des observateurs indépendants au sein des entreprises

Le plan propose de permettre à des institutions externes spécialisées, comme METR, d’envoyer des évaluateurs indépendants pour travailler au sein des entreprises d’intelligence artificielle. Les objectifs incluent :

• Vérifier le respect de l’engagement à ralentir le développement.
• Surveiller les procédures de sécurité.
• Rapporter tout incident lié aux modèles avancés.

Cette approche rappelle la supervision interne dans les institutions bancaires, où les observateurs disposent de bureaux, de badges d’identification et d’un accès étendu aux informations.

Étape 2 : Normes communes de sécurité

Amoudi appelle les entreprises d’intelligence artificielle dans les pays démocratiques à coordonner leurs efforts pour établir des normes de sécurité communes et définir des limites à la vitesse de développement non régulée.

Il propose que le gouvernement américain joue un rôle de médiateur, en accordant aux entreprises des exemptions légales limitées pour éviter des problèmes liés aux lois antitrust pendant les discussions.

La Chine : un argument fort contre le ralentissement

Amoudi reconnaît que les craintes concernant la suprématie de la Chine sont souvent utilisées comme argument contre le ralentissement du développement. Cependant, il estime que les États-Unis peuvent prendre des mesures pour limiter la capacité de la Chine à rattraper son retard, telles que :

• Interdire l’accès aux puces avancées et aux équipements de fabrication de semi-conducteurs.
• Renforcer les restrictions sur l’extraction des capacités des modèles avancés.

Il pense que ces mesures pourraient élargir l’écart en faveur des États-Unis dans un délai de trois à cinq ans.

Étape 3 : Coordination mondiale incluant la Chine

Le plan propose d’atteindre une coordination internationale limitée, incluant une coopération avec la Chine dans des domaines spécifiques, tels que :

• Interdire l’utilisation de l’intelligence artificielle pour la production d’armes biologiques ou pour habiliter les utilisateurs à le faire.

Réactions et critiques

Amoudi a fait face à des critiques de la part de certains optimistes technologiques qui l’accusent de dramatiser les scénarios catastrophiques. D’autres estiment que certaines propositions pourraient avantager de grandes entreprises comme Anthropic et OpenAI.

Cependant, Amoudi a affirmé que son objectif est de restaurer la confiance dans la technologie. Ralentir la course permettrait aux entreprises et aux gouvernements de mieux comprendre les risques et d’établir des règles de sécurité efficaces.

Pour suivre l’actualité en Arabe