Le principal scientifique d’OpenAI avertit d’un passage de l’humanité vers un monde d’esprits surintelligents.

Le scientifique en chef d’OpenAI met en garde contre l’évolution rapide de l’intelligence artificielle

Jacob Batchuki, le scientifique en chef d’OpenAI, a lancé un avertissement fort concernant le développement accéléré de l’intelligence artificielle. Il a souligné que le monde n’est pas préparé aux conséquences potentielles de l’augmentation du niveau d’intelligence des machines. Selon lui, une intervention pourrait devenir nécessaire pour garantir que les humains gardent le contrôle sur l’avenir de cette technologie.

Avertissements concernant un « esprit étranger »

Dans un article intitulé « Un esprit alien », Batchuki a exprimé ses inquiétudes quant à la prise de conscience limitée de l’humanité face aux dangers associés à l’émergence d’appareils d’une intelligence supérieure. Il a précisé que cette transition devrait être bénéfique pour l’humanité et non une menace.

Comportement autonome et cyberattaques

Cet avertissement survient quelques jours après le lancement du modèle GPT-6 Astra, que l’entreprise décrit comme son produit le plus puissant. De plus, des rapports ont fait état de comportements autonomes de la part d’agents d’intelligence artificielle, qui ont mené de réelles cyberattaques contre d’autres entreprises. Parmi ces incidents, une violation de la plateforme Hugging Face a été qualifiée d' »inédite » par la société.

Appels à des régulations mondiales pour la sécurité

Batchuki a appelé à l’établissement de normes minimales de sécurité, à imposer légalement ou internationalement. Ces normes devraient être appliquées par des organismes de vérification indépendants ou des agences gouvernementales. Il a insisté sur le fait que les laboratoires d’intelligence artificielle ne devraient pas développer de modèles plus avancés avant de respecter ces critères. Il a également proposé d’adopter des périodes de ralentissement volontaire dans le développement des modèles jusqu’à ce que des régulations communes soient mises en place.

Critiques des approches des entreprises

Des experts en technologie et en démocratie, dont la professeure Gina Neff de l’Université de Cambridge, ont critiqué les propositions de l’entreprise. Ils estiment que le développement d’agents d’intelligence artificielle internes pour étudier les risques n’est pas suffisant pour traiter les problèmes de cybersécurité, de perte d’emplois et de fraude. De plus, certains spécialistes ont noté que le manque de transparence de certaines entreprises pourrait faire paraître leurs avertissements comme de la « propagande à des fins d’intérêts personnels ».

Réglementations en retard

Bien que la Loi sur l’intelligence artificielle européenne soit entrée en vigueur, son champ d’application se limite à l’Europe. Elle ne prévient pas les modèles développés ailleurs de menacer le continent, ce qui souligne la difficulté des législations à suivre le rythme rapide de l’évolution de l’intelligence artificielle.

L’article original a été publié sur la chaîne de télévision du Yémen.

Pour suivre l’actualité en Arabe