Un nouvel outil révèle la source des idées dans les textes générés par l’intelligence artificielle.

Développement d’IdeaLens

Une équipe de recherche de l’Université du Maryland, de Google DeepMind et de l’Université Simon Fraser a développé un nouvel outil nommé IdeaLens. Cet outil vise à déterminer si les idées fondamentales dans les textes scientifiques et de recherche proviennent d’un humain ou d’une intelligence artificielle. Pour ce faire, il analyse les arguments et les schémas de pensée, plutôt que de se concentrer sur la formulation linguistique.

Fonctionnement de l’outil

IdeaLens fonctionne en extrayant le style d’écriture des textes et en les transformant en un schéma qui met en évidence les idées principales. Cela permet d’évaluer la source de l’idée, indépendamment de l’auteur de la version finale. Le système a été entraîné sur environ un million de documents préalablement classés entre humains et générés par intelligence artificielle.

Résultats des tests

Les tests ont montré qu’IdeaLens a réussi à identifier 91 % des travaux créés par l’intelligence artificielle de manière correcte. De plus, le taux d’erreur dans la classification des textes humains n’a pas dépassé 0,6 %. L’outil a également surpassé les outils de détection traditionnels lors de l’analyse de textes ayant subi de légères modifications par l’intelligence artificielle. Il a classé 95 % des documents humains comme étant humains, comparé à une moyenne de 44 % obtenue par l’outil Pangram.

Caractéristiques des idées humaines et artificielles

Les résultats indiquent que les idées humaines se caractérisent souvent par des détails concrets, des sources vérifiables et une reconnaissance des limites. En revanche, les idées générées par l’intelligence artificielle tendent à être générales, à faire des affirmations larges et à contenir des chiffres difficiles à vérifier.

Limites de l’outil

Malgré la précision de l’outil, les chercheurs soulignent qu’il n’est pas encore prêt pour une utilisation généralisée dans les revues scientifiques ou les établissements d’enseignement. Des difficultés subsistent avec certains modèles d’intelligence artificielle récents, ce qui nécessite des tests supplémentaires avant son adoption officielle.

Pour suivre l’actualité en Arabe