Thursday, July 14, 2022
HomeFrench NewsCette IA a écrit un article scientifique à propos d'elle-même, qui va...

Cette IA a écrit un article scientifique à propos d’elle-même, qui va être publié !


Pourra-t-on bientôt voir le nom d’intelligences artificielles en haut d’une publication scientifique, dans les auteurs ? Des chercheurs se posent de plus en plus la query. En particulier par rapport à une IA spécialisée dans le langage, appelée GPT-3, qui fonctionne par l’apprentissage automatique, ou machine studying. Développée par la société OpenAI qui a été fondée entre autres par Elon Musk, elle appartient à la catégorie des « IA de génération », ou generative fashions, en anglais. Elle utilise une base de données en entrée pour créer de nouveaux factors en sortie, cohérents avec cette base. Jusqu’ici, elle est parvenue à tenir des conversations écrites, faire des recommandations de movies ou de livres, rédiger des articles de presse ou des mails de pishing, et même imiter des types d’auteurs, plus précisément à écrire ce que l’on appelle des pastiches.

Écrire un article scientifique sur soi-même pour une IA, ça pose des questions !

Mais deux chercheurs de la société OpenIA, Almira Osmanovic Thunström et Steinn Steingrimsson, ont décidé de pousser le bouchon un peu plus loin, en lui demandant cette fois d’écrire un article universitaire scientifique courtroom, de 500 mots. Jusque-là rien d’extraordinaire, automobile elle a été créée dans ce however, l’utilisation de données pour générer du contenu. Si ce n’est qu’ils lui ont cette fois-ci fait rédiger un article sur elle-même ! Comme ils le précisent dans une publication du Scientific American, « l’algorithme GPT-3 est relativement nouveau et, à ce titre, il existe moins d’études à ce sujet. » Le however était donc de faire écrire un article à cette IA sans qu’elle ne dispose d’une grande base de données, le tout en fournissant, comme pour tout bon article scientifique, des références et des citations. Et le résultat était là, « cela ressemblait, observe A.O. Thunström, à toute autre introduction à une assez bonne publication scientifique. »

Intitulé « GPT-3 peut-il écrire un article académique sur lui-même, avec une contribution humaine minimale ? » et publié sur le service de prépublication HAL, l’article a été rédigé en seulement deux heures et remplit tous les critères d’un véritable article scientifique. On peut y lire dans l’summary, rédigé donc par GPT-3, que « les avantages de laisser GPT-3 écrire sur lui-même l’emportent sur les risques. Cependant, nous recommandons que toute écriture de ce sort soit étroitement surveillée par les chercheurs afin d’atténuer toute conséquence négative potentielle ». 

« Nous espérons juste que nous n’avons pas ouvert une boîte de Pandore »

Mais quelles seraient les conséquences négatives potentielles citées dans l’summary ? Les chercheurs s’inquiètent notamment de la conscience d’elle-même que GPT-3 pourrait développer : comme écrit dans la rubrique « dialogue », donc rédigé directement par l’IA, « GPT-3 pourrait devenir conscient de lui-même et commencer à agir d’une manière qui n’est pas bénéfique pour les humains (par exemple, développer un désir de conquérir le monde) ». Un risque minime, mais présent néanmoins. Notamment automobile la conscience des IA a récemment fait l’objet d’un débat, avec celle de Google, laMDA, qui a été estimée consciente par l’un des anciens employés de l’entreprise. « Tout ce que nous savons, c’est que nous avons ouvert une porte, écrit A.O. Thunström. Nous espérons juste que nous n’avons pas ouvert une boîte de Pandore. »

Quant aux impacts positifs, qui selon les chercheurs dépassent les inquiétudes, ils sont aussi énumérés dans la partie « dialogue » : « cela permettrait à GPT-3 de mieux se comprendre », et « cela pourrait l’aider à améliorer ses propres performances et capacités ». Mais aussi, et surtout, « cela donnerait un aperçu du fonctionnement et de la réflexion de GPT-3 ». Finalement, Almira Osmanovic Thunström questionne les implications qu’aura cet article sur la communauté scientifique« Au-delà des détails de la paternité, écrit-elle, l’existence d’un tel article jette par la fenêtre la notion de linéarité traditionnelle d’un article scientifique. »

Intéressé par ce que vous venez de lire ?

RELATED ARTICLES

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Most Popular

Recent Comments