Edward Tian, un étudiant de Princeton de 22 ans, affirme avoir mis au point un outil capable de détecter les textes rédigés par ChatGPT. Selon The Guardian, il a développé une application baptisée GPTZero pendant ses vacances.


Culture Numérique est disponible sur Spotify - Apple Podcasts - Deezer - Google Podcasts - Acast.

GPTZero versus ChatGPT

Ce jeune étudiant prétend que son application est en mesure de détecter une dissertation écrites par le désormais célèbre chatbot, dont Microsoft sera peut-être bientôt le propriétaire. ChatGPT suscite déjà des craintes de plagiat dans le milieu universitaire. Edward Tian a justement déclaré vouloir s'attaquer à « l'utilisation des outils d'intelligence artificielle qui permettent d'échapper aux logiciels anti-plagiat, afin de tricher aux examens en rédigeant rapidement des textes qui semblent crédibles ».

Dans un tweet publié il y a quelques jours, il a déclaré que son application pouvait « détecter rapidement et efficacement si un essai avait été rédigé par une intelligence artificielle ». Un tweet qui est devenu viral avec plus de 5 millions de vues. Son outil baptisé GPTZero est hébergé sur la plateforme Streamlit. Pour déterminer si un texte a été écrit par une intelligence artificielle, l'application effectue un calcul de « perplexité » qui mesure la complexité d'un texte, et un autre qui compare la variation des phrases.


Plus le texte semble familier à GPTZero, une IA qui est entraînée sur des données similaires, plus il est susceptible d'avoir été généré par l'intelligence artificielle. Edward Tian croit dans le développement et l'utilité de son outil et précise qu'au cours des prochains mois, il se consacrera entièrement « à la construction de GPTZero, à l'amélioration des capacités du modèle et à la mise à disposition de l'application ».

Néanmoins, son application ne semble pas convaincre tout le monde. Toby Walsh, professeur en intelligence artificielle à l'Université de Nouvelle-Galles du Sud, estime que ChatGPT risque d'être plus fort que GPTZero. Selon lui, « il est assez facile de demander à ChatGPT de réécrire un texte dans un style plus personnel... comme s'il s'agissait d'un enfant de 11 ans par exemple ». Il a ajouté que les utilisateurs pourraient également demander à ChatGPT d'ajouter un « caractère aléatoire » dans le texte pour échapper aux censeurs.

ChatGPT s'améliore de jour en jour. Si bien que dans certaines universités françaises, des professeurs constatent déjà des copies rédigées par l’intelligence artificielle d'OpenAI. En effet, un enseignant d’université en handicapologie de Lyon a découvert que 50 % de ses élèves de Master « avaient triché ». Pour rédiger leur copie, ils avaient fait appel à une nouvelle intelligence artificielle surpuissante : ChatGPT.

Pour Le Progrès, il a expliqué que « 7 copies présentaient des similitudes très étranges. Il ne s’agissait pas de copier-coller. Mais les copies étaient construites exactement de la même manière ». En France, ce phénomène serait déjà massif. Il a discuté avec d'autres enseignants et affirme que « 75 % d'entre eux m’ont dit avoir eu affaire à des copies louches ces dernières semaines ». Le département de l’Éducation de New York a annoncé, le 5 janvier, avoir interdit aux écoles de la ville d’utiliser ChatGPT.