Le département de l’Éducation de New York a annoncé, le 5 janvier, avoir interdit, aux écoles de la ville, d’utiliser ChatGPT, le modèle de langage d’OpenAI reposant sur l’intelligence artificielle (IA). Cette décision survient alors que de nombreux professeurs craignent une mauvaise utilisation de l’outil, empêchant les élèves de développer des compétences essentielles à leur réussite scolaire.

ChatGPT souffre de son efficacité

Lancé en décembre 2022, ChatGPT a connu un énorme succès sur les réseaux sociaux et est parvenu à montrer, au grand public, l’étendue des capacités de l’IA. Le modèle de langage est capable de répondre à n’importe quelle question sur n’importe quel sujet, de résoudre des problèmes mathématiques complexes et de suggérer des plans de dissertation voire de les rédiger intégralement en l’espace de quelques secondes. C’est cette dimension de facilité qui inquiète le personnel enseignant.

Pour étouffer dans l'œuf la démocratisation de ChatGPT dans les milieux d'apprentissage, le département de l’Éducation de New York a décidé d’interdire son accès sur les appareils et les réseaux des bâtiments scolaires. Jenna Lyle, une porte-parole du département a expliqué à NBC News que « si ChatGPT peut fournir des réponses rapides et faciles à des questions, il ne permet pas de développer la pensée critique et les compétences en matière de résolution de problèmes, qui sont essentielles à la réussite scolaire et tout au long de la vie ».

OpenAI veut lutter contre l’utilisation de ses outils à des fins malveillantes

OpenAI a toujours développé ses outils pour la recherche scientifique. Pour réduire les cas d’utilisation malveillante, l’entreprise, bientôt valorisée à 29 milliards de dollars, entraîne ses intelligences artificielles à ne pas produire de contenus offensants. C’est déjà le cas avec DALL-E, son IA de génération d’images, qui n’autorise pas les créations contenant de l’automutilation, des symboles haineux ou des activités illégales. Concernant ChatGPT, un chercheur invité par OpenAI a révélé, en décembre dernier, que les ingénieurs de la société étaient en train de développer un moyen d’identifier lorsque du texte généré par le modèle de langage.

En attendant que la solution soit jugée suffisamment efficace, ChatGPT restera banni des écoles new-yorkaises. L’outil pourra toutefois être étudié dans le cadre d’un cours sur l’intelligence artificielle. Par ailleurs, OpenAI se dit prête « à travailler avec les écoles sur des solutions utiles et sur des moyens d’aider les enseignants et les étudiants à bénéficier du modèle de langage ».