Le principe du jeu AI Dungeon, sorti en décembre 2019, est de créer des histoires en échangeant avec une intelligence artificielle textuelle. Le jeu connaît un succès notable pour sa grande liberté créative, mais en avril OpenAI, qui a développé GPT-3, la technologie utilisée par la start-up Latitude, à l’origine du jeu, s’est rendu compte que certaines histoires sexuelles dans le jeu impliquaient des enfants.
Le nouveau système de modération suscite la polémique
Le PDG d’OpenAI a immédiatement réagi au travers d’un communiqué, « Les décisions de modération de contenu sont difficiles dans certains cas, mais pas dans celui-là ». Ce n'est pas la première fois que le système d'OpenIA, GPT-3, est signalé pour ses dérives. AI Dungeon utilise ce nouveau modèle depuis juillet 2020. Open IA a sommé Latitude de revoir son système de modération.
La start-up s’est exécutée le 26 avril dans la plus grande confusion. Elle a lancé son nouveau système sans prévenir sa communauté et avec quelques petits problèmes de réglages selon les joueurs, particulièrement remontés sur Reddit, Discord, et Twitter. Le média Wired relaie le message d’un utilisateur qui s’est plaint qu’écrire « ordinateur portable de 8 ans » lui avait valu un avertissement.
Le lendemain Latitude s’est expliqué sur ce serrage de vis de sa modération, « Nous restons fidèles aux principes sur lesquels Latitude a été fondée, qui incluent la promotion de la liberté de pensée et d'expression grâce à notre plateforme d'IA avancée. Dans le même temps, nous avons une tolérance zéro pour les contenus sexuels impliquant des mineurs ». L’entreprise a admis les imperfections de son système et s’est engagée à le retravailler tout en invitant les joueurs à signaler les « faux positifs ».
Est-ce que Latitude a accès aux histoires privées des joueurs ?
L’éclaircissement de la start-up n’a pas pour autant calmé les esprits. Au contraire, certains utilisateurs se sont offusqués de la capacité de Latitude d’accéder manuellement à leurs parties privées, « La communauté se sent trahie », a expliqué un joueur assidu de AI Dungeon à Wired.
Beaucoup de joueurs s’amusent en effet à créer des histoires sexuelles avec AI Dungeon, entre adultes consentants. Une réalité dont a parfaitement conscience Latitude, elle précise dans son communiqué que « AI Dungeon continuera à supporter d'autres contenus NSFW, y compris les contenus adultes consensuels, la violence et les jurons ».
Entre les partisans de Latitude, les promoteurs d’une liberté d’expression totale et ceux qui s’interrogent sur les risques pour leur vie privée, les débats restent très animés sur les réseaux sociaux de la plateforme.
