Une ONG porte plainte contre ChatGPT auprès de la FTC

ChatGPT continue de fasciner, d’intriguer, mais aussi d’inquiéter certains organismes qui n’hésitent pas à s’attaquer à cet outil. Le 30 mars 2023, le Center for AI and Digital Policy (CAIDP), un organisme de recherche à but non lucratif tourné vers les technologies éthiques, a porté plainte contre OpenAI pour avoir violé la loi fédérale sur la protection des consommateurs avec son intelligence artificielle générative.

Une plainte vise OpenAI et plus particulièrement ChatGPT

Dans la plainte déposée auprès de la Federal Trade Commission (FTC), l’ONG reproche à OpenAI d’avoir développé et proposé un outil « biaisé, trompeur et qui présente un risque pour la vie privée et la sécurité publique ». L’organisme accuse ChatGPT de ne pas respecter les directives du régulateur américain appelant à ce que toute IA soit transparente, juste et facile à expliquer. « Le produit GPT-4 d’OpenAI ne répond à aucune de ces exigences, » affirme le CAIDP.

En déposant cette plainte, l’ONG demande à la FTC d’ouvrir une enquête sur OpenAI. En parallèle, elle propose de « suspendre le déploiement ultérieur de produits commerciaux en lien avec ses modèles de langage jusqu’à ce que l’entreprise se conforme à la réglementation en vigueur sur les intelligences artificielles ». Dans sa lettre ouverte, l’association reproche également à la société de fournir peu d’informations sur les données d’entraînement qu’elle a utilisé pour développer son dernier modèle de langage, GPT-4.

En plus de cela, le CAIDP mentionne une douzaine de risques majeurs inclus dans la description technique de l’outil proposé par OpenAI. Vis-à-vis de ces potentiels dangers, l’association demande à la FTC de mettre en place un délai de vérification, le temps de vérifier que de futures solutions soient en conformité avec la loi. « Une exigence fondamentale dans tous les cadres politiques émergents en matière d’IA – une évaluation d’impact indépendante avant le déploiement – n’a jamais été entreprise », a déclaré le CAIDP.

Quelques heures seulement avant l’officialisation de cette plainte, d’éminents chercheurs ainsi qu’Elon Musk avaient plaidé pour l’interruption pendant au moins six mois du développement d’IA plus avancées que GPT-4. Cette pause aurait pour objectif de recentrer les recherches autour des intelligences artificielles génératives afin « d’améliorer leur précision, leur sécurité, leur interprétabilité, leur transparence, leur robustesse, leur fiabilité et leur loyauté ».

Le CAIDP s’inquiète des biais algorithmiques existants dans les IA génératives

Mis à disposition du grand public à la fin du mois de novembre 2022, ChatGPT est considéré comme une véritable révolution. Conscients d’être passé à côté de quelque chose, les géants technologiques comme Google ou Meta se sont également lancés dans les IA génératives. La firme de Mountain View a ainsi proposé Bard tandis que l’entreprise dirigée par Mark Zuckerberg a dévoilé LLaMA, un modèle de langage qui devrait être le point d’ancrage d’un futur robot conversationnel.

Pour toutes ces IA génératives, les détracteurs de ChatGPT, dont le CAIDP, mettent en garde contre les biais algorithmiques qu’ils proposent. Fort de son partenariat avec OpenAI, Microsoft a inclus cette technologie dans son moteur de recherche Bing. Quelques jours seulement après le lancement du service, les développeurs se sont rendu compte que l’outil avait tendance à proposer de fausses affirmations s’il était surutilisé. De ce fait, Microsoft a décidé de brider son service à 60 sessions de chat quotidiennes et à 6 questions par session.

La FTC n’a pas encore donné suite à la plainte. Si elle décide de se saisir de l’affaire, le régulateur américain pourrait bien fixer des exigences qui affecteront indéniablement le développement des futurs outils d’IA générative. Pour l’heure, un seul État s’est prononcé sur l’agent conversationnel d’OpenAI : l’Italie. ChatGPT y est bloqué en raison d’un manquement au RGPD.