De nombreux chercheurs spécialisés dans l’intelligence artificielle (IA) ont cosigné une lettre qui dénonce la course à l’IA dans laquelle se sont lancées de nombreuses entreprises technologiques. Le texte regroupe plus de 1 000 signatures, dont celle d’un certain Elon Musk.
Une course effrénée préjudiciable à l’humanité
La sortie de ChatGPT en novembre 2022 a complètement chamboulé l’industrie de la tech. À travers son investissement massif dans OpenAI, Microsoft exploite cette technologie et l’a introduite dans son moteur de recherche ainsi que dans ses outils bureautiques.
Inscrivez-vous à la newsletter
En vous inscrivant vous acceptez notre politique de protection des données personnelles.
Craignant d’être devancée, Google a riposté en introduisant sa propre IA générative dans sa suite Workspace ainsi qu’en tant que complément de Google Search. Cet engouement touche de nombreuses autres entreprises, qui intègrent rapidement l’IA à leurs produits.
Ce marché émergent est devenu concurrentiel très vite. Cela pousse ses acteurs à rester secrets sur leur technologie. À titre d’exemple, OpenAI n’a pas partagé les détails de la création de GPT-4, ni de ses données d’entraînement. « Ces derniers mois, les laboratoires d’IA se sont lancés dans une course effrénée pour développer et déployer des esprits numériques de plus en plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable », écrivent les signataires de la lettre.
Selon eux, « les systèmes d’IA puissants ne devraient être développés que lorsque nous sommes certains que leurs effets seront positifs et que leurs risques seront gérables ».
Une pause pour recentrer la recherche
Les chercheurs préconisent une pause dans le développement des intelligences artificielles avancées : « Nous demandons à tous les laboratoires d’IA d’interrompre immédiatement, pendant au moins six mois, la formation de systèmes d’IA plus puissants que GPT-4. Cette pause devrait être publique et vérifiable, et inclure tous les acteurs clés ».
Ils recommandent, en outre, à ce que la recherche dans le domaine soit recentrée sur « l’amélioration de la précision, de la sécurité, de l’interprétabilité, de la transparence, de la robustesse, de l’alignement, de la fiabilité et de la loyauté ».
Enfin, les signataires appellent à une collaboration étroite entre les décideurs politiques et les développeurs pour établir un système de gouvernance pour cette technologie. « L’IA peut offrir à l’humanité un avenir florissant », estiment-ils, à condition de mettre en pause son développement afin de bien repenser les contours de la recherche. L’objectif est de « concevoir des systèmes pour le plus grand bénéfice de tous qui donneront à la société une chance de s’adapter ».
Des signataires reconnus
Parmi les signataires, figurent le cofondateur d’Apple Steve Wozniak, le cofondateur de Skype Jaan Tallinn, ainsi qu’un certain nombre de chercheurs et de PDG réputés dans le domaine de l’IA, dont Stuart Russell, Yoshua Bengio, Gary Marcus et Emad Mostaque. Sans surprise, Elon Musk en fait également partie. Le milliardaire a exprimé à plusieurs reprises ses craintes sur l’intelligence artificielle, et s’est montré très critique vis-à-vis de ChatGPT et du lien entre OpenAI et Microsoft.
D’ailleurs, OpenAI elle-même s’est déclarée en faveur d’un « examen indépendant » des futurs systèmes d’IA afin de s’assurer qu’ils répondent aux normes de sécurité. Les signataires estiment que le moment est venu. S’il est peu probable que la pause demandée soit effectivement mise en œuvre, la lettre a le potentiel d’éveiller l’intérêt de certains législateurs qui souhaiteraient encadrer davantage cette technologie.
