OpenAI a annoncé le 18 décembre accorder plus de pouvoir à son conseil d’administration. Désormais, le board aura la possibilité de retarder la publication d’un modèle d’intelligence artificielle (IA) en invoquant des raisons de sécurité, même si son comité de direction le juge sûr.

OpenAI préfère jouer la carte de la prudence

Dans un billet de blog, OpenAI est revenu sur le processus d’évaluation des risques liés à l’IA avant la publication de ses nouveaux modèles. L’équipe Prepardness dirigée par Aleksander Madry, professeur au Massachusetts Institute of Technology (MIT) et à la tête du Center for Deployable Machine Learning du MIT, évalue en permanence les systèmes développés par l’entreprise afin de savoir comment ils se comportent dans diverses situations.

OpenAI cherche à savoir s’il existe des risques « qui pourraient entraîner des centaines de milliards de dollars de dommages économiques ou entraîner des dommages graves ou la mort de nombreuses personnes ». Un rapport est ensuite rédigé, puis fourni simultanément à la direction et au conseil d’administration de la firme. « Bien que la direction soit le décideur, le conseil d’administration a le droit d’annuler les décisions », précise la société dans son communiqué. À l’avenir, la sortie d’un outil pourrait être retardée si l’ensemble les parties prenantes ne se mettent pas d’accord.

Si OpenAI a tenu à mettre les points sur les « i » autour de cette zone d’ombre, c’est parce qu’en novembre, les désaccords entre plusieurs membres du conseil d’administration et Sam Altman, son actuel PDG, avaient mené au licenciement de ce dernier. Plusieurs chercheurs d’OpenAI avaient rédigé en amont un courrier mettant en garde le board contre une importante découverte en matière d’intelligence artificielle, qui selon eux, pourrait menacer l’humanité.

Sam Altman n’ayant pas caché sa volonté de commercialiser rapidement des outils d’IA avancés, le conseil d’administration d’OpenAI a préféré prendre les devants en se séparant de son cofondateur. Après 96 heures de rebondissements, Sam Altman avait finalement retrouvé son poste, soutenu par la très grande majorité de ses collègues.

Cette affaire aura permis à OpenAI de remodeler son board, voyant l’arrivée de plusieurs membres provenant de Microsoft, l’actionnaire principal de la start-up. Bret Taylor, ancien co-directeur général de Salesforce, et Larry Summers, ancien secrétaire d’État au Trésor américain, ont complété le conseil d’administration. Ces deux dernières nominations, stratégiques, permettront à la société d’améliorer ses relations avec les gouvernements et institutions politiques du monde entier, les entreprises, et le monde universitaire.