Samsung a interdit l’utilisation d’IA génératives comme ChatGPT ou Google Bard à ses employés, craignant que le téléchargement d’informations sensibles sur ces plateformes ne représente un risque pour la sécurité de la société.
Du code sensible uploadé sur ChatGPT
Les agents conversationnels, et particulièrement ChatGPT, sont de plus en plus utilisés par de nombreux travailleurs. Capables de résumer de longs rapports ou de rédiger des réponses aux courriels, ces modèles permettent d’optimiser beaucoup de tâches, et notamment le codage. La décision de Samsung intervient justement après que l’entreprise a découvert que certains membres de son personnel avaient « divulgué du code source interne en le téléchargeant sur ChatGPT ».
Inscrivez-vous à la newsletter
En vous inscrivant vous acceptez notre politique de protection des données personnelles.
En effet, OpenAI indique qu’elle examine les conversations des utilisateurs avec son IA afin d’améliorer ses systèmes et de s’assurer qu’ils respectent ses politiques et ses exigences en matière de sécurité. Ces conversations peuvent également être utilisées pour former les futures versions de ChatGPT. Au mois de mars, l’agent conversationnel a été victime d’une faille de sécurité qui a temporairement exposé certains historiques de chat, et potentiellement des informations de paiement, à d’autres utilisateurs du service.
L’entreprise a récemment mis en place la possibilité pour les utilisateurs de mieux protéger leurs données, mais cette démarche ne semble pas convaincre Samsung.
Des sanctions pouvant aller jusqu’au licenciement
La firme a donc décidé d’interdire l’utilisation de systèmes d’IA générative sur les ordinateurs, les tablettes et les téléphones appartenant à l’entreprise, ainsi que sur ses réseaux internes, rapporte Bloomberg. Les employés ne respectant pas cette nouvelle règle risquent un licenciement. « Nous vous demandons d’adhérer avec diligence à nos lignes directrices en matière de sécurité, faute de quoi une violation ou une compromission des informations de l’entreprise pourrait entraîner des mesures disciplinaires pouvant aller jusqu’au licenciement », a indiqué Samsung dans une note adressée à son personnel.
En amont, la société sud-coréenne crée ses propres outils d’IA pour la traduction et la synthèse de documents, ainsi que pour le développement de logiciels. Elle travaille aussi sur des moyens de bloquer le téléchargement d’informations sensibles de l’entreprise vers des services externes. Samsung n’est pas la seule entreprise à avoir imposé une telle restriction à ses employés. JPMorgan a limité l’utilisation de l’IA générative à son personnel pour des raisons de conformité, tandis que d’autres banques telles que Bank of America, Citigroup, Deutsche Bank, Goldman Sachs et Wells Fargo ont également pris des mesures allant dans ce sens.
La décision de Samsung, véritable mastodonte du secteur technologique, constitue un revers pour le déploiement de l’IA générative sur le lieu de travail. Certaines firmes préfèrent développer leurs propres modèles plutôt que de risquer de voir leurs données sensibles arriver entre les mains de leurs concurrents.
