Si ChatGPT, le robot conversationnel d'OpenAI, offre de multiples possibilités et fournit une réponse à la plupart de nos questions, il semblerait qu'il soit également utilisé à des fins malveillantes. Plusieurs spécialistes ont mis en évidence la possibilité que le modèle d'intelligence artificielle puisse être exploité par les cybercriminels pour coder des malwares et ainsi, initier des attaques informatiques.

Quand les cybercriminels utilisent ChatGPT pour coder des logiciels malveillants

Selon les informations de Forbes, les hackers ont commencé à s'intéresser à ChatGPT pour mettre au point des outils leur permettant de pirater les ordinateurs de particuliers ou d'organismes en tout genre. Un spécialiste du monde de la cybersécurité a pu le constater en surveillant les forums où se réunissent certains cybercriminels. D'après lui, ces escrocs du Net cherchent à pousser ChatGPT à bout afin de savoir ce qu'ils peuvent faire grâce au chatbot.

Certains d'entre eux testent sa capacité à créer d'autres chatbots basés sur le modèle text-davinci-003 pour se faire passer pour d'autres personnes. Une des techniques privilégiées par les hackeurs serait de se faire passer pour de jeunes femmes afin de piéger des cibles qui leur enverraient, par exemple, des photos suggestives d'eux et de les faire chanter par la suite.

Autre possibilité, ChatGPT serait capable de guider les développeurs dans le codage de rançongiciels. Ces logiciels malveillants sont utilisés par les pirates informatiques pour s'introduire dans les systèmes d'informations d'entreprises ou d'organisations. Une fois entrés, ils peuvent s'étendre dans le système, y récupérer des données puis le bloquer. En 2022, plusieurs établissements de santé ont notamment été touchés par ce type d'attaque.

Les hackeurs sont guidés pas à pas par le robot conversationnel

Pour les spécialistes, l'outil d'OpenAI pourrait avoir de multiples usages et servir les plus mal intentionnés. Les pirates russes ne maîtrisant pas l'anglais peuvent l'utiliser pour créer des e-mails de phishing qui seraient tout aussi crédibles que ceux pouvant être envoyés par une administration. Dans certaines situations, le modèle fournit même directement du code que les pirates n'ont plus qu'à copier pour finaliser leurs créations.

Une enquête menée par une équipe de journalistes de Cybernews montre par ailleurs comment les pirates informatiques peuvent s'y prendre pour s'introduire illégalement dans un site web. En seulement cinq étapes, ChatGPT explique comment tester la vulnérabilité du site et les différentes techniques à utiliser pour le hacker. Les journalistes ont décidé de suivre pas à pas les indications fournies par le chatbot. En lui posant quelques questions supplémentaires, ils ont réussi à pirater un site web sans aucune difficulté.

L'un des journalistes, Mantas Sasnauskas, a donné son avis sur l'expérience. « Même si nous avons testé ChatGPT dans le cadre d’un test de pénétration relativement simple, il montre qu’il est possible de guider un plus grand nombre de personnes dans la découverte de vulnérabilités qui pourraient ensuite être exploitées par d’autres individus, ce qui élargit considérablement l’étendue des menaces ».