Pourquoi des chercheurs ont implanté un malware dans un réseau de neurones artificiels ?

Dans le cadre d’une expérience scientifique, une équipe de chercheurs a tenté d’implanter un malware au sein d’un réseau de neurones artificiels. Selon les chercheurs, les résultats sont surprenants. Cela a parfaitement fonctionné. Alors que les cyberattaques se généralisent à travers le monde (augmentation des ransomwares de 255% en 2020), cette expérience montre une évolution possible de la menace cybercriminelle.

Un malware caché au sein d’une intelligence artificielle

L’étude publiée sur arXiv, montre qu’il est désormais possible d’implanter un malware au sein d’un réseau de neurones qui compose une intelligence artificielle. C’est à la fois prodigieux et très inquiétant. En effet, de cette manière, les logiciels malveillants pourraient ne pas être détectés par les systèmes de sécurité habituels. Les résultats des chercheurs montrent que même avec le malware en son sein, l’algorithme serait capable de continuer à effectuer normalement les tâches qui lui sont assignées.

Dans leur article, les chercheurs donnent tout un tas de détails sur cette expérience. Ils se mettent dans la peau d’un cybercriminel, pour tenter d’anticiper de telles attaques : « tout d’abord, le pirate doit concevoir le réseau de neurones. Pour s’assurer que plusieurs logiciels malveillants peuvent être intégrés, le hacker peut introduire davantage de neurones artificiels. Ensuite, l’attaquant doit entraîner le réseau avec l’ensemble de données préparé pour obtenir un modèle performant. Ensuite, l’attaquant sélectionne la meilleure couche et intègre le logiciel malveillant ».

Une étude pensée comme un manuel de défense en cas de cyberattaque

L’article précise comment stopper le malware une fois intégré au sein du réseau de neurones artificiels. À propos de la détection d’un tel logiciel malveillant, le Dr. Lukasz Olejnik, chercheur et consultant en cybersécurité, précise que : « c’est évident qu’aujourd’hui, il ne serait pas simple de le détecter avec l’aide d’un simple logiciel antivirus, mais c’est uniquement parce que personne ne cherche au bon endroit ». Selon les chercheurs, ce type de malware peut également être détecté à l’aide de « méthodes traditionnelles » comme l’analyse statique et dynamique.

Avec leur publication, les chercheurs espèrent avoir fourni un « scénario de référence » pour les professionnels de la cybersécurité si jamais une telle attaque devait avoir lieu un jour. Ils sont convaincus qu’avec la popularité de l’intelligence artificielle, de nouveaux défis vont émerger avec de nouvelles menaces. Si jamais une telle attaque se produit un jour, les experts en cybersécurité pourront se replonger dans cette étude pour tenter de trouver une faille et stopper l’attaque. Espérons que cette publication n’inspire pas trop les hackers qui la liront.