Des chercheurs du centre de cybersécurité du Maryland, État de l’est des États-Unis, ont publié une étude dans laquelle ils alertent sur un nouveau type de cyberattaque visant spécifiquement les intelligences artificielles.

Lorsqu’il est déployé, le hack force l’IA à consommer beaucoup plus d’énergie pour fonctionner, tout en ralentissant sa performance. Si cela peut paraître anodin, 80% des entreprises pourraient avoir recours à l’intelligence artificielle d’ici 2022. Dans ce cas précis, l’attaque vise un système bien spécifique baptisé architecture des systèmes multi-agents adaptatifs.

Ces IA ont été pensées en réponse à l’importante demande en énergie de certains modèles d’intelligence artificielle. Il s’agit en effet de réseaux plus efficaces : ils sont capables de diviser les tâches en fonction de leur difficulté à être résolues. Cela leur permet ensuite d’utiliser le moins d’énergie possible pour les solutionner. Le MIT Technology Review explique :

« Supposons que vous ayez une photo d'un lion regardant droit vers l'appareil photo avec un éclairage parfait et une photo d'un lion accroupi dans un paysage complexe, partiellement caché à la vue. Un réseau neuronal traditionnel ferait passer les deux photos par toutes ses couches et consacrerait la même quantité de calcul à l'étiquetage de chacune. Mais un réseau neuronal agents adaptatif pourrait faire passer la première photo par une seule couche avant d'atteindre le seuil de confiance nécessaire pour l'identifier. Cela réduit l'empreinte carbone du modèle, mais améliore également sa vitesse et lui permet d'être déployé sur de petits appareils comme les smartphones et les enceintes intelligents ».

C’est justement sur cette manière de fonctionner que l’attaque va jouer. Les chercheurs assurent qu’il suffit modifier l'entrée sur laquelle l’IA se base, dans ce cas, une photo, pour la forcer à exploiter davantage d’énergie. C’est ce qu’ils sont parvenus à faire en ajoutant des nuisances à l’entrée du réseau neuronal, avec un résultat impressionnant : si le hacker dispose de toutes les informations nécessaires sur l’IA, alors il sera capable de pousser au maximum son utilisation d’énergie. S’il n’a accès qu’à des données limitées à son sujet, il peut quand même pousser sa consommation de 20 à 80% supplémentaires. Dans les deux cas, le réseau sera ralenti.

Pour l’heure, ce type d’attaque n’est pas démocratisé car ces architectures d’IA ne sont pas encore beaucoup implémentées, mais cela est voué à changer. Les chercheurs souhaitent ainsi alerter sur leur possible existence, et affirment que de nouveaux travaux sont nécessaires afin de déterminer à quel point ces hacks pourraient affecter ce type de réseaux.