Intelligence artificielle
et confiance numérique

Usurpation d’identité

L’IA générative peut créer des images et vidéos ultraréalistes en quelques secondes, voire même manipuler une vidéo live au moment même de sa création. Cela peut éroder le degré de confiance dans certains systèmes critiques (logiciels de reconnaissance faciale, preuves vidéo utilisées devant des tribunaux, fausses informations diffusées à des fins politiques, etc.) et entacher de doute toute forme d’identification visuelle. 

Phishing

Les cybercriminels peuvent utiliser des outils d’IA générative pour reproduire des visages, des voix et des styles d’écriture de façon extrêmement convaincante. L'IA peut aussi les aider à imiter l’identité de marques ou d’entreprises pour créer une apparence de légitimité et ainsi échapper aux systèmes de détection. 

Prompt injection

Beaucoup d’entreprises utilisent des modèles d’IA générative grand public. Ce faisant, elles peuvent exposer les informations utilisées pour entraîner ou créer des invites (ou prompts) à des attaques par injection, par lesquelles les hackers parviennent à obtenir des données qui ne sont pas censées être divulguées. En l’absence de protections solides et de mises à jour fréquentes, l’exploitation du modèle de base peut exposer toute organisation qui utilise ce modèle.  

Hallucinations

L’IA parvient à produire rapidement des contenus vocaux ou textuels convaincants. Cependant, elle n’est pas à l’abri d'erreurs. Cela pose notamment problème aux entreprises qui s’appuient sur l’IA pour générer du contenu d’information ou d’assistance, ainsi qu’à celles qui ont recours au machine learning pour détecter les menaces. Dans ce dernier cas, la moindre erreur peut coûter cher. 

Sophistication des attaques

Par sa capacité à générer du code fonctionnel à vitesse surhumaine, l'IA pourrait être détournée pour déployer des offensives d’une ampleur, d’une rapidité et d’une complexité sans précédent. Des attaquants pourraient aussi utiliser l’IA pour détecter des vulnérabilités dans un codebase compromis, et ainsi abaisser les barrières à l'entrée pour tous les acteurs malveillants.  

Malwares personnalisés

Bien que les principaux LLM soient dotés de protections empêchant les utilisateurs de créer du code malveillant, les hackers les plus habiles finissent toujours par y débusquer des failles exploitables. Les modèles dérobés ou copiés peuvent aussi être délestés de ces protections, permettant aux cybercriminels de générer rapidement des exploits quasi indétectables et hautement personnalisables. 

Empoisonnement des données

Les attaquants n’ont pas nécessairement besoin d’exploiter directement l’IA. Ils peuvent cibler à la place les données d’entraînement des modèles de machine learning pour en fausser les résultats. Ces données permettent ensuite de créer des exploits au sein du modèle, comme la falsification d’une séquence d’ADN dans une base de données judiciaire, ou simplement de générer des résultats susceptibles de nuire à l’organisation visée.  

Divulgation de données confidentielles

Lorsque l’IA traite ou est entraînée avec des données sensibles, ces informations courent le risque d’être exposées soit via un bug, comme nous l’avons vu avec plusieurs modèles grand public, soit par le biais d’une attaque ciblée.