La cybersécurité à l’ère de l’IA : menaces émergentes et nouvelles défenses

La cybersécurité a changé de rythme. Avant, beaucoup d’attaques semblaient faciles à repérer. Un courriel plein de fautes. Un lien bizarre. Une pièce jointe douteuse. Aujourd’hui, ce n’est plus si simple.

L’IA aide les cybercriminels à écrire de meilleurs messages. Elle peut imiter un ton, créer une fausse voix, générer un faux profil ou automatiser une partie d’une attaque. Elle ne transforme pas chaque fraudeur en génie. Mais elle lui donne de meilleurs outils.

Heureusement, l’IA sert aussi la défense. Elle aide les équipes sécurité à trier les alertes, repérer les comportements suspects et répondre plus vite aux incidents.

C’est pour cela que Cybersecurity in the Age of AI: Emerging Threats and New Defences est devenu un sujet central. IBM estime le coût moyen mondial d’une violation de données à 4,4 millions de dollars en 2025. Le même rapport note que les organisations qui utilisent largement l’IA et l’automatisation en sécurité peuvent réduire ce coût d’environ 1,9 million de dollars.

Le message est clair : l’IA augmente les risques, mais elle peut aussi renforcer la protection. Tout dépend de la façon dont on l’utilise.

Pourquoi la cybersécurité change avec l’IA

L’IA rend les attaques plus propres. Plus rapides. Plus crédibles.

Un message frauduleux peut maintenant ressembler à une vraie demande interne. Un faux fournisseur peut écrire sans faute. Un faux recruteur peut envoyer une offre bien rédigée. Une voix clonée peut faire croire qu’un dirigeant demande un virement urgent.

Les rapports récents confirment cette tendance. Verizon indique que 31 % des violations commencent par des vulnérabilités logicielles. Son rapport ajoute aussi que 48 % des violations impliquent un rançongiciel.

CrowdStrike observe un autre changement important : 82 % des détections en 2025 étaient sans logiciel malveillant classique. Cela veut dire que les attaquants utilisent de plus en plus des comptes volés, des accès valides et des outils légitimes.

Risque ou défense	Ce que cela change	Action prioritaire
Phishing par IA	Messages plus crédibles	Vérifier les demandes sensibles
Deepfakes	Fausses voix et vidéos	Confirmer par un autre canal
Agents IA	Actions automatisées risquées	Limiter les permissions
Injection de prompt	Outils IA manipulés	Tester les entrées externes
Rançongiciels	Pression sur les données	Tester les sauvegardes
Failles logicielles	Exploitation plus rapide	Corriger selon le risque
Données empoisonnées	Réponses IA faussées	Suivre la provenance
IA fantôme	Fuites internes	Définir des outils approuvés
Attaques sans malware	Antivirus moins suffisants	Surveiller les comportements
Gouvernance IA	Risque durable	Mettre des règles claires

Top 10 des menaces et défenses dans Cybersecurity in the Age of AI: Emerging Threats and New Defences

1. Phishing par IA : le faux message devient difficile à repérer

Le phishing reste l’une des portes d’entrée préférées des cybercriminels. Mais il a changé. Les messages grossiers, mal traduits ou remplis de fautes ne sont plus la norme.

Avec l’IA, un attaquant peut écrire un courriel court, poli et crédible. Il peut imiter le style d’un collègue. Il peut adapter son message à une entreprise, à un service ou à une personne précise.

Un exemple simple : un faux fournisseur demande de modifier ses coordonnées bancaires. Le message paraît normal. Le ton est professionnel. La facture jointe semble propre. Pourtant, tout est faux.

Point à surveiller	Exemple	Bonne défense
Urgence	“Paiement à valider aujourd’hui”	Faire une pause
Ton familier	Style d’un collègue	Vérifier directement
Lien ou fichier	Facture, contrat, dossier partagé	Analyser avant d’ouvrir

La meilleure défense reste une règle simple : aucune demande sensible ne doit être validée trop vite. Si un message parle d’argent, d’accès ou de données, il mérite une vérification.

Les formations doivent aussi évoluer. Montrer des arnaques évidentes ne suffit plus. Il faut entraîner les équipes avec des exemples réalistes, propres et bien écrits.

2. Deepfakes vocaux et vidéo : le faux dirigeant peut sembler réel

Les deepfakes ne sont plus seulement un sujet de divertissement. Ils servent aussi aux fraudes. Une voix clonée peut demander un virement. Une courte vidéo peut faire croire qu’un responsable confirme une décision.

Le FBI a ajouté une section sur l’IA dans son rapport IC3 2025. Il indique 22 364 plaintes liées à l’IA, avec près de 893 millions de dollars de pertes. Les fraudeurs utilisent de faux profils, des voix clonées, de faux documents et des vidéos trompeuses.

Le danger vient surtout de la pression. L’attaquant crée une urgence. Il demande de garder le secret. Il pousse la victime à agir sans réfléchir.

Situation	Risque	Réflexe utile
Appel urgent	Virement frauduleux	Rappeler sur un numéro connu
Vidéo courte	Validation truquée	Demander une confirmation interne
Demande secrète	Pression psychologique	Refuser la procédure hors règle

Une bonne règle protège tout le monde : aucun paiement, changement bancaire ou accès sensible ne doit dépendre d’un seul appel, d’une seule vidéo ou d’un seul message.

3. Agents IA : pratiques, mais dangereux avec trop de pouvoir

Les agents IA peuvent faire beaucoup de choses. Ils lisent des courriels. Ils ouvrent des fichiers. Ils recherchent des informations. Ils rédigent des réponses. Certains peuvent même agir dans des outils internes.

C’est utile. Mais cela crée aussi un vrai risque.

Si un agent IA reçoit une mauvaise instruction ou traite un document piégé, il peut lancer une action dangereuse. Le problème devient plus grave quand l’agent possède trop de permissions.

Risque	Mauvaise pratique	Bonne pratique
Trop d’accès	Agent connecté à tout	Donner le minimum nécessaire
Trop d’autonomie	Action sans validation	Garder un accord humain
Peu de traçabilité	Actions invisibles	Conserver des journaux complets

Un agent IA doit être traité comme un compte sensible. Il ne doit pas avoir plus d’accès qu’un employé réel. Pour les actions critiques, une validation humaine reste indispensable.

4. Injection de prompt : quand une instruction cachée manipule l’IA

L’injection de prompt est l’une des menaces les plus importantes autour des outils IA. Le principe est simple : un attaquant cache une consigne dans un texte, une page web, un fichier ou même une image. L’outil IA peut ensuite suivre cette consigne comme si elle était légitime.

Le NCSC britannique explique que les grands modèles de langage ne séparent pas toujours clairement les instructions et les données non fiables. OWASP classe aussi l’injection de prompt parmi les principaux risques des applications fondées sur les grands modèles de langage.

Dans Cybersecurity in the Age of AI: Emerging Threats and New Defences, ce risque mérite une attention particulière. Il touche les chatbots, les assistants internes, les moteurs de recherche d’entreprise et les agents IA connectés à des outils métier.

Forme d’attaque	Exemple	Défense
Instruction cachée	Texte invisible dans un fichier	Nettoyer les entrées
Page piégée	Consigne cachée sur un site	Isoler le contenu externe
Fuite de données	Réponse avec des secrets	Contrôler les sorties

La bonne approche n’est pas de faire confiance au modèle. Il faut limiter ce qu’il peut lire, ce qu’il peut faire et ce qu’il peut révéler.

5. Rançongiciels : la récupération devient aussi importante que la prévention

Les rançongiciels ne se contentent plus de chiffrer des fichiers. Les groupes criminels volent aussi les données. Puis ils menacent de les publier. Ils ciblent parfois les sauvegardes pour empêcher l’entreprise de redémarrer.

Microsoft signale que les attaques par rançongiciel restent très actives. Son rapport 2025 montre aussi que les attaques modernes utilisent souvent des environnements hybrides et des outils légitimes pour avancer dans les systèmes.

L’IA peut aider les attaquants à écrire des messages de pression, choisir des cibles ou automatiser certaines étapes. Mais le cœur du problème reste le même : une entreprise doit pouvoir redémarrer vite.

Étape	Danger	Défense
Accès initial	Compte compromis	MFA robuste
Propagation	Mouvement interne	Segmentation
Récupération	Sauvegardes visées	Tests réguliers

La question n’est plus seulement : “Pouvons-nous empêcher l’attaque ?”
Il faut aussi demander : “Pouvons-nous reprendre l’activité si l’attaque réussit ?”

Les sauvegardes doivent être testées. Pas seulement créées. Une sauvegarde jamais testée reste une promesse, pas une protection.

6. Failles logicielles : corriger vite, mais pas au hasard

Les attaquants exploitent rapidement les failles connues. L’IA peut les aider à lire des bulletins de sécurité, comprendre une vulnérabilité et trouver des cibles exposées.

Google Cloud/Mandiant indique que les exploits restent le premier vecteur d’infection initiale pour la sixième année de suite. En 2025, ils représentent 32 % des intrusions observées. Le voice phishing monte aussi à 11 %.

Le réflexe ne doit pas être la panique. Il faut corriger avec méthode.

Priorité	Exemple	Action
Système exposé	VPN, serveur web, passerelle	Corriger immédiatement
Exploit actif	Faille déjà utilisée	Isoler puis corriger
Actif interne	Risque plus limité	Planifier proprement

Toutes les failles ne portent pas le même danger. Il faut regarder l’exposition, la valeur de l’actif, l’exploitation réelle et le chemin possible vers les données sensibles.

7. Données empoisonnées : l’IA peut apprendre de mauvaises sources

Une IA dépend des données qu’on lui donne. Si ces données sont fausses, manipulées ou mal contrôlées, les résultats peuvent devenir dangereux.

Ce risque touche les modèles internes, les bases de connaissances, les moteurs de recommandation et même certains outils de cybersécurité. Une donnée modifiée peut orienter une décision dans la mauvaise direction.

La NSA, la CISA, le FBI et leurs partenaires recommandent de suivre la provenance des données, d’utiliser des signatures numériques et de surveiller la dérive des données dans le temps.

Risque	Effet possible	Défense
Source douteuse	Réponse fausse	Documenter la provenance
Donnée modifiée	Modèle manipulé	Utiliser des signatures
Dérive	Performance en baisse	Tester régulièrement

Ce sujet compte beaucoup dans la finance, la santé, l’industrie, la défense et les médias. Dans ces domaines, une mauvaise réponse peut coûter cher.

8. IA fantôme : le risque vient parfois des usages internes

L’IA fantôme désigne les outils IA utilisés sans validation. Un employé colle un contrat dans un chatbot public. Un développeur y place du code source. Une équipe marketing y charge des données clients.

Souvent, personne ne cherche à mal faire. Les employés veulent aller plus vite. Mais une mauvaise habitude peut créer une fuite sérieuse.

IBM indique que 97 % des organisations ayant signalé un incident de sécurité lié à l’IA manquaient de bons contrôles d’accès IA. Le même rapport note que 63 % n’avaient pas de politique de gouvernance IA claire ou étaient encore en train de la construire.

Problème	Exemple	Solution
Outil non validé	Données clients dans un service public	Liste d’outils approuvés
Règle floue	Chacun fait à sa façon	Politique courte
Manque de formation	Copie de données sensibles	Cas pratiques

Interdire tous les outils IA ne marche pas toujours. Les équipes trouvent souvent des chemins parallèles. Il vaut mieux proposer des outils sûrs, fixer des règles simples et montrer des exemples concrets.

9. Attaques sans malware : l’identité devient la nouvelle cible

Les attaquants n’ont pas toujours besoin d’installer un virus. Ils peuvent voler un compte, utiliser une session valide ou passer par un outil déjà autorisé.

C’est ce qui rend ces attaques difficiles à voir. Elles ressemblent parfois à une activité normale.

CrowdStrike indique que 82 % des détections en 2025 étaient sans malware. Cela confirme une tendance forte : l’identité, les accès et les comportements deviennent des points de défense majeurs.

Signal	Ce qu’il peut cacher	Défense
Connexion inhabituelle	Compte volé	Analyse comportementale
Nouvel appareil	Session compromise	Vérification forte
Accès massif	Exfiltration	Limites et alertes

La défense doit donc regarder au-delà des fichiers suspects. Qui se connecte ? Depuis quel pays ? À quelle heure ? Avec quel appareil ? Vers quelles données ?

Un bon système de sécurité doit détecter les comportements étranges, même quand aucun fichier malveillant n’apparaît.

10. Gouvernance IA : les nouvelles défenses ont besoin de règles

L’IA peut aider les défenseurs. Elle peut trier les alertes. Elle peut résumer un incident. Elle peut repérer des signaux faibles. Elle peut aussi faire gagner un temps précieux aux analystes.

Mais elle ne doit pas devenir une boîte noire. Un outil IA de sécurité peut se tromper. Il peut mal classer une alerte. Il peut recevoir trop d’accès. Il peut aussi exposer des données si la configuration est faible.

Le cadre du NIST aide les organisations à gérer les risques IA autour de quatre actions : gouverner, cartographier, mesurer et gérer. ISO/IEC 42001 propose aussi un cadre de management pour les systèmes IA. L’AI Act européen suit une approche fondée sur les risques pour encadrer certains usages.

Défense	Rôle	Conseil
Détection IA	Trier les signaux faibles	Garder une validation humaine
Gouvernance	Fixer les règles	Nommer des responsables
Tests adverses	Trouver les failles	Tester prompts, accès et données

Une bonne gouvernance n’a pas besoin d’être compliquée. Elle doit dire qui peut utiliser l’IA, avec quelles données, dans quels outils et avec quelles limites.

Cybersecurity in the Age of AI: Emerging Threats and New Defences : plan d’action simple

Une stratégie solide commence par une carte claire des usages. Où l’IA est-elle utilisée ? Quelles données touche-t-elle ? Quels accès possède-t-elle ? Quelles décisions influence-t-elle ?

Voici un plan pratique :

1. Listez tous les outils IA utilisés dans l’entreprise.
2. Classez les données : publiques, internes, sensibles et critiques.
3. Bloquez les données sensibles dans les outils IA non approuvés.
4. Protégez les comptes importants avec une authentification forte.
5. Surveillez les comportements, pas seulement les fichiers suspects.
6. Testez les sauvegardes avec de vrais exercices.
7. Vérifiez les paiements et changements bancaires par un autre canal.
8. Limitez strictement les permissions des agents IA.
9. Testez les applications IA contre l’injection de prompt.
10. Documentez les sources de données utilisées par les modèles IA.

Le but n’est pas de freiner l’innovation. Le but est d’éviter que l’IA devienne une nouvelle porte ouverte.

Mot de la fin

La cybersécurité à l’ère de l’IA demande du calme, mais aussi de la méthode. Les attaques deviennent plus rapides, plus propres et plus crédibles. Les fraudeurs utilisent l’IA pour gagner du temps. Les défenseurs doivent faire pareil, mais avec des règles claires.

Le vrai enjeu de Cybersecurity in the Age of AI: Emerging Threats and New Defences tient en une phrase : utilisez l’IA, mais ne la laissez pas agir sans contrôle.

Protégez les identités. Vérifiez les demandes sensibles. Testez les sauvegardes. Surveillez les comportements. Limitez les agents IA. Et surtout, gardez des humains responsables aux moments clés.

FAQ

Une petite entreprise doit-elle vraiment se soucier de la cybersécurité IA ?

Oui. Les petites entreprises sont souvent moins protégées. Elles ont parfois moins de règles, moins d’outils et moins de personnel sécurité. Cela les rend intéressantes pour les fraudeurs.

Le phishing, les faux fournisseurs, les comptes compromis et les rançongiciels peuvent toucher une PME aussi vite qu’un grand groupe.

Les détecteurs de deepfake suffisent-ils ?

Non. Ils peuvent aider, mais ils ne sont pas parfaits. Une vidéo ou une voix peut passer entre les mailles du filet.

La meilleure défense reste une procédure simple : rappeler sur un numéro connu, demander une validation interne et refuser les demandes urgentes hors règle.

Peut-on bloquer complètement l’injection de prompt ?

Pas complètement dans tous les cas. Les modèles actuels ne séparent pas toujours solidement les instructions et les données non fiables.

Il faut donc réduire l’impact possible. Limitez les accès. Filtrez les entrées. Contrôlez les sorties. Testez les outils régulièrement.

Les outils IA de cybersécurité peuvent-ils se tromper ?

Oui. Ils peuvent mal classer une alerte ou donner une recommandation faible. Ils doivent aider les analystes, pas les remplacer totalement.

Pour les décisions critiques, une validation humaine reste nécessaire.

Quelles données ne faut-il jamais coller dans un outil IA public ?

Il faut éviter les données clients, mots de passe, clés API, contrats confidentiels, dossiers médicaux, données financières, code source privé et documents internes sensibles.

Quand un doute existe, il vaut mieux ne rien coller.