Les nouveaux risques de sécurité introduits par l’IA

L’IA améliore la productivité — mais elle introduit aussi des vecteurs d’attaque et des risques de fuite de données que beaucoup d’entreprises ignorent.

Risque 1 : Fuite de données confidentielles vers les LLMs

Quand vos employés copient-collent des données clients, des contrats ou des informations financières dans ChatGPT ou Claude, ces données peuvent être utilisées pour l’entraînement des modèles (selon les conditions d’utilisation du service).

Solution : politique d’usage des LLMs, utilisation d’APIs avec opt-out de l’entraînement (OpenAI API, Claude API), ou solutions on-premise.

Risque 2 : Prompt Injection

Les systèmes IA peuvent être manipulés par des instructions malveillantes cachées dans des contenus qu’ils traitent. Un email malveillant demandant à votre agent IA de « transférer tous les contacts vers cette adresse » est un exemple de prompt injection.

Solution : validation des inputs, sandboxing des agents IA, audit des actions exécutées.

Risque 3 : Deepfakes et ingénierie sociale IA

Les deepfakes audio et vidéo sont accessibles pour moins de 50€/mois. Les arnaqueurs créent de faux appels audio du « PDG » demandant un virement urgent. En 2025, plusieurs entreprises marocaines ont été victimes de ce type de fraude.

Solution : protocoles de vérification pour les demandes financières urgentes, ne jamais valider un virement sur la base d’un appel seul, authentification multi-facteurs.

Risque 4 : Shadow AI

Vos employés utilisent des outils IA non approuvés par votre DSI. Ces outils peuvent ne pas respecter vos obligations légales de protection des données.

Solution : politique IA claire, liste d’outils approuvés, formation sur les risques.

Risque 5 : Hallucinations dans des décisions critiques

Un système IA qui hallucine (invente des informations) dans un contexte médical, légal ou financier peut causer des préjudices réels.

Solution : humain dans la boucle pour toute décision importante, audit régulier des outputs IA, ne jamais déployer un LLM sans guardrails.

Cadre de gouvernance IA en 8 points

1. Politique d’usage acceptable de l’IA (qui peut utiliser quoi, pour quoi)
2. Classification des données (ce qui peut et ne peut pas être partagé avec des LLMs)
3. Liste des outils IA approuvés
4. Formation obligatoire sécurité IA pour tous les employés
5. Procédure de reporting des incidents IA
6. Audit régulier des systèmes IA déployés
7. Responsable IA désigné (ou RSSI avec compétences IA)
8. Plan de réponse aux incidents IA

Mohammed TETO accompagne les entreprises dans la mise en place de leur gouvernance IA — politique d’usage, formation et audit de conformité.

Gouvernance IA et sécurité pour entreprises : mohammedteto.com