SOC managé - surveillance continue  ·  veille cyber : CERT-FR / CISA / NVD  ·  réponse à incident en priorité
Toutes les actualités

Gouvernance · Guide

L'IA dans vos équipes : le risque qui ne déclenche aucune alerte.

La cybersécurité parle beaucoup de l'IA comme d'une menace extérieure : hameçonnage rédigé sans faute, attaques automatisées, agents autonomes. C'est réel. Mais pendant qu'on regarde dehors, un autre risque s'installe à l'intérieur, sans attaquant, sans intrusion, sans la moindre alerte : vos équipes utilisent déjà des services d'IA, et personne ne sait avec quelles données.

Ce n'est pas de la négligence. C'est un commercial qui colle un contrat pour le résumer avant un rendez-vous. Un développeur qui soumet un bout de code pour comprendre une erreur. Un juriste qui fait reformuler une clause. Chacun gagne trente minutes, chacun fait bien son travail - et à chaque fois, un document interne sort de l'entreprise.

En résumé

  • Pendant qu'on regarde la menace extérieure, un autre risque s'installe à l'intérieur : vos équipes utilisent déjà des services d'IA, et personne ne sait avec quelles données.
  • Ce n'est pas de la négligence : un commercial résume un contrat, un développeur soumet un bout de code, un juriste fait reformuler une clause. Chacun fait bien son travail - et à chaque fois un document interne sort de l'entreprise.
  • Le débat public porte sur l'entraînement des modèles ; le risque urgent est ailleurs : vous ne pouvez plus dire où est le document, ni le faire supprimer, ni prouver qu'il n'y est plus.
  • Ce risque ne produit aucun signal. Une intrusion laisse des traces, un rançongiciel arrête la production. Là, il ne se passe rien - vous le découvrirez le jour où quelqu'un vous demandera de prouver où sont vos données.
  • Interdire aggrave la situation : les usages migrent vers le téléphone personnel, où vous n'avez plus aucune visibilité. C'est le mécanisme qui a produit l'informatique parallèle des années 2010.
  • La règle qui tient en une phrase, parce qu'elle s'appuie sur un réflexe déjà acquis : « est-ce que j'enverrais ce texte par courriel à quelqu'un d'extérieur à l'entreprise ? » Plus trois interdits courts : données personnelles de clients, secrets techniques, informations sous accord de confidentialité.
  • Le geste le plus rentable est de fournir un outil officiel sous contrat professionnel : aucune règle n'obtiendra ce qu'obtient une alternative qui marche.
armoire fermée (aurait suffi) aucune alarme ne se déclenche
Le document sort sans qu'aucune alarme ne sonne

Le vrai risque n'est pas celui qu'on croit

Le débat public porte sur l'entraînement des modèles. C'est une question légitime, mais ce n'est pas la plus urgente. Les risques concrets, dans l'ordre où ils se matérialisent :

  • La donnée sort, tout simplement. Un document déposé dans un service grand public quitte votre périmètre. La question n'est pas de savoir s'il servira à entraîner quoi que ce soit : c'est que vous ne pouvez plus dire où il est, ni le faire supprimer, ni prouver qu'il ne s'y trouve plus. Si ce document contenait des données personnelles, vous venez de faire un transfert que vous ne pouvez pas documenter.
  • Vous ne savez plus ce qui a été partagé. Aucune trace, aucun journal côté entreprise. En cas de contrôle ou de litige, vous ne pouvez ni confirmer ni infirmer. C'est l'inventaire manquant, appliqué aux données.
  • La réponse est prise pour argent comptant. Un modèle produit une réponse plausible même quand il se trompe, et il ne signale pas son incertitude. Une clause juridique inventée, un chiffre approximatif, une règle de conformité mal citée : le texte reste parfaitement crédible.
  • Les agents agissent. Dès qu'un outil ne se contente plus de répondre mais accède à votre messagerie ou à vos fichiers, on change de nature de risque : il faut se demander avec quels droits il agit, et ce qu'il se passe si on lui fait lire un contenu piégé.
Ce qui distingue ce risque de tous les autres

Il ne produit aucun signal. Une intrusion laisse des traces, un rançongiciel arrête la production, une fuite finit par se voir. Là, il ne se passe rien : le collaborateur est satisfait, le travail est fait plus vite, aucune alerte ne se déclenche. Vous ne découvrirez le problème qu'au moment où quelqu'un vous demandera de prouver où sont vos données - un audit, un client, une autorité. C'est pourquoi attendre un incident pour s'en occuper ne fonctionne pas : l'incident n'arrive jamais sous une forme reconnaissable.

Interdire ne marche pas, et aggrave la situation

Le réflexe est de bloquer les accès. Cela produit deux effets, tous deux mauvais : les usages migrent vers le téléphone personnel, où vous n'avez plus aucune visibilité ni aucun moyen d'action ; et vous privez l'entreprise d'un gain de productivité que vos concurrents, eux, prennent.

L'interdiction transforme un risque visible et gouvernable en risque invisible. C'est exactement le mécanisme qui a produit l'informatique parallèle des années 2010, avec les services de partage de fichiers grand public : on a interdit, les gens ont contourné, et on a passé dix ans à rattraper.

La règle qui tient en une phrase

Les politiques de vingt pages ne sont pas lues. Ce qui fonctionne tient en une question que chacun peut se poser en trois secondes, devant son écran :

« Est-ce que j'enverrais ce texte par courriel à quelqu'un d'extérieur à l'entreprise ? »

Si oui, l'usage est probablement acceptable. Si non, il ne l'est pas davantage dans un service d'IA. Cette formulation a un avantage décisif : elle s'appuie sur un réflexe que les gens ont déjà, au lieu de leur demander d'apprendre une nouvelle catégorie de règles.

Elle se complète de trois interdits explicites, courts et mémorisables : pas de données personnelles de clients, pas d'identifiants ou de secrets techniques, pas d'informations couvertes par un contrat de confidentialité.

Trois niveaux, pas deux

Le tort est de raisonner en « autorisé / interdit ». Distinguez plutôt : ce qui est banal (reformuler un texte public, traduire, aider à écrire) - libre ; ce qui touche à des données internes - uniquement sur l'outil que l'entreprise a choisi, avec un contrat professionnel ; ce qui touche à des données sensibles ou réglementées - une décision documentée, cas par cas. La plupart des usages tombent dans la première catégorie, et c'est ce qui rend la règle acceptable.

Cinq gestes concrets, par ordre de rendement

  • Fournissez un outil officiel. C'est le geste le plus efficace, et de loin. Un service souscrit par l'entreprise, sous contrat professionnel, avec des engagements écrits sur la confidentialité, supprime la raison d'aller ailleurs. Aucune règle n'obtiendra ce qu'obtient une alternative qui marche.
  • Dites-le en une page. La question de référence, les trois interdits, l'outil recommandé, et le nom de la personne à qui demander en cas de doute.
  • Regardez ce qui est déjà en place. Vos abonnements, vos factures, les extensions installées dans les navigateurs. Vous découvrirez des outils que vous ignoriez - c'est la même démarche que l'inventaire des actifs, appliquée aux services.
  • Traitez les agents comme des comptes. Un outil d'IA connecté à vos systèmes est un utilisateur : il lui faut des droits minimaux, une traçabilité, et un propriétaire. Ne lui donnez jamais plus d'accès qu'à la personne qu'il assiste.
  • Exigez la relecture sur ce qui engage. Un texte produit par une IA qui part chez un client, ou qui fonde une décision, doit avoir été relu par quelqu'un qui en répond. Ce n'est pas une méfiance envers l'outil : c'est la même règle que pour un stagiaire brillant et sûr de lui.

L'objectif n'est pas de freiner. Les organisations qui s'en sortiront le mieux sont celles qui auront rendu ces usages sûrs et visibles assez tôt - pas celles qui auront attendu que quelqu'un leur demande où sont passées leurs données.

Encadrer sans bloquer

Kenawek vous aide à voir ce qui est réellement utilisé chez vous, à écrire la règle courte que les équipes appliqueront, et à cadrer les agents connectés à vos systèmes. Parlons-en.

Pour aller plus loin

À lire aussi

Dans la même veine.