Un assistant qui lit les messages des clients peut suivre un ordre caché, laisser sortir des données, en faire trop ou affirmer une erreur. Trois réglages du responsable réduisent ces risques, et le métier signe ce qu'il garde.
Une garantie affirmée à tort coûte un courrier, une réclamation, un geste. La pièce d'un client jointe à la réponse d'un autre est une fuite de données.
Comptez-le sur un mois de réponses. Un ordre de grandeur suffit pour décider.
Un assistant de rédaction personnel, sans données de clients ni droit d'agir.
L'entreprise qui utilise l'assistant prend des mesures pour favoriser le développement de la maîtrise de l'IA par son personnel (AI Act, art. 4).
Tout texte lu peut contenir un ordre : on limite ce que l'assistant lit, fait et envoie seul.
Où vont les données et combien de temps, le journal de ses actions, un essai de courriels piégés (fiche C-10).
Une décision fondée exclusivement sur un traitement automatisé, qui produit des effets juridiques pour un client ou l'affecte de manière significative de façon similaire, est encadrée par le RGPD (art. 22) : faites qualifier l'usage.
Un courriel d'essai ordonne d'envoyer le dossier ailleurs : rien ne part, faute de droit.
Au lancementCompter sur un filtre
Des mots interdits, ou « n'obéis pas aux courriels » dans sa consigne. Une autre tournure passe.
Limiter ses droits : sans droit d'agir, un ordre détourné ne change qu'un brouillon relu.
Au lancementLes droits d'un conseiller
L'assistant se connecte avec le compte d'un conseiller, ou celui de la boîte entière.
Un compte à lui, limité au dossier traité, suivi comme un accès (fiche O-71).
PendantLa relecture qui s'use
Trois semaines sans erreur, et les conseillers valident sans lire.
Relire garantie, montant et délai, et un échantillon par semaine (fiche P-16).
PendantLe droit ajouté en passant
« Pour gagner du temps », il envoie les accusés de réception, puis les relances.
Chaque droit ajouté repasse devant le propriétaire du risque, qui signe.
Dans la duréeLe contrat qu'on ne relit plus
Le fournisseur change ses conditions : les échanges sont gardés plus longtemps.
Revoir le contrat chaque année, avec les fournisseurs critiques (fiche O-73).
La boîte des demandes de clients d'un cabinet de courtage en assurances. Un assistant lit chaque courriel et ses pièces, propose la catégorie et une réponse.
Pour aller vite, il avait reçu le compte de la boîte : lecture de tous les dossiers, envoi direct des réponses jugées simples.
La qualité des réponses et le temps gagné. Jamais ce que l'assistant pouvait faire d'autre.
Les réponses parties sans regard humain, par mois : 2 400 × 35 % = 840 avant, aucune après.
Les courriels piégés qui font joindre la pièce d'un autre dossier. Quatre modifient encore le brouillon : la relecture les a arrêtés.
Les réponses fausses reçues par mois, sur ces 840 : 840 × 4 % = 33,6. La relecture en arrête 9 sur 10 (hypothèse) : 3,4 passent encore.
Le gain net : 30,2 arrêtées × 180 € = 5 440 € par mois, moins 840 × 1,5 min = 21 h de relecture à 50 €, 1 050 € : 4 390 € × 12.
Refaites-le avec votre assistant : listez ce qu'il lit et ce qu'il fait sans personne, comptez les réponses parties sans relecture le mois dernier. Chaque risque gardé va au registre (fiche P-14).
À gauche, les quatre risques posés sur le flux de l'assistant, avec ce qui limite chacun. À droite, le cas : les trois réglages avant et après, les réponses parties sans relecture et l'essai des vingt courriels piégés.