Consulting en entreprise
Installer une gouvernance IA qui ne reste pas sur le papier
Restaurer un usage sans frictions
Vision 3eIA aide les entreprises:
- à comprendre ce que leurs usages IA produisent réellement,
- à repérer les coûts cachés juridiques, humains et opérationnels,
- à outiller les équipes pour garder la main sur leurs décisions, augmenter la performance des usages et restaurer une ergonomie cognitive.
Des obligations lourdes pour les entreprises
- la loi AI ACT classe l'utilisation de l'IA dans le recrutement dans les usages à haut risque et impose une supervision humaine effective et démontrée, ainsi qu'une compétence réelle d'utilisation du système IA;
-l'article 4 de cette même loi prévoit de corréler l'usage de l'IA en entreprise à une acculturation des salariés utilisateurs;
- en cas de traitement des données personnelles, le RGPD vient réglementer toute opération de traitement desdites données personnelles et peut imposer une analyse d'impact (AIPD). L'entreprise utilisatrice est particulièrement tenue au titre de l'article 5 et peut être mise en difficultés par des choix d'architecture d'un système IA qu'elle ne comprend pas;
- l'article L 6321-1 code du travail stipule que "L'employeur assure l'adaptation des salariés à leur poste de travail.
Il veille au maintien de leur capacité à occuper un emploi, au regard notamment de l'évolution des emplois, des technologies et des organisations";
- l'article L2312-8 du code du travail impose la consultation préalable du CSE en cas "d'introduction de nouvelles technologies, tout aménagement important modifiant les conditions de santé et de sécurité ou les conditions de travail ".
Les constats
- les usages de l'IA ne sont pas toujours "officiels": on parle beaucoup de shadow IA en entreprise;
- même lorsqu'ils résultent d'une décision de l'entreprise, leur usage reste largement sous-documenté;
- l'IA est à tort traitée comme un logiciel déterministe, alors que ses sorties sont probabilistes, contextuelles et conditionnées par les consignes, les données, les outils disponibles et l'orchestration du système;
- la performance et les coûts cachés sont peu évalués;
- une dépendance à l'IA s'organise sans forcément prévoir de manière fiable un "budget de tokens" adapté.
L'efficacité des approches se heurte trop souvent à 5 types d'impasses
Croire qu’une sortie fluide est une sortie fiable
La qualité rédactionnelle masque souvent les glissements de l'IA : hypothèse devenue conclusion, nuance durcie, relation inventée, preuve insuffisante.
Former seulement au prompt
Le prompt est utile, mais insuffisant. Le vrai sujet est le traitement de l’information : source, statut, inférence, preuve, portée, usage, décision.
Croire qu’une justification IA prouve son raisonnement
Une justification est une sortie supplémentaire. Elle doit être contrôlée, pas acceptée comme preuve.
Croire qu’une
métrique disponible
est une métrique
pertinente
Ce qui se mesure facilement n’est pas forcément ce qui doit être contrôlé. Une note moyenne peut masquer la variation des erreurs, les cas limites, l’incertitude, le contexte d’usage ou l’écart entre la tâche testée et la décision réelle. Les métriques du concepteur et du déployeur peuvent diverger.
Vérifier seulement la sortie finale
Si l’entrée est mal structurée, si la requête est invisible, si le champ a perdu le contexte, si l’orchestration a compressé la donnée, la sortie finale arrive trop tard pour tout rattraper.
une référence commune
Selon le NIST, une comparaison supposerait une référence humaine difficile à établir, puisque humains et IA n'accomplissent pas les tâches de la même façon.
Penser que l’humain supervise parce qu’il est “dans la boucle”
Un être humain ne supervise réellement que s’il comprend la sortie, voit les limites, accède aux traces, peut ignorer ou inverser le résultat, et dispose de l’autorité pour le faire.
Croire que la conservation des logs
suffit à prouver
une supervision réelle
Un log indique qu’une action a eu lieu. Il ne prouve pas que l’humain a compris la sortie, identifié ses limites, contrôlé les données d’entrée, accédé aux traces utiles, ni disposé du pouvoir effectif de modifier ou d’écarter le résultat.
Mon approche
Elle est le résultat d'un an de travail pour finaliser une application RH d'audit de l'environnement de travail d'une entreprise (recrutement prédictif), des sources de motivation et de désengagement. Les résultats produits par l'IA sont directement exploitables et actionnables. Dans le cadre du recrutement, cette approche en profondeur est particulièrement appréciable dans les métiers et tension et le recrutement de managers.
Mon programme de consulting
Ce programme est pour vous si vous utilisez des outils IA (conversationnels et intégrés dans des SaaS métier ) sans avoir fait un état des lieux ciblé, ni cadrer les usages et outiller vos équipes pour une montée en compétence sur l'IA sans pour autant changer de périmètre métier.
Trois phases
Un périmètre d'intervention portant sur la compréhension des usages IA, la supervision humaine, les transformations de l’information, les risques organisationnels, les risques RH et les points de vigilance utiles à la conformité.
1) analyse des usages IA
J'établis une grille de performance et des risques,
coût réel et coût futur de l’outil ;
- exploitabilité réelle des sorties, pertinence de l'usage;
- déplacement du travail et des périmètres métier;
- risques juridiques potentiels (préparatoire) et techniques ;
risques humains :- charge, fatigue IA,
- anxiété,
- dépendance, perte de repères;
Cette étape permet à la direction de décider sur une base documentée de maintenir, encadrer, reconfigurer ou abandonner certains usages.
2) Cadrage et gouvernance des usages
À partir du diagnostic, on définit les usages autorisés, les usages sensibles, les validations nécessaires, les points d’arrêt, les responsabilités et les traces à conserver.
Cette étape peut nourrir:
- une charte IA ;
une contribution à l’AIPD; - une procédure de supervision humaine;
- une procédure de réexamen;
- une organisation des rôles entre métiers, DPO, RH, juridique, sécurité et direction.
3) Fiches de supervision et acculturation des équipes
Les équipes apprennent à travailler avec l’IA sans abandonner leur raisonnement. Elles disposent de fiches concrètes pour vérifier les sorties : source, statut de l’information, inférence, portée, omissions, biais d’automatisation, niveau de validation et décision humaine. On finalise en atelier une applicabilité des méthodes qui fasse écho avec leur propre manière de structurer l'information.
Un module spécial recrutement
L'objectif
Pouvoir attester de la réalité de la supervision humaine.
Croyance erronée n° 1
Un bouton "valider" suffit à démontrer l'intervention humaine.
Croyance erronée n°2
Le consentement donné par le candidat suffit à légitimer un traitement automatique.
Croyance erronée n°3
Fragmenter les tâches est sans incidence sur la chaîne de traitement.
L'impact des spécificités techniques
Branchement d'un agent IA, sourcing, scoring, matching: l'intervention de l'IA n'est pas une aide préparatoire à la décision dans certains cas.
Suivant la configuration du système IA , elle peut être vue comme une décision prise sur un traitement automatisé. Une interdiction réglementaire de principe et des droits pour les candidats.
On décorti
-que
Les choix architecturaux, les questions à poser au concepteur, et la manière d'attester que le scoring, matching, filtrage n'a pas été déterminant dans le choix ou l'exclusion de candidats.
En termes de compétences pour vos salariés
Cette démarche renforce des compétences transverses : esprit critique, flexibilité cognitive, capacité de traitement de l’information, discernement sur les sources, qualité de décision, vigilance sur les biais et autonomie de jugement.
Ma méthode
Réduire les écarts "homme-machine"
Le développement de mon application RH m'amené à travailler de longues heures durant avec l'IA.
Je me suis aperçue très tôt que fiabiliser les livrables de Craft, l' IA intégrée à l'application, devait passer par d'autres approches que celles habituellement utilisées.
Ici, jouent non seulement la nécessité d'une supervision humaine facilitée, mais également l'exploitabilité de l'information.
Faciliter la supervision humaine
Il s'agit d'une obligation pesant sur les concepteurs de système IA pour les usages à haut risque comme le recrutement.
L'architecture doit être conçue pour permettre et démontrer la réalité du contrôle humain sur la décision de l'IA.
Superviser sans s'épuiser
Dans mes audits, je ne réduis pas le contexte de travail de l'IA, ni sa sortie.
Je recherche la précision et la compréhension de la réalité du terrain. Le contexte doit être dense et nourri.
Cela oblige à travailler en amont de la chaine de traitement.
Une IA ne “comprend” pas une demande humaine comme un humain. Elle transforme une formulation, des documents ou des réponses en matière statistiquement exploitable. Entre ce que l’humain voulait dire, ce que le système reçoit, ce qu’il sélectionne, ce qu’il infère et ce qu’il affiche, il peut y avoir des glissements. Ma méthode travaille précisément sur ce passage.
C'est un concept de transduction appliqué à l'IA.
La démarche a reposé sur une observation empririque de la transformation de l'information humaine en sortie exploitable.
Mon objectif : réduire les glissements entre intention humaine, données disponibles, inférences produites et décision finale.
Eviter les livrables "hors-sol"
Une personne peut produire une analyse brillante, subtile, dense, mais difficile à utiliser parce qu’elle ne laisse pas de prise : pas de point d’action, pas de formulation intégrable, pas de hiérarchie claire, pas de rapport direct avec la scène de travail.
Dans l’IA, c’est encore plus visible. Une réponse peut être :
- très profonde ;
- très structurée ;
- très référencée ;
- très narrative ;
et très séduisante intellectuellement ;
et pourtant laisser l’humain avec une charge supplémentaire.
Ici, il ne s'agit pas seulement de contrôle, mais d'actionnabilité dans la réalité de l'utilisateur.
Intégrer d'autres critères...
La tenue opératoire
Certains modèles produisent des sorties très sophistiquées, parfois au prix d’une sur-narration qui augmente la charge de reprise humaine. La méthode Craft a été construite pour éviter cet effet : elle privilégie l’ancrage, la vérifiabilité, la sobriété utile et l’intégration dans le travail réel.
Ce que je vise avec ma méthode: une intelligence artificielle qui reste à "hauteur du travail humain".
Je me suis donc positionnée sur les pré-requis pour que le livrable de l'IA soit assez profond pour éclairer, assez sobre pour être repris, assez ancré pour être vérifiable, assez structuré pour que la portée de l'information soit facilement perceptible, ainsi que sur une actionnabilité immédiate.
L'explicabilité
Pilier — La confiance affichée n’est pas une preuve de fiabilité
Une IA peut répondre avec assurance sans être fiable, ou répondre avec prudence sans être rigoureuse. Le ton de la sortie n’est pas un indicateur suffisant. Ce qui compte, c’est l’ajustement entre les sources disponibles, le niveau d’inférence, les limites de la donnée et l’usage prévu.
Pilier — Séparer données et instructions
Dans un usage professionnel, tout ne doit pas avoir le même statut. Une consigne de travail, une donnée utilisateur, une réponse de questionnaire, un document source et une demande de reformulation ne doivent pas être traités comme des instructions équivalentes. Ma méthode sépare les canaux : ce qui cadre le traitement, ce qui apporte la donnée, ce qui module la réponse, et ce qui doit rester vérifiable.
Pilier — La justification de l’IA n’est pas une preuve
Quand une IA explique pourquoi elle a répondu ainsi, elle produit une nouvelle sortie. Cette justification peut être cohérente et convaincante sans refléter fidèlement ce qui a réellement déterminé la réponse. C’est pourquoi ma méthode ne valide jamais une sortie par sa fluidité ou par son explication : elle revient aux sources, aux traces et au statut de l’information.
Pilier — La supervision doit commencer à l’entrée
Une fragilité d’entrée ne se corrige pas proprement en sortie. Si la donnée initiale est ambiguë, incomplète ou mal qualifiée, l’IA peut produire une réponse très propre sur une base instable. Ma méthode traite donc les fragilités à l’entrée : source, périmètre, niveau de preuve, ambiguïté, finalité et usage prévu.
Pilier — La confiance utile est prospective, pas introspective
Je ne m’appuie pas sur les auto-évaluations de l’IA. Une IA qui dit “je suis sûre” ne prouve rien. Ma méthode évalue plutôt les conditions de faisabilité de ma demande avant production : données suffisantes, sources vérifiables, périmètre stable, absence de contradiction, niveau d’inférence acceptable et usage prévu de la sortie.
100%
de conservation du périmètre métier: l'usage de l'IA doit d'abord renforcer sa propre approche de son expertise métier.
80%
De pénibilité en moins.
Le reste, c'est ce que l'IA ne peut pas enlever: l'expression de vos propres compétences.