Pourquoi un cadre éthique spécifique à l'humanitaire
La plupart des chartes d'IA « responsable » sont écrites pour le secteur privé : elles parlent de biais commercial, de conformité réglementaire, de réputation de marque. Le secteur humanitaire pose des questions différentes : peut-on faire confiance à une IA quand les données concernent des personnes en situation de vulnérabilité ? Qui reste responsable si l'IA se trompe ? Comment expliquer une décision à un bailleur, à un auditeur, à une population affectée ?
TRUST — Transparency, Reliability, Usefulness, Supervision, Tightness — est une tentative de répondre concrètement à ces questions, pas avec des principes abstraits, mais avec des critères vérifiables pour juger si une application d'IA est réellement compatible avec les exigences du secteur.
Les 5 principes
Un flux de données compréhensible de bout en bout
- Pipeline IA compréhensible de l'input à l'output.
- Étapes auditables et traçables.
- Méthodes et outils explicités (récap, classification, etc.).
- Capacité à expliquer comment le résultat est produit.
Une IA couplée à des vérifications, jamais livrée à elle-même
- IA contrôlée par des scripts de vérification.
- Couplage IA + règles fixes (ID, lookup, validation).
- Données sources obligatoires.
- Pas de résultat sans preuve vérifiée.
L'IA là où la logique binaire atteint ses limites
- Complémentarité cognitive : l'IA intervient là où la logique binaire ne suffit plus.
- Interprétation des nuances (qualitatif, sentiments, thèmes).
- IA = raisonnement / interprétation ; code / Excel = calculs déterministes.
- Usage strictement ciblé, pour éviter toute dérive.
L'humain reste responsable de la production
- L'humain reste responsable de la production.
- L'IA ne fait pas 100 % du travail.
- Relecture critique obligatoire avant diffusion.
- L'IA est un outil, pas une baguette magique.
Des données maîtrisées, jamais dispersées
- Données stockées sur des serveurs sécurisés.
- Utilisation exclusive d'IA sécurisées et non commerciales.
- Audit et transparence sur l'utilisation des données.
TRUST, appliqué chez Opti'
Ce cadre n'est pas qu'une déclaration d'intention : il guide des choix de conception concrets.
Transparency
Les réponses d'OptiBot s'appuient sur vos documents et sources identifiables (bibliothèque personnelle) plutôt que sur des affirmations non vérifiables.
Reliability
Les générateurs (XLSForm, rapports) combinent l'IA avec des règles de structure fixes — un XLSForm généré respecte la syntaxe, il n'est pas « à moitié inventé ».
Usefulness
L'IA analyse et interprète (texte libre, réponses qualitatives) ; les calculs et croisements de données restent déterministes, jamais laissés au hasard d'un modèle de langage.
Supervision
Chaque document généré (rapport, TDR, questionnaire) reste éditable et doit être relu avant diffusion — Opti' ne publie jamais rien en votre nom.
Tightness
Conversations et documents chiffrés, hébergement en Europe, conformité RGPD ; pour les données les plus sensibles, le mode OptIA traite tout en local, sans IA commerciale tierce.
À propos de l'auteur
Thomas Lequeux est consultant spécialisé en digitalisation du MEAL pour le secteur humanitaire, et le créateur d'Opti'. Retrouvez ses travaux sur lequeux-thomas.com.