Opti'SAFE AI, en une phrase
SAFE AI, pour Standards and Assurance Framework for Ethical Artificial Intelligence, est le cadre de gouvernance de l'IA conçu pour l'action humanitaire. Il a été publié en mai 2026, en version 1.1, par le CDAC Network, l'Alan Turing Institute et Humanitarian AI Advisory, avec un financement du ministère britannique des affaires étrangères et du développement (FCDO). Ses auteurs : Helen McElhinney, Anjali Mazumder, Michael Tjalve, Suzy Madigan et Sarah Spencer.
Il se présente comme la couche opérationnelle de l'assurance de l'IA humanitaire : il ne remplace ni la politique de protection des données, ni le safeguarding, ni la gestion des risques de sécurité. Il les relie aux risques propres à l'IA, en s'appuyant sur les structures que les organisations ont déjà.
Pourquoi ce cadre existe
Le point de départ est un risque que les auteurs nomment sans détour : un secteur sous-financé et surchargé pourrait accélérer vers un usage peu sûr de l'IA pour réduire ses coûts, avec des conséquences graves pour des populations vulnérables. Leur rapport de mars 2026, The Governance Gap in Humanitarian AI, constate que l'IA est déjà déployée dans des contextes de vulnérabilité et d'asymétrie de pouvoir, sans cadre opérationnel partagé par le secteur.
Les chiffres du terrain vont dans le même sens. Selon l'enquête de la Humanitarian Leadership Academy et de Data Friendly Space de janvier 2026, 75 % des humanitaires utilisent l'IA chaque jour ou chaque semaine, mais seuls 23 % travaillent dans une organisation qui a une politique IA formelle, et 19 % en Afrique subsaharienne.
Le droit de savoir
Tout le cadre s'organise autour d'un principe. Les personnes touchées par des décisions influencées par l'IA ont le droit de :
- savoir que l'automatisation est à l'œuvre ;
- comprendre comment elle façonne les décisions qui les concernent ;
- contester ces décisions.
Ce droit vaut aussi collectivement : quand plusieurs organisations utilisent l'IA dans une même zone, les communautés ont le droit de savoir si elles sont toutes tenues au même standard.
Les principes humanitaires, appliqués à l'IA
SAFE AI fait des principes humanitaires des critères de décision concrets.
| Principe | Ce que l'IA peut mettre en cause | Ce que SAFE AI demande |
|---|---|---|
| Humanité | Un système peut nuire tout en améliorant l'efficacité. | Regarder le coût de l'erreur, l'exposition à des contenus nuisibles et la supervision humaine minimale. |
| Impartialité | L'IA peut exclure par la langue, les trous dans les données, la connectivité ou des variables de substitution. | Vérifier si l'usage crée un accès inégal, et si cet effet peut être détecté et corrigé. |
| Neutralité | Données, infrastructure et partenariats peuvent créer un alignement avec une partie au conflit. | Reconnaître ces arbitrages, les justifier, les atténuer. |
| Indépendance | Dépendre d'un fournisseur peut déplacer le contrôle hors de l'organisation. | Garder l'autorité de suspendre, modifier ou retirer le système. |
Le second pilier est de garder les communautés dans la boucle. Les communautés sont des experts du domaine : elles voient les erreurs de langue et les exclusions qu'aucun test interne ne révèle. Le cadre distingue concevoir pour les personnes, où l'on consulte puis décide seul, et concevoir avec elles, où elles ont une influence réelle. Il désigne la participation de façade comme le mode d'échec dominant.
Les trois niveaux de risque
SAFE AI classe chaque cas d'usage, et non chaque outil. Le niveau décide des outils à utiliser.
| Niveau | Type d'usage | Outils requis |
|---|---|---|
| 1 · Base | Consultatif et facilement réversible. N'influence pas directement des décisions sur des personnes. Surtout interne. Une à deux journées de travail. | Évaluation d'impact (première partie), fiche de transparence allégée. |
| 2 · Renforcé | Influence la priorisation, le ciblage ou des décisions opérationnelles. L'humain garde la main, mais l'IA oriente. Utilise des données des communautés. Une à deux semaines. | Évaluation d'impact complète, fiche complète, assurance technique, co-conception ciblée. |
| 3 · Haut risque | Affecte directement l'accès à l'aide, à la protection ou à l'information. Face aux communautés ou automatisé à grande échelle. Coût de l'erreur élevé. | Tous les outils, co-conception complète obligatoire, appui indépendant probable. |
Deux règles à ne pas oublier : un usage interne ne garantit pas le niveau 1, et en cas de doute, on applique le niveau supérieur.
La méthodologie : un parcours en quatre étapes
Chaque étape se ferme par un point de décision : continuer, reconcevoir, suspendre ou arrêter.
| Étape | Ce qu'on y fait |
|---|---|
| 1 · Définition du problème | Énoncer le problème en langage simple, sans parler d'IA ; se demander si l'IA est vraiment la solution ; vérifier la préparation de l'organisation et les données ; première évaluation d'impact. |
| 2 · Conception | Identifier les risques et le coût de l'erreur ; associer les communautés ; choisir l'architecture de façon délibérée ; deuxième évaluation d'impact. |
| 3 · Développement | Acheter avec les bonnes clauses (droit d'audit, sortie, notification des changements) ; tester en conditions réelles et dans les langues parlées ; valider avant déploiement, avec un responsable nommé. |
| 4 · Déploiement et suivi | Publier la fiche de transparence avant la mise en service ; ouvrir les retours dès le premier jour ; réévaluer régulièrement ; gérer les incidents ; savoir retirer le système. |
Le refus responsable
Ne pas utiliser l'IA est une issue valide, et même un résultat SAFE AI à part entière. Si l'une de ces conditions s'applique et ne peut pas être atténuée, l'organisation suspend, reconçoit ou arrête :
- aucune voie de recours réelle pour les personnes concernées ;
- la responsabilité ne peut pas être clairement attribuée ;
- les données sont réutilisées au-delà de ce que les personnes pouvaient raisonnablement attendre ;
- des personnes qui ne peuvent pas refuser seraient touchées de façon disproportionnée ;
- l'automatisation remplacerait un jugement humain essentiel ;
- l'adoption se fait sous la pression de l'urgence, du coût ou d'un bailleur, sans amélioration démontrée pour les populations.
Les outils et les ressources
Le cadre est livré avec des outils prêts à l'emploi, publiés et mis à jour en ligne :
- la liste de préparation de l'organisation, en cinq sections : état des lieux, responsabilités, règles, coûts, équipe ;
- la liste de préparation du cas d'usage, avec sa matrice de décision ;
- l'évaluation d'impact, en deux temps, avec quatre lignes rouges ;
- les stratégies d'atténuation des risques, par niveau et par type de risque ;
- le guide de co-conception avec les communautés ;
- le guide d'architecture et de choix technique ;
- le guide d'achat, avec les clauses minimales d'un contrat ;
- l'assurance technique, sur sept caractéristiques de confiance ;
- la fiche de transparence, en version allégée ou complète.
La fiche de transparence est le document central : on la remplit au fil du parcours et on la publie avant le déploiement. La formule du cadre est sans ambiguïté : « si ce n'est pas consigné dans la fiche de transparence, ce n'est pas considéré comme gouverné par SAFE AI ».
Le cadre donne aussi aux bailleurs une base pour demander des preuves proportionnées au risque de l'usage, et non à la taille de la subvention. Les textes et les outils sont publiés sur cdacnetwork.org/safe-ai.
SAFE AI et l'AI Act
Les deux ne jouent pas le même rôle. L'AI Act est une loi, qui s'impose aux organisations établies dans l'Union ou dont les résultats y sont utilisés. SAFE AI est un standard volontaire du secteur, qui va plus loin sur les principes humanitaires et les communautés. SAFE AI cite d'ailleurs l'AI Act parmi ses références. Pour le détail de la loi : l'AI Act expliqué aux organisations humanitaires.
Se former à SAFE AI, gratuitement
Opti Academy propose une formation complète sur SAFE AI, écrite à partir du texte du cadre : le droit de savoir, les principes, les trois niveaux, le parcours en quatre étapes, le refus responsable, les outils, puis un exercice pour classer vos propres usages. Neuf étapes, une heure environ. Elle est offerte sur tous les forfaits, y compris le compte gratuit, et ne consomme aucun token.
Questions fréquentes
SAFE AI est-il obligatoire ?
Non. SAFE AI est un cadre volontaire, qui ne crée aucune obligation juridique et ne délivre aucune certification. Il fournit une base défendable pour décider, et les bailleurs peuvent s'en servir pour fixer leurs attentes.
Une petite organisation peut-elle l'appliquer ?
Oui. Le cadre est proportionné au risque, pas à la taille de l'organisation. Un usage de niveau 1 se documente en une à deux journées, avec une fiche de transparence allégée.
Faut-il être spécialiste de l'IA pour utiliser SAFE AI ?
Non. Le cadre le dit lui-même. Il demande en revanche une équipe pluridisciplinaire : technique, achats, programmes, conformité, protection et engagement communautaire.
Quelle différence entre l'évaluation d'impact et la fiche de transparence ?
L'évaluation d'impact est l'exercice d'analyse mené à chaque point de décision. La fiche de transparence est le registre qui en garde la trace, avec toutes les décisions prises au long du parcours.
Où trouver les textes officiels ?
Sur cdacnetwork.org/safe-ai, où le cadre, les outils et le glossaire sont publiés et mis à jour. La version décrite sur cette page est la 1.1, de mai 2026.