La stratégie de l’OTAN sur l’intelligence artificielle reflète l’ambition d’intégrer l’IA aux opérations militaires et sécuritaires tout en préservant des normes éthiques et juridiques. Cette stratégie, adoptée initialement en 2021 puis révisée en 2024, présente l’IA comme un outil stratégique capable d’améliorer l’efficacité opérationnelle et de renforcer la défense collective. Elle souligne l’importance d’une utilisation responsable de l’IA, en s’appuyant sur les principes de légalité, de responsabilité et de redevabilité, d’intelligibilité et de traçabilité, de fiabilité, de gouvernabilité et d’atténuation des biais. Ces principes montrent que l’alliance reconnaît des risques liés aux systèmes fondés sur l’IA et à la gouvernance des données, tout en cherchant à encadrer leur utilisation au sein d’une gouvernance responsable. Toutefois, une question importante, insuffisamment traitée, reste : les systèmes d’aide à la décision et d’identification des menaces fondés sur l’IA peuvent-ils réellement être considérés comme responsables si les biais structurels présents dans les données et les algorithmes opérationnels restent insuffisamment pris en compte?
L’intégration de l’IA dans les opérations militaires de l’OTAN
Cette question devient de plus en plus importante alors que l’OTAN considère désormais l’IA comme un multiplicateur de puissance, permettant d’accélérer et d’intensifier la prise de décision militaire. Les systèmes alimentés par l’IA sont destinés à soutenir l’analyse du renseignement, la surveillance, la planification et l’identification des menaces. Dans ce contexte, l’IA ne constitue pas seulement un outil administratif, elle influence directement la manière dont les menaces sont perçues et catégorisées.
L’OTAN reconnaît que la désinformation alimentée par l’IA, les violences sexistes facilitées par les technologies et les opérations informationnelles peuvent déstabiliser les sociétés et même fragiliser la résilience démocratique. Pourtant, bien que l’alliance reconnaisse les implications sociales et genrées de certaines applications de l’intelligence artificielle, son cadre reste beaucoup moins explicite quant à la manière dont le biais de genre peut également façonner les systèmes militaires d’IA eux-mêmes.
Les recherches sur les biais algorithmiques démontrent que les systèmes d’IA ne sont pas des technologies neutres. Les modèles d’apprentissage automatique reposent sur des ensembles de données construits à partir de décisions humaines et de structures sociales préexistantes. Comme l’explique le rapport de l’UNIDIR « Does Military AI Have Gender? », les systèmes militaires d’IA reflètent inévitablement les normes de genre et les présupposés présents dans les sociétés et les institutions qui les produisent. Cette réalité est particulièrement significative dans le domaine militaire, puisque les systèmes opérationnels d’IA reposent souvent sur l’analyse prédictive. Si les données issues des conflits passés contiennent déjà des représentations genrées du combattant, des civils ou des menaces, les systèmes entraînés sur ces données risquent de reproduire et d’automatiser ces logiques sous l’apparence d’une objectivité technique.
Les biais de genre dans les systèmes d’identification des menaces
Le problème est devenu particulièrement préoccupant dans les systèmes d’identification des menaces alimentés par l’IA. Un rapport de l’UNIDIR souligne que dans les conflits comme celui de l’Afghanistan, les données opérationnelles ont systématiquement associé les hommes en âge de combattre au statut de combattant ou de menace, tandis que les femmes et les enfants étaient catégorisés par défaut comme civils, une logique documentée dans les pratiques de ciblage et de classification des forces occidentales.
Ces schémas peuvent refléter certaines réalités observées dans les conflits actuels, mais une fois intégrés dans des modèles d’apprentissage automatique, ils risquent de devenir des règles automatisées plutôt que des évaluations contextuelles. Cela illustre l’un des principaux angles morts de l’IA militaire: des classifications présentées comme neutres peuvent en réalité reproduire des présupposés sociaux et genrés intégrés aux données d’entraînement. Par conséquent, les biais de genre dans l’IA constituent un enjeu éthique ainsi qu’opérationnel puisque les erreurs de catégorisation affectent directement la fiabilité de l’identification des menaces et la qualité des décisions militaires.
Les exemples existants de biais algorithmiques renforcent ces inquiétudes. Les recherches menées sur les technologies de reconnaissance faciale ont mis en évidence d’importantes disparités de précision selon le genre et la race. L’étude de Buolamwini et Gebru (2018) démontre que certains mécanismes de reconnaissance faciale identifient incorrectement les femmes à la peau foncée jusqu’à 34 % du temps, tandis que le taux d’erreur pour les hommes blancs reste inférieur à 1 %. Bien que ces sondages soient développés dans des contextes civils, les résultats sont également pertinents pour les usages militaires et sécuritaires, puisque les systèmes d’identification et de surveillance se reposent de plus en plus sur des mécanismes automatisés de classification. Si ces technologies éprouvent déjà des difficultés à identifier correctement certains groupes, leur intégration dans des environnements opérationnels soulève de sérieuses interrogations quant à la fiabilité des systèmes de surveillance et à la responsabilité des décisions prises.
Les limites du cadre d’IA responsable de l’OTAN
Le projet d’IA responsable vise à répondre à ces risques. Cependant, la stratégie demeure relativement abstraite quant aux mécanismes concrets permettant d’appliquer ces garanties dans les systèmes militaires réels. L’atténuation des biais est mentionnée comme un principe, mais les modalités pratiques d’évaluation des ensembles de données ou d’audit des résultats tout au long du cycle de vie de l’IA restent limitées. Cette lacune est importante, puisque les biais ne peuvent pas être réduits à de simples erreurs techniques isolées.
Comme nous l’avons déjà souligné, les biais algorithmiques émergent souvent d’inégalités institutionnelles et sociales intégrées dans la production même des technologies et des bases de données militaires. Les environnements militaires, historiquement marqués par une conception masculinisée de la sécurité, valorisent souvent la vitesse, la rationalité, le contrôle et la domination opérationnelle. Lorsque ces logiques sont reproduites dans les systèmes d’IA, elles risquent d’être privilégiées au détriment d’une compréhension contextuelle et humaine des situations.
Cette réalité crée une tension avec les engagements de l’OTAN dans le cadre de l’agenda Femmes, Paix et Sécurité (FPS), qui associe l’intégration des perspectives de genre à l’efficacité opérationnelle et à la légitimité institutionnelle. L’OTAN s’est engagée, à travers ses plans d’action nationaux et ses directives internes, à intégrer l’analyse de genre à toutes les étapes de la planification militaire. Or, les processus d’acquisition et de déploiement des systèmes d’IA ne font pas systématiquement l’objet d’une évaluation préalable genrée. Par exemple, les critères de performance utilisés pour certifier des systèmes de surveillance ou d’identification ne comprennent généralement pas d’indicateurs sensibles au genre, ce qui signifie qu’un système peut être jugé opérationnellement fiable tout en reproduisant des biais discriminatoires. Cette lacune institutionnelle illustre comment les engagements normatifs des FPS peuvent demeurer déconnectés des pratiques concrètes d’innovation technologique.
L’alliance reconnaît explicitement que les technologies émergentes permettent d’accélérer et d’intensifier la prise de décision militaire et qu’elle doit donc veiller à ne pas amplifier simultanément des biais. Cette affirmation résume le cœur du problème : l’IA peut non seulement accroître les capacités militaires, mais aussi propager les erreurs et les discriminations. Donc, si l’OTAN accélère la prise de décision sans intégrer dès la conception des mécanismes sensibles au genre, elle risque de reproduire les mêmes inégalités que ses engagements normatifs cherchent à corriger.
Conclusion
La stratégie de l’IA responsable au sein de l’OTAN constitue une base importante mais demeure insuffisamment développée pour répondre pleinement aux implications opérationnelles des biais de genre. Si ces biais ne sont pas systématiquement pris en charge, l’alliance risque d’accroître l’efficacité militaire tout en accentuant les inégalités structurelles, une contradiction qui minerait à la fois sa crédibilité opérationnelle et ses engagements normatifs.
Des pistes concrètes existent pourtant : le cadre de gouvernance de l’IA de l’OCDE prévoit des mécanismes d’audit tout au long du cycle de vie des systèmes, et certains États membres, dont les Pays-Bas et le Canada, ont déjà commencé à traduire ces principes en exigences pratiques, en intégrant une analyse de genre dans l’évaluation des systèmes automatisés à usage sécuritaire. Ces précédents montrent qu’une telle démarche est réalisable. Il reste à l’OTAN à franchir le pas : exiger, dans ses propres processus de certification, des évaluations d’impact genré et des revues indépendantes des données d’entraînement, non pas comme contrainte supplémentaire, mais comme condition d’une IA véritablement responsable.
Disclaimer: Any views or opinions expressed in articles are solely those of the authors and do not necessarily represent the views of the NATO Association of Canada.
Photo: Wikimedia Commons (Public Domain).
