La loi européenne sur l'IA rend obligatoires les avis de tests indépendants

Qui est concerné par la loi européenne sur l'IA ?

À compter du 2 août 2026, les exigences de la loi européenne sur l'IA s'appliqueront aux systèmes d'IA à haut risque dans des domaines tels que les infrastructures critiques, les services financiers, la santé, l'éducation et l'emploi. Ce règlement concerne également les entreprises suisses qui développent ou déploient des systèmes d'IA pour le marché de l'UE, ou dont les résultats ont des conséquences sur des personnes physiques résidant dans l'UE.

‍

Ce que la loi européenne sur l'IA exige spécifiquement pour les systèmes à haut risque

L'essence de la réglementation : l'assurance qualité ne suffit plus si elle est uniquement documentée en interne. Une preuve vérifiable et documentée est requise, fournie par une partie pouvant démontrer de manière crédible son indépendance vis-à-vis du processus de développement. Les infractions sont passibles d'amendes pouvant atteindre 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial, le montant le plus élevé étant retenu.

Pourquoi les équipes internes se retrouvent souvent bloquées à ce stade

Une équipe de développement peut examiner, documenter et approuver son propre travail. Ce qui manque, c'est le recul qu'apporte un intervenant extérieur. La réglementation européenne sur l'IA exige précisément ce recul : l'intervention d'un intervenant n'ayant pas participé au processus de développement.

Pour les entreprises suisses, un second niveau de complexité entre en jeu. Celles qui collaborent avec des institutions financières européennes connaissent déjà, d'un point de vue opérationnel, les exigences réglementaires telles que la loi DORA. La réglementation européenne sur l'IA ajoute à ces exigences une perspective de test spécifique à l'IA : robustesse, équité et conformité réglementaire des modèles utilisés.

Ce que doit contenir une piste d'audit vérifiable

Pour les systèmes à haut risque, une piste d'audit exige bien plus qu'un simple protocole de test en fin de projet. Il est préférable de la créer en parallèle du projet, et non a posteriori peu avant la soumission, et de documenter :

• Quels cas de test ont été choisis et pourquoi ?
• comment les cas limites et les scénarios d'erreur ont été gérés,
• comment les résultats sont démontrés comme étant liés aux exigences réglementaires,
• Qui a mené l'évaluation et comment son indépendance vis-à-vis de l'équipe de développement est-elle prouvée ?.

Nous mettons à profit notre expérience pratique acquise grâce à la formation à la certification ISTQB pour les tests d'IA (en tant que première entreprise suisse) et aux mandats dans des environnements réglementés pour constituer ces preuves de manière à ce qu'elles puissent résister à un examen minutieux.

‍

Quand un système d'IA est-il considéré comme à haut risque ?

Un système d'IA est considéré comme présentant un risque élevé s'il est utilisé dans l'un des domaines susmentionnés et s'il constitue un risque important pour la sécurité, la santé ou les droits fondamentaux.
Les domaines concernés

• Infrastructures critiques (ex. : énergie, transport)
• Services financiers (par exemple, prêts, assurances)
• Soins de santé (par exemple, outils de diagnostic, gestion hospitalière)
• Éducation (par exemple, automatisation des examens, plateformes d'apprentissage)
• Emploi (par exemple, filtres de candidature, évaluation des performances)

‍

Par où commencer maintenant

Une évaluation initiale permet de clarifier trois questions :

• Lesquels de vos systèmes relèvent des catégories à haut risque de la loi européenne sur l'IA ?
• Dans quelle mesure la documentation de test existante se rapproche-t-elle d'une piste d'audit vérifiable ?
• Qui pourrait réaliser l'audit indépendant requis, que ce soit en interne ou en externe ?

‍

Développer des compétences en tests d'IA

Vous souhaitez en savoir plus sur les tests des systèmes d'IA ? Nos services de formation et de conseil vous aideront à respecter les exigences légales en toute confiance. Vous pouvez également consulter notre article de blog sur la loi européenne relative à l'IA.