La loi européenne sur l'IA

Exigences relatives aux données et aux tests de test

Depuis le 1er août 2024, la directive européenne sur l'IA – première loi mondiale encadrant l'intelligence artificielle – est en vigueur au niveau international. Cette loi vise à instaurer la confiance dans les systèmes d'IA, à fournir aux entreprises des règles claires pour leur développement et leur utilisation, et à protéger la société des risques potentiels. Elle constitue un fondement essentiel pour une utilisation sûre et le développement futur des systèmes d'IA.

La loi adopte une approche fondée sur les risques et distingue quatre niveaux de risque :

• Risques inacceptables : les systèmes d’IA qui menacent la sécurité, les droits ou les moyens de subsistance (par exemple, la notation sociale) sont interdits. Cela inclut les technologies susceptibles d’être utilisées de manière discriminatoire ou nuisible.
• Risque élevé : les systèmes d’IA utilisés dans des domaines sensibles tels que la santé ou les forces de l’ordre sont soumis à une réglementation stricte. On peut citer comme exemples les outils de diagnostic médical ou les systèmes de reconnaissance faciale dans les espaces publics.
• Risque limité : Les systèmes présentant un risque modéré (par exemple, les chatbots) exigent de la transparence. Les utilisateurs doivent être informés qu’ils interagissent avec une IA.
• Risque minimal ou nul : les systèmes comme l’IA dans les jeux vidéo présentent des exigences faibles ou nulles, car ils n’affectent pas les domaines sensibles ni les droits.

Qui est concerné par la loi sur l'IA ?

Bien que la loi sur l'IA soit une loi de l'UE, elle concerne également la Suisse. Cela est particulièrement pertinent pour :

• Entreprises: Par exemple, les entreprises suisses qui proposent ou utilisent des services d'IA dans l'UE, telles que les développeurs de logiciels et les fournisseurs de technologies.
• Prestataires de services: Organisations qui exploitent des services basés sur l'IA, par exemple dans les secteurs financier ou de la santé.
• Autorités: Institutions qui utilisent des systèmes d'IA pour accroître leur efficacité ou faciliter la prise de décision.
• Négociants et importateurs: entreprises qui s'approvisionnent en systèmes d'IA auprès de l'UE et les distribuent en Suisse.
• Développeurs d'outils d'IA : cela inclut également ceux qui adaptent des modèles d'IA à des cas d'utilisation spécifiques. Les entreprises suisses qui proposent des services d'IA dans l'UE ou utilisent des systèmes d'IA provenant de l'UE doivent se conformer à la réglementation.

Quelles sont les conséquences pour les tests ?

Naturellement, nous nous sommes interrogés sur les implications de la loi européenne sur l'IA pour l'assurance qualité et les tests logiciels. Nous avons rassemblé les points les plus importants dans cet article.

Pour les systèmes à haut risque en particulier, la réglementation en vigueur, désormais obligatoire, a un impact direct sur les tests. Des tests spécifiques doivent donc être réalisés afin de garantir le respect de toutes les exigences légales. Il s'agit notamment de valider les fonctionnalités, d'identifier et de minimiser les risques, et de documenter tous les résultats des tests en vue de l'évaluation de la conformité.

Les tests constituent une partie essentielle du processus de développement

Il doit être démontré de manière probante que toutes les exigences ont été mises en œuvre de manière appropriée, testées et vérifiées dans le cadre d'un système de gestion des risques.

Cette activité doit être mise en œuvre de manière continue et itérative tout au long du cycle de vie du système d'IA. Les stratégies de test doivent contribuer explicitement à garantir l'atteinte de l'objectif visé. Les activités de test doivent être intégrées à l'ensemble du processus de développement.

Données d'essai dans le cadre de l'évaluation de la conformité

Les données d'entraînement, de validation et de test des modèles d'IA doivent répondre à des critères de qualité et de gouvernance clairs. Ceux-ci incluent :

• Des finalités claires pour la collecte de données, notamment de données personnelles
• Mesures visant à éviter les biais et les lacunes dans les données, ainsi que l'utilisation de « données équitables »
• Utilisation de données d'essai représentatives
• Mesures strictes de protection des données personnelles

Pour les systèmes d'IA qui ne sont pas entraînés avec des données, ces points s'appliquent exclusivement aux données de test.

Le rôle des données de test synthétiques

Les données synthétiques de test et d'entraînement jouent un rôle central dans la protection des données personnelles et la prévention des biais. En particulier, la loi sur l'IA impose l'utilisation de données synthétiques ou anonymisées lors du traitement de données personnelles.

La loi sur l'IA exige donc l'utilisation de données synthétiques ou anonymisées, notamment dans le cas des données personnelles, et définit certaines exceptions pour le traitement des données personnelles réelles.

Les systèmes d'IA produisent souvent de grandes quantités de données synthétiques difficiles à distinguer des données réelles. Ces données doivent être clairement étiquetées.

Assurer la gestion de la qualité

La mise en place d'un système de management de la qualité est obligatoire pour les fournisseurs. Une documentation technique est requise, qui doit notamment inclure les points suivants :

• Une description détaillée des méthodes d'essai utilisées
• Documentation de tous les résultats des tests et de leur interprétation
• Preuves à l'appui de l'évaluation des risques et de leur traitement
• Mesures visant à garantir l'intégrité et l'équité des données
• Informations sur les environnements de test et les jeux de données utilisés

Ces éléments contribuent à satisfaire aux exigences légales et à garantir la transparence tout au long du processus.

Tests en conditions réelles

La loi sur l'IA utilise le concept de tests en conditions réelles, ce qui entraîne des obligations supplémentaires. Il est donc important de savoir quand de tels tests ont lieu. Les principales caractéristiques sont les suivantes :

• Le test simule des scénarios d'utilisation réels ou est réalisé en environnement de production
• Les données utilisées sont représentatives de la réalité et de l'application concrète du système d'IA

Pour les systèmes d'IA à haut risque, de nombreuses réglementations s'appliquent aux activités de test en conditions réelles, en dehors des laboratoires dédiés à l'IA. Les plus importantes sont résumées ci-dessous :

• Un plan existe pour de telles activités de test
• Le plan soumis a été (tacitement) approuvé par l'État membre concerné
• Les tests sont enregistrés auprès de l'UE
• Il existe une succursale ou un représentant légal au sein de l'UE
• Le transfert de données est conforme aux garanties prévues par le droit de l'Union
• La durée des tests est limitée à ce qui est nécessaire
• Les personnes vulnérables sont suffisamment protégées
• Les données personnelles ne pourront être traitées qu'avec votre consentement et seront supprimées après le test
• Le processus de test est supervisé par un personnel spécialisé
• Les prédictions, recommandations ou décisions prises par le système d'IA peuvent être annulées

Développer des compétences en tests d'IA

Vous souhaitez en savoir plus sur les tests des systèmes d'IA ? Nos services de formation et de conseil vous aideront à mettre en œuvre sereinement les exigences légales.

‍

‍

‍