L'ingénierie de la qualité à l'ère de l'IA

Bien plus que de simples tests

Les chiffres parlent d'eux-mêmes : les outils de développement basés sur l'IA ont le vent en poupe en Suisse. Ce qui était un sujet de niche il y a deux ans est désormais monnaie courante dans de nombreuses équipes de développement. Claude Code, Cursor, GitHub Copilot, Agentic Workflows : la boîte à outils s'étoffe plus vite que la plupart des processus qualité ne peuvent suivre.

C’est précisément ce point qui nous préoccupe chez Infometis depuis un certain temps. Nous nous sommes donc spécialisés en ingénierie de la qualité, convaincus que l’assurance qualité logicielle à l’ère de l’IA est une discipline fondamentalement nouvelle.

L'impact de l'IA sur le développement logiciel

L'IA influence l'ensemble du processus de développement, de la génération d'idées au codage, en passant par la livraison et l'exploitation en production. Quelques exemples concrets :

La notion de rapidité est en pleine mutation. Les idées ne sont plus reléguées dans le backlog d'un sprint pour être implémentées quatre semaines plus tard. Aujourd'hui, elles prennent la forme de prototypes fonctionnels en quelques heures seulement. La vélocité des équipes s'en trouve considérablement accrue. De nombreuses fonctionnalités peuvent ainsi être réalisées en un temps record.

Le rôle du développeur évolue. Les processus de spécification et de développement permettent aux responsables produit, aux experts métier et aux analystes de données de générer eux-mêmes du code fonctionnel. Cela représente à la fois une opportunité et un défi. Avec la démocratisation du développement logiciel, les garants traditionnels de la qualité disparaissent ou sont réduits à un nombre considérablement plus restreint de personnes et d'agents d'IA.

L'IA agentique est présente tout au long du processus. De l'idéation à la gestion de projet, en passant par le développement produit, elle offre aujourd'hui un soutien à chaque étape. Les équipes ne sont plus exclusivement composées d'humains ; ces derniers orchestrent également les agents en tant que membres à part entière.

Opportunités de développement logiciel assisté par l'IA

L'accélération du délai de mise sur le marché n'est plus un simple slogan marketing. Aujourd'hui, toute personne souhaitant lancer un nouveau service numérique bénéficie de barrières à l'entrée nettement inférieures à celles d'il y a trois ans. Cela ouvre des marchés, raccourcit les cycles d'innovation et rend les produits numériques accessibles à un public beaucoup plus large.

Défis et risques

Comme pour toute nouvelle technologie, les possibilités sont immenses, mais la courbe d'apprentissage est tout aussi abrupte. Il est donc essentiel d'évaluer les risques en tenant compte de l'expérience et de l'usage.

Ce que nous jugeons actuellement important de garder à l'esprit :

• La rapidité d'exécution devient elle-même un facteur de risque. Ce qui est développé rapidement peut rapidement être mis en production, sous l'effet de la concurrence ou du besoin d'innovation. Le rythme du changement s'accélère ainsi de façon exponentielle, et avec lui, le besoin d'une assurance qualité continue.
• La sécurité informatique et la protection des données revêtent une importance croissante. Le code généré par l'IA n'est pas automatiquement sécurisé. Des vulnérabilités connues sont reproduites, des dépendances sont adoptées sans discernement ou sont plus difficiles à répertorier.
• La dérive architecturale devient un véritable défi. Lorsque les changements sont rapides, les entreprises sans gestion d'architecture cohérente perdent le contrôle de leur propre paysage système.
• La qualité des données demeure le véritable atout. Les systèmes d'IA ne valent que par la qualité des données qu'ils traitent. Les erreurs se produisent désormais plus rapidement en production et se propagent tout aussi vite, pouvant même dégrader irrémédiablement les ensembles de données.
• Le comportement des agents IA échappe au contrôle traditionnel. Ils prennent des décisions en temps réel, au sein des flux de travail métier, lors de la génération de code ou de la recherche de solutions. Le comportement du système peut évoluer en production, de manière progressive ou brutale. Sans stratégie de surveillance active, cette dérive reste imperceptible.

L'assurance qualité vérifie la qualité. L'ingénierie de la qualité l'intègre dès la conception.

Le terme « shift left » circule dans l'industrie depuis des années : l'idée est d'intégrer la qualité dès le début du processus, au lieu de la contrôler seulement à la fin. Cette approche a toujours été fondamentalement juste et importante, mais elle a ses limites ! Et pourtant, elle échoue souvent en raison du nombre et de la complexité des tâches dans les projets de numérisation.

L'ingénierie de la qualité n'est pas un changement ponctuel. C'est une approche globale et intégrée. La qualité doit être créée de manière holistique, continue, interconnectée et au sein même du système. Elle commence par la définition des exigences et se poursuit jusqu'à l'exploitation. La surveillance continue, les indicateurs et la détection des anomalies grâce à l'observabilité sont tout aussi essentiels que les cas de test avant même le début du développement.

Ce que l'ingénierie de la qualité englobe précisément

Les exigences comme fondement de la qualité

Avant d'écrire du code, les attentes, les contraintes et les risques doivent être précisément définis. L'accent est mis sur la mise en œuvre stratégique et systémique, et non sur le formalisme. Ceci est d'autant plus important que les systèmes d'IA aux spécifications incomplètes peuvent, de manière surprenante et avec assurance, erronés .

Les exigences non fonctionnelles sont considérées comme une classe de premier ordre

L'accent initial mis sur la correction fonctionnelle demeure. Cependant, la sécurité, les performances, la protection des données et l'accessibilité prennent une importance croissante. Dans le contexte du développement piloté par l'IA, ce sont souvent les dimensions de qualité les plus critiques. La norme ISO 25010 offre un cadre éprouvé à cet égard, plus pertinent que jamais. Toutefois, à notre avis, elle reste insuffisante. C'est pourquoi nous priorisons deux nouvelles dimensions en tant que critères de qualité supplémentaires dans une version de la norme ISO 25010 enrichie par Infometis :

• Gouvernance
• durabilité

La gouvernance comme nouveau critère de qualité

Les utilisateurs productifs de modèles d'IA sont soumis à des obligations réglementaires (variables selon le cas d'usage et le secteur d'activité), dont certaines sont déjà en vigueur et d'autres imminentes. L'assurance qualité soulève aujourd'hui la question suivante : comment garantir que nos systèmes d'IA fonctionnent de manière conforme, traçable et équitable ?
Les agents agissent également de plus en plus de façon autonome. Les décisions sont prises en temps réel, directement en production. Ceci diffère fondamentalement des logiciels traditionnels, dont le comportement reste stable après déploiement.

La loi européenne sur l'IA fournit le cadre général : depuis août 2026, les obligations à haut risque sont pleinement en vigueur, avec des exigences en matière de gestion des risques, de qualité des données, de supervision humaine et de documentation tout au long du cycle de vie du système.

Le reste est spécifique à chaque secteur d'activité :

• Finance et assurance : Avec la DORA (en vigueur depuis janvier 2025), les banques, les assureurs et les prestataires de services de paiement sont soumis à des obligations spécifiques en matière de résilience des TIC. Ceux qui utilisent des systèmes d’IA pour l’évaluation du crédit ou les modèles de risque opèrent simultanément sous la DORA, la loi européenne sur l’IA et la NIS2 – chacune ayant ses propres obligations et échéances de déclaration.
• Infrastructures critiques et tous les secteurs : la réglementation NIS2 (en vigueur depuis 2024) couvre désormais beaucoup plus d’entreprises que la précédente, y compris les PME de la région DACH. La gestion et la gouvernance des cyber-risques deviennent des priorités absolues.
• Contexte suisse : La LFSD , en vigueur depuis septembre 2023) s’applique à toutes les applications d’IA, quelle que soit la technologie utilisée. Les obligations de transparence, les analyses d’impact relatives à la protection des données pour les systèmes à haut risque et la protection des données dès la conception relèvent du droit suisse et non du droit européen. Pour les entreprises ayant des liens avec l’UE, le RGPD s’applique également.
• Technologies médicales et santé : les systèmes d’IA à haut risque utilisés dans le diagnostic ou l’aide à la décision clinique sont soumis à la fois à la loi européenne sur l’IA et aux MDR, qui supposent une gestion structurée de la qualité.

Conséquence pour l'ingénierie de la qualité : la conformité n'est pas une obligation légale vérifiée en fin de processus. Elle doit être intégrée à la stratégie qualité dès le départ et faire partie intégrante de la définition des exigences, du cahier des charges des tests et de la validation en cours d'exploitation.

Qualité en temps réel plutôt que dans un rapport

La qualité est un processus continu au sein du système. Par conséquent, elle doit être visible en permanence, comme un état actuel, et non comme un rapport périodique. L'état d'avancement, les risques et les progrès sont toujours présents. Les décisions sont fondées sur des données et le contexte. La qualité n'est plus une question à se poser ; elle est visible.

Une nouvelle discipline : les tests LLM

Ceux qui utilisent des modèles de langage complexes en production s'aventurent souvent en terrain inconnu du point de vue des tests. Les méthodes de test traditionnelles doivent être adaptées pour la première fois et ne sont que partiellement efficaces. Nouveautés :

• Tests d'hallucinations : à quelle fréquence et dans quelles conditions le modèle produit-il des résultats factuellement incorrects ?
• Tests de responsabilité : Le système respecte-t-il les directives éthiques et réglementaires définies ?
• Métriques d'évaluation : Au lieu d'une logique binaire réussite/échec, des cadres d'évaluation probabilistes sont nécessaires. Les résultats doivent être validés à l'aide de métriques définies, et non pas seulement vérifiés quant à leur exactitude.

Cela requiert de nouvelles compétences : non pas l’ingénieur QA classique qui rédige des cas de test, mais l’ architecte qualitéqui accompagne les processus de bout en bout, orchestre les équipes et les agents, et apporte à la fois une expertise technique et une vision systémique.

Ingénierie de l'information et de la qualité

Chez Infometis, nous adoptons une vision globale de la qualité logicielle. Nous combinons les trois domaines d'expertise de nos communautés internes au sein d'un système cohérent :

• Solutions d'affaires – Alignement des processus d'affaires sur la valeur et formulation claire des attentes
• Ambassadeurs de la qualité – Garantir la qualité de manière systématique, continue et de bout en bout
• Automation Genius – Utilisation ciblée de l'automatisation par agents et validation par IA

À l'avenir, nos communautés seront de plus en plus enrichies par des agents d'IA. Nous orchestrerons leur utilisation tout au long du processus.

Que proposons-nous ?

Nous nous sommes spécialisés dans l'interaction complète des stratégies d'ingénierie de la qualité car nous sommes convaincus qu'il s'agit de l'un des défis les plus importants du développement logiciel moderne.

Notre offre comprend :

• Évaluations d'ingénierie de la qualité
  pour les entreprises qui souhaitent comprendre leur situation et mieux connaître leur potentiel.
• Services gérés
  pour les équipes recherchant un partenaire fiable pour prendre en charge certaines tâches d'ingénierie qualité.
• Veille technologique :
  Afin de donner un aperçu des possibilités technologiques, nous surveillons en permanence le marché et partageons nos conclusions.

À l'ère de l'IA, la qualité devient un facteur de compétitivité décisif.

Vous souhaitez découvrir comment mettre en œuvre l'ingénierie de la qualité au sein de votre entreprise ? Parlons-en. Nos experts vous accompagneront dans l'élaboration d'une stratégie qualité pérenne, de la définition des exigences au suivi des systèmes d'IA productifs.

Nous nous réjouissons de cet échange.

‍

Ceci était un premier aperçu. Dans les prochains articles, nous approfondirons le sujet : la gestion des exigences dans le contexte de l’IA, les méthodes de test LLM et le contenu spécifique d’un cadre d’ingénierie de la qualité moderne.