Optez pour une voie plus rapide et plus intelligente vers l'automatisation des tests C/C++ pilotée par l'IA. Découvrez comment >>
WEBINAIRE
La course au déploiement IA et sécurité dans les véhicules routiers L’intelligence artificielle se développe rapidement, mais son intégration en toute sécurité est semée d’embûches et de défis complexes au niveau systémique. La norme ISO/PAS 8800:2024 fournit des orientations essentielles, définissant des exigences rigoureuses pour les systèmes d’IA dans les architectures électriques/électroniques critiques pour la sécurité. Pour les développeurs automobiles, cela se traduit par des exigences accrues en matière de vérification, de validation et d’assurance de la sécurité, notamment pour la mise en œuvre de logiciels ou l’interaction avec des composants d’IA.
Visionnez ce webinaire qui explique comment la norme ISO/PAS 8800 redéfinit la sécurité de l'IA comme une discipline d'ingénierie continue, comblant ainsi les lacunes laissées par des normes telles que l'ISO 26262 et la SOTIF.
Obtenez en une seule session une feuille de route concrète pour la conformité et les tests d'IA de nouvelle génération. Ce que vous apprendrez :
La norme ISO/PAS 8800 vise à garantir la sécurité des systèmes d'IA embarqués dans les véhicules. Elle couvre l'IA fonctionnant au sein même du véhicule, ainsi que l'IA externe qui influence son comportement, comme les feux de circulation intelligents. La norme est claire : elle ne promet pas une sécurité absolue. Son objectif est plutôt de réduire les risques liés à l'IA à un niveau acceptable dans le cadre du plan de sécurité global du véhicule. Il est important de noter que la norme ISO/PAS 8800 ne remplace pas les normes plus anciennes. ISO 26262 (pour la sécurité fonctionnelle) ou SOTIF (pour la sécurité des fonctionnalités prévues). Il fonctionne en parallèle, comblant les lacunes introduites par l'IA.
Une grande partie de la confusion autour de la sécurité de l'IA provient d'un problème de terminologie. La norme ISO/PAS 8800 clarifie ce point en établissant une distinction entre un système et un système défaut et être insuffisantUn système d'IA peut fonctionner parfaitement comme prévu, tout en étant vulnérable faute de connaissances, de données ou de capacités suffisantes pour gérer des situations inédites. Il ne s'agit pas de simples bogues logiciels, mais de lacunes dans notre compréhension. Par conséquent, la sécurité de l'IA exige de nouvelles approches, de nouvelles preuves et de nouvelles méthodes pour gérer ces risques.
La norme ISO/PAS 8800 est conçue pour s'appuyer sur les connaissances existantes des équipes. Elle se fonde explicitement sur les normes ISO 26262, ISO 21448 (SOTIF) et ISO/IEC 22989 (terminologie de l'IA). Vous n'avez donc pas à abandonner vos pratiques de sécurité actuelles. Au contraire, vous les étendez pour y intégrer l'IA. Considérez la sécurité de l'IA comme une évolution de la sécurité des systèmes, et non comme un domaine entièrement nouveau.
La sécurité de l'IA ne doit pas être négligée ; elle doit être planifiée et gérée tout au long du cycle de vie du système. La norme ISO/PAS 8800 définit un cycle de vie de référence pour la sécurité de l'IA, couvrant toutes les étapes, de la définition des exigences et de la conception aux tests, au déploiement et à l'exploitation continue. Pour les systèmes d'apprentissage automatique, il s'agit d'un processus itératif : on affine et on améliore le système jusqu'à ce que les objectifs de sécurité soient atteints.
L'aspect le plus crucial de la norme ISO/PAS 8800 réside peut-être dans la manière dont elle aborde la preuve de la sécurité de l'IA. Techniquement, il est impossible de… prouver L'IA n'est pas sûre en soi. Il faut plutôt construire une argumentation de sécurité structurée. Cela implique d'énoncer clairement ses affirmations en matière de sécurité, puis de les étayer par des preuves solides. Ces preuves vont au-delà de simples chiffres de précision et comprennent :
La sécurité de l'IA repose en définitive sur une argumentation raisonnée et étayée par des preuves, démontrant que le système, dans son ensemble, est suffisamment sûr.
De nombreuses défaillances de l'IA sont dues à des problèmes de données. La norme ISO/PAS 8800 considère les données comme un élément critique pour la sécurité. Cela signifie que les ensembles de données doivent avoir leur propre cycle de vie, comprenant la définition, la vérification, la validation et l'amélioration continue. L'absence de scénarios, les données biaisées ou les erreurs d'étiquetage peuvent directement entraîner un comportement dangereux de l'IA. Par exemple, un système de détection de piétons doit fonctionner de manière fiable dans toutes les conditions prévues : de jour comme de nuit, sous la pluie, la neige ou dans des rues très fréquentées. Si des scénarios critiques, comme la présence d'un piéton partiellement caché, sont absents des données d'entraînement, le système risque de dysfonctionner lorsqu'il les rencontre, ce qui représente un grave risque pour la sécurité.
Vérifier que l'IA répond aux exigences de sécurité et valider son fonctionnement sûr en conditions réelles représente un défi. Les systèmes d'IA traitent des données multidimensionnelles et les exigences peuvent être imprécises. La norme ISO/PAS 8800 préconise des tests à plusieurs niveaux, depuis les composants individuels de l'IA jusqu'au système intégré et au véhicule complet. Ces tests comprennent notamment :
Ces méthodes permettent d'explorer des scénarios rares ou extrêmes et de valider les données lorsque les essais physiques ne sont pas envisageables. L'essentiel est que les tests d'IA soient systématiques, reproductibles et directement liés aux objectifs de sécurité.
Les défaillances de l'IA peuvent être systémiques et non de simples bogues. Elles peuvent provenir de lacunes dans les données, de généralisations erronées (lorsque l'IA applique mal les modèles appris) ou d'interactions non sécurisées avec d'autres systèmes. Bien que les méthodes d'analyse des défaillances traditionnelles puissent être utilisées, les approches systémiques comme STPA sont souvent mieux adaptées aux comportements complexes de l'IA. Une démarche proactive en matière de qualité permet de réduire les risques et de constituer les preuves nécessaires à votre argumentation.
La sécurité ne s'arrête pas une fois le véhicule sur la route. Les systèmes d'IA évoluent dans un monde dynamique. La norme ISO/PAS 8800 souligne :
Le déploiement n'est que le début de la responsabilité opérationnelle. L'assurance continue est essentielle pour garantir la sécurité de l'IA tout au long du cycle de vie du véhicule.
Comment les équipes peuvent-elles concrètement mettre en œuvre la norme ISO/PAS 8800 ? Celle-ci insiste sur l’identification précoce des risques liés à l’IA, ce qui implique d’adopter une approche de test en amont.
L'IA introduit une complexité que les tests traditionnels ne peuvent gérer seuls. Les tests autonomes pilotés par l'IA peuvent y remédier en corrigeant automatiquement les anomalies, en générant des tests, en améliorant la couverture, en hiérarchisant les risques et en accélérant la mise en conformité. Cela réduit les efforts manuels, accélère la mise sur le marché des produits et permet aux équipes de répondre aux exigences de sécurité rigoureuses et évolutives de normes telles que l'ISO/PAS 8800 sans s'épuiser.
En substance, la norme ISO/PAS 8800 définit les exigences en matière de sécurité de l'IA, et des outils et pratiques comme ceux de Parasoft aident les équipes à y parvenir de manière cohérente, efficace et à grande échelle, couvrant à la fois les composants d'IA et les composants logiciels traditionnels.
