Cette vidéo fournit une analyse approfondie du périmètre et du flux de travail définis dans la norme ISO/PAS 8800, en se concentrant spécifiquement sur la sécurité de l'IA dans les véhicules autonomes. Nous explorons la transition des normes de sécurité traditionnelles vers des cadres spécifiques à l'IA comme le SOTIF.
Sujets clés abordés :
1. Un nouveau paradigme en matière de sécurité de l'IA : SOTIF
- Au-delà de l'ISO 26262 : Passer de la prévention des erreurs matérielles/logiciels déterministes à la gestion des comportements probabilistes de l'IA.
- SOTIF (Safety of the Intended Functionality) : Aborder les risques découlant des limitations de performance et des complexités environnementales.
2. Flux de travail principaux de la clause 13 de l'ISO/PAS 8800
- Analyse descendante (déductive) : Une approche réactive traçant les anomalies sur le terrain (par exemple, "Freinage fantôme") jusqu'aux causes profondes comme les lacunes dans les ensembles de données.
- Analyse ascendante (inductive) : Une approche proactive utilisant le PFMEA pour prédire et éliminer les risques pendant la phase de conception des données avant que le code ne soit écrit.
3. L'importance d'un pipeline IA intégré
- La sécurité ne concerne pas seulement le modèle ; elle concerne l'ensemble du pipeline, y compris la logique de prétraitement et de post-traitement. Un échec dans ces étapes peut entraîner des violations de sécurité critiques même si le modèle ML est précis.
4. Outils analytiques avancés et vérification
- STPA (System Theoretic Process Analysis) : Analyser les interactions complexes et non linéaires de l'IA au lieu de la causalité linéaire traditionnelle.
- GSN (Goal Structuring Notation) : Documenter formellement un cas d'assurance sécurité pour fournir une preuve vérifiable de sécurité aux auditeurs et aux régulateurs.
Résumé :
Pour atteindre une véritable sécurité des véhicules autonomes, les ingénieurs doivent mettre en œuvre une boucle de sécurité continue qui combine réactivité descendante et proactivité ascendante, en traitant les données avec la même rigueur mathématique que la gouvernance matérielle.
Horodatages :
00:00 - Introduction
00:08 - ISO 26262 vs. ISO/PAS 8800
00:40 - Comprendre le SOTIF
01:08 - Clause 13 : Descendante vs. Ascendante
01:49 - Pipeline IA intégré (Pré/Post-traitement)
02:41 - Étude de cas descendante : Freinage fantôme
04:12 - Étude de cas ascendante : PFMEA & Étiquetage
05:47 - Outils avancés : STPA & Réseaux bayésiens
07:16 - GSN & Cas d'assurance sécurité
#ISOPAS8800, #SécuritéIA, #SOTIF, #VéhiculesAutonomes, #VoituresAutonomes, #ApprentissageAutomatique, #AnalyseDescendante, #AnalyseAscendante, #STPA, #GSN, #ISO26262, #IngénierieAutomobile, #PFMEA, #IntelligenceArtificielle