Dieses Video bietet eine eingehende Analyse des im ISO/PAS 8800 Standard definierten Umfangs und Workflows, mit besonderem Fokus auf die Gewährleistung der KI-Sicherheit in autonomen Fahrzeugen. Wir untersuchen den Übergang von traditionellen Sicherheitsstandards zu KI-spezifischen Rahmenwerken wie SOTIF.
Wichtige Themen:
1. Ein neues Paradigma in der KI-Sicherheit: SOTIF
- Über ISO 26262 hinaus: Vom Verhindern deterministischer Hardware-/Softwarefehler zum Management probabilistischer KI-Verhaltensweisen.
- SOTIF (Safety of the Intended Functionality): Risiken, die aus Leistungsbeschränkungen und Umweltkomplexitäten entstehen.
2. Kern-Workflows von ISO/PAS 8800 Klausel 13
- Top-down (deduktive) Analyse: Ein reaktiver Ansatz, der Feldanomalien (z. B. "Phantombremsen") auf Ursachen wie Datensatzlücken zurückverfolgt.
- Bottom-up (induktive) Analyse: Ein proaktiver Ansatz, der PFMEA verwendet, um Risiken während der Datenentwurfsphase vorherzusagen und zu beseitigen, bevor Code geschrieben wird.
3. Die Bedeutung einer integrierten KI-Pipeline
- Sicherheit betrifft nicht nur das Modell; es geht um die gesamte Pipeline, einschließlich Pre-Processing und Post-Processing-Logik. Fehler in diesen Phasen können zu kritischen Sicherheitsverletzungen führen, selbst wenn das ML-Modell genau ist.
4. Fortgeschrittene Analysetools & Verifikation
- STPA (System Theoretic Process Analysis): Analyse komplexer, nicht-linearer KI-Interaktionen anstelle traditioneller linearer Kausalität.
- GSN (Goal Structuring Notation): Formale Dokumentation eines Sicherheitsnachweises, um überprüfbare Nachweise der Sicherheit für Prüfer und Regulierungsbehörden zu liefern.
Zusammenfassung:
Um echte Sicherheit autonomer Fahrzeuge zu erreichen, müssen Ingenieure einen kontinuierlichen Sicherheitsloop implementieren, der reaktive Top-down- und proaktive Bottom-up-Ansätze kombiniert und Daten mit der gleichen mathematischen Strenge behandelt wie die Hardware-Governance.
Zeitstempel:
00:00 - Einführung
00:08 - ISO 26262 vs. ISO/PAS 8800
00:40 - Verständnis von SOTIF
01:08 - Klausel 13: Top-down vs. Bottom-up
01:49 - Integrierte KI-Pipeline (Pre/Post-Processing)
02:41 - Top-down-Fallstudie: Phantombremsen
04:12 - Bottom-up-Fallstudie: PFMEA & Kennzeichnung
05:47 - Fortgeschrittene Tools: STPA & Bayessche Netzwerke
07:16 - GSN & Sicherheitsnachweis
#ISOPAS8800, #AISicherheit, #SOTIF, #AutonomeFahrzeuge, #SelbstfahrendeAutos, #Maschinenlernen, #TopDownAnalyse, #BottomUpAnalyse, #STPA, #GSN, #ISO26262, #Automobiltechnik, #PFMEA, #KünstlicheIntelligenz