Este video proporciona un análisis en profundidad del alcance y flujo de trabajo definidos en la norma ISO/PAS 8800, centrándose específicamente en garantizar la seguridad de la IA en vehículos autónomos. Exploramos la transición de las normas de seguridad tradicionales a marcos específicos de IA como SOTIF.
Temas Clave Cubiertos:
1. Un Nuevo Paradigma en la Seguridad de la IA: SOTIF
- Más allá de ISO 26262: Pasar de prevenir errores deterministas de hardware/software a gestionar comportamientos probabilísticos de la IA.
- SOTIF (Seguridad de la Funcionalidad Intencionada): Abordar los riesgos que surgen de las limitaciones de rendimiento y las complejidades ambientales.
2. Flujos de Trabajo Clave de la Cláusula 13 de ISO/PAS 8800
- Análisis de Arriba hacia Abajo (Deductivo): Un enfoque reactivo que rastrea anomalías en el campo (por ejemplo, "Frenado Fantasma") hasta las causas raíz como las lagunas en los conjuntos de datos.
- Análisis de Abajo hacia Arriba (Inductivo): Un enfoque proactivo que utiliza PFMEA para predecir y eliminar riesgos durante la fase de diseño de datos antes de que se escriba el código.
3. La Importancia de un Pipeline de IA Integrado
- La seguridad no se trata solo del modelo; se trata de todo el pipeline, incluyendo la lógica de Pre-procesamiento y Post-procesamiento. Un fallo en estas etapas puede llevar a violaciones críticas de seguridad incluso si el modelo de ML es preciso.
4. Herramientas Analíticas Avanzadas y Verificación
- STPA (Análisis de Proceso Teórico de Sistemas): Analizando interacciones complejas y no lineales de la IA en lugar de la causalidad lineal tradicional.
- GSN (Notación de Estructuración de Objetivos): Documentando formalmente un Caso de Aseguramiento de Seguridad para proporcionar prueba verificable de seguridad a auditores y reguladores.
Resumen:
Para lograr una verdadera seguridad en vehículos autónomos, los ingenieros deben implementar un bucle de seguridad continuo que combine reactividad de arriba hacia abajo y proactividad de abajo hacia arriba, tratando los datos con el mismo rigor matemático que la gobernanza del hardware.
Tiempos:
00:00 - Introducción
00:08 - ISO 26262 vs. ISO/PAS 8800
00:40 - Entendiendo SOTIF
01:08 - Cláusula 13: Arriba hacia Abajo vs. Abajo hacia Arriba
01:49 - Pipeline de IA Integrado (Pre/Post-procesamiento)
02:41 - Estudio de Caso de Arriba hacia Abajo: Frenado Fantasma
04:12 - Estudio de Caso de Abajo hacia Arriba: PFMEA y Etiquetado
05:47 - Herramientas Avanzadas: STPA y Redes Bayesianas
07:16 - GSN y Caso de Aseguramiento de Seguridad
#ISOPAS8800, #SeguridadIA, #SOTIF, #VehículosAutónomos, #AutosAutoconducidos, #AprendizajeAutomático, #AnálisisArribaAbajo, #AnálisisAbajoArriba, #STPA, #GSN, #ISO26262, #IngenieríaAutomotriz, #PFMEA, #InteligenciaArtificial