Riesgo catastrófico

Resumen de la Comisión de las obligaciones de GPAI: documentación, derechos de autor y transparencia del contenido de entrenamiento, con evaluación, gestión de riesgos, incidentes y ciberseguridad adicionales para modelos de riesgo sistémico. Las excepciones y transiciones deben comprobarse en el Reglamento.

Síntesis científica internacional de 2026 sobre capacidades de IA de propósito general, uso indebido, pérdida de control y gestión de riesgos. Sus evidencias, incertidumbres y desacuerdos deben distinguirse de las decisiones de política pública; no certifica un modelo concreto.

Anuncio de NIST de noviembre de 2024 sobre la creación de la red internacional de institutos de seguridad de IA. Es un documento fundacional histórico, no un registro actual de miembros; no permite determinar la pertenencia de un país en septiembre de 2026.

La declaración internacional de 2023, que incluye a España entre los países representados, enmarca los riesgos de la IA de frontera como un problema internacional y reclama ciencia compartida, evaluación, transparencia y capacidad pública.

Un marco práctico de gestión de riesgos para organizaciones públicas y privadas: gobernar, identificar, medir y gestionar los riesgos de la IA, con un perfil de IA generativa de 2024 y trabajos sobre infraestructuras críticas en curso en 2026.

Encuesta a investigadores de IA realizada en 2023 sobre sus expectativas de progreso y riesgo. Las respuestas dependen de la formulación y de la muestra: son opiniones recogidas, no frecuencias observadas ni probabilidades calibradas de una catástrofe futura.

Artículo de METR de marzo de 2025 sobre horizontes de tareas, con una tendencia histórica de duplicación aproximada cada siete meses en su muestra. El resultado corresponde a las tareas y fiabilidad evaluadas; no es una predicción ni demuestra la automatización general de empleos.

Panel de METR de horizontes de tareas, con umbrales de éxito del 50 % y 80 %. El horizonte mide dificultad mediante el tiempo humano de resolución, no cuánto tiempo trabaja un agente de forma autónoma y fiable. La página muestra una actualización del 8 de mayo de 2026 y limita la interpretación de tareas superiores a 16 horas.

Mapa útil para política pública de benchmarks de capacidades de frontera en razonamiento, programación, agentes, multimodalidad y otros dominios; ayuda a evitar la exageración basada en una única puntuación.

Benchmark de matemáticas de nivel experto de Epoch AI, diseñado para evaluar razonamiento avanzado más allá de las pruebas estándar ya saturadas y respaldar una medición más rigurosa de capacidades.

Artículo de Nature sobre Humanity's Last Exam, un benchmark experto de 2.500 preguntas en distintas disciplinas; es útil porque muestra tanto un diseño de evaluación más exigente como la persistencia de la incertidumbre.

Versión histórica 2.0 de los autores de Terminal-Bench, publicada el 7 de noviembre de 2025, para tareas agénticas en terminal. El proyecto primario recoge versiones posteriores: 2.0 no es la última versión ni permite comparaciones entre versiones sin matices.

Benchmark para agentes multimodales que realizan tareas abiertas en entornos informáticos reales; relevante para la IA en el sector público porque la autonomía implica cada vez más operar software, no solo generar texto.

Herramientas concretas para evaluar capacidades autónomas peligrosas, incluidas orientaciones para baterías de tareas y un protocolo de ejemplo para medir el riesgo agéntico de modelos de frontera.

Anuncio de OpenAI de octubre de 2023 sobre su enfoque de riesgos de frontera. Se conserva como fuente primaria histórica, no como la última versión de su marco ni como evaluación independiente de sus modelos.

Frontier Governance Framework de OpenAI, anunciado el 28 de mayo de 2026. Describe el enfoque de la empresa sobre riesgos graves, seguridad, protección, notificación y requisitos legales emergentes. Un marco empresarial no es una auditoría independiente ni una conclusión de cumplimiento.

Anuncio de Anthropic de febrero de 2026 sobre RSP v3.0 y su enfoque de Frontier Safety Roadmaps. Es una declaración fechada de políticas y objetivos de la empresa, no evidencia independiente de seguridad ni garantía de que la política permanezca sin cambios.

Anuncio fechado de Google DeepMind sobre su Frontier Safety Framework. Describe umbrales de capacidad y prácticas de gestión de riesgos del laboratorio; no constituye una evaluación independiente ni una certificación de cumplimiento.

Statement on AI Risk de 2023, que recoge la preocupación de sus firmantes por riesgos extremos de la IA. Es una declaración pública, no una estimación científica de probabilidad, una norma jurídica ni evidencia de ese nivel de riesgo en un modelo concreto.