La inteligencia artificial está adquiriendo mayores capacidades a un ritmo más rápido del que muchos expertos preveían, pero nuestra capacidad para medir sus riesgos en el mundo real no avanza al mismo paso. Esta es la tensión central del Informe Internacional sobre Seguridad de la IA de 2026, una evaluación científica dirigida por Yoshua Bengio y elaborada con la orientación de más de 100 expertos independientes, propuestos por más de 30 países y organizaciones internacionales.
El informe no predice que un desenlace drástico sea inevitable. Es un mapa de lo que saben los investigadores, lo que desconocen y por qué la incertidumbre en sí misma es relevante cuando se despliega a gran escala una IA de propósito general.
Tres familias de riesgos
El informe agrupa los riesgos emergentes en tres grandes áreas:
- Uso malicioso, incluidas las estafas, el fraude, las ciberoperaciones y el contenido sintético abusivo.
- Malfuncionamientos, situaciones en las que un sistema se comporta de manera poco fiable, persigue un objetivo erróneo o genera resultados perjudiciales.
- Riesgos sistémicos, en los que la adopción generalizada afecta al ámbito laboral, a los entornos de información, a la concentración del mercado o a las instituciones críticas.
La evidencia es desigual. Algunos perjuicios, como el fraude asistido por IA y la difusión de imágenes íntimas sin consentimiento, ya están documentados. Otros escenarios siguen siendo inciertos, especialmente cuando dependen de capacidades futuras o de complejas cadenas de acontecimientos sociales. Una información responsable debe mantener visible esa distinción.
La brecha de evaluación
Una puntuación de referencia puede demostrar que un modelo tiene un buen desempeño en una prueba definida. Sin embargo, por sí sola, no puede predecir cómo se comportará ese mismo sistema en un entorno laboral complejo, bajo presión adversaria o al conectarse a herramientas y datos confidenciales.
El informe denomina a esto una brecha de evaluación. Los modelos pueden ser sensibles a las instrucciones y al contexto; las pruebas pueden quedar obsoletas; y un resultado de laboratorio puede no trasladarse directamente al uso en el mundo real. Esto no hace que la evaluación sea inútil. Significa que la evaluación debe realizarse por niveles: las pruebas de capacidades, los ejercicios de red teaming, la supervisión del despliegue, el reporte de incidentes y la revisión humana responden, cada uno, a preguntas diferentes.
Las salvaguardias están mejorando, pero no son decisivas.
Los desarrolladores e investigadores han ampliado las evaluaciones de modelos, el entrenamiento para la negativa de respuestas, los controles de acceso, las herramientas de trazabilidad y los marcos de seguridad para modelos de frontera. El informe también subraya sus limitaciones: atacantes cualificados pueden eludir las salvaguardas, las marcas de agua pueden resultar vulnerables y la eficacia real de muchos controles sigue siendo difícil de cuantificar.
La respuesta sensata no es abandonar las medidas de seguridad, sino evitar considerar cualquier control individual como una garantía absoluta. La defensa en profundidad es fundamental: limite los permisos, aísle los sistemas críticos, registre las acciones de gran impacto, pruebe los escenarios de fallo y asegúrese de que sea posible revertir los cambios.
Lo que pueden hacer los equipos prácticos
- Ajuste el nivel de supervisión a las consecuencias de la tarea.
- Mantener a los seres humanos como responsables de las decisiones financieras, médicas, legales y críticas para la seguridad.
- Proporciona a las herramientas de IA los datos y permisos mínimos que necesitan.
- Mide el rendimiento después del despliegue, no solo antes del lanzamiento.
- Registre los fallos y los incidentes evitados por poco para que la base de evidencia pueda mejorar.
- Informe a los usuarios cuando el contenido o las decisiones impliquen sustancialmente el uso de IA.
El Mythic Mode perspectiva
La lección más útil es de índole cultural: la confianza debe basarse en evidencias. La IA puede acelerar la investigación, el diseño y las operaciones, pero la velocidad no equivale a fiabilidad. Un sistema resulta más confiable cuando sus límites son visibles, sus acciones son susceptibles de revisión y sus operadores están dispuestos a admitir: «aún no lo sabemos».
El informe no zanja todos los debates. Ofrece una base científica común para tomar mejores decisiones a medida que las capacidades y los riesgos siguen cambiando.