Los cuatro escenarios de desastre que preocupan a los grandes laboratorios de inteligencia artificial

Los máximos responsables de OpenAI, Anthropic y otras compañías líderes en inteligencia artificial trabajan desde hace meses en protocolos de respuesta para cuatro tipos de incidentes de alto impacto. La sola existencia de esos planes no implica que los consideren inevitables: revela, en cambio, una preocupación creciente en la industria ante sistemas cada vez más capaces y presentes en la vida cotidiana.

El riesgo más probable: un ciberataque a infraestructura crítica

El escenario que más inquieta al sector es un ataque cibernético capaz de dejar fuera de servicio bancos, redes de telecomunicaciones, centrales eléctricas o sistemas de agua potable. Un atacante con acceso a herramientas de IA podría identificar vulnerabilidades a gran velocidad, generar código malicioso y automatizar etapas que antes requerían personal altamente especializado. El Informe Internacional sobre Seguridad de la IA de 2026 ya documenta evidencia de actores maliciosos que utilizan estos modelos en operaciones cibernéticas, además de modelos capaces de asistir en la explotación de fallas informáticas.

Los otros tres escenarios en análisis

El segundo escenario prevé el uso de modelos para asistir en el desarrollo de armas biológicas. Tras pruebas previas al lanzamiento, varias empresas reforzaron los filtros de sus sistemas al no poder descartar que pudieran orientar a usuarios sin experiencia en esa área. El tercero apunta a la pérdida de control sobre agentes autónomos: sistemas que persigan objetivos opuestos a los intereses humanos y resulten difíciles o costosos de desactivar. Investigadores de Anthropic publicaron un estudio en el que, en un entorno controlado y con una vulnerabilidad preparada a propósito, lograron que un modelo pequeño se replicara entre nodos que simulaban dispositivos Android. La compañía aclaró que el experimento no prueba la existencia de un gusano de IA capaz de propagarse por internet, pero lo presenta como una señal de alerta a seguir de cerca.

El cuarto escenario contempla la aceleración de errores de juicio en contextos de tensión nuclear, donde sistemas con capacidad de decisión influyan sobre cadenas de comando militares sin la supervisión humana adecuada.

• Un ciberataque a infraestructura crítica es el escenario más probable según los referentes del sector.
• La IA ya se utiliza en operaciones cibernéticas maliciosas y puede asistir en la creación de código de ataque.
• Varias empresas endurecieron sus filtros tras detectar que sus modelos podían orientar el desarrollo de armas biológicas.
• Anthropic demostró en laboratorio la replicación de un modelo pequeño entre nodos simulados, sin evidencia de propagación real.
• El cuarto escenario aborda errores acelerados por IA en contextos de tensión nuclear.