Hinton eleva a 20 % el riesgo de extinción por IA y reclama un tratado global antes de 2055

Geoffrey Hinton, el científico canadiense-británico de 78 años que en 2024 recibió el Nobel de Física por sus trabajos sobre redes neuronales, volvió a encender el debate sobre el futuro de la inteligencia artificial. En una reciente entrevista, el investigador que abandonó Google en 2023 para poder hablar sin ataduras corporativas calculó entre el 10 % y el 20 % las probabilidades de que una IA superinteligente provoque la extinción de la especie humana dentro de un horizonte de treinta años, es decir, antes de 2055.

El dato, que él mismo definió como conservador, surge de comparar la velocidad actual de desarrollo con las proyecciones que manejaba hace apenas una década. En aquel entonces, los plazos que manejaba el propio Hinton para la aparición de capacidades similares a las humanas se medían en siglos. Hoy, dijo, esas estimaciones quedaron viejas por completo.

La metáfora del acelerador sin volante

Para graficar el problema, Hinton recurrió a una imagen de la vida cotidiana: un auto con un motor cada vez más potente, pero sin dirección. La aceleración tecnológica es el pedal; la regulación gubernamental es el volante. Acelerar sin volante, insistió, solo aumenta el riesgo de accidente.

En la misma línea, consideró que la humanidad nunca se enfrentó a entidades más inteligentes que ella misma y que esa asimetría inédita es el verdadero punto ciego del momento. La competencia geopolítica, añadió, no puede servir como excusa para postergar la sanción de marcos legales: si cada país avanza por su cuenta, el problema se agrava en lugar de resolverse.

Qué distingue, según Hinton, a los modelos actuales

El padre del aprendizaje profundo fue más allá de la advertencia cuantitativa y describió un salto cualitativo en los sistemas de última generación. A su entender, los grandes modelos de lenguaje ya no se limitan a detectar correlaciones en montañas de texto, como haría un loro muy sofisticado: comprenden de manera efectiva los conceptos semánticos y abstractos que procesan. Esa capacidad, sostuvo, cambia la categoría del riesgo porque habilita razonamientos que antes se creían reservados a la mente humana.

Qué se puede hacer mientras haya margen de acción

• Promover un tratado internacional vinculante, similar al de armas nucleares, que limite el desarrollo y despliegue de sistemas por encima de cierto umbral de capacidad.
• Crear un organismo global de supervisión con poder de inspección y de suspender proyectos que superen parámetros de seguridad acordados.
• Imponer a las empresas obligaciones de transparencia algorítmica:ación de los datos de entrenamiento, de los protocolos de prueba y de los fallos registrados.
• Establecer presupuestos públicos y privados para investigación en seguridad de IA, comparables a los que hoy se destinan a seguridad nuclear o biológica.
• Incluir la discusión sobre IA en los foros multilaterales existentes, como el G20 y la ONU, para evitar que la regulación quede en manos solo de las compañías del sector.

Hinton reconoció, no obstante, que la ventana de oportunidad se achica a medida que los modelos ganan autonomía. Y advirtió sobre lo que todavía no se sabe: nadie puede precisar en qué momento una IA superinteligente se volverá realmente incontrolable, ni si las salvaguardas técnicas que hoy se discuten en los laboratorios resistirán una arquitectura futura que todavía no existe. Esa incertidumbre, dijo, es la razón de ser del reclamo regulatorio, y no un motivo para postergarlo.