Sam Altman advierte que la humanidad podría perder el timón de la inteligencia artificial

El director ejecutivo de OpenAI, Sam Altman, encendió las alarmas en torno al futuro de la inteligencia artificial al describir dos escenarios que, según su mirada, concentran los mayores riesgos de la tecnología. En una serie de declaraciones recientes, sostuvo que el avance de la IA podría derivar en una pérdida de control por parte de la humanidad o en una concentración excesiva de poder en manos de un individuo, una empresa o un país.

Los dos riesgos que señaló Altman

El primer riesgo es la pérdida de control. Altman lo planteó en términos directos: "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas". Para evitarlo, propuso que las técnicas de alineación —es decir, los métodos que ajustan el comportamiento de los modelos para que respondan a objetivos humanos— y los mecanismos de seguridad avancen al mismo ritmo que las capacidades de los sistemas, o incluso por delante.

El segundo riesgo es la concentración de poder. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió. Reconoció que evitar ambos peligros a la vez obliga a transitar un "angosto camino intermedio".

Qué propuso para reducir el peligro

• Crear un marco regulatorio federal que fije requisitos de seguridad comunes para los modelos de frontera, es decir, los más avanzados del momento.
• Incorporar auditores independientes en los mecanismos de supervisión, como se hace con los balances contables de las grandes compañías.
• Avanzar en coordinación internacional entre gobiernos, un ámbito en el que las empresas necesitan apoyo estatal.
• Aplicar medidas de seguridad desde ahora, sin esperar nuevas leyes, según la lectura de Altman.

“Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia.”Sam Altman, director ejecutivo de OpenAI

Lo que todavía no se sabe

Altman no detalló qué organismos deberían actuar como auditores ni cómo se financiaría la supervisión internacional. Tampoco especificó quién define el límite de los modelos de frontera ni con qué criterios se mide que la alineación vaya un paso adelante de la capacidad técnica. Esas piezas, clave para que el "angosto camino intermedio" deje de ser una idea y se convierta en política concreta, aún no están sobre la mesa.