Sam Altman pide pisar el freno antes que la IA se nos vaya de las manos

Sam Altman, director ejecutivo de OpenAI, volvió a encender las alarmas sobre el rumbo de la inteligencia artificial. En una serie de declaraciones recientes, identificó dos escenarios críticos que, a su entender, concentran los mayores peligros del desarrollo de esta tecnología: que las personas pierdan el dominio sobre sistemas cada vez más capaces y que una persona, una empresa o un país acumulen un poder desproporcionado a partir de ella.

Dos riesgos, un mismo dilema

El primero de esos riesgos es, en sus propias palabras, que la humanidad ceda el timón del futuro. "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas", sostuvo. La idea es sencilla de explicar: si hoy ya le pedimos a un sistema que redacte un mail o traduzca un texto, mañana podríamos llegar a pedirle decisiones sobre infraestructura energética, logística o defensa. Cuanto más capaz sea la herramienta, mayor es el costo de equivocarse al dejarla actuar sin intervención humana.

Cómo funciona la idea de mantener el control

Altman lo resume con una comparación muy concreta: "Si la IA se vuelve lo suficientemente poderosa como para superar la supervisión humana, necesitamos una forma segura de reducir su capacidad de operación". Piensen en una cocina industrial con una hornalla tan potente que puede incendiar el local si nadie la vigila: la solución no es cocinarlas con menos potencia, sino instalar termostatos, alarmas y cortes automáticos que actúen antes de que el fuego se descontrole. En el mundo de la inteligencia artificial, ese tipo de "termostatos" recibe el nombre de técnicas de alineación, un conjunto de procedimientos diseñados para que los sistemas hagan lo que les pedimos y no se desvíen hacia objetivos propios. Altman insistió en que esos mecanismos deben progresar tan rápido como las capacidades de los modelos, o incluso más rápido.

El segundo escenario es el de la concentración de poder. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió. Reconoció que evitar ambos riesgos a la vez exige transitar por lo que describió como un "angosto camino intermedio": ni frenar la innovación hasta congelarla ni soltar el acelerador a fondo.

Qué propone para reducir el riesgo

Altman respaldó la creación de un marco regulatorio federal que establezca requisitos de seguridad comunes para los llamados modelos de frontera, es decir, los sistemas que operan en el límite de las capacidades tecnológicas actuales. En la práctica, sería algo parecido a las normas que regulan los aviones: no se espera que cada fabricante rediseñe su propia definición de "vuelo seguro", sino que todos respeten estándares mínimos compartidos.

También propuso incorporar auditores independientes en los mecanismos de supervisión, una pieza clave, ya que controla al controlador. Estos auditores serían terceros que revisan, certifican y eventualmente sancionan a quienes no cumplan las reglas, en línea con el mismo razonamiento que se aplica a bancos y laboratorios clínicos.

Regulación, competencia y cooperación

Aunque apoyó una ley federal, Altman aclaró que las empresas no deberían esperar nuevas normas para empezar a aplicar medidas de seguridad por cuenta propia. En sus palabras, "la autorregulación proactiva sigue siendo una herramienta vital".

Sobre la disputa tecnológica entre países, fue categórico: "Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia". El planteo apunta directamente a evitar que la carrera por liderar el sector empuje a las compañías a saltarse controles con tal de llegar primero.

Para que ese esquema funcione a escala planetaria, Altman consideró indispensable la coordinación internacional entre gobiernos. De lo contrario, las reglas solo regirían en unos pocos países, mientras que los sistemas podrían entrenarse y operar en jurisdicciones más permisivas, igual que ocurre hoy con ciertos paraísos fiscales.

Qué falta para que llegue a todos

En la práctica, los anuncios de Altman chocan con al menos tres pendientes. Todavía no existe en casi ningún país un marco federal específico para los modelos de frontera; los auditores independientes son una figura mencionada en especializados pero sin presencia institucional formal, y la cooperación internacional sigue siendo más un eslogan que un mecanismo operativo con dientes. A eso se suma una tensión de fondo: la propia OpenAI es una de las empresas que más se beneficiaría de las reglas que propone, lo que vuelve inevitable el debate sobre quién escribe las normas y bajo qué incentivos.