Hinton, el padre del aprendizaje profundo, cree que hay hasta dos chances en diez de que la inteligencia artificial nos extinga

Geoffrey Hinton es, para decirlo sin rodeos, uno de los padres de la inteligencia artificial moderna. Sus trabajos sobre redes neuronales profundas, desarrollados durante décadas en universidades de Canadá y Reino Unido, son la base sobre la que funcionan los sistemas de lenguaje y de visión que hoy están en boca de todos. Por eso, cuando un investigador de ese pedigree habla de extinción de la especie, conviene escucharlo con atención.

Una estimación que circula por el mundo entero

El número que más se repite es una franja: entre el 10 y el 20 por ciento de chances de que una inteligencia artificial superinteligente provoque el fin de la humanidad en los próximos treinta años. Hinton aclara que se trata de una estimación, no de una predicción firme, y la atribuye a que el avance de los últimos años superó todas las proyecciones que él mismo manejaba hace una década.

Para graficar el problema, el británico canadiense utiliza una comparación de mecánica hogareña: la innovación tecnológica es como el acelerador de un auto, y la capacidad regulatoria, el volante. Cuanto más se pisa el acelerador sin tener, más rápido se sale del camino. Su planteo es que, en materia de inteligencia artificial, los gobiernos están acelerando con el pie a fondo, pero todavía no construyeron el volante.

Por qué los modelos actuales lo preocupan más que los de hace cinco años

El segundo punto fuerte de su argumentación es de carácter técnico. Hinton sostiene que los grandes modelos de lenguaje ya no se limitan a detectar regularidades estadísticas en enormes volúmenes de texto, como hacen las funciones de autocorrección de un teléfono cuando sugieren la siguiente palabra. Según su análisis, esos sistemas llegan a manipular conceptos abstractos y relaciones semánticas que están un escalón por encima del simple patrón.

Esa diferencia, explica, cambia la categoría del riesgo. Un sistema que sólo repite combinaciones probables es, en el peor de los casos, un loro muy eficiente. Un sistema que comprende relaciones de causa y efecto, analogías y conceptos abstractos empieza a parecerse más a un colaborador que a una herramienta, y a partir de ahí el margen de error se vuelve mucho más difícil de calcular.

• Los modelos actuales ya comprenden conceptos abstractos, no sólo correlaciones estadísticas, según el análisis de Hinton.
• La humanidad nunca se enfrentó a entidades más inteligentes que ella misma, y eso configura un punto ciego sin precedentes.
• La velocidad de avance superó las proyecciones que el propio Hinton manejaba hace apenas diez años.
• Confiar en la autorregulación del mercado es, para el científico, un error estratégico ante una amenaza de esa escala.
• La competencia geopolítica entre países no debería usarse como excusa para postergar marcos legales globales.

“Sin regulación, la innovación tecnológica es como un auto sin volante: cuanto más se acelera, más cerca se está de un siniestro.”Geoffrey Hinton

Qué falta para que la advertencia se traduzca en ley

El científico reclama regulación estatal y, sobre todo, acuerdos internacionales con fuerza legal, no sólo declaraciones de buenas intenciones. Reconoce que, en la práctica, los países todavía discuten si la autorregulación de la industria alcanza, y advierte que esa ventana de oportunidad se está cerrando a medida que los modelos ganan capacidad de manera autónoma.

En otras palabras, todavía estamos a tiempo de decidir qué clase de sistemas queremos construir, pero ese margen se achica con cada nueva versión que sale de los laboratorios. La pregunta que queda abierta es si los marcos regulatorios van a correr a la misma velocidad que los avances técnicos, o si van a llegar, como tantas veces sucede con la tecnología, varios años tarde.