Redacción, 11 de septiembre.- Pocos científicos tienen la autoridad de Geoffrey Hinton para hablar de inteligencia artificial. El Premio Nobel británico-canadiense es uno de los responsables directos de que esta tecnología exista tal como la conocemos hoy, lo que le valió el apodo de “padrino de la IA”. Esta semana, en una entrevista con el programa Newsnight de la BBC, admitió que una probabilidad del 10% de que la inteligencia artificial pueda extinguir a la humanidad no le parece descabellada, aunque aclaró que nadie sabe con certeza cómo estimar ese riesgo.
La advertencia se produjo días después de que un exinvestigador de Anthropic y OpenAI renunciara públicamente a su cargo y acusara a las grandes compañías del sector de avanzar hacia una superinteligencia sin controles suficientes.
Cuando la conductora del programa le preguntó si considera que existe una probabilidad superior al 10% de que la inteligencia artificial pueda matar a todos los humanos, potencialmente en el plazo de una década, Hinton respondió con cautela pero sin descartar la cifra. “Este es el tipo de cosa que es muy difícil de estimar porque nunca antes hemos tenido algo así”, dijo a la BBC. “Nunca hemos creado seres que pronto podrían ser más inteligentes que nosotros. No sabemos qué va a pasar”.
“Una probabilidad del 10% no me parece una estimación irrazonable, pero nadie sabe realmente cómo dar una estimación sensata”, sostuvo el científico en la entrevista. Fue explícito en señalar que sería igualmente imprudente afirmar que el riesgo es del 1%, dado que se trata de un fenómeno sin precedentes históricos. No presentó el porcentaje como una predicción, sino como un umbral que no le parece ilógico considerar.
Hinton planteó un escenario de bifurcación. “Tenemos dos futuros posibles: uno en el que descubrimos cómo lidiar con esos peligros antes de que se salgan de control, y otro en el que no”, dijo. “Un futuro es muy bueno y el otro es muy malo”, sostuvo.
Hinton ganó el Premio Nobel en reconocimiento a su trabajo fundacional sobre inteligencia artificial. Sus posiciones no son las de un crítico externo al sector, sino las de uno de sus arquitectos más influyentes, razón por la cual sus advertencias generan una atención particular en la comunidad científica y en los medios de todo el mundo.
Lo que también llamó la atención en la entrevista fue la aceleración de sus propias estimaciones. El científico reconoció que su horizonte temporal se ha comprimido de forma significativa en los últimos años. “Antes pensaba que eran entre 30 y 50 años, luego lo reduje a entre 10 y 20 años”, dijo al programa Newsnight. “Ahora creo que quizá 10 años, quizá menos”.
Agregó que hay personas dentro del propio sector que manejan plazos todavía más cortos. “Esto es bastante urgente ahora”, concluyó.
Cuando la conductora le pidió que detallara de qué manera una inteligencia artificial avanzada podría causar daños a escala masiva, Hinton señaló que las posibilidades son tantas que prefirió no especular sobre todas. Mencionó algunos escenarios concretos: ciberataques devastadores, el diseño de virus biológicos peligrosos y la manipulación de personas a través del lenguaje.
“Lo primero que hay que comprender es que ni siquiera tiene que ser capaz de actuar en el mundo real para causar devastación”, dijo Hinton a la BBC. “Podría causar un caos total simplemente hablando con la gente”. Señaló también que un sistema suficientemente avanzado podría acceder a recursos y sistemas del mundo físico, lo que ampliaría el alcance del daño potencial.
Todos estos escenarios corresponden a hipótesis sobre sistemas futuros, más avanzados que las herramientas disponibles hoy. Hinton no los describió como inevitables ni como inminentes, sino como posibilidades que justifican tomar precauciones ahora, antes de que el desarrollo avance más rápido que la capacidad de supervisarlo.
Hinton fue directo al plantear qué les pediría a los líderes mundiales: regulación. Reconoció que no existe una solución única para todos los riesgos, dado que cada tipo de amenaza requiere una respuesta diferente. Insistió en que los gobiernos deben intervenir antes de que el desarrollo de la inteligencia artificial supere la capacidad de controlarlo.
