El mayor riesgo de la IA

Ricardo Peirano, 25 de setiembre de 2026

La IA no para de ocupar los principales titulares de los medios y cada vez lo hace con mayor frecuencia y destaque. Pero estos últimos siete días han sido frenéticos.

Todo comenzó el 9 de setiembre cuando  Jacob Coxon (investigador que acababa de renunciar a Anthropic, antes en OpenAI) escribió que quienes construyen estos sistemas “creen de verdad que podría matarnos a todos para fin de la década”. Evan Hubinger, líder de Alignment Science de Anthropic, lo apoyó: “Jacob tiene razón… creemos de verdad que la IA podría matar a todos los humanos. Personalmente creo que es mayor a 10% en la próxima década”. Otros empleados de Anthropic dijeron que incluso un 1% ya sería inaceptable.

A partir de allí todo fue una catarata de declaraciones sumamente importantes.

El 11 de setiembre, Trump, al salir de Dallas dijo que no tiene preocupaciones de extinción de la humanidad pero sí de que EE.UU. pierda la carrera de la IA ante China.

loomberg.comAl día AAl

Al día siguiente Dario Amodei (CEO de Anthropic) publicó un ensayo pidiendo desacelerar el avance de capacidades de frontera (agentes que podrían tomar internet en meses, auto-mejora recursiva más rápida de lo esperado). Sam Altman (CEO de Open IA) y Elon Musk (CEO de Space X) lo respaldan inmediatamente. Altman añade que un riesgo del 10% es inaceptable y que OpenAI no saldrá a bolsa en 2026 por las preocupaciones acerca de la seguridad de los modelos de IA.

Entre el 13 y 15 de setiembre Trump insiste en que es una “broma” y que hay “fuerzas muy negativas” inflando el tema. Jensen Huang (CEO de NVIDIA, le empresa constructora de chips y la de mayor valor bursátil del mundo), rechaza frenar el desarrollo. Dice que las cifras de extinción no son científicas y conversa en vivo con Trump, que reitera que “los robots no se van a apoderar del mundo”. Amodei, en sucesivas entrevistas, matiza el asunto: coincide en gran parte con Coxon sobre la dinámica de la industria, pero no tanto en que Anthropic sea el problema principal.

barrons.com

En resumen, las advertencias de Hubinger y Coxon, que estiman en un 10% el riesgo de extinción, abren dos caminos. Por un lado, están quienes apoyan ralentizar los productos de frontera, someterlos al examen de terceras partes independientes y buscar salvaguardias. Y allí se alinean Amodei, Musk y Altman (los CEO de las  tres principales empresas de IA). Los máximos jefes piden regulación -hay que ver después que tipo de regulación porque la coercitiva y burocrática regulación a la europea no le sirve a nadie y menos a los europeos-.

La intervención de terceros es algo que el Papa León XIV había planteado en su reciente encíclica Magnificas Humanitas. También lo pidió Chris Olah, cofundador de Anthropic, en su alocución en el Vaticano en la misma ceremonia en que se presentó la encíclica.

El otro camino es el que señala Trump: no le preocupa el riesgo existencial, las alarmas son una broma y el peligro real es perder la carrera de la IA contra China, donde el gobierno del Partido Comunista controla el desarrollo de la IA. Trump va más allá y dice que mientras en Estados Unidos haya un presidente con alto coeficiente intelectual (que es él) no habrá problemas.

Junto a Trump, Jensen Huang, de NVIDIA y proveedor de chips para las otras tres compañías y para China, se muestra contrario a la pausa en los modelos de frontera. Sostiene que las predicciones de fin de la humanidad son un sinsentido y una exageración.

Lo curioso de todo esto es que la advertencia de la posibilidad real de extinción de la humanidad no es algo nuevo. Ni algo que proclamen empleados desencantados con sus empresas.

En setiembre de 2025, hace exactamente un año, Amodei dijo hay un 25% de chance de que las cosas vayan “muy, muy mal” y un 75% de que vayan “muy, muy bien”. Nadie dijo nada entonces, pero sí ante la salida de Coxon se abren todos los paraguas.

Por su parte, Elon Musk fue mucho más categórico. Desde 2014 viene advirtiendo que impulsar la IA es como llamar al demonio, que es más peligrosa que las armas nucleares y,  en julio de 2026 en una entrevista con The Economist, mantuvo que los humanos “casi con seguridad” dejarán de estar al mando en unos 10 años, y que lo más probable es una comience una “era de abundancia” donde el trabajo sería algo opcional.ibtimes.co.uk

Sam Altman escribió en 2015 que la inteligencia artificial “es probablemente la mayor amenaza para la existencia continua de la humanidad”.

Ninguna de esas advertencias de los tres CEOs tuvo repercusión en su momento. Pero ahora de golpe todo converge y en un solo día Amodei, Musk y Altman coinciden en la necesidad de ralentizar los modelos de frontera. ¿Será que estos exigen demasiada inversión en centros de datos y chips? ¿Será que una vez establecida una ventaja competitiva no conviene que ingresen o avancen otras empresas? ¿Por qué Open IA pospone su salida a bolsa para el año próximo? ¿Será que espera para poder justificar una mejor valuación de mercado?

Convengamos que estas empresas no son ONGs, aunque Open IA nació como una entidad sin fines de lucro para rápidamente transformarse en una empresa comercial al percibir el enorme negocio potencial que hay dentro de la IA.

Y su propósito es maximizar los beneficios. Por eso cuando vemos que las propias empresas piden bajar el ritmo de avance no podemos simplemente sentarnos a aplaudir la supuesta buena voluntad y altruismo de esos empresarios.

Tenemos que pensar que ellos piensan en su propia supervivencia empresarial, en organizar las más grandes salidas a bolsa de la historia y en mantener la ventaja que tienen respecto de competidores más chicos o de código abierto o de otros países.

El principal problema no es que dentro de unos años algún agente de la IA actúe autónomamente por fuera del camino establecido y cause una catástrofe. El principal problema, en palabras de Jensen Huang, es “no sacar ventaja de todo lo que la IA propone o promete”. Sería muy triste, dijo Huang en la reunión del G20 de principios de setiembre, que “el temor o la regulación” dejen a muchos países fuera de esta gran revolución industrial.

Huang, que tampoco preside una ONG sino la empresa de mayor valor bursátil del mundo que vende chips a todas las empresas de IA, señaló que cada país necesita crear infraestructura para potenciar la economía local. Y que “la infraestructura local puede proporcionar a los investigadores, a los estudiantes, a las startups y a las industrias con el poder computacional necesario para desarrollar nuevos productos y negocios”. Por eso, Huang pide que no se regulen “hipotéticos daños teóricos” sino los “daños actuales y reales”.

Es una llamada sensata a no sobre reaccionar, pero sí a mantener los ojos abiertos como ocurre en la industria de la aviación o de la salud, donde la seguridad modera los avances.

Ello evitaría episodios como el registrado en los últimos siete días y permitiría centrarse en cómo hacer asequibles a la mayor parte de la población mundial de los beneficios de la IA y contrarrestar sus posibles efectos negativos en el empleo.