Estados Unidos.– Investigadores y exempleados de algunas de las principales empresas desarrolladoras de inteligencia artificial han vuelto a encender las alarmas sobre los riesgos de crear sistemas cada vez más poderosos, al advertir que una inteligencia artificial fuera del control humano podría representar incluso un riesgo de extinción para la humanidad.
Las nuevas advertencias cobraron fuerza después de que Jacob Coxon, exinvestigador de Anthropic y anteriormente de OpenAI, abandonara su trabajo y cuestionara la carrera de las compañías tecnológicas por desarrollar sistemas de inteligencia artificial capaces de superar las capacidades humanas.
Coxon advirtió que actualmente las empresas buscan desarrollar sistemas que eventualmente puedan mejorar sus propias capacidades y sostuvo que dentro de la industria existen investigadores que consideran seriamente la posibilidad de que una inteligencia artificial avanzada pueda escapar del control humano.
La preocupación no proviene únicamente de exempleados. Evan Hubinger, investigador de Anthropic especializado en alineación de inteligencia artificial, estimó en más de 10% la posibilidad de que sistemas avanzados de IA provoquen la muerte de toda la humanidad durante la próxima década, y reconoció que todavía no existe una solución definitiva para garantizar el control de una eventual superinteligencia.
Otro investigador de Anthropic, Samuel Marks, también ha advertido que dentro de las compañías desarrolladoras existen especialistas que consideran posible que la tecnología provoque la extinción humana o consecuencias de una magnitud similar en los próximos años.
Las advertencias no son nuevas. En 2024, empleados y exempleados de OpenAI y Google DeepMind hicieron pública una carta en la que denunciaron que las compañías poseen información sustancial sobre las capacidades y riesgos de sus propios sistemas, pero existen pocos mecanismos efectivos para obligarlas a compartirla con gobiernos y sociedad.
En aquella ocasión alertaron sobre riesgos que iban desde la manipulación y la desinformación hasta la pérdida de control de sistemas autónomos de inteligencia artificial, potencialmente capaz de provocar la extinción humana.
Un año antes, centenares de investigadores y directivos tecnológicos, entre ellos Geoffrey Hinton, Yoshua Bengio, Sam Altman, Demis Hassabis y Dario Amodei, respaldaron una declaración internacional que planteó que reducir el riesgo de extinción provocado por la inteligencia artificial debía convertirse en una prioridad mundial comparable a otros riesgos de escala social, como las pandemias y una guerra nuclear.
Frente a estas advertencias, el presidente estadounidense Donald Trump fue cuestionado este fin de semana directamente sobre si le preocupaba que la inteligencia artificial pudiera conducir a la extinción humana.
“No, no tengo ninguna”, respondió al ser cuestionado sobre esa preocupación. Trump sostuvo que su inquietud está centrada en otra amenaza: que Estados Unidos pierda frente a otros países la carrera por dominar la inteligencia artificial.
La posición coincide con la política adoptada por su administración, que ha colocado como prioridad acelerar el desarrollo tecnológico, ampliar la infraestructura necesaria para la IA y mantener a Estados Unidos por delante de China y otros competidores.
La Casa Blanca presentó desde 2025 su estrategia bajo el concepto de “ganar la carrera de la IA”, con medidas destinadas a reducir obstáculos para su desarrollo y consolidar el liderazgo estadounidense en esta tecnología.
Así, mientras algunos de los investigadores que conocen desde dentro el desarrollo de los sistemas más avanzados advierten que la carrera hacia una inteligencia superior a la humana podría representar un riesgo existencial, el gobierno estadounidense mantiene como prioridad no frenar, sino asegurarse de que Estados Unidos llegue primero.