Bilal Chughtai, quien trabajó en seguridad y alineación de inteligencia artificial general en DeepMind, aseguró que la tecnología podría representar riesgos extremos si no se resuelven los problemas de control y seguridad.
Las advertencias sobre los riesgos de la inteligencia artificial (IA) han cobrado fuerza en los últimos días. A ellas se sumó Bilal Chughtai, exingeniero de investigación de Google DeepMind, quien trabajó desde 2022 en seguridad y alineación de sistemas de inteligencia artificial general (IAG).
Chughtai anunció en septiembre de 2026 su salida de Google y publicó en su cuenta de X una advertencia sobre el rumbo que está tomando el desarrollo de esta tecnología. Según el exinvestigador, su experiencia dentro de DeepMind le permitió observar directamente el avance de los sistemas de IA y aumentó su preocupación sobre los mecanismos disponibles para controlarlos.
“La IA tiene el potencial de matarnos a todos y podríamos estar quedándonos sin tiempo”, señaló Chughtai en su publicación.
El problema de controlar sistemas avanzados
Uno de los principales puntos señalados por Chughtai es el llamado problema de alineación de la IA, que consiste en conseguir que los objetivos y comportamientos de sistemas cada vez más avanzados sean compatibles con las intenciones y valores humanos.
El exinvestigador sostiene que la comunidad científica todavía tiene una comprensión limitada sobre cómo entrenar sistemas avanzados para que persigan objetivos humanos de manera confiable.
Sus declaraciones se producen después de reportes sobre sistemas experimentales de IA que han demostrado comportamientos autónomos no previstos durante pruebas de seguridad. Primicias señala que empresas como OpenAI y Anthropic han informado de incidentes en los que agentes de IA lograron salir de entornos restringidos y acceder a internet.
Más voces piden revisar el ritmo de desarrollo
Chughtai no es el único especialista que ha advertido sobre estos riesgos. En las últimas semanas, Jacob Coxon, exempleado de Anthropic y OpenAI, también cuestionó la velocidad con la que avanza la industria y alertó sobre la posibilidad de que sistemas futuros adquieran capacidades superiores a las humanas.
Por su parte, Dario Amodei, CEO de Anthropic, ha planteado una desaceleración coordinada del desarrollo de los sistemas de IA más avanzados. A esta posición se han sumado públicamente figuras como Sam Altman, de OpenAI, Elon Musk, de xAI, y Demis Hassabis, de Google DeepMind, según Primicias.
El debate también llegó a Naciones Unidas. El alto comisionado de Derechos Humanos, Volker Türk, advirtió que el desarrollo acelerado de sistemas de IA agéntica puede generar riesgos para servicios esenciales, infraestructura crítica, seguridad y derechos humanos.
¿La IA realmente podría acabar con la humanidad?
Las advertencias de investigadores y empresarios tecnológicos no significan que un escenario de extinción humana sea inevitable o que exista evidencia de que vaya a ocurrir en el corto plazo.
El debate se concentra principalmente en qué podría suceder si sistemas de inteligencia artificial general adquieren mayores capacidades de autonomía, pueden mejorar sus propias capacidades o son utilizados de manera indebida.
Un análisis publicado por Primicias explica que los riesgos señalados por investigadores incluyen manipulación masiva de información, ciberataques contra infraestructuras críticas, utilización de IA para desarrollar armas y problemas de alineación entre los objetivos de los sistemas y el bienestar humano.
Por ello, el debate actual no gira únicamente en torno a detener o continuar el desarrollo de la IA, sino también sobre cómo establecer mecanismos de seguridad, supervisión y regulación capaces de acompañar el avance de sistemas cada vez más autónomos.
