ESCOCIA.— En un insólito encuentro en la campiña escocesa, el rey Carlos III del Reino Unido alzó la voz frente a la élite tecnológica global para exigir controles estrictos sobre la inteligencia artificial (IA) antes de que la humanidad pierda el mando de su propio porvenir. El monarca advirtió sobre “peligros existenciales” en caso de que esta herramienta caiga en manos indebidas o se utilice de formas “potencialmente catastróficas”.
El evento, celebrado en la finca de Dumfries House, congregó a líderes empresariales, funcionarios de alto nivel y pensadores internacionales. Entre los asistentes destacaron Jensen Huang, director ejecutivo de Nvidia; Demis Hassabis, cofundador de Google DeepMind; Sarah Friar, directora financiera de OpenAI; Paolo Benanti, asesor del Vaticano en ética digital; el historiador Yuval Noah Harari, y delegados de China y del gobierno británico.
“Quienes han creado estas tecnologías advierten cada vez más de que la IA puede desarrollar capacidades más siniestras, e incluso potencialmente llevarse vidas por delante”, alertó el monarca de 77 años durante su discurso inaugural, en el que subrayó que la técnica debe permanecer supeditada a un fin superior: “La tarea no consiste solo en hacer avanzar la tecnología, sino en garantizar que siga estando firmemente al servicio de la humanidad, las comunidades y la naturaleza”.
El rey Carlos III llamó a considerar los riesgos de la inteligencia artificial durante una reunión con líderes tecnológicos en Reino Unido.
Aunque reconoció que esta tecnología puede mejorar y salvar vidas, advirtió sobre los peligros de que sus capacidades sean utilizadas de… pic.twitter.com/WMKV31BdnQ
— El Horizonte (@ElHorizontemx) September 17, 2026
El llamado de Carlos III coincide con un clima de profunda inquietud técnica. En semanas recientes se han multiplicado las dimisiones de investigadores en gigantes del sector, quienes denuncian que la velocidad de desarrollo sobrepasa las barreras de contención. La tensión escaló tras revelarse que modelos experimentales lograron eludir sus entornos cerrados de prueba para acceder a internet e irrumpir de forma autónoma en plataformas externas.
Durante la sesión, Demis Hassabis, de Google DeepMind, reconoció la gravedad del panorama: “La posibilidad de que ocurra algo malo accidentalmente, si nos equivocamos, desde luego no es nula. Ya hemos visto los primeros indicios con recientes incidentes cibernéticos de agentes rebeldes, y en el horizonte asoman riesgos mucho más graves, incluidas amenazas biológicas y nucleares”.
⇒ Ante este escenario, firmas como OpenAI, Anthropic y DeepMind anunciaron la creación conjunta de un organismo de supervisión de riesgos, mientras que figuras como Sam Altman y Elon Musk se han alineado con la postura de moderar la velocidad del despliegue para priorizar pruebas de seguridad.
Pese a la solemnidad de las advertencias, la cumbre evidenció una fractura abierta en Silicon Valley. El CEO de Nvidia, Jensen Huang, rechazó las peticiones de ralentizar el sector y se distanció de equiparar la IA con plataformas como las redes sociales.
“Es una tecnología y no un producto”, sostuvo Huang, quien defendió que los marcos regulatorios actuales —en ramas como la medicina, la movilidad y el entretenimiento— son suficientes para atajar problemas concretos sin asfixiar la innovación. Para el directivo, la mitigación de fallos debe ceñirse al rigor técnico tradicional en laboratorios: “Es ingeniería clásica: probar los sistemas a fondo antes de lanzarlos al público”.
⇒ La postura de Huang converge con la visión de empresarios como Mark Zuckerberg y sectores políticos como el del expresidente estadounidense Donald Trump, contrarios a frenar el auge tecnológico frente a la competencia global.
Zuckerberg, Musk y Jensen Huang habrían presionado a Trump contra un regulador de IA
Según Forbes, los tres empresarios hablaron con Trump y lo convencieron de bloquear una propuesta para crear un organismo de regulación y estándares de IA financiado por la industria.
La…
— R.J. (@robertojirusta) September 17, 2026
El reto del control moral
En su intervención, Carlos III evocó el deber ético de la comunidad internacional de no ceder la soberanía colectiva ante algoritmos autónomos: “Nuestra humanidad debe permanecer sagrada. Quienes valoran nuestro componente moral buscan la tranquilidad de saber que no perderemos el control de nuestro destino ni de nuestras almas”.
Aunque el Reino Unido alberga instituciones de referencia como el Instituto de Seguridad de la IA, su capacidad de maniobra se enfrenta al vertiginoso ritmo impuesto por las potencias de Estados Unidos y China. La cita en Escocia deja en claro que la discusión ya no gira en torno a las promesas futuras de la inteligencia artificial, sino a la urgencia inmediata de establecer quién y cómo mantendrá el control sobre su rumbo.
Te recomendamos:
Enrique y Meghan seguirán fuera de la familia real pese a su regreso al Reino Unido: Rey Carlos III
AM.MX/dsc
The post Carlos III confronta a los titanes de la IA en Escocia: pide frenar riesgos existenciales “antes de que sea tarde” appeared first on Almomento | Noticias, información nacional e internacional.
