Tecnología
Papa Francisco pide un tratado internacional para regular la inteligencia artificial
En un mensaje difundido por el Vaticano con ocasión de la 57ª Jornada Mundial de la Paz, que se celebrará el 1 de enero por iniciativa de la Iglesia católica, el papa argentino llama a adoptar «un tratado internacional vinculante que regule el desarrollo y el uso de la IA en sus múltiples formas».
Jorge Bergolgio, que cumplirá 87 años el domingo, invita a reflexionar en el «sentido del límite» y estima que el ser humano «corre el riesgo […], en la búsqueda de una libertad absoluta, de caer en la espiral de una dictadura tecnológica».
La IA, que «será cada vez más importante», puede ser usada para «campañas de desinformación», «la interferencia en los procesos electorales» e «influir en las decisiones de los individuos», escribe en este mensaje de seis páginas publicado por el Vaticano en varios idiomas.
El sumo pontífice celebra las «extraordinarias conquistas de la ciencia y de la tecnología», a la vez que estima que estas «están poniendo en las manos del hombre una vasta gama de posibilidades, algunas de las cuales representan un riesgo para la supervivencia humana y un peligro para la casa común».
«Los notables progresos de las nuevas tecnologías de la información […] presentan, por tanto, entusiasmantes oportunidades y graves riesgos, con serias implicaciones para la búsqueda de la justicia y de la armonía entre los pueblos», insiste.
Este mensaje llega unos días después de que la Unión Europea (UE) acordara una legislación inédita a nivel mundial sobre la IA, que busca favorecer la innovación en Europa al tiempo que limita las posibles desviaciones de estas tecnologías.
En agosto, China lanzó igualmente una serie de reglamentaciones sobre los contenidos generados por IA.
El jesuita argentino habló en varias ocasiones sobre el desarrollo de la IA. En 2019, introdujo el concepto de «algorética», con el que invita a implementar una ética del algoritmo para estudiar las relaciones entre los seres humanos y las máquinas.
En los últimos meses, el papa Francisco apareció en imágenes generadas por la IA que dieron la vuelta a internet.
Meta lanzó esta semana Muse Code, una inteligencia artificial capaz de escribir código de software de manera autónoma, con la que la compañía ingresa al segmento más lucrativo del competitivo mercado de la inteligencia artificial generativa.
La programación asistida se ha convertido en uno de los principales generadores de ganancias dentro del sector de la IA, por encima de los bots conversacionales como ChatGPT y Gemini.
Según Meta, matriz de Facebook, Instagram y WhatsApp, Muse Code puede planificar la ejecución de un proyecto, dividirlo en tareas, escribir programas y verificar los resultados. Además, puede delegar actividades a otros «subagentes», explicó el director ejecutivo de la compañía, Mark Zuckerberg, en su red social Threads.
Microsoft fue pionero en este segmento con GitHub Copilot, antes de la aparición de los denominados agentes de inteligencia artificial, capaces de ejecutar simultáneamente varias tareas complejas. Entre ellos se encuentran Claude Code, de Anthropic; Codex, de OpenAI; y Cursor, cuya adquisición por parte de SpaceX, de Elon Musk, está casi completa.
Muse Code se encuentra actualmente en versión beta y utiliza un modelo de cobro por uso, en lugar de una suscripción. Su precio es inferior al de algunos de sus competidores, como parte de una estrategia de Meta para ganar terreno en este mercado.
La compañía, cuyas ganancias dependen principalmente de la publicidad, busca de esta manera monetizar directamente sus modelos de inteligencia artificial, en medio de la presión de los inversores por el elevado nivel de sus gastos.
A mediados de 2025, Zuckerberg destinó más de 14,000 millones de dólares para adquirir una participación del 49 % en Scale AI. Además, nombró a su entonces director ejecutivo, Alexandr Wang, como jefe de Meta Superintelligence Labs, donde también incorporó a altos ejecutivos de OpenAI, Anthropic y Google.
Revelan incidente de seguridad relacionado con modelo anterior de Meta
Un incidente de seguridad relacionado con una versión anterior del modelo de Meta, Muse Spark 1.1, fue revelado el miércoles por el medio especializado en tecnología The Information.
Durante una prueba de ciberseguridad realizada por el proveedor especializado Irregular, Muse Spark obtuvo acceso a los sistemas de una compañía cuya identidad aún no ha sido revelada.
Meta indicó a la AFP que el incidente, cuya fecha de ocurrencia no ha sido precisada, fue provocado por «un error en la configuración» del proveedor. Un portavoz de la compañía también aseguró que posteriormente se publicará un informe detallado sobre la investigación.
Según la información citada, en las últimas semanas se produjeron otros dos incidentes similares durante pruebas realizadas por OpenAI y Anthropic. En esos casos, sus modelos aprovecharon entornos que no estaban correctamente aislados para acceder sin autorización a sistemas informáticos reales.
Una prueba realizada por OpenAI reveló que dos agentes de inteligencia artificial ejecutaron de forma autónoma un ciberataque durante una evaluación interna, un hecho que ha reavivado el debate sobre cómo controlar los modelos de IA más avanzados.
La evaluación, desarrollada en un entorno cerrado, tenía como objetivo medir las capacidades de GPT-5.6 Sol, considerado por la empresa como su modelo «más avanzado», así como de su sucesor, que aún no ha sido comercializado. Este tipo de pruebas forma parte del proceso habitual de evaluación de la startup estadounidense.
Durante el ensayo, los modelos lograron conectarse a internet y lanzaron un ataque contra la plataforma Hugging Face, un repositorio de modelos de inteligencia artificial.
«Entendían que OpenAI no quería que salieran de su entorno de pruebas y hackearan a otra compañía, pero igual lo hicieron», afirmó Jeffrey Ladish, director de Palisade Research, una organización independiente dedicada a evaluar nuevos modelos de IA en materia de ciberseguridad.
«Casi parecía que lo hicieron antes incluso de tener un plan de qué hacer con el acceso a internet», agregó Ladish.
El incidente se suma a otros casos recientes. En marzo, un grupo de desarrolladores afiliados a la empresa china Alibaba detectó que uno de sus modelos intentó crear una criptomoneda por iniciativa propia tras conectarse sin autorización a un servidor externo.
Asimismo, en abril, Sam Bowman, responsable de seguridad de Anthropic, recibió un correo electrónico enviado por el modelo Mythos, que estaba siendo sometido a pruebas. En el mensaje, el sistema informaba que estaba navegando por internet pese a haber sido aislado inicialmente.
Según Ladish, estos modelos «buscan libertad para cumplir con sus objetivos de manera más efectiva. Y eso da mucho miedo».
Dudas sobre la supervisión de la inteligencia artificial
El informe publicado por OpenAI sobre estos eventos sugiere que la empresa no detectó la situación con suficiente rapidez para intervenir en tiempo real o alertar a Hugging Face. Consultada por la AFP, la compañía no respondió sobre el incidente.
Tras los ciberataques, OpenAI informó que implementó «protecciones más fuertes» para las próximas evaluaciones de sus modelos.
Para Gang Wang, profesor de Ciencias de la Computación de la Universidad de Illinois, todavía es posible impedir que un modelo acceda a internet mediante la desconexión física de la red. Sin embargo, advirtió que «las personas subestiman a la IA».
Por su parte, Andrew Lohn, del Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown, señaló que asegurar estos entornos de prueba «es algo a lo que debemos prestar más atención (…) como se hace con los accidentes de laboratorio» que pueden liberar virus o bacterias.
En tanto, Dan Lahav, director ejecutivo de la empresa de ciberseguridad Irregular, especializada en inteligencia artificial de vanguardia, sostuvo que realizar simulaciones en un entorno completamente aislado representa «un desafío de investigación muy difícil».
«Es posible aplicar medidas de mitigación, pero debido a cómo está construida la tecnología, cuanto más se intenta darle libertad y autonomía para realizar tareas más sofisticadas, será más difícil supervisarla», explicó.
El caso de OpenAI ha intensificado el debate en Estados Unidos sobre la necesidad de verificar los modelos de inteligencia artificial más avanzados antes de su lanzamiento.
Según la información proporcionada, el gobierno del presidente Donald Trump obligó a Anthropic a suspender dos de sus modelos y a OpenAI a someter sus desarrollos a pruebas antes de comercializarlos.
Además, el jueves, un congresista republicano y otro demócrata presentaron un proyecto de ley que obligaría a las principales empresas de inteligencia artificial a contar con un «interruptor de apagado» («kill switch») que permita desactivar sus sistemas si representan un riesgo grave.
La empresa china de tecnologías robóticas Unitree Robotics ha presentado su nuevo robot Unitree Super Athlete AS2-W, capaz de moverse por terrenos rocosos unos 30 km sin carga útil a una velocidad de 30 km/h. Soporta una carga útil de 16 kg.
Unitree Super Athlete AS2-W 😉
Fluid movement, compact yet exceptional. Supports a continuous 16kg payload, with 30+ km unloaded driving range pic.twitter.com/AwjdwnzUFs— Unitree (@UnitreeRobotics) July 24, 2026
