Tecnología
Elon Musk advirtió que la inteligencia artificial tiene el potencial para destruir la civilización
El director ejecutivo de Twitter, Elon Musk, advirtió sobre las capacidades destructivas que tiene la inteligencia artificial si no se controla adecuadamente, según un fragmento de una entrevista para el canal Fox News que se dio a conocer este sábado.
“La Inteligencia Artificial es más peligrosa que un mal diseño de la producción de aeronaves o una mala producción de automóviles”, indicó Musk.
“En el sentido de que tiene el potencial, por pequeña que sea la probabilidad, pero no es trivial, tiene el potencial de destrucción de la civilización. Cualquiera que piense que tiene riesgo es 0% es un idiota”, agregó.
“Deberíamos tener algún tipo de autoridad reguladora, o algo así, que supervise el desarrollo de la IA y asegure que se opere dentro del interés público”, opinó.
Musk ya había advertido sobre las consecuencias de esta tecnología a la que describió como “bastante peligrosa” y reconoció su temor por el hecho de que él mismo haya producido “cosas para acelerarla”.
El multimillonario quiere unirse a la carrera de chatbots con inteligencia artificial (IA) -en la que ya participan entre otros Google, con Bard, y OpenIA y Microsoft, con la última versión de ChatGPT, GPT-4- y lanzar su propia empresa, según el Financial Times (FT).
El multimillonario quiere unirse a la carrera de chatbots con inteligencia artificial (IA) -en la que ya participan entre otros Google, con Bard, y OpenIA y Microsoft, con la última versión de ChatGPT, GPT-4- y lanzar su propia empresa.
El multimillonario quiere unirse a la carrera de chatbots con inteligencia artificial (IA) -en la que ya participan entre otros Google, con Bard, y OpenIA y Microsoft, con la última versión de ChatGPT, GPT-4- y lanzar su propia empresa.
Esta información se ha filtrado a la prensa tan solo unas semanas después de que el empresario participara en una carta de tono apocalíptico que pedía que se suspendan durante seis meses los sistemas de IA “más poderosos que GPT-4″.
Según fuentes anónimas citadas por el Financial Times, el director ejecutivo de Twitter, SpaceX y Tesla ha tenido conversaciones con varios inversores de las dos últimas compañías para que participen en esta nueva empresa.
Para el nuevo proyecto, Musk habría asegurado miles de procesadores GPU de alta potencia del fabricante Nvidia.
Los chips GPU son necesarios para construir un modelo grande de lenguaje: sistemas de inteligencia artificial capaces de ingerir enormes cantidades de contenido y producir escritura similar a la humana o imágenes realistas, similar a la tecnología que impulsa ChatGPT.
Musk, que también está a la cabeza de Neuralink, un investigador de neurotecnología, y The Boring Company, una empresa emergente de túneles, ya habría empezado a contratar a ingenieros para trabajar en este proyecto, según la prensa especializada.
Hasta ahora, Musk ha contratado a Igor Babuschkin, un ex empleado de DeepMind, y aproximadamente a media docena más de ingenieros.
La nueva empresa de inteligencia artificial está separada de sus otras compañías, aunque podría usar el contenido de Twitter como datos para entrenar su modelo de lenguaje y aprovechar los recursos informáticos de Tesla.
La nueva compañía permitiría a Musk enfrentarse directamente a OpenAI, una empresa especializada en IA de la cual formó parte en el pasado.
Musk fue cofundador de OpenAI, uno de sus primeros inversores y llegó a ser copresidente. No obstante, en 2018 se convirtió en una sociedad limitada (LP, por sus siglas en inglés) y Musk dejó su directiva.
Tras la popularidad del ChatGPT lanzado por OpenAI el año pasado, Microsoft anunció en enero una inversión “de miles de millones” de dólares en la empresa y ahora el gigante usa su tecnología.
Meta lanzó esta semana Muse Code, una inteligencia artificial capaz de escribir código de software de manera autónoma, con la que la compañía ingresa al segmento más lucrativo del competitivo mercado de la inteligencia artificial generativa.
La programación asistida se ha convertido en uno de los principales generadores de ganancias dentro del sector de la IA, por encima de los bots conversacionales como ChatGPT y Gemini.
Según Meta, matriz de Facebook, Instagram y WhatsApp, Muse Code puede planificar la ejecución de un proyecto, dividirlo en tareas, escribir programas y verificar los resultados. Además, puede delegar actividades a otros «subagentes», explicó el director ejecutivo de la compañía, Mark Zuckerberg, en su red social Threads.
Microsoft fue pionero en este segmento con GitHub Copilot, antes de la aparición de los denominados agentes de inteligencia artificial, capaces de ejecutar simultáneamente varias tareas complejas. Entre ellos se encuentran Claude Code, de Anthropic; Codex, de OpenAI; y Cursor, cuya adquisición por parte de SpaceX, de Elon Musk, está casi completa.
Muse Code se encuentra actualmente en versión beta y utiliza un modelo de cobro por uso, en lugar de una suscripción. Su precio es inferior al de algunos de sus competidores, como parte de una estrategia de Meta para ganar terreno en este mercado.
La compañía, cuyas ganancias dependen principalmente de la publicidad, busca de esta manera monetizar directamente sus modelos de inteligencia artificial, en medio de la presión de los inversores por el elevado nivel de sus gastos.
A mediados de 2025, Zuckerberg destinó más de 14,000 millones de dólares para adquirir una participación del 49 % en Scale AI. Además, nombró a su entonces director ejecutivo, Alexandr Wang, como jefe de Meta Superintelligence Labs, donde también incorporó a altos ejecutivos de OpenAI, Anthropic y Google.
Revelan incidente de seguridad relacionado con modelo anterior de Meta
Un incidente de seguridad relacionado con una versión anterior del modelo de Meta, Muse Spark 1.1, fue revelado el miércoles por el medio especializado en tecnología The Information.
Durante una prueba de ciberseguridad realizada por el proveedor especializado Irregular, Muse Spark obtuvo acceso a los sistemas de una compañía cuya identidad aún no ha sido revelada.
Meta indicó a la AFP que el incidente, cuya fecha de ocurrencia no ha sido precisada, fue provocado por «un error en la configuración» del proveedor. Un portavoz de la compañía también aseguró que posteriormente se publicará un informe detallado sobre la investigación.
Según la información citada, en las últimas semanas se produjeron otros dos incidentes similares durante pruebas realizadas por OpenAI y Anthropic. En esos casos, sus modelos aprovecharon entornos que no estaban correctamente aislados para acceder sin autorización a sistemas informáticos reales.
Una prueba realizada por OpenAI reveló que dos agentes de inteligencia artificial ejecutaron de forma autónoma un ciberataque durante una evaluación interna, un hecho que ha reavivado el debate sobre cómo controlar los modelos de IA más avanzados.
La evaluación, desarrollada en un entorno cerrado, tenía como objetivo medir las capacidades de GPT-5.6 Sol, considerado por la empresa como su modelo «más avanzado», así como de su sucesor, que aún no ha sido comercializado. Este tipo de pruebas forma parte del proceso habitual de evaluación de la startup estadounidense.
Durante el ensayo, los modelos lograron conectarse a internet y lanzaron un ataque contra la plataforma Hugging Face, un repositorio de modelos de inteligencia artificial.
«Entendían que OpenAI no quería que salieran de su entorno de pruebas y hackearan a otra compañía, pero igual lo hicieron», afirmó Jeffrey Ladish, director de Palisade Research, una organización independiente dedicada a evaluar nuevos modelos de IA en materia de ciberseguridad.
«Casi parecía que lo hicieron antes incluso de tener un plan de qué hacer con el acceso a internet», agregó Ladish.
El incidente se suma a otros casos recientes. En marzo, un grupo de desarrolladores afiliados a la empresa china Alibaba detectó que uno de sus modelos intentó crear una criptomoneda por iniciativa propia tras conectarse sin autorización a un servidor externo.
Asimismo, en abril, Sam Bowman, responsable de seguridad de Anthropic, recibió un correo electrónico enviado por el modelo Mythos, que estaba siendo sometido a pruebas. En el mensaje, el sistema informaba que estaba navegando por internet pese a haber sido aislado inicialmente.
Según Ladish, estos modelos «buscan libertad para cumplir con sus objetivos de manera más efectiva. Y eso da mucho miedo».
Dudas sobre la supervisión de la inteligencia artificial
El informe publicado por OpenAI sobre estos eventos sugiere que la empresa no detectó la situación con suficiente rapidez para intervenir en tiempo real o alertar a Hugging Face. Consultada por la AFP, la compañía no respondió sobre el incidente.
Tras los ciberataques, OpenAI informó que implementó «protecciones más fuertes» para las próximas evaluaciones de sus modelos.
Para Gang Wang, profesor de Ciencias de la Computación de la Universidad de Illinois, todavía es posible impedir que un modelo acceda a internet mediante la desconexión física de la red. Sin embargo, advirtió que «las personas subestiman a la IA».
Por su parte, Andrew Lohn, del Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown, señaló que asegurar estos entornos de prueba «es algo a lo que debemos prestar más atención (…) como se hace con los accidentes de laboratorio» que pueden liberar virus o bacterias.
En tanto, Dan Lahav, director ejecutivo de la empresa de ciberseguridad Irregular, especializada en inteligencia artificial de vanguardia, sostuvo que realizar simulaciones en un entorno completamente aislado representa «un desafío de investigación muy difícil».
«Es posible aplicar medidas de mitigación, pero debido a cómo está construida la tecnología, cuanto más se intenta darle libertad y autonomía para realizar tareas más sofisticadas, será más difícil supervisarla», explicó.
El caso de OpenAI ha intensificado el debate en Estados Unidos sobre la necesidad de verificar los modelos de inteligencia artificial más avanzados antes de su lanzamiento.
Según la información proporcionada, el gobierno del presidente Donald Trump obligó a Anthropic a suspender dos de sus modelos y a OpenAI a someter sus desarrollos a pruebas antes de comercializarlos.
Además, el jueves, un congresista republicano y otro demócrata presentaron un proyecto de ley que obligaría a las principales empresas de inteligencia artificial a contar con un «interruptor de apagado» («kill switch») que permita desactivar sus sistemas si representan un riesgo grave.
La empresa china de tecnologías robóticas Unitree Robotics ha presentado su nuevo robot Unitree Super Athlete AS2-W, capaz de moverse por terrenos rocosos unos 30 km sin carga útil a una velocidad de 30 km/h. Soporta una carga útil de 16 kg.
Unitree Super Athlete AS2-W 😉
Fluid movement, compact yet exceptional. Supports a continuous 16kg payload, with 30+ km unloaded driving range pic.twitter.com/AwjdwnzUFs— Unitree (@UnitreeRobotics) July 24, 2026
