Tecnología
Elon Musk advirtió que la inteligencia artificial tiene el potencial para destruir la civilización
El director ejecutivo de Twitter, Elon Musk, advirtió sobre las capacidades destructivas que tiene la inteligencia artificial si no se controla adecuadamente, según un fragmento de una entrevista para el canal Fox News que se dio a conocer este sábado.
“La Inteligencia Artificial es más peligrosa que un mal diseño de la producción de aeronaves o una mala producción de automóviles”, indicó Musk.
“En el sentido de que tiene el potencial, por pequeña que sea la probabilidad, pero no es trivial, tiene el potencial de destrucción de la civilización. Cualquiera que piense que tiene riesgo es 0% es un idiota”, agregó.
“Deberíamos tener algún tipo de autoridad reguladora, o algo así, que supervise el desarrollo de la IA y asegure que se opere dentro del interés público”, opinó.
Musk ya había advertido sobre las consecuencias de esta tecnología a la que describió como “bastante peligrosa” y reconoció su temor por el hecho de que él mismo haya producido “cosas para acelerarla”.
El multimillonario quiere unirse a la carrera de chatbots con inteligencia artificial (IA) -en la que ya participan entre otros Google, con Bard, y OpenIA y Microsoft, con la última versión de ChatGPT, GPT-4- y lanzar su propia empresa, según el Financial Times (FT).
El multimillonario quiere unirse a la carrera de chatbots con inteligencia artificial (IA) -en la que ya participan entre otros Google, con Bard, y OpenIA y Microsoft, con la última versión de ChatGPT, GPT-4- y lanzar su propia empresa.
El multimillonario quiere unirse a la carrera de chatbots con inteligencia artificial (IA) -en la que ya participan entre otros Google, con Bard, y OpenIA y Microsoft, con la última versión de ChatGPT, GPT-4- y lanzar su propia empresa.
Esta información se ha filtrado a la prensa tan solo unas semanas después de que el empresario participara en una carta de tono apocalíptico que pedía que se suspendan durante seis meses los sistemas de IA “más poderosos que GPT-4″.
Según fuentes anónimas citadas por el Financial Times, el director ejecutivo de Twitter, SpaceX y Tesla ha tenido conversaciones con varios inversores de las dos últimas compañías para que participen en esta nueva empresa.
Para el nuevo proyecto, Musk habría asegurado miles de procesadores GPU de alta potencia del fabricante Nvidia.
Los chips GPU son necesarios para construir un modelo grande de lenguaje: sistemas de inteligencia artificial capaces de ingerir enormes cantidades de contenido y producir escritura similar a la humana o imágenes realistas, similar a la tecnología que impulsa ChatGPT.
Musk, que también está a la cabeza de Neuralink, un investigador de neurotecnología, y The Boring Company, una empresa emergente de túneles, ya habría empezado a contratar a ingenieros para trabajar en este proyecto, según la prensa especializada.
Hasta ahora, Musk ha contratado a Igor Babuschkin, un ex empleado de DeepMind, y aproximadamente a media docena más de ingenieros.
La nueva empresa de inteligencia artificial está separada de sus otras compañías, aunque podría usar el contenido de Twitter como datos para entrenar su modelo de lenguaje y aprovechar los recursos informáticos de Tesla.
La nueva compañía permitiría a Musk enfrentarse directamente a OpenAI, una empresa especializada en IA de la cual formó parte en el pasado.
Musk fue cofundador de OpenAI, uno de sus primeros inversores y llegó a ser copresidente. No obstante, en 2018 se convirtió en una sociedad limitada (LP, por sus siglas en inglés) y Musk dejó su directiva.
Tras la popularidad del ChatGPT lanzado por OpenAI el año pasado, Microsoft anunció en enero una inversión “de miles de millones” de dólares en la empresa y ahora el gigante usa su tecnología.
Acer presentó una nueva computadora de escritorio de tamaño compacto orientada a ofrecer capacidad de procesamiento para tareas avanzadas de inteligencia artificial sin ocupar demasiado espacio. Se trata del concepto Acer SFF RTX Spark, mostrado durante la conferencia global de la compañía next@Acer, realizada el 2 de septiembre en el marco de IFA 2026.
El equipo fue desarrollado junto a la plataforma NVIDIA RTX Spark y está diseñado para ejecutar tareas de inteligencia artificial directamente desde la computadora. Entre sus posibles usos se encuentran los asistentes de IA, la creación de contenido, los videojuegos y otras aplicaciones que requieren un alto nivel de procesamiento.
Una de las principales características del Acer SFF RTX Spark es su capacidad para ejecutar herramientas de inteligencia artificial de manera local, es decir, desde la propia computadora y sin depender siempre de servidores en internet.
Según Acer, el equipo puede alcanzar hasta 1 petaflop de rendimiento para tareas de inteligencia artificial y ofrecer hasta 128 GB de memoria. Estas características están orientadas a permitir que la computadora gestione tareas de IA y programas exigentes con mayor rapidez.
Principal
La IA avanza hacia la creación autónoma de nuevas versiones de sí misma, advierte Anthropic
El debate sobre los posibles riesgos asociados al desarrollo de la inteligencia artificial se ha intensificado en los últimos meses, impulsado por distintos incidentes y advertencias de profesionales del sector.
La empresa de inteligencia artificial Anthropic advirtió que los sistemas de IA son cada vez más capaces de participar en el desarrollo de futuras versiones de sí mismos, una situación que incrementa las preocupaciones sobre el ritmo de avance de esta tecnología.
Anthropic informó que su chatbot Claude ya lidera el 26 % de las tareas de investigación y desarrollo de la compañía relacionadas con IA, mientras que más del 90 % de esas actividades cuentan con algún nivel de colaboración entre humanos y sistemas de inteligencia artificial. La empresa aclaró que Claude todavía no opera de manera plenamente autónoma.
La compañía explicó que divulgó estas métricas para ofrecer mayor visibilidad sobre el ritmo de desarrollo de la IA, en momentos en que existe un debate sobre la posibilidad de desacelerar el avance de los modelos más avanzados.
El director ejecutivo de Anthropic, Dario Amodei, pidió recientemente ralentizar el desarrollo de la inteligencia artificial ante preocupaciones relacionadas con el avance de las capacidades de estos sistemas. Entre los aspectos señalados se encuentran la posible pérdida de empleos, el incremento del consumo energético y el impacto ambiental de los centros de datos.
También han aumentado las preocupaciones sobre la capacidad de los desarrolladores para mantener el control sobre los agentes de inteligencia artificial. El debate incluye incidentes en los que modelos de Anthropic y de OpenAI habrían realizado acciones fuera de entornos restringidos, según reportes citados en torno a la seguridad de estos sistemas.
Anthropic señaló que los modelos que aceleran su propio desarrollo podrían dificultar que los seres humanos comprendan o controlen estos sistemas. La compañía considera importante medir este proceso para determinar qué tan cerca se encuentra el desarrollo de la denominada auto-mejora recursiva, concepto que describe la capacidad de un modelo para construir de forma autónoma a su sucesor.
En agosto, Claude lideraba el 26 % de las tareas de investigación y desarrollo de IA de Anthropic. Según la metodología de la empresa, esto significa que puede completar la mayor parte de una tarea de principio a fin a partir de una instrucción general, mientras una persona mantiene la supervisión.
No obstante, Anthropic enfatizó que Claude no opera actualmente de manera completamente autónoma en ninguna de las áreas de investigación y desarrollo evaluadas.
La empresa también informó que en agosto contaba con aproximadamente 30,000 agentes de inteligencia artificial realizando labores de investigación e ingeniería en su plataforma interna más utilizada. Anthropic indicó que las acciones de estos agentes son supervisadas mediante sistemas de monitoreo.
De acuerdo con la información divulgada por la compañía, más de mil millones de decisiones de estos agentes fueron analizadas durante agosto y aproximadamente una de cada 47,000 fue bloqueada por el sistema de monitoreo por motivos de seguridad.
Anthropic prevé además avanzar hacia una mayor evaluación externa de sus sistemas mediante terceros independientes, como parte de sus esfuerzos para medir el ritmo de desarrollo y la supervisión de la inteligencia artificial.
Por otra parte, la empresa se prepara para una posible salida a bolsa antes que OpenAI, prevista para finales de este año, en un contexto de creciente debate sobre la seguridad y regulación de la inteligencia artificial.
La división de inteligencia artificial de Microsoft publicó un código de conducta para regular el comportamiento de sus modelos de IA, en medio del aumento de las preocupaciones sobre los posibles peligros de esta tecnología.
El documento se basa en el concepto que Microsoft denomina «IA humanista», que plantea el desarrollo de sistemas diseñados para mantenerse bajo control humano, en lugar de actuar por cuenta propia.
La compañía establece como principio rector que «las personas importan más que la IA».
Microsoft relacionó la publicación del código con preocupaciones de seguridad y citó las recientes campañas de hackeo coordinadas a gran escala, realizadas con la ayuda de agentes de IA, como una señal de que la industria no puede permitirse retrasos en este ámbito.
La organización no mencionó específicamente un incidente ocurrido en julio, cuando dos modelos de OpenAI salieron de un entorno de prueba aislado y atacaron de forma autónoma el repositorio de código Hugging Face.
La publicación del código ocurrió días después de que el director ejecutivo de Anthropic, Dario Amodei, difundiera un ensayo en el que pidió a las empresas de IA reducir deliberadamente las capacidades de sus modelos.
El código de conducta se aplicará a los modelos internos MAI de Microsoft, que la compañía ha presentado como una alternativa a la tecnología de OpenAI, utilizada por Microsoft durante años.
