Tecnología
Meta identificará en sus redes sociales las imágenes generadas por IA
El gigante estadounidense Meta anunció que identificará «en los próximos meses» cualquier imagen generada por inteligencia artificial (IA) que aparezca en sus redes sociales Facebook, Instagram y Threads.
«En los próximos meses etiquetaremos las imágenes que los usuarios publiquen en Facebook, Instagram y Threads, siempre y cuando podamos detectar los indicadores, conformes a las normas de la industria, que revelan que son generadas por IA» anunció Nick Clegg, el responsable de asuntos internacionales de Meta, en un blog.
La compañía ya identifica las imágenes generadas con la ayuda de su propia herramienta, Meta IA, que fue lanzada en diciembre.
De ahora en adelante «queremos poder hacer lo mismo con contenidos creados con herramientas de otras empresas» como Google, OpenAI, Microsoft, Adobe, Midjourney o Shutterstock, añadió el responsable de Meta.
«Estamos construyendo esta herramienta en estos momentos, y en los próximos meses comenzaremos a aplicar etiquetas en todos los idiomas compatibles con cada aplicación», subrayó el líder.
El auge de la IA generativa suscita temores de que las personas utilicen estas herramientas para sembrar el caos político, especialmente a través de la desinformación.
Casi la mitad de la población mundial celebrará elecciones este año.
Además del riesgo político, el desarrollo de programas de IA generativa podría producir un flujo incontrolable de contenidos degradantes, según numerosos activistas y reguladores, como las imágenes falsas («deepfakes») pornográficas de mujeres famosas, un fenómeno que también afecta a muchas personas anónimas.
«Minimizar»
Por ejemplo, una imagen falsa de la estrella estadounidense Taylor Swift fue vista 47 millones de veces en la red social X a finales de enero antes de ser eliminada. Según la prensa estadounidense, la publicación permaneció en línea en la plataforma durante aproximadamente 17 horas.
Si bien Nick Clegg admite que este etiquetado a gran escala, a través de marcadores invisibles, «no eliminará» totalmente el riesgo de producción de imágenes falsas, «ciertamente minimizará» su proliferación «dentro de los límites de lo que la tecnología permite actualmente».
«No es perfecto, la tecnología aún no está completamente desarrollada, pero de todas las plataformas es el intento más avanzado hasta ahora para proporcionar transparencia de forma significativa a miles de millones de personas en todo el mundo», dijo Clegg a la AFP.
«Espero sinceramente que al hacer esto y liderar el camino, alentemos al resto de la industria a trabajar juntos y tratar de desarrollar los estándares técnicos comunes que necesitamos», agregó el líder de Meta, que está dispuesto a «compartir» su tecnología abierta «tan ampliamente como sea posible».
La empresa californiana OpenAI, creadora de ChatGPT, también anunció a mediados de enero el lanzamiento de herramientas para combatir la desinformación, y afirmó su voluntad de no permitir el uso de sus herramientas tecnológicas con fines políticos.
«Queremos asegurarnos de que nuestra tecnología no se utilice de manera que perjudique» al proceso democrático, explicó OpenAI, que señaló que su generador de imágenes DALL-E 3 contiene «salvaguardas» para evitar que los usuarios generen imágenes de personas reales, especialmente candidatos.
Elon Musk anunció el sábado un ambicioso proyecto para fabricar sus propios chips para la inteligencia artificial, la robótica y los centros de datos en el espacio.
Un teravatio equivale a un billón de vatios, una cifra que representa prácticamente toda la capacidad de generación de energía de Estados Unidos, según un grupo del sector.
Musk indicó que el proyecto será gestionado conjuntamente por su firma de vehículos eléctricos, Tesla, y su compañía de cohetes, SpaceX.
Aunque no reveló la inversión inicial, según algunos medios podría situarse entre los 20.000 y los 25.000 millones de dólares.
Musk, que no tiene experiencia previa en semiconductores, asegura que Terafab es vital porque la demanda de chips de Tesla y SpaceX superará con creces la capacidad de producción actual de los proveedores mundiales.
«Estamos muy agradecidos a nuestra cadena de suministro actual (…) pero necesitamos los chips, así que vamos a construir Terafab» dijo Musk.
El gigante tecnológico chino Xiaomi invertirá al menos 8,700 millones de dólares en inteligencia artificial (IA) en los próximos tres años, afirmó su fundador, Lei Jun, al destacar la «necesidad» de que todas las empresas se adapten a una «nueva era».
«En el campo de la IA, nuestro plan para los próximos tres años es invertir al menos 60.000 millones de yuanes (unos 8.700 millones de dólares)», dijo Lei el jueves por la noche en el evento de lanzamiento de su último modelo de vehículo eléctrico SU7, sin especificar a qué rubros se destinará el dinero.
«No hay duda de que estamos entrando en una nueva era», dijo más tarde esa misma noche, y agregó que «tanto las personas como las empresas» la «deben adoptar activamente».
Xiaomi presentó tres nuevos modelos de IA a primera hora del día, dos de los cuales ya habían sido probados de forma anónima en una plataforma de desarrolladores externos.
«Quizás hayamos mantenido un perfil relativamente bajo, pero nuestro progreso real puede ser mucho más rápido de lo que la gente de afuera se da cuenta», destacó Lei.
La apuesta de Xiaomi por la IA, que comenzó el año pasado con el lanzamiento de su primer modelo de lenguaje a gran escala MiMo-V2-Flash, está encabezada por el exinvestigador de DeepSeek Luo Fuli, quien ahora dirige un equipo cuya edad promedio es de 25 años.
Xiaomi se une a otros gigantes tecnológicos chinos que compiten por lanzar herramientas de punta basadas en esa tecnología.
Los medios del gigante asiático han especulado sobre el lanzamiento del modelo V4 de próxima generación de DeepSeek, que podría salir al mercado en abril.
Un equipo de investigación con sede en Beijing presentó recientemente una herramienta de detección de seguridad llamada Foresight ClawAudit y la puso a disposición de manera gratuita para ayudar a los usuarios a garantizar la seguridad mientras utilizan el agente de inteligencia artificial (IA) de código abierto OpenClaw, informó el periódico Beijing Evening News.
Lanzada conjuntamente por el Instituto de Seguridad y Gobernanza de IA de Beijing y el Laboratorio Clave de Beijing para la IA Segura y el Superalineamiento, Foresight ClawAudit puede analizar más de 30 puntos de control en ocho categorías.
Incluye una detección ya integrada para más de 270 vulnerabilidades de seguridad relacionadas con OpenClaw y se actualiza continuamente con el fin de mejorar su efectividad, según el informe.
«Actualmente, esta herramienta proporciona principalmente funciones de detección de riesgos y notificaciones a los usuarios, y son estos quienes deben decidir si aceptan y afrontan los riesgos identificados según sus requisitos específicos de uso», explicó Zeng Yi, director del Instituto de Seguridad y Gobernanza de IA de Beijing, citado por el periódico, y agregó que pronto se incluirán funciones necesarias de corrección automática de riesgos para ofrecer más opciones a quienes usan el asistente.
Foresight ClawAudit seguirá mejorando la variedad y el alcance de sus capacidades de detección de amenazas de seguridad para entornos de agentes de IA e incorporando otras más, dijo Zeng. Asimismo, comentó que ninguna de estas herramientas puede cubrir todas las amenazas potenciales.
Su objetivo es mitigarlas en la mayor medida posible. El Ministerio de Industria y Tecnología Informática de China emitió recientemente una advertencia en el sentido de que algunas implementaciones impulsadas por OpenClaw presentan altos riesgos de seguridad cuando están en una configuración predeterminada o con elementos incorrectos, haciéndolas altamente susceptibles a ciberataques, fuga de información y otros problemas.
