Tecnología
Meta identificará en sus redes sociales las imágenes generadas por IA
El gigante estadounidense Meta anunció que identificará «en los próximos meses» cualquier imagen generada por inteligencia artificial (IA) que aparezca en sus redes sociales Facebook, Instagram y Threads.
«En los próximos meses etiquetaremos las imágenes que los usuarios publiquen en Facebook, Instagram y Threads, siempre y cuando podamos detectar los indicadores, conformes a las normas de la industria, que revelan que son generadas por IA» anunció Nick Clegg, el responsable de asuntos internacionales de Meta, en un blog.
La compañía ya identifica las imágenes generadas con la ayuda de su propia herramienta, Meta IA, que fue lanzada en diciembre.
De ahora en adelante «queremos poder hacer lo mismo con contenidos creados con herramientas de otras empresas» como Google, OpenAI, Microsoft, Adobe, Midjourney o Shutterstock, añadió el responsable de Meta.
«Estamos construyendo esta herramienta en estos momentos, y en los próximos meses comenzaremos a aplicar etiquetas en todos los idiomas compatibles con cada aplicación», subrayó el líder.
El auge de la IA generativa suscita temores de que las personas utilicen estas herramientas para sembrar el caos político, especialmente a través de la desinformación.
Casi la mitad de la población mundial celebrará elecciones este año.
Además del riesgo político, el desarrollo de programas de IA generativa podría producir un flujo incontrolable de contenidos degradantes, según numerosos activistas y reguladores, como las imágenes falsas («deepfakes») pornográficas de mujeres famosas, un fenómeno que también afecta a muchas personas anónimas.
«Minimizar»
Por ejemplo, una imagen falsa de la estrella estadounidense Taylor Swift fue vista 47 millones de veces en la red social X a finales de enero antes de ser eliminada. Según la prensa estadounidense, la publicación permaneció en línea en la plataforma durante aproximadamente 17 horas.
Si bien Nick Clegg admite que este etiquetado a gran escala, a través de marcadores invisibles, «no eliminará» totalmente el riesgo de producción de imágenes falsas, «ciertamente minimizará» su proliferación «dentro de los límites de lo que la tecnología permite actualmente».
«No es perfecto, la tecnología aún no está completamente desarrollada, pero de todas las plataformas es el intento más avanzado hasta ahora para proporcionar transparencia de forma significativa a miles de millones de personas en todo el mundo», dijo Clegg a la AFP.
«Espero sinceramente que al hacer esto y liderar el camino, alentemos al resto de la industria a trabajar juntos y tratar de desarrollar los estándares técnicos comunes que necesitamos», agregó el líder de Meta, que está dispuesto a «compartir» su tecnología abierta «tan ampliamente como sea posible».
La empresa californiana OpenAI, creadora de ChatGPT, también anunció a mediados de enero el lanzamiento de herramientas para combatir la desinformación, y afirmó su voluntad de no permitir el uso de sus herramientas tecnológicas con fines políticos.
«Queremos asegurarnos de que nuestra tecnología no se utilice de manera que perjudique» al proceso democrático, explicó OpenAI, que señaló que su generador de imágenes DALL-E 3 contiene «salvaguardas» para evitar que los usuarios generen imágenes de personas reales, especialmente candidatos.
La división de inteligencia artificial de Microsoft publicó un código de conducta para regular el comportamiento de sus modelos de IA, en medio del aumento de las preocupaciones sobre los posibles peligros de esta tecnología.
El documento se basa en el concepto que Microsoft denomina «IA humanista», que plantea el desarrollo de sistemas diseñados para mantenerse bajo control humano, en lugar de actuar por cuenta propia.
La compañía establece como principio rector que «las personas importan más que la IA».
Microsoft relacionó la publicación del código con preocupaciones de seguridad y citó las recientes campañas de hackeo coordinadas a gran escala, realizadas con la ayuda de agentes de IA, como una señal de que la industria no puede permitirse retrasos en este ámbito.
La organización no mencionó específicamente un incidente ocurrido en julio, cuando dos modelos de OpenAI salieron de un entorno de prueba aislado y atacaron de forma autónoma el repositorio de código Hugging Face.
La publicación del código ocurrió días después de que el director ejecutivo de Anthropic, Dario Amodei, difundiera un ensayo en el que pidió a las empresas de IA reducir deliberadamente las capacidades de sus modelos.
El código de conducta se aplicará a los modelos internos MAI de Microsoft, que la compañía ha presentado como una alternativa a la tecnología de OpenAI, utilizada por Microsoft durante años.
Los principales empresarios de la inteligencia artificial (IA) han planteado la necesidad de reducir el ritmo acelerado con el que se desarrolla esta tecnología, aunque la competencia entre las compañías, la reticencia del Gobierno estadounidense y factores geopolíticos dificultan una posible desaceleración coordinada.
El sábado, el director ejecutivo de Anthropic, Dario Amodei, defendió una reducción coordinada del ritmo de desarrollo de la IA para comprender mejor los riesgos asociados con las capacidades avanzadas de esta tecnología.
La propuesta recibió el respaldo público del CEO de OpenAI, Sam Altman; del director de xAI, Elon Musk; del presidente de Google DeepMind, Demis Hassabis, y del director ejecutivo de Microsoft, Satya Nadella.
Preocupaciones por la seguridad de la IA
En los últimos meses, OpenAI y Anthropic han reportado varios incidentes en los que sistemas de IA en fase experimental salieron de forma autónoma de sus entornos restringidos para acceder a internet y atacar sitios web y plataformas.
En algunos casos, estos sistemas demostraron capacidades para coordinarse, establecer jerarquías entre ellos, hacer trampa y eliminar las huellas de sus acciones.
El pasado martes, el investigador Jacob Coxon, quien renunció a su puesto en Anthropic y anteriormente trabajó en OpenAI, acusó públicamente a ambas empresas de mantener estándares de seguridad laxos y de estar «jugando con nuestras vidas».
Una desaceleración difícil de aplicar de forma unilateral
La competencia entre los principales actores de la industria es intensa y existen inversiones multimillonarias en juego, por lo que ninguna de las compañías estaría dispuesta a arriesgarse a reducir por sí sola el ritmo de desarrollo.
Amodei ha manifestado su disposición a coordinarse con sus rivales, aunque plantea excluir a China de esa coordinación.
Consultados por la AFP sobre posibles conversaciones en ese sentido, Anthropic, OpenAI y Google no respondieron de inmediato.
Por ahora, la única medida concreta a la que se han comprometido Anthropic y OpenAI consiste en permitir que observadores independientes verifiquen el trabajo interno de las empresas en materia de seguridad.
Cuestionamientos a la propuesta
Aunque buena parte del sector recibió favorablemente el mensaje de Amodei, otras figuras cuestionaron sus motivos.
Brian Roemmele, empresario y figura del sector de IA, consideró que se trata de un discurso comercial difundido semanas antes de la probable salida de Anthropic a la bolsa.
«Somos la empresa responsable; somos la cura; compren la prima de seguridad», publicó en X.
Varias figuras del capital de riesgo del sector tecnológico también acusaron a Anthropic de una «captura regulatoria», al considerar que busca que las autoridades públicas consoliden, mediante regulación, una jerarquía con la startup en la cúspide.
«Dejen de fingir que la motivación para frenar es puramente altruista», dijo David Sacks, exasesor de IA del presidente Donald Trump, quien continúa siendo influyente en la Casa Blanca.
Sacks agregó que las empresas «se enfrentan a una enorme exposición por responsabilidad relacionada con los productos si estos permiten un ciberataque verdaderamente dañino».
La posición del Gobierno de Trump
El domingo, Trump desestimó las advertencias de los líderes de la IA y las calificó como «fuerzas negativas».
Varios republicanos han mostrado reticencia a regular activamente esta tecnología debido al temor de que las medidas puedan frenar la innovación y otorgar ventaja a China en la carrera por la IA. Entre ellos se encuentra el presidente de la Cámara de Representantes, Mike Johnson.
Ese mismo domingo, Amodei reiteró que considera necesaria una supervisión gubernamental de la IA.
Al igual que Altman y Hassabis, sostiene que las normas establecidas únicamente por la propia industria serían insuficientes.
China, otro obstáculo para una desaceleración
Amodei propone limitar la coordinación a los países democráticos y excluir a China. Sin embargo, la competencia por el desarrollo de la IA y los avances de China en este ámbito generan «el dilema más difícil» sobre si se debe o no reducir el ritmo, señaló el domingo durante una entrevista en CBS.
Estados Unidos planea abordar la seguridad de la IA al margen de la visita del líder chino, Xi Jinping, a Washington, prevista para finales de septiembre.
Sin embargo, China desconfía de cualquier intento estadounidense de imponer su propio marco regulatorio, según varios medios.
La diferencia es particularmente marcada en torno a los llamados modelos «abiertos» de libre acceso promovidos por China, frente a los modelos cerrados desarrollados por las grandes empresas estadounidenses.
Los modelos abiertos son, por definición, más difíciles de controlar, ya que pueden ser modificados por los usuarios y potencialmente utilizados con fines maliciosos.
Para permitir que las grandes empresas no chinas puedan reducir el ritmo de desarrollo, Amodei propone establecer controles de exportación más estrictos sobre los chips estadounidenses más avanzados destinados a China, así como mejores salvaguardas contra la apropiación indebida de tecnologías de IA occidentales por parte de laboratorios chinos.
El jefe de los servicios de inteligencia de China advirtió que la inteligencia artificial (IA) representa un riesgo para la seguridad nacional del país, debido a que potencias extranjeras podrían utilizar esta tecnología para amenazar el orden social.
El ministro de Seguridad del Estado, Chen Yixin, afirmó en un artículo publicado en internet este domingo que «fuerzas hostiles» están abusando de las tecnologías de inteligencia artificial generativa para «fabricar rumores políticos y difundir información perjudicial».
«Lanzan guerras de opinión pública y guerras cognitivas contra China, amenazando directamente nuestra seguridad política, institucional e ideológica», afirmó Chen.
La advertencia se produce mientras el líder chino, Xi Jinping, tiene previsto reunirse este mes en Washington con el presidente de Estados Unidos, Donald Trump. En el encuentro, ambos deberán abordar asuntos relacionados con la gobernanza y la seguridad de la inteligencia artificial, en un contexto de crecientes peticiones para establecer un mayor control sobre esta tecnología.
Los líderes tecnológicos estadounidenses también han planteado la necesidad de ralentizar el desarrollo de la inteligencia artificial.
El director ejecutivo de Anthropic, Dario Amodei, advirtió el sábado sobre la velocidad «imprudente» con la que se desarrolla esta tecnología, mientras aumentan las preocupaciones por los riesgos asociados con los sistemas informáticos superinteligentes.
Por su parte, el director ejecutivo de OpenAI, Sam Altman, afirmó que coincidía con la valoración de Amodei.
Sin embargo, Chen advirtió que la inteligencia artificial constituye ahora «el principal campo de batalla de la competencia tecnológica mundial y un nuevo terreno para la rivalidad estratégica entre las grandes potencias».
El funcionario no mencionó los riesgos existenciales ni planteó la necesidad de frenar los avances tecnológicos. En cambio, señaló las capacidades avanzadas de piratería informática de Claude Mythos, de Anthropic, y ChatGPT-5.5-Cyber, de OpenAI, que potencialmente «plantean graves riesgos para las infraestructuras de información críticas de China».
