Tecnología
Papa Francisco pide un tratado internacional para regular la inteligencia artificial
En un mensaje difundido por el Vaticano con ocasión de la 57ª Jornada Mundial de la Paz, que se celebrará el 1 de enero por iniciativa de la Iglesia católica, el papa argentino llama a adoptar «un tratado internacional vinculante que regule el desarrollo y el uso de la IA en sus múltiples formas».
Jorge Bergolgio, que cumplirá 87 años el domingo, invita a reflexionar en el «sentido del límite» y estima que el ser humano «corre el riesgo […], en la búsqueda de una libertad absoluta, de caer en la espiral de una dictadura tecnológica».
La IA, que «será cada vez más importante», puede ser usada para «campañas de desinformación», «la interferencia en los procesos electorales» e «influir en las decisiones de los individuos», escribe en este mensaje de seis páginas publicado por el Vaticano en varios idiomas.
El sumo pontífice celebra las «extraordinarias conquistas de la ciencia y de la tecnología», a la vez que estima que estas «están poniendo en las manos del hombre una vasta gama de posibilidades, algunas de las cuales representan un riesgo para la supervivencia humana y un peligro para la casa común».
«Los notables progresos de las nuevas tecnologías de la información […] presentan, por tanto, entusiasmantes oportunidades y graves riesgos, con serias implicaciones para la búsqueda de la justicia y de la armonía entre los pueblos», insiste.
Este mensaje llega unos días después de que la Unión Europea (UE) acordara una legislación inédita a nivel mundial sobre la IA, que busca favorecer la innovación en Europa al tiempo que limita las posibles desviaciones de estas tecnologías.
En agosto, China lanzó igualmente una serie de reglamentaciones sobre los contenidos generados por IA.
El jesuita argentino habló en varias ocasiones sobre el desarrollo de la IA. En 2019, introdujo el concepto de «algorética», con el que invita a implementar una ética del algoritmo para estudiar las relaciones entre los seres humanos y las máquinas.
En los últimos meses, el papa Francisco apareció en imágenes generadas por la IA que dieron la vuelta a internet.
Elon Musk anunció el sábado un ambicioso proyecto para fabricar sus propios chips para la inteligencia artificial, la robótica y los centros de datos en el espacio.
Un teravatio equivale a un billón de vatios, una cifra que representa prácticamente toda la capacidad de generación de energía de Estados Unidos, según un grupo del sector.
Musk indicó que el proyecto será gestionado conjuntamente por su firma de vehículos eléctricos, Tesla, y su compañía de cohetes, SpaceX.
Aunque no reveló la inversión inicial, según algunos medios podría situarse entre los 20.000 y los 25.000 millones de dólares.
Musk, que no tiene experiencia previa en semiconductores, asegura que Terafab es vital porque la demanda de chips de Tesla y SpaceX superará con creces la capacidad de producción actual de los proveedores mundiales.
«Estamos muy agradecidos a nuestra cadena de suministro actual (…) pero necesitamos los chips, así que vamos a construir Terafab» dijo Musk.
El gigante tecnológico chino Xiaomi invertirá al menos 8,700 millones de dólares en inteligencia artificial (IA) en los próximos tres años, afirmó su fundador, Lei Jun, al destacar la «necesidad» de que todas las empresas se adapten a una «nueva era».
«En el campo de la IA, nuestro plan para los próximos tres años es invertir al menos 60.000 millones de yuanes (unos 8.700 millones de dólares)», dijo Lei el jueves por la noche en el evento de lanzamiento de su último modelo de vehículo eléctrico SU7, sin especificar a qué rubros se destinará el dinero.
«No hay duda de que estamos entrando en una nueva era», dijo más tarde esa misma noche, y agregó que «tanto las personas como las empresas» la «deben adoptar activamente».
Xiaomi presentó tres nuevos modelos de IA a primera hora del día, dos de los cuales ya habían sido probados de forma anónima en una plataforma de desarrolladores externos.
«Quizás hayamos mantenido un perfil relativamente bajo, pero nuestro progreso real puede ser mucho más rápido de lo que la gente de afuera se da cuenta», destacó Lei.
La apuesta de Xiaomi por la IA, que comenzó el año pasado con el lanzamiento de su primer modelo de lenguaje a gran escala MiMo-V2-Flash, está encabezada por el exinvestigador de DeepSeek Luo Fuli, quien ahora dirige un equipo cuya edad promedio es de 25 años.
Xiaomi se une a otros gigantes tecnológicos chinos que compiten por lanzar herramientas de punta basadas en esa tecnología.
Los medios del gigante asiático han especulado sobre el lanzamiento del modelo V4 de próxima generación de DeepSeek, que podría salir al mercado en abril.
Un equipo de investigación con sede en Beijing presentó recientemente una herramienta de detección de seguridad llamada Foresight ClawAudit y la puso a disposición de manera gratuita para ayudar a los usuarios a garantizar la seguridad mientras utilizan el agente de inteligencia artificial (IA) de código abierto OpenClaw, informó el periódico Beijing Evening News.
Lanzada conjuntamente por el Instituto de Seguridad y Gobernanza de IA de Beijing y el Laboratorio Clave de Beijing para la IA Segura y el Superalineamiento, Foresight ClawAudit puede analizar más de 30 puntos de control en ocho categorías.
Incluye una detección ya integrada para más de 270 vulnerabilidades de seguridad relacionadas con OpenClaw y se actualiza continuamente con el fin de mejorar su efectividad, según el informe.
«Actualmente, esta herramienta proporciona principalmente funciones de detección de riesgos y notificaciones a los usuarios, y son estos quienes deben decidir si aceptan y afrontan los riesgos identificados según sus requisitos específicos de uso», explicó Zeng Yi, director del Instituto de Seguridad y Gobernanza de IA de Beijing, citado por el periódico, y agregó que pronto se incluirán funciones necesarias de corrección automática de riesgos para ofrecer más opciones a quienes usan el asistente.
Foresight ClawAudit seguirá mejorando la variedad y el alcance de sus capacidades de detección de amenazas de seguridad para entornos de agentes de IA e incorporando otras más, dijo Zeng. Asimismo, comentó que ninguna de estas herramientas puede cubrir todas las amenazas potenciales.
Su objetivo es mitigarlas en la mayor medida posible. El Ministerio de Industria y Tecnología Informática de China emitió recientemente una advertencia en el sentido de que algunas implementaciones impulsadas por OpenClaw presentan altos riesgos de seguridad cuando están en una configuración predeterminada o con elementos incorrectos, haciéndolas altamente susceptibles a ciberataques, fuga de información y otros problemas.
