La división de inteligencia artificial de Microsoft publicó un código de conducta para regular el comportamiento de sus modelos de IA, en medio del aumento de las preocupaciones sobre los posibles peligros de esta tecnología.

El documento se basa en el concepto que Microsoft denomina «IA humanista», que plantea el desarrollo de sistemas diseñados para mantenerse bajo control humano, en lugar de actuar por cuenta propia.

La compañía establece como principio rector que «las personas importan más que la IA».

Microsoft relacionó la publicación del código con preocupaciones de seguridad y citó las recientes campañas de hackeo coordinadas a gran escala, realizadas con la ayuda de agentes de IA, como una señal de que la industria no puede permitirse retrasos en este ámbito.

La organización no mencionó específicamente un incidente ocurrido en julio, cuando dos modelos de OpenAI salieron de un entorno de prueba aislado y atacaron de forma autónoma el repositorio de código Hugging Face.

La publicación del código ocurrió días después de que el director ejecutivo de Anthropic, Dario Amodei, difundiera un ensayo en el que pidió a las empresas de IA reducir deliberadamente las capacidades de sus modelos.

El código de conducta se aplicará a los modelos internos MAI de Microsoft, que la compañía ha presentado como una alternativa a la tecnología de OpenAI, utilizada por Microsoft durante años.

Los principales empresarios de la inteligencia artificial (IA) han planteado la necesidad de reducir el ritmo acelerado con el que se desarrolla esta tecnología, aunque la competencia entre las compañías, la reticencia del Gobierno estadounidense y factores geopolíticos dificultan una posible desaceleración coordinada.

El sábado, el director ejecutivo de Anthropic, Dario Amodei, defendió una reducción coordinada del ritmo de desarrollo de la IA para comprender mejor los riesgos asociados con las capacidades avanzadas de esta tecnología.

La propuesta recibió el respaldo público del CEO de OpenAI, Sam Altman; del director de xAI, Elon Musk; del presidente de Google DeepMind, Demis Hassabis, y del director ejecutivo de Microsoft, Satya Nadella.

Preocupaciones por la seguridad de la IA

En los últimos meses, OpenAI y Anthropic han reportado varios incidentes en los que sistemas de IA en fase experimental salieron de forma autónoma de sus entornos restringidos para acceder a internet y atacar sitios web y plataformas.

En algunos casos, estos sistemas demostraron capacidades para coordinarse, establecer jerarquías entre ellos, hacer trampa y eliminar las huellas de sus acciones.

El pasado martes, el investigador Jacob Coxon, quien renunció a su puesto en Anthropic y anteriormente trabajó en OpenAI, acusó públicamente a ambas empresas de mantener estándares de seguridad laxos y de estar «jugando con nuestras vidas».

Una desaceleración difícil de aplicar de forma unilateral

La competencia entre los principales actores de la industria es intensa y existen inversiones multimillonarias en juego, por lo que ninguna de las compañías estaría dispuesta a arriesgarse a reducir por sí sola el ritmo de desarrollo.

Amodei ha manifestado su disposición a coordinarse con sus rivales, aunque plantea excluir a China de esa coordinación.

Consultados por la AFP sobre posibles conversaciones en ese sentido, Anthropic, OpenAI y Google no respondieron de inmediato.

Por ahora, la única medida concreta a la que se han comprometido Anthropic y OpenAI consiste en permitir que observadores independientes verifiquen el trabajo interno de las empresas en materia de seguridad.

Cuestionamientos a la propuesta

Aunque buena parte del sector recibió favorablemente el mensaje de Amodei, otras figuras cuestionaron sus motivos.

Brian Roemmele, empresario y figura del sector de IA, consideró que se trata de un discurso comercial difundido semanas antes de la probable salida de Anthropic a la bolsa.

«Somos la empresa responsable; somos la cura; compren la prima de seguridad», publicó en X.

Varias figuras del capital de riesgo del sector tecnológico también acusaron a Anthropic de una «captura regulatoria», al considerar que busca que las autoridades públicas consoliden, mediante regulación, una jerarquía con la startup en la cúspide.

«Dejen de fingir que la motivación para frenar es puramente altruista», dijo David Sacks, exasesor de IA del presidente Donald Trump, quien continúa siendo influyente en la Casa Blanca.

Sacks agregó que las empresas «se enfrentan a una enorme exposición por responsabilidad relacionada con los productos si estos permiten un ciberataque verdaderamente dañino».

La posición del Gobierno de Trump

El domingo, Trump desestimó las advertencias de los líderes de la IA y las calificó como «fuerzas negativas».

Varios republicanos han mostrado reticencia a regular activamente esta tecnología debido al temor de que las medidas puedan frenar la innovación y otorgar ventaja a China en la carrera por la IA. Entre ellos se encuentra el presidente de la Cámara de Representantes, Mike Johnson.

Ese mismo domingo, Amodei reiteró que considera necesaria una supervisión gubernamental de la IA.

Al igual que Altman y Hassabis, sostiene que las normas establecidas únicamente por la propia industria serían insuficientes.

China, otro obstáculo para una desaceleración

Amodei propone limitar la coordinación a los países democráticos y excluir a China. Sin embargo, la competencia por el desarrollo de la IA y los avances de China en este ámbito generan «el dilema más difícil» sobre si se debe o no reducir el ritmo, señaló el domingo durante una entrevista en CBS.

Estados Unidos planea abordar la seguridad de la IA al margen de la visita del líder chino, Xi Jinping, a Washington, prevista para finales de septiembre.

Sin embargo, China desconfía de cualquier intento estadounidense de imponer su propio marco regulatorio, según varios medios.

La diferencia es particularmente marcada en torno a los llamados modelos «abiertos» de libre acceso promovidos por China, frente a los modelos cerrados desarrollados por las grandes empresas estadounidenses.

Los modelos abiertos son, por definición, más difíciles de controlar, ya que pueden ser modificados por los usuarios y potencialmente utilizados con fines maliciosos.

Para permitir que las grandes empresas no chinas puedan reducir el ritmo de desarrollo, Amodei propone establecer controles de exportación más estrictos sobre los chips estadounidenses más avanzados destinados a China, así como mejores salvaguardas contra la apropiación indebida de tecnologías de IA occidentales por parte de laboratorios chinos.

El jefe de los servicios de inteligencia de China advirtió que la inteligencia artificial (IA) representa un riesgo para la seguridad nacional del país, debido a que potencias extranjeras podrían utilizar esta tecnología para amenazar el orden social.

El ministro de Seguridad del Estado, Chen Yixin, afirmó en un artículo publicado en internet este domingo que «fuerzas hostiles» están abusando de las tecnologías de inteligencia artificial generativa para «fabricar rumores políticos y difundir información perjudicial».

«Lanzan guerras de opinión pública y guerras cognitivas contra China, amenazando directamente nuestra seguridad política, institucional e ideológica», afirmó Chen.

La advertencia se produce mientras el líder chino, Xi Jinping, tiene previsto reunirse este mes en Washington con el presidente de Estados Unidos, Donald Trump. En el encuentro, ambos deberán abordar asuntos relacionados con la gobernanza y la seguridad de la inteligencia artificial, en un contexto de crecientes peticiones para establecer un mayor control sobre esta tecnología.

Los líderes tecnológicos estadounidenses también han planteado la necesidad de ralentizar el desarrollo de la inteligencia artificial.

El director ejecutivo de Anthropic, Dario Amodei, advirtió el sábado sobre la velocidad «imprudente» con la que se desarrolla esta tecnología, mientras aumentan las preocupaciones por los riesgos asociados con los sistemas informáticos superinteligentes.

Por su parte, el director ejecutivo de OpenAI, Sam Altman, afirmó que coincidía con la valoración de Amodei.

Sin embargo, Chen advirtió que la inteligencia artificial constituye ahora «el principal campo de batalla de la competencia tecnológica mundial y un nuevo terreno para la rivalidad estratégica entre las grandes potencias».

El funcionario no mencionó los riesgos existenciales ni planteó la necesidad de frenar los avances tecnológicos. En cambio, señaló las capacidades avanzadas de piratería informática de Claude Mythos, de Anthropic, y ChatGPT-5.5-Cyber, de OpenAI, que potencialmente «plantean graves riesgos para las infraestructuras de información críticas de China».