Tecnología
La razón por la que no deberías usar Facebook Messenger
El periodista especializado en ciberseguridad, Zak Doffman, explicó por qué los usuarios deberían dejar de utilizar Facebook Messenger y pasarse a otras plataformas, como WhatsApp o Signal.
“Todos sabemos que Facebook vive de nuestros datos, así es como pagamos por sus servicios supuestamente gratuitos. Pero tiene que haber un límite. Si nos encontramos en una posición en la que Facebook dice ‘me quedaré con todo lo que pueda’, y nosotros aceptamos, ¿qué dice eso sobre nosotros y el valor que le damos a nuestra propia privacidad?”, preguntó Doffman en un artículo publicado en Forbes, donde argumentó por qué deberíamos dejar de utilizar esta aplicación.
Según describe el periodista, a causa de una desafortunada serie de acontecimientos (relaciones públicas mal gestionadas y muy mala comunicación), la debacle de WhatsApp que en estos días provocó que miles de usuarios migraran a Signal o a Telegram, distrajo la atención de la gravedad de la invasión a la privacidad que ejerce Facebook Messenger.
Doffman explicó que la principal defensa de WhastApp, cuando se discuten sus políticas de privacidad, es que no puede ver los mensajes privados. Pero si eres usuario de Messenger no tienes tanta suerte.
El periodista afirmó que una ilustración perfecta del escaso respeto de Facebook Messenger por la privacidad salió a la luz cuando los investigadores en ciberseguridad Tommy Mysk y Talal Haj Bakr revelaron hace un año que la plataforma descargaba los archivos adjuntos privados que habían sido enviados entre los usuarios en sus propios servidores, así como los enlaces a archivos compartidos y sitios web.
“El problema que Messenger acceda a tu información privada se resuelve de forma fácil, de eso se trata la encriptación de extremo a extremo”, aseguró Doffman y dejó entrever que lo que no existe es voluntad para hacerlo.
A diferencia de WhatsApp, la encriptación de extremo a extremo en el Messenger solo admite mensajes privados entre dos personas, no dentro de grupos, y no está activado por defecto. Solo cuando se selecciona la opción, Facebook deja de husmear en los mensajes y de descargar los enlaces y archivos adjuntos.
“Es esta falta de encriptación de extremo a extremo lo que hace que Messenger no sirva. Esto debería ser el valor por defecto para cualquier plataforma de mensajería que usemos. El propio Facebook advirtió sobre los riesgos que conlleva la falta de este tipo de cifrado. Y WhatsApp merece un gran reconocimiento por haber universalizado el acceso, poniendo el cifrado de extremo a extremo a disposición de ,millones de usuarios”, escribió Doffman.
De acuerdo con su análisis, no habría que dar por sentado el cifrado de extremo a extremo. El hecho de que podamos llamar y enviar mensajes desde cualquier parte del mundo, a salvo de las sondas de la red de los gobiernos y de los malos actores, es una gran ventaja. “Una de las ironías de la reacción de WhatsApp es que los usuarios están dejando de usar esta aplicación, que está cifrada de extremo a extremo por defecto, por Telegram que no lo está”, advirtió el periodista.
Esto vuelve a poner en el foco las prácticas que realiza Facebook. Doffman recuerda que, en 2019, Mark Zuckerberg argumentó que la mensajería privada se convertiría en la nueva normalidad, reemplazando la necesidad social de compartir todo en todas partes. Esto siguió a los primeros informes sobre los planes de Facebook de integrar WhatsApp con los mensaje privados de Messenger e Instagram, creando un gigante de la mensajería para servir a casi 3000 millones de usuarios.
En aquel momento, había informes que indicaban que Messenger se convertiría en un sistema de cifrado de extremo a extremo, lo que suponía una importante mejora. “Pero 2 años después, no hemos visto ningún progreso tangible en ese sentido. Sin embargo, lo que hemos visto es el comienzo de esa integración, comenzando con Messenger e Instagram, pero sin mejoras de seguridad a la vista”, acusó Doffman.
El año pasado, Facebook afirmó que seguía “muy comprometido con hacer que Messenger esté encriptado de extremo a extremo de forma predeterminada”. De hecho, Jay Sullivan, gerente de producto de la compañía, indicó ante el comité del Senado en 2019, que “la gente debería poder comunicarse de forma segura y privada con sus amigos y seres queridos sin que nadie, incluyendo Facebook, escuche o monitoree sus conversaciones”.
Sullivan también manifestó que los usuarios deberían poder enviar información médica y financiera “con la confianza de que no caerá en manos de ladrones de identidad u otros con intenciones maliciosas”. Pero Doffman advirtió que Messenger observa el contenido y que “salud y estado físico”, “información sensible” e “información financiera” están entre la masa de campos de datos de usuarios que la plataforma admite recolectar a través de Messenger.
Añadir una encriptación de extremo a extremo habría sido una especie de gracia salvadora para el Messenger, ya que evitaría que el contenido se supervisara, recogiera y procesara, aunque no protegería los metadatos. Pero el affaire de WhatsApp ha hecho que millones de personas se den cuenta de que el cifrado de contenidos no es suficiente por sí solo.
“Las prácticas de Facebook son ahora visibles para todos, no están enterradas en la letra chica de la política de privacidad. Todos podemos ver la ridícula diferencia entre Messenger y otras plataformas, aunque todavía tenemos que entender cómo se monetizan esos metadatos y cómo se utilizan para dirigirse a nosotros con anuncios”, expresó el especialista en ciberseguridad.
Doffman realizó una recomendación contundente. “El consejo ahora es simple. Si todavía estás en Messenger o si estás usando los mensajes de Instagram para cualquier otra cosa que no sean contactos casuales, entonces es hora de cambiar. La opción más fácil sigue siendo WhatsApp. Si quieres una opción más segura, entonces ejecuta Signal en paralelo. Será más útil a medida que se unan más contactos”, sugirió.
Según el periodista, con WhatsApp y Signal ejecutándose en paralelo, se puede estar cubierto en términos de seguridad y privacidad. Además agrega que, con el tiempo, se terminará usando Signal como opción predeterminada, pero para eso falta que todos nuestros contactos también la usen.
Y para concluir, recomienda mover todos los chats y grupos de Facebook Messenger a WhatsApp o a Signal. “Y deberías hacerlo ya”, aclaró.
Principal
La IA avanza hacia la creación autónoma de nuevas versiones de sí misma, advierte Anthropic
El debate sobre los posibles riesgos asociados al desarrollo de la inteligencia artificial se ha intensificado en los últimos meses, impulsado por distintos incidentes y advertencias de profesionales del sector.
La empresa de inteligencia artificial Anthropic advirtió que los sistemas de IA son cada vez más capaces de participar en el desarrollo de futuras versiones de sí mismos, una situación que incrementa las preocupaciones sobre el ritmo de avance de esta tecnología.
Anthropic informó que su chatbot Claude ya lidera el 26 % de las tareas de investigación y desarrollo de la compañía relacionadas con IA, mientras que más del 90 % de esas actividades cuentan con algún nivel de colaboración entre humanos y sistemas de inteligencia artificial. La empresa aclaró que Claude todavía no opera de manera plenamente autónoma.
La compañía explicó que divulgó estas métricas para ofrecer mayor visibilidad sobre el ritmo de desarrollo de la IA, en momentos en que existe un debate sobre la posibilidad de desacelerar el avance de los modelos más avanzados.
El director ejecutivo de Anthropic, Dario Amodei, pidió recientemente ralentizar el desarrollo de la inteligencia artificial ante preocupaciones relacionadas con el avance de las capacidades de estos sistemas. Entre los aspectos señalados se encuentran la posible pérdida de empleos, el incremento del consumo energético y el impacto ambiental de los centros de datos.
También han aumentado las preocupaciones sobre la capacidad de los desarrolladores para mantener el control sobre los agentes de inteligencia artificial. El debate incluye incidentes en los que modelos de Anthropic y de OpenAI habrían realizado acciones fuera de entornos restringidos, según reportes citados en torno a la seguridad de estos sistemas.
Anthropic señaló que los modelos que aceleran su propio desarrollo podrían dificultar que los seres humanos comprendan o controlen estos sistemas. La compañía considera importante medir este proceso para determinar qué tan cerca se encuentra el desarrollo de la denominada auto-mejora recursiva, concepto que describe la capacidad de un modelo para construir de forma autónoma a su sucesor.
En agosto, Claude lideraba el 26 % de las tareas de investigación y desarrollo de IA de Anthropic. Según la metodología de la empresa, esto significa que puede completar la mayor parte de una tarea de principio a fin a partir de una instrucción general, mientras una persona mantiene la supervisión.
No obstante, Anthropic enfatizó que Claude no opera actualmente de manera completamente autónoma en ninguna de las áreas de investigación y desarrollo evaluadas.
La empresa también informó que en agosto contaba con aproximadamente 30,000 agentes de inteligencia artificial realizando labores de investigación e ingeniería en su plataforma interna más utilizada. Anthropic indicó que las acciones de estos agentes son supervisadas mediante sistemas de monitoreo.
De acuerdo con la información divulgada por la compañía, más de mil millones de decisiones de estos agentes fueron analizadas durante agosto y aproximadamente una de cada 47,000 fue bloqueada por el sistema de monitoreo por motivos de seguridad.
Anthropic prevé además avanzar hacia una mayor evaluación externa de sus sistemas mediante terceros independientes, como parte de sus esfuerzos para medir el ritmo de desarrollo y la supervisión de la inteligencia artificial.
Por otra parte, la empresa se prepara para una posible salida a bolsa antes que OpenAI, prevista para finales de este año, en un contexto de creciente debate sobre la seguridad y regulación de la inteligencia artificial.
La división de inteligencia artificial de Microsoft publicó un código de conducta para regular el comportamiento de sus modelos de IA, en medio del aumento de las preocupaciones sobre los posibles peligros de esta tecnología.
El documento se basa en el concepto que Microsoft denomina «IA humanista», que plantea el desarrollo de sistemas diseñados para mantenerse bajo control humano, en lugar de actuar por cuenta propia.
La compañía establece como principio rector que «las personas importan más que la IA».
Microsoft relacionó la publicación del código con preocupaciones de seguridad y citó las recientes campañas de hackeo coordinadas a gran escala, realizadas con la ayuda de agentes de IA, como una señal de que la industria no puede permitirse retrasos en este ámbito.
La organización no mencionó específicamente un incidente ocurrido en julio, cuando dos modelos de OpenAI salieron de un entorno de prueba aislado y atacaron de forma autónoma el repositorio de código Hugging Face.
La publicación del código ocurrió días después de que el director ejecutivo de Anthropic, Dario Amodei, difundiera un ensayo en el que pidió a las empresas de IA reducir deliberadamente las capacidades de sus modelos.
El código de conducta se aplicará a los modelos internos MAI de Microsoft, que la compañía ha presentado como una alternativa a la tecnología de OpenAI, utilizada por Microsoft durante años.
Los principales empresarios de la inteligencia artificial (IA) han planteado la necesidad de reducir el ritmo acelerado con el que se desarrolla esta tecnología, aunque la competencia entre las compañías, la reticencia del Gobierno estadounidense y factores geopolíticos dificultan una posible desaceleración coordinada.
El sábado, el director ejecutivo de Anthropic, Dario Amodei, defendió una reducción coordinada del ritmo de desarrollo de la IA para comprender mejor los riesgos asociados con las capacidades avanzadas de esta tecnología.
La propuesta recibió el respaldo público del CEO de OpenAI, Sam Altman; del director de xAI, Elon Musk; del presidente de Google DeepMind, Demis Hassabis, y del director ejecutivo de Microsoft, Satya Nadella.
Preocupaciones por la seguridad de la IA
En los últimos meses, OpenAI y Anthropic han reportado varios incidentes en los que sistemas de IA en fase experimental salieron de forma autónoma de sus entornos restringidos para acceder a internet y atacar sitios web y plataformas.
En algunos casos, estos sistemas demostraron capacidades para coordinarse, establecer jerarquías entre ellos, hacer trampa y eliminar las huellas de sus acciones.
El pasado martes, el investigador Jacob Coxon, quien renunció a su puesto en Anthropic y anteriormente trabajó en OpenAI, acusó públicamente a ambas empresas de mantener estándares de seguridad laxos y de estar «jugando con nuestras vidas».
Una desaceleración difícil de aplicar de forma unilateral
La competencia entre los principales actores de la industria es intensa y existen inversiones multimillonarias en juego, por lo que ninguna de las compañías estaría dispuesta a arriesgarse a reducir por sí sola el ritmo de desarrollo.
Amodei ha manifestado su disposición a coordinarse con sus rivales, aunque plantea excluir a China de esa coordinación.
Consultados por la AFP sobre posibles conversaciones en ese sentido, Anthropic, OpenAI y Google no respondieron de inmediato.
Por ahora, la única medida concreta a la que se han comprometido Anthropic y OpenAI consiste en permitir que observadores independientes verifiquen el trabajo interno de las empresas en materia de seguridad.
Cuestionamientos a la propuesta
Aunque buena parte del sector recibió favorablemente el mensaje de Amodei, otras figuras cuestionaron sus motivos.
Brian Roemmele, empresario y figura del sector de IA, consideró que se trata de un discurso comercial difundido semanas antes de la probable salida de Anthropic a la bolsa.
«Somos la empresa responsable; somos la cura; compren la prima de seguridad», publicó en X.
Varias figuras del capital de riesgo del sector tecnológico también acusaron a Anthropic de una «captura regulatoria», al considerar que busca que las autoridades públicas consoliden, mediante regulación, una jerarquía con la startup en la cúspide.
«Dejen de fingir que la motivación para frenar es puramente altruista», dijo David Sacks, exasesor de IA del presidente Donald Trump, quien continúa siendo influyente en la Casa Blanca.
Sacks agregó que las empresas «se enfrentan a una enorme exposición por responsabilidad relacionada con los productos si estos permiten un ciberataque verdaderamente dañino».
La posición del Gobierno de Trump
El domingo, Trump desestimó las advertencias de los líderes de la IA y las calificó como «fuerzas negativas».
Varios republicanos han mostrado reticencia a regular activamente esta tecnología debido al temor de que las medidas puedan frenar la innovación y otorgar ventaja a China en la carrera por la IA. Entre ellos se encuentra el presidente de la Cámara de Representantes, Mike Johnson.
Ese mismo domingo, Amodei reiteró que considera necesaria una supervisión gubernamental de la IA.
Al igual que Altman y Hassabis, sostiene que las normas establecidas únicamente por la propia industria serían insuficientes.
China, otro obstáculo para una desaceleración
Amodei propone limitar la coordinación a los países democráticos y excluir a China. Sin embargo, la competencia por el desarrollo de la IA y los avances de China en este ámbito generan «el dilema más difícil» sobre si se debe o no reducir el ritmo, señaló el domingo durante una entrevista en CBS.
Estados Unidos planea abordar la seguridad de la IA al margen de la visita del líder chino, Xi Jinping, a Washington, prevista para finales de septiembre.
Sin embargo, China desconfía de cualquier intento estadounidense de imponer su propio marco regulatorio, según varios medios.
La diferencia es particularmente marcada en torno a los llamados modelos «abiertos» de libre acceso promovidos por China, frente a los modelos cerrados desarrollados por las grandes empresas estadounidenses.
Los modelos abiertos son, por definición, más difíciles de controlar, ya que pueden ser modificados por los usuarios y potencialmente utilizados con fines maliciosos.
Para permitir que las grandes empresas no chinas puedan reducir el ritmo de desarrollo, Amodei propone establecer controles de exportación más estrictos sobre los chips estadounidenses más avanzados destinados a China, así como mejores salvaguardas contra la apropiación indebida de tecnologías de IA occidentales por parte de laboratorios chinos.
