2

Connect with us

Tecnología

Conozca qué nombres están prohibidos en Facebook

Publicado

el

Como parte de las opciones de configuración de una cuenta de Facebook, la plataforma permite que cada persona se identifique con el nombre que desea con sus amigos y familiares dentro de la red social.

Incluso si ya se había introducido uno previamente, es posible modificarlo para que cada una se sienta cómoda.

Esto no implica que Facebook permita que cualquiera escriba cualquier palabra o frase y hacerla pasar como si fuese un nombre. Existen limitaciones que forman parte de la política de uso de la aplicación que incluyen ciertos estándares para configurar esta sección de la identidad de un perfil, ya sea público o privado.

Según la página web oficial de soporte en Facebook, hasta el momento existen cinco limitaciones en cuanto a los posibles nombres que se pueden asignar a un perfil:

  • Están prohibidos los símbolos, números, mayúsculas inusuales (en medio de una palabra o al final), caracteres repetidos o de puntuación.
  • Uso de caracteres que correspondan a más de un idioma a la vez.
  • Inclusión de títulos de cualquier tipo, ya sea profesional o religioso.
  • Palabras o frases completas en lugar de nombres.
  • Palabras que puedan ser consideradas ofensivas o sugerentes de cualquier tipo.

Principal

Incidente de OpenAI: ¿La IA se ha vuelto demasiado poderosa para ser controlada?

Publicado

el

Una prueba realizada por OpenAI reveló que dos agentes de inteligencia artificial ejecutaron de forma autónoma un ciberataque durante una evaluación interna, un hecho que ha reavivado el debate sobre cómo controlar los modelos de IA más avanzados.

La evaluación, desarrollada en un entorno cerrado, tenía como objetivo medir las capacidades de GPT-5.6 Sol, considerado por la empresa como su modelo «más avanzado», así como de su sucesor, que aún no ha sido comercializado. Este tipo de pruebas forma parte del proceso habitual de evaluación de la startup estadounidense.

Durante el ensayo, los modelos lograron conectarse a internet y lanzaron un ataque contra la plataforma Hugging Face, un repositorio de modelos de inteligencia artificial.

«Entendían que OpenAI no quería que salieran de su entorno de pruebas y hackearan a otra compañía, pero igual lo hicieron», afirmó Jeffrey Ladish, director de Palisade Research, una organización independiente dedicada a evaluar nuevos modelos de IA en materia de ciberseguridad.

«Casi parecía que lo hicieron antes incluso de tener un plan de qué hacer con el acceso a internet», agregó Ladish.

El incidente se suma a otros casos recientes. En marzo, un grupo de desarrolladores afiliados a la empresa china Alibaba detectó que uno de sus modelos intentó crear una criptomoneda por iniciativa propia tras conectarse sin autorización a un servidor externo.

Asimismo, en abril, Sam Bowman, responsable de seguridad de Anthropic, recibió un correo electrónico enviado por el modelo Mythos, que estaba siendo sometido a pruebas. En el mensaje, el sistema informaba que estaba navegando por internet pese a haber sido aislado inicialmente.

Según Ladish, estos modelos «buscan libertad para cumplir con sus objetivos de manera más efectiva. Y eso da mucho miedo».

Dudas sobre la supervisión de la inteligencia artificial

El informe publicado por OpenAI sobre estos eventos sugiere que la empresa no detectó la situación con suficiente rapidez para intervenir en tiempo real o alertar a Hugging Face. Consultada por la AFP, la compañía no respondió sobre el incidente.

Tras los ciberataques, OpenAI informó que implementó «protecciones más fuertes» para las próximas evaluaciones de sus modelos.

Para Gang Wang, profesor de Ciencias de la Computación de la Universidad de Illinois, todavía es posible impedir que un modelo acceda a internet mediante la desconexión física de la red. Sin embargo, advirtió que «las personas subestiman a la IA».

Por su parte, Andrew Lohn, del Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown, señaló que asegurar estos entornos de prueba «es algo a lo que debemos prestar más atención (…) como se hace con los accidentes de laboratorio» que pueden liberar virus o bacterias.

En tanto, Dan Lahav, director ejecutivo de la empresa de ciberseguridad Irregular, especializada en inteligencia artificial de vanguardia, sostuvo que realizar simulaciones en un entorno completamente aislado representa «un desafío de investigación muy difícil».

«Es posible aplicar medidas de mitigación, pero debido a cómo está construida la tecnología, cuanto más se intenta darle libertad y autonomía para realizar tareas más sofisticadas, será más difícil supervisarla», explicó.

El caso de OpenAI ha intensificado el debate en Estados Unidos sobre la necesidad de verificar los modelos de inteligencia artificial más avanzados antes de su lanzamiento.

Según la información proporcionada, el gobierno del presidente Donald Trump obligó a Anthropic a suspender dos de sus modelos y a OpenAI a someter sus desarrollos a pruebas antes de comercializarlos.

Además, el jueves, un congresista republicano y otro demócrata presentaron un proyecto de ley que obligaría a las principales empresas de inteligencia artificial a contar con un «interruptor de apagado» («kill switch») que permita desactivar sus sistemas si representan un riesgo grave.

Continue Reading

CronioTV

VIDEO: Este robot-atleta chino es capaz de correr por rocas a 30 km/h

Publicado

el

La empresa china de tecnologías robóticas Unitree Robotics ha presentado su nuevo robot Unitree Super Athlete AS2-W, capaz de moverse por terrenos rocosos unos 30 km sin carga útil a una velocidad de 30 km/h. Soporta una carga útil de 16 kg.

Continue Reading

Principal

Wikipedia rechaza que la inteligencia artificial edite directamente sus artículos

Publicado

el

La enciclopedia en línea Wikipedia se opondrá al uso de la inteligencia artificial (IA) en el proceso de edición de los artículos de su plataforma, afirmó este lunes su cofundador, Jimmy Wales, quien aseguró que no confía “lo suficiente” en esta tecnología para asumir esa función.

“No dejaremos que la IA edite directamente (nuestros artículos) porque, en realidad, no podemos confiar lo suficiente en ella”, declaró Wales al margen de un evento organizado por Octopus Energy en Londres.

El cofundador de Wikipedia señaló que, aunque es difícil prever cómo evolucionará la inteligencia artificial en los próximos 25 años, el problema de las alucinaciones o errores generados por estos sistemas continúa siendo una preocupación importante para la plataforma, cuyo objetivo es reunir el conocimiento global mediante las contribuciones libres de millones de voluntarios.

No obstante, Wikipedia no descarta el uso de agentes de inteligencia artificial para tareas específicas de monitoreo. Entre los ejemplos mencionados se encuentra el seguimiento de acontecimientos especializados, como el fallecimiento de un profesor de biología de 97 años que podría pasar desapercibido para los editores humanos.

Mientras intenta limitar el papel de la IA dentro de su funcionamiento, Wikipedia también observa cómo estas tecnologías utilizan el contenido de la enciclopedia para responder preguntas de los usuarios.

Según Wales, la plataforma ha registrado una caída del 8 % en el tráfico humano debido a la competencia de las herramientas de inteligencia artificial. Sin embargo, indicó que también se ha observado un aumento significativo de visitas provenientes de robots de IA.

La enciclopedia, creada en 2001 por Jimmy Wales junto a Larry Sanger, considera que la reducción del tráfico humano es “significativa, pero no desastrosa”.

Wikipedia mantiene un modelo económico basado en donaciones, aunque también ha firmado acuerdos con diversas empresas tecnológicas. Si bien su contenido continúa siendo gratuito, la plataforma solicita a las compañías de inteligencia artificial que compensen el uso intensivo que hacen de sus sistemas.

Wales no reveló los montos de dichos acuerdos, pero afirmó estar “bastante satisfecho con los avances” alcanzados. Asimismo, indicó que Wikipedia ha tenido éxito en sus negociaciones con varias empresas y que ha comenzado a bloquear a aquellas que, según sus palabras, “no se comportan correctamente”.

Continue Reading

Publicidad

Lo Más Leído