2

Connect with us

Tecnología

TikTok añade nueva función para controlar todos los comentarios ofensivos

Publicado

el

No mucho antes de la pandemia del COVID-19  apareció por primera vez una aplicación de entretenimiento muy interesante que llamó la atención de los jóvenes internautas. Tiempo después, esta red social china se ha vuelto apta para internautas de todas las edades, pues TikTok cuenta con una completa gama de contenidos para todos los gustos.

Precisamente, en las últimas semanas la plataforma ha llamado la atención por su nuevo botón de ‘No me gusta’, en el que los usuarios pueden presionarlo cuando no se sientan identificados con el contenido.

“No hay línea de meta cuando se trata de mantener la seguridad de las personas, y nuestro último informe y las continuas mejoras de seguridad reflejan nuestro compromiso permanente con la seguridad y el bienestar de nuestra comunidad. Estamos deseando compartir más información sobre nuestro trabajo en curso para salvaguardar nuestra plataforma”, explica TikTok en su comunicado oficial.

Según algunos informes, hasta ahora las personas han publicado fotos que muestran que ya tienen esta función. Lo que se espera con esta opción es poder calificar los comentarios de los videos. También permitirá a los creadores tener más control sobre cómo se muestran más que otros.Botón de No me gusta en TikTok. (foto: Twitter)Botón de No me gusta en TikTok. (foto: Twitter)

Fomentando las interacciones reales en los comentarios

A fin de eliminar el contenido potencialmente ofensivo en la plataforma, TikTok ha hecho oficial este botón de ‘No me gusta’ en los usuarios de Estados Unidos, y poco a poco lo está probando en otras regiones.

Esta función permite a los usuarios evitar aquellos comentarios que consideren irrelevantes o inapropiados. Dicha información se sumará a los algoritmos que ya utiliza TikTok para mantener la sección de comentarios como un lugar relevante y de interacción real.

Para evitar crear un malestar entre los miembros de la comunidad o desanimar a los creadores, solo la persona que haya registrado un ‘No me gusta’ en un comentario podrá ver que lo ha hecho.

De hecho, en la captura de pantalla subida a Twitter, se puede ver que sigue apareciendo la cantidad de likes, lo que no ocurre con la nueva característica.  Botón de 'No me gusta' en TikTok. (foto: La República)

Botón de ‘No me gusta’ en TikTok. (foto: La República)

Asimismo, para facilitar la búsqueda y el uso de las herramientas de seguridad integradas que TikTok ofrece, la plataforma se encuentra haciendo pruebas con recordatorios que guiarán a los creadores hacia las opciones de filtrado, bloqueo y eliminación en bloque de comentarios.

Estas notificaciones se mostrarán a los creadores cuyos videos recibirán una alta porporción de comentarios negativos.  Del mismo modo, TikTok continuará eliminando los comentarios que infrinjan sus Normas de la Comunidad, y los creadores podrán seguir reportando respuestas o cuentas para que sean revisadas.

TikTok quiere que sus usuarios mantengan armonía en la red social

Los ‘No me gusta’ se han debatido durante mucho tiempo. De hecho, hace unos meses,  YouTub decidió eliminar el contador de no me gusta de todos los videos en su plataforma. De esta forma, las únicas personas que tienen acceso a los fondos son el creador del video y nadie más.

La medida ha sido ampliamente criticada tanto por los creadores como por los consumidores, pero parece que las aguas se han calmado.YouTube anunció hoy su decisión de hacer que la "no me gusta" cuente con videos privados en toda su plataforma. (foto: genbeta.com)YouTube anunció hoy su decisión de hacer que la «no me gusta» cuente con videos privados en toda su plataforma. (foto: genbeta.com)

Sin embargo, en el caso de TikTok, parece que la funcionalidad es mucho más limitada. De hecho, esto parece ser una función, que en lugar de ayudar a los usuarios a cometer actos de vandalismo o acosar a una persona, tiene el propósito de alertar a los moderadores de la plataforma sobre contenido potencialmente dañino o no relacionado con el resto de la plataforma social.

La función también se utiliza para categorizar comentarios en la aplicación . 

El comunicado concluye diciendo: “para evitar crear malestar entre los miembros de la comunidad o desmoralizar a los creadores, solo la persona que haya registrado un ‘No me gusta’ en un comentario podrá ver que lo ha hecho”.Esto también permitirá a los creadores tener más control sobre cuál de ellos muestra más que otros.

Principal

Incidente de OpenAI: ¿La IA se ha vuelto demasiado poderosa para ser controlada?

Publicado

el

Una prueba realizada por OpenAI reveló que dos agentes de inteligencia artificial ejecutaron de forma autónoma un ciberataque durante una evaluación interna, un hecho que ha reavivado el debate sobre cómo controlar los modelos de IA más avanzados.

La evaluación, desarrollada en un entorno cerrado, tenía como objetivo medir las capacidades de GPT-5.6 Sol, considerado por la empresa como su modelo «más avanzado», así como de su sucesor, que aún no ha sido comercializado. Este tipo de pruebas forma parte del proceso habitual de evaluación de la startup estadounidense.

Durante el ensayo, los modelos lograron conectarse a internet y lanzaron un ataque contra la plataforma Hugging Face, un repositorio de modelos de inteligencia artificial.

«Entendían que OpenAI no quería que salieran de su entorno de pruebas y hackearan a otra compañía, pero igual lo hicieron», afirmó Jeffrey Ladish, director de Palisade Research, una organización independiente dedicada a evaluar nuevos modelos de IA en materia de ciberseguridad.

«Casi parecía que lo hicieron antes incluso de tener un plan de qué hacer con el acceso a internet», agregó Ladish.

El incidente se suma a otros casos recientes. En marzo, un grupo de desarrolladores afiliados a la empresa china Alibaba detectó que uno de sus modelos intentó crear una criptomoneda por iniciativa propia tras conectarse sin autorización a un servidor externo.

Asimismo, en abril, Sam Bowman, responsable de seguridad de Anthropic, recibió un correo electrónico enviado por el modelo Mythos, que estaba siendo sometido a pruebas. En el mensaje, el sistema informaba que estaba navegando por internet pese a haber sido aislado inicialmente.

Según Ladish, estos modelos «buscan libertad para cumplir con sus objetivos de manera más efectiva. Y eso da mucho miedo».

Dudas sobre la supervisión de la inteligencia artificial

El informe publicado por OpenAI sobre estos eventos sugiere que la empresa no detectó la situación con suficiente rapidez para intervenir en tiempo real o alertar a Hugging Face. Consultada por la AFP, la compañía no respondió sobre el incidente.

Tras los ciberataques, OpenAI informó que implementó «protecciones más fuertes» para las próximas evaluaciones de sus modelos.

Para Gang Wang, profesor de Ciencias de la Computación de la Universidad de Illinois, todavía es posible impedir que un modelo acceda a internet mediante la desconexión física de la red. Sin embargo, advirtió que «las personas subestiman a la IA».

Por su parte, Andrew Lohn, del Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown, señaló que asegurar estos entornos de prueba «es algo a lo que debemos prestar más atención (…) como se hace con los accidentes de laboratorio» que pueden liberar virus o bacterias.

En tanto, Dan Lahav, director ejecutivo de la empresa de ciberseguridad Irregular, especializada en inteligencia artificial de vanguardia, sostuvo que realizar simulaciones en un entorno completamente aislado representa «un desafío de investigación muy difícil».

«Es posible aplicar medidas de mitigación, pero debido a cómo está construida la tecnología, cuanto más se intenta darle libertad y autonomía para realizar tareas más sofisticadas, será más difícil supervisarla», explicó.

El caso de OpenAI ha intensificado el debate en Estados Unidos sobre la necesidad de verificar los modelos de inteligencia artificial más avanzados antes de su lanzamiento.

Según la información proporcionada, el gobierno del presidente Donald Trump obligó a Anthropic a suspender dos de sus modelos y a OpenAI a someter sus desarrollos a pruebas antes de comercializarlos.

Además, el jueves, un congresista republicano y otro demócrata presentaron un proyecto de ley que obligaría a las principales empresas de inteligencia artificial a contar con un «interruptor de apagado» («kill switch») que permita desactivar sus sistemas si representan un riesgo grave.

Continue Reading

CronioTV

VIDEO: Este robot-atleta chino es capaz de correr por rocas a 30 km/h

Publicado

el

La empresa china de tecnologías robóticas Unitree Robotics ha presentado su nuevo robot Unitree Super Athlete AS2-W, capaz de moverse por terrenos rocosos unos 30 km sin carga útil a una velocidad de 30 km/h. Soporta una carga útil de 16 kg.

Continue Reading

Principal

Wikipedia rechaza que la inteligencia artificial edite directamente sus artículos

Publicado

el

La enciclopedia en línea Wikipedia se opondrá al uso de la inteligencia artificial (IA) en el proceso de edición de los artículos de su plataforma, afirmó este lunes su cofundador, Jimmy Wales, quien aseguró que no confía “lo suficiente” en esta tecnología para asumir esa función.

“No dejaremos que la IA edite directamente (nuestros artículos) porque, en realidad, no podemos confiar lo suficiente en ella”, declaró Wales al margen de un evento organizado por Octopus Energy en Londres.

El cofundador de Wikipedia señaló que, aunque es difícil prever cómo evolucionará la inteligencia artificial en los próximos 25 años, el problema de las alucinaciones o errores generados por estos sistemas continúa siendo una preocupación importante para la plataforma, cuyo objetivo es reunir el conocimiento global mediante las contribuciones libres de millones de voluntarios.

No obstante, Wikipedia no descarta el uso de agentes de inteligencia artificial para tareas específicas de monitoreo. Entre los ejemplos mencionados se encuentra el seguimiento de acontecimientos especializados, como el fallecimiento de un profesor de biología de 97 años que podría pasar desapercibido para los editores humanos.

Mientras intenta limitar el papel de la IA dentro de su funcionamiento, Wikipedia también observa cómo estas tecnologías utilizan el contenido de la enciclopedia para responder preguntas de los usuarios.

Según Wales, la plataforma ha registrado una caída del 8 % en el tráfico humano debido a la competencia de las herramientas de inteligencia artificial. Sin embargo, indicó que también se ha observado un aumento significativo de visitas provenientes de robots de IA.

La enciclopedia, creada en 2001 por Jimmy Wales junto a Larry Sanger, considera que la reducción del tráfico humano es “significativa, pero no desastrosa”.

Wikipedia mantiene un modelo económico basado en donaciones, aunque también ha firmado acuerdos con diversas empresas tecnológicas. Si bien su contenido continúa siendo gratuito, la plataforma solicita a las compañías de inteligencia artificial que compensen el uso intensivo que hacen de sus sistemas.

Wales no reveló los montos de dichos acuerdos, pero afirmó estar “bastante satisfecho con los avances” alcanzados. Asimismo, indicó que Wikipedia ha tenido éxito en sus negociaciones con varias empresas y que ha comenzado a bloquear a aquellas que, según sus palabras, “no se comportan correctamente”.

Continue Reading

Publicidad

Lo Más Leído