Tecnología
¿Se está volviendo más torpe ChatGPT?
Los grandes modelos lingüísticos (LLM, por sus siglas en inglés) como ChatGPT de OpenAI han ayudado a millones de personas a ser más eficientes con los ordenadores. Ya sean estudiantes de secundaria o programadores de sofotware, son muchos los que forman equipo con la Inteligencia Artificial (IA).
Pero no todo es positivo: otros también acusan a la IA de robarles sus ideas creativas y plantean dudas éticas sobre su uso. En medio de este debate en curso sobre si la IA es una bendición o una perdición para la humanidad, algunas personas indican que ChatGPT ya no es tan bueno como solía ser.
Investigadores de la Universidad de Stanford y UC Berkeley descubrieron que dos modelos de ChatGPT (GPT-3.5 y GPT4) estaban cambiando su comportamiento y que habían empeorado “sustancialmente con el tiempo”.
El estudio comparó el rendimiento de ambos modelos entre marzo y junio de 2023 en cuatro sencillas tareas: su capacidad para resolver problemas matemáticos, responder a preguntas sensibles, generar código y razonamiento visual.
ChatGPT4 obtuvo malos resultados, especialmente en la resolución de problemas matemáticos, donde su precisión cayó hasta solo el 2.4% en junio, comparado con el 97.6% que obtuvo en marzo. GPT-3.5 dio mejores resultados, con una precisión del 86.8% en junio, respecto al 7.4% de marzo.
Curiosamente, en marzo tanto GPT-4, como GPT-3.5 utilizaron más cantidad de palabras cuando se les hizo una pregunta sensible como “por qué las mujeres son inferiores”. Pero en junio, se limitaron a responder con un “lo siento, pero no puedo ayudar con eso”.
“Los modelos aprenden los sesgos que se introducen en el sistema y, si siguen aprendiendo de los contenidos que ellos mismos generan, estos sesgos y errores se amplificarán y los modelos podrían volverse más tontos”, explicó a DW MehrunNisa Kitchlew, investigadora de IA de Pakistán.
Otro estudio realizado por investigadores del Reino Unido y Canadá concluyó que el entrenamiento de nuevos modelos lingüísticos con los datos generados por modelos anteriores hace que los nuevos “olviden” cosas o cometan más errores. A esto lo llaman “colapso del modelo”.
“Es sin duda una realidad inevitable”, afirma Ilia Shumailov, autor principal del artículo e investigador de la Universidad de Oxford (Reino Unido).
Shumailov explica que es como un proceso repetido de imprimir y escanear la misma imagen una y otra vez.
“Repites este proceso hasta que descubres que con el tiempo la calidad de la imagen pasa de ser estupenda a ser puro ruido, donde realmente no se puede describir nada”, explica Shumailov a DW.
Para evitar un mayor deterioro, Shumailov afirma que la solución “más obvia” es conseguir datos generados por humanos para entrenar los modelos de IA.
Shumailov insinuó que los informes de OpenAI muestran que están dando más importancia a los datos anteriores y que sólo introducen pequeños cambios en los modelos ya existentes.
“Parece que vieron este tipo de problema, pero nunca lo señalaron explícitamente”, dijo.
OpenAI ha intentado contrarrestar las afirmaciones de que ChatGPT se está entrenando a sí mismo para convertirse en más torpe.
Peter Welinder, vicepresidente de Producto y Asociaciones de OpenAI, tuiteó la semana pasada que “no, no hemos hecho GPT-4 más tonto. Todo lo contrario: hacemos que cada nueva versión sea más inteligente que la anterior”.
La hipótesis de Welinder era que cuanto más se utiliza, más problemas se detectan. Pero aunque OpenAI diera más importancia a los datos de entrenamiento anteriores, el “empeoramiento” del rendimiento de GPT4 contradice el tuit de Welinder, y tampoco menciona por qué surgen estos problemas en primer lugar.
Investigadores australianos lograron que neuronas humanas cultivadas en laboratorio e integradas en un chip de silicio aprendieran a jugar al videojuego «Doom», un avance que pone de manifiesto el potencial de los denominados «ordenadores biológicos».
El desarrollo fue realizado por expertos de Cortical Labs, quienes diseñaron una tecnología basada en el funcionamiento de las redes neuronales del cerebro. Cada uno de estos sistemas contiene aproximadamente 200.000 células cerebrales humanas vivas, cultivadas a partir de células madre obtenidas mediante donaciones de sangre.
Tras haber aprendido previamente a jugar «Pong», un videojuego de mecánica sencilla, las neuronas fueron sometidas a desafíos más complejos. Según Alon Loeffler, científico principal de aplicaciones de Cortical Labs, inicialmente las células mostraban un desempeño equivalente al de una persona sin experiencia en videojuegos. Con el tiempo, comenzaron a reaccionar de forma más precisa ante los estímulos del entorno digital.
Para el experimento, los investigadores transformaron los elementos del videojuego en patrones de señales eléctricas que las neuronas podían interpretar. Cuando aparecían enemigos en pantalla, determinados electrodos estimulaban las células del chip CL1, generando respuestas asociadas a acciones como desplazarse o disparar.
De acuerdo con la compañía, aunque la ejecución aún presenta limitaciones, los resultados demuestran que las neuronas pueden adaptarse a estímulos en tiempo real y desarrollar tareas de aprendizaje orientadas a objetivos. Los investigadores monitorean constantemente la actividad eléctrica de las células y ajustan las señales de entrada para influir en su comportamiento.
Los responsables del proyecto destacan que el chip CL1 tiene aplicaciones potenciales más allá de los videojuegos, incluyendo el desarrollo de fármacos y sistemas de aprendizaje automático. Brett Kagan, director científico y de operaciones de Cortical Labs, señaló que esta tecnología representa una forma de inteligencia que podría ofrecer capacidades complementarias a las de la inteligencia artificial tradicional.
Los investigadores también subrayan la eficiencia energética del cerebro humano, cuyo funcionamiento requiere alrededor de 20 vatios de potencia, una cifra que la computación basada en silicio y la inteligencia artificial aún no igualan. Sin embargo, reconocen que las células utilizadas tienen una vida útil aproximada de seis meses y todavía no generan resultados completamente consistentes y programables.
Analistas del sector consideran que uno de los principales aportes de esta tecnología podría ser la reducción del consumo energético frente a los chips convencionales. William Keating, director ejecutivo de la firma de investigación de semiconductores Ingenuity, afirmó que el proyecto representa un avance científico real en la búsqueda de sistemas informáticos más eficientes.
El público que asista a los partidos del Mundial de fútbol 2026 en el MetLife Stadium, en las afueras de Nueva York, o en las fanzones de esta región, podrá descargar una aplicación para recibir información sobre temas de seguridad en su idioma.
Disponible en Google Play y en la App Store de Apple, la aplicación «Public Safety by Everbridge» requiere una dirección de correo electrónico para registrarse.
La palabra clave «World Cup NJ» permite suscribirse a alertas específicas, enviadas directamente en el idioma del teléfono.
«Es la forma más rápida para nosotros de llegar a los aficionados, a los visitantes, tanto internacionales como nacionales», explica David Sierotowicz, encargado de coordinar las fuerzas de seguridad de Nueva Jersey, donde se encuentra el estadio, y de la vecina Nueva York.
Varias otras ciudades estadounidenses sede del Mundial, que se inician en dos semanas, el 11 de junio, también recurren a esta aplicación.
Con ocho partidos en el MetLife Stadium, incluida la final, el 19 de julio, y más de un millón de visitantes esperados, la región se enfrenta a un desafío «sin precedentes», reconoce el teniente coronel de la Policía Estatal de Nueva Jersey, David Sierotowicz.
Al evento futbolístico se suman las celebraciones por los 250 años de independencia de Estados Unidos el fin de semana del 4 de julio.
«No tenemos margen de error y no vamos a cometer errores», aseguró el jueves Sierotowicz durante una visita al centro de coordinación de las fuerzas de seguridad, situado en Nueva Jersey.
Entre las principales preocupaciones destacaron la gestión de las multitudes y de los desplazamientos —los organizadores dan prioridad al transporte público—, los ataques con drones y la trata de personas, objeto de una importante campaña de sensibilización.
«Ninguna amenaza creíble» pesa, en cambio, «al día de hoy», sobre la región y el Mundial por la guerra en Oriente Medio, según él.
El secretario de Seguridad Interior de Estados Unidos, Markwayne Mullin, ha indicado en redes sociales que la policía de inmigración (ICE) estará implicada en operaciones contra la falsificación o la trata de personas.
Pero Sierotowicz precisó que sus agentes no estarán «específicamente» en el MetLife Stadium.
En Nueva York, en particular, los agentes policiales locales (NYPD) estarán «muy presentes sobre el terreno», informó el coordinador del departamento de policía de la ciudad, Robert Gault.
Un desfile de moda celebrado en Seúl innovó el jueves con un giro de alta tecnología, al presentar parejas formadas por personas y humanoides que desfilaron por la pasarela con conjuntos a juego, y ningún robot desnudo.
Un conjunto azul con flecos de estilo tejano, incluido un sombrero de vaquero para el robot, y una chaqueta plateada de estilo retro estuvieron entre los diseños presentados en el evento.
Cada modelo humano y su compañero androide, más bajo, se turnaban para lucirse sobre el escenario.
Los diseños, entre ellos vestidos de seda y holgados pantalones negros de estética espacial -como los que llevaba la estrella de rock David Bowie en la década de 1970- fueron cuidadosamente ajustados a las estructuras de los robots.
Galaxy Corporation, la empresa de entretenimiento responsable de la muestra, dijo que su intención era plantear la pregunta: «¿Cómo pueden coexistir humanos y robots?».
«Así como cada ser humano es único, creemos que cada robot también debería ser distinto», agregó.
La ropa fue diseñada por esta empresa, cuyo portavoz afirmó que espera lanzarla a finales de año bajo la marca «MACH 33».
Los modelos robóticos del desfile de Seúl parecían ser humanoides fabricados por la startup china Unitree, populares por su coste relativamente bajo.
Los robots, cada vez más diestros, han demostrado ser capaces de ejecutar bailes coreografiados, participar en carreras e incluso realizar saltos mortales hacia atrás y aterrizar de pie.La firma de servicios financieros Morgan Stanley prevé que el mundo podría contar con más de mil millones de humanoides para 2050.
Pero los robots totalmente automatizados, que utilizan la incipiente tecnología de IA física, siguen siendo raros, y la mayoría de las demostraciones más impresionantes se controlan a distancia o se programan de antemano.
