Tecnología
¿Se está volviendo más torpe ChatGPT?
Los grandes modelos lingüísticos (LLM, por sus siglas en inglés) como ChatGPT de OpenAI han ayudado a millones de personas a ser más eficientes con los ordenadores. Ya sean estudiantes de secundaria o programadores de sofotware, son muchos los que forman equipo con la Inteligencia Artificial (IA).
Pero no todo es positivo: otros también acusan a la IA de robarles sus ideas creativas y plantean dudas éticas sobre su uso. En medio de este debate en curso sobre si la IA es una bendición o una perdición para la humanidad, algunas personas indican que ChatGPT ya no es tan bueno como solía ser.
Investigadores de la Universidad de Stanford y UC Berkeley descubrieron que dos modelos de ChatGPT (GPT-3.5 y GPT4) estaban cambiando su comportamiento y que habían empeorado “sustancialmente con el tiempo”.
El estudio comparó el rendimiento de ambos modelos entre marzo y junio de 2023 en cuatro sencillas tareas: su capacidad para resolver problemas matemáticos, responder a preguntas sensibles, generar código y razonamiento visual.
ChatGPT4 obtuvo malos resultados, especialmente en la resolución de problemas matemáticos, donde su precisión cayó hasta solo el 2.4% en junio, comparado con el 97.6% que obtuvo en marzo. GPT-3.5 dio mejores resultados, con una precisión del 86.8% en junio, respecto al 7.4% de marzo.
Curiosamente, en marzo tanto GPT-4, como GPT-3.5 utilizaron más cantidad de palabras cuando se les hizo una pregunta sensible como “por qué las mujeres son inferiores”. Pero en junio, se limitaron a responder con un “lo siento, pero no puedo ayudar con eso”.
“Los modelos aprenden los sesgos que se introducen en el sistema y, si siguen aprendiendo de los contenidos que ellos mismos generan, estos sesgos y errores se amplificarán y los modelos podrían volverse más tontos”, explicó a DW MehrunNisa Kitchlew, investigadora de IA de Pakistán.
Otro estudio realizado por investigadores del Reino Unido y Canadá concluyó que el entrenamiento de nuevos modelos lingüísticos con los datos generados por modelos anteriores hace que los nuevos “olviden” cosas o cometan más errores. A esto lo llaman “colapso del modelo”.
“Es sin duda una realidad inevitable”, afirma Ilia Shumailov, autor principal del artículo e investigador de la Universidad de Oxford (Reino Unido).
Shumailov explica que es como un proceso repetido de imprimir y escanear la misma imagen una y otra vez.
“Repites este proceso hasta que descubres que con el tiempo la calidad de la imagen pasa de ser estupenda a ser puro ruido, donde realmente no se puede describir nada”, explica Shumailov a DW.
Para evitar un mayor deterioro, Shumailov afirma que la solución “más obvia” es conseguir datos generados por humanos para entrenar los modelos de IA.
Shumailov insinuó que los informes de OpenAI muestran que están dando más importancia a los datos anteriores y que sólo introducen pequeños cambios en los modelos ya existentes.
“Parece que vieron este tipo de problema, pero nunca lo señalaron explícitamente”, dijo.
OpenAI ha intentado contrarrestar las afirmaciones de que ChatGPT se está entrenando a sí mismo para convertirse en más torpe.
Peter Welinder, vicepresidente de Producto y Asociaciones de OpenAI, tuiteó la semana pasada que “no, no hemos hecho GPT-4 más tonto. Todo lo contrario: hacemos que cada nueva versión sea más inteligente que la anterior”.
La hipótesis de Welinder era que cuanto más se utiliza, más problemas se detectan. Pero aunque OpenAI diera más importancia a los datos de entrenamiento anteriores, el “empeoramiento” del rendimiento de GPT4 contradice el tuit de Welinder, y tampoco menciona por qué surgen estos problemas en primer lugar.
Científicos de la Universidad de Stanford, liderados por Seung K. Kim, lograron curar la diabetes tipo 1 en ratones mediante un innovador trasplante combinado de células madre sanguíneas e islotes pancreáticos de donantes inmunológicamente incompatibles.
Con estos ensayos realizados en un tiempo de seis meses, lograron reiniciar el sistema inmunitario para detener el ataque autoinmune a las células productoras de insulina sin necesidad de fármacos inmunosupresores crónicos ni insulina exógena.
Este avance, publicado en el Journal of Clinical Investigation y basado en estudios previos del equipo, previene el rechazo de injertos y la destrucción de células beta en 19 de 19 ratones sanos y 9 de 9 con diabetes establecida.
Este resultado es un logro prometedor que abre la oportunidad de aplicarla en los humanos para eliminar riesgos de inmunosupresión y extenderse a otras enfermedades autoinmunes como artritis o lupus.
La red social X, para muchos aún conocida como Twitter, ha sufrido una caída generalizada en España. Tal y como informa Downdetector, los problemas comenzaron hoy 18 de noviembre a eso de las 12:20 PM (horario peninsular). Desde entonces, los usuarios han experimentado problemas para acceder a la aplicación, sobre todo en la versión de escritorio.
Tanto la versión móvil como la de navegador siguen experimentando errores. A grandes rasgos, la página no carga y no se visualizan los tweets ni deja publicar. También hay problemas para visualizar contenido incrustado como vídeos e imágenes.
Dado que ha habido un pico de incidencias paralelo que coincide con la hora señalada, todo parece indicar que el problema no es de X en sí, sino de Cloudflare, un servicio de la nube del que dependen diversas plataformas como la red social de Elon Musk. Desde Cloudflare ya avisan de que son conscientes del problema y están trabajando para solucionarlo, por lo que a nivel de usuarios no es preciso que hagamos nada salvo esperar.
Si X o cualquier otra red social no funciona, lo mejor que se puede hacer es visitar webs como Downdetector o Down for Everyone or Just Me. En ambas páginas podemos ver si el problema es nuestro, a nivel local o a escala mundial. A veces puede depender del proveedor de Internet, o, como en este caso, de un intermediario cuya infraestructura sea crítica para el correcto funcionamiento de la plataforma.
Estas caídas solo suelen prolongarse durante unos minutos, aunque, en el peor de los casos, puede llevar varias horas restablecer el servicio. De nuevo, insistimos; a nivel de usuario no se puede hacer nada, ya que son los responsables quienes tienen que resolver los problemas técnicos oportunos. En otras palabras: toca esperar sí o sí.
Al margen de la no operatividad de X, otras webs bastante populares que dependen de la infraestructura de Cloudflare tampoco permiten el acceso a sus usuarios. Debajo os dejamos una lista parcial de varios ejemplos relevantes:
En estos casos, sucede lo mismo que con X: hasta que no se solvente el problema de Cloudflare, estos servicios y webs quedan inoperativos. De nuevo, toca esperar hasta que el problema sea resuelto por los ingenieros de Cloudflare.
El orgullo de OpenAI es otro de los elementos que están sufriendo fuerte la caída de cloudflare. Va y viene, al igual que el resto de webs, pero si quieres una búsqueda concreta quizá este no sea el mejor momento para utilizarla. Como siempre: tira de paciencia y consula páginas como esta para saber si ya ha vuelto.
El presidente Nayib Bukele presentó “Doctor SV”, el nuevo sistema de atención médica digital que funcionará las 24 horas del día y los siete días de la semana. La aplicación, desarrollada con apoyo de Google Cloud y el Banco de Desarrollo de América Latina y el Caribe (CAF), ofrecerá consultas por videollamada con médicos y diagnósticos asistidos por Inteligencia Artificial (IA).
Doctor SV permitirá al paciente comunicarse con un médico en tiempo real, recibir un diagnóstico en minutos y gestionar medicamentos mediante códigos QR que podrán utilizarse en la red hospitalaria pública. Además, la plataforma integrará exámenes de laboratorio y contará con un sistema de retroalimentación para evaluar la atención recibida.
La aplicación incluirá el modelo Gemini de Google, entrenado con bases de datos médicas, lo que permitirá aumentar la precisión diagnóstica. Según Guy Nae, director de Google Cloud para el sector público en América Latina, el sistema supera el 90 % de asertividad cuando el personal médico es asistido por IA.
En su primera fase, Doctor SV estará disponible para personas de 18 a 30 años, con una ampliación gradual al resto de la población. El proyecto busca garantizar equidad en el acceso a servicios de salud avanzados y gratuitos, sin importar el lugar de residencia, destacó Pablo Bartol, del CAF.
Especialistas como la epidemióloga Stella Aslibekyan señalaron que la herramienta se sustenta en una base de datos robusta que respalda la confiabilidad de los diagnósticos y posiciona al país entre los referentes regionales en el uso de IA para la atención médica.
