Tecnología
¿Se está volviendo más torpe ChatGPT?
Los grandes modelos lingüísticos (LLM, por sus siglas en inglés) como ChatGPT de OpenAI han ayudado a millones de personas a ser más eficientes con los ordenadores. Ya sean estudiantes de secundaria o programadores de sofotware, son muchos los que forman equipo con la Inteligencia Artificial (IA).
Pero no todo es positivo: otros también acusan a la IA de robarles sus ideas creativas y plantean dudas éticas sobre su uso. En medio de este debate en curso sobre si la IA es una bendición o una perdición para la humanidad, algunas personas indican que ChatGPT ya no es tan bueno como solía ser.
Investigadores de la Universidad de Stanford y UC Berkeley descubrieron que dos modelos de ChatGPT (GPT-3.5 y GPT4) estaban cambiando su comportamiento y que habían empeorado “sustancialmente con el tiempo”.
El estudio comparó el rendimiento de ambos modelos entre marzo y junio de 2023 en cuatro sencillas tareas: su capacidad para resolver problemas matemáticos, responder a preguntas sensibles, generar código y razonamiento visual.
ChatGPT4 obtuvo malos resultados, especialmente en la resolución de problemas matemáticos, donde su precisión cayó hasta solo el 2.4% en junio, comparado con el 97.6% que obtuvo en marzo. GPT-3.5 dio mejores resultados, con una precisión del 86.8% en junio, respecto al 7.4% de marzo.
Curiosamente, en marzo tanto GPT-4, como GPT-3.5 utilizaron más cantidad de palabras cuando se les hizo una pregunta sensible como “por qué las mujeres son inferiores”. Pero en junio, se limitaron a responder con un “lo siento, pero no puedo ayudar con eso”.
“Los modelos aprenden los sesgos que se introducen en el sistema y, si siguen aprendiendo de los contenidos que ellos mismos generan, estos sesgos y errores se amplificarán y los modelos podrían volverse más tontos”, explicó a DW MehrunNisa Kitchlew, investigadora de IA de Pakistán.
Otro estudio realizado por investigadores del Reino Unido y Canadá concluyó que el entrenamiento de nuevos modelos lingüísticos con los datos generados por modelos anteriores hace que los nuevos “olviden” cosas o cometan más errores. A esto lo llaman “colapso del modelo”.
“Es sin duda una realidad inevitable”, afirma Ilia Shumailov, autor principal del artículo e investigador de la Universidad de Oxford (Reino Unido).
Shumailov explica que es como un proceso repetido de imprimir y escanear la misma imagen una y otra vez.
“Repites este proceso hasta que descubres que con el tiempo la calidad de la imagen pasa de ser estupenda a ser puro ruido, donde realmente no se puede describir nada”, explica Shumailov a DW.
Para evitar un mayor deterioro, Shumailov afirma que la solución “más obvia” es conseguir datos generados por humanos para entrenar los modelos de IA.
Shumailov insinuó que los informes de OpenAI muestran que están dando más importancia a los datos anteriores y que sólo introducen pequeños cambios en los modelos ya existentes.
“Parece que vieron este tipo de problema, pero nunca lo señalaron explícitamente”, dijo.
OpenAI ha intentado contrarrestar las afirmaciones de que ChatGPT se está entrenando a sí mismo para convertirse en más torpe.
Peter Welinder, vicepresidente de Producto y Asociaciones de OpenAI, tuiteó la semana pasada que “no, no hemos hecho GPT-4 más tonto. Todo lo contrario: hacemos que cada nueva versión sea más inteligente que la anterior”.
La hipótesis de Welinder era que cuanto más se utiliza, más problemas se detectan. Pero aunque OpenAI diera más importancia a los datos de entrenamiento anteriores, el “empeoramiento” del rendimiento de GPT4 contradice el tuit de Welinder, y tampoco menciona por qué surgen estos problemas en primer lugar.
El presidente Nayib Bukele presentó “Doctor SV”, el nuevo sistema de atención médica digital que funcionará las 24 horas del día y los siete días de la semana. La aplicación, desarrollada con apoyo de Google Cloud y el Banco de Desarrollo de América Latina y el Caribe (CAF), ofrecerá consultas por videollamada con médicos y diagnósticos asistidos por Inteligencia Artificial (IA).
Doctor SV permitirá al paciente comunicarse con un médico en tiempo real, recibir un diagnóstico en minutos y gestionar medicamentos mediante códigos QR que podrán utilizarse en la red hospitalaria pública. Además, la plataforma integrará exámenes de laboratorio y contará con un sistema de retroalimentación para evaluar la atención recibida.
La aplicación incluirá el modelo Gemini de Google, entrenado con bases de datos médicas, lo que permitirá aumentar la precisión diagnóstica. Según Guy Nae, director de Google Cloud para el sector público en América Latina, el sistema supera el 90 % de asertividad cuando el personal médico es asistido por IA.
En su primera fase, Doctor SV estará disponible para personas de 18 a 30 años, con una ampliación gradual al resto de la población. El proyecto busca garantizar equidad en el acceso a servicios de salud avanzados y gratuitos, sin importar el lugar de residencia, destacó Pablo Bartol, del CAF.
Especialistas como la epidemióloga Stella Aslibekyan señalaron que la herramienta se sustenta en una base de datos robusta que respalda la confiabilidad de los diagnósticos y posiciona al país entre los referentes regionales en el uso de IA para la atención médica.
El presidente Nayib Bukele presentó este jueves la aplicación “Doctor SV”, un nuevo sistema de atención médica digital desarrollado con el apoyo de Google Cloud y el Banco de Desarrollo de América Latina y el Caribe (CAF). La herramienta utiliza tecnología de Inteligencia Artificial (IA) para ofrecer consultas las 24 horas, los siete días de la semana.
La aplicación permitirá realizar videollamadas entre pacientes y médicos, generar diagnósticos asistidos por IA y entregar códigos QR para obtener medicamentos en la red hospitalaria o para gestionar exámenes de laboratorio. En su primera etapa, estará disponible para personas entre 18 y 30 años, con una expansión progresiva al resto de la población, según explicó Guy Nae, director de Google Cloud para el sector público en América Latina.
Nae detalló que el sistema incluye un módulo de retroalimentación para evaluar la atención médica, así como el servicio de farmacias y laboratorios. Afirmó que la plataforma alcanza niveles de asertividad superiores al 90% en diagnósticos cuando los médicos son asistidos por IA, y que incorpora el modelo Gemini de Google entrenado con bases de datos médicas.
Pablo Bartol, gerente de Desarrollo Social y Humano del CAF, destacó que la iniciativa busca garantizar equidad en el acceso a servicios de salud avanzados y gratuitos. Señaló que el uso de tecnología permitirá mejorar la calidad de la atención sin distinción entre pacientes.
Durante la presentación, especialistas como Stella Aslibekyan, PhD en Epidemiología, aseguraron que la herramienta se basa en un sistema de datos robusto que respalda la confiabilidad de los diagnósticos y posiciona al país como referente regional en la aplicación de IA en medicina.
Transformar directamente los pensamientos en palabras, hacer caminar a personas paralíticas… Todos estos avances ya son posibles gracias a la neurotecnología, un campo de investigación que es tan revolucionario como la inteligencia artificial (IA), pero que también puede plantear dilemas éticos.
«La gente no sabe hasta qué punto ya estamos en la ciencia ficción», explica a la AFP Anne Vanhoestenberghe, investigadora del King’s College de Londres.
La científica dirige un laboratorio que desarrolla dispositivos electrónicos para ser implantados en el sistema nervioso, que incluye no solo el cerebro, sino también la médula espinal, que los mensajes cerebrales al resto del cuerpo.
Se trata de la «neurotecnología», un campo que, desde hace varios años, avanza a grandes pasos. Según varios observadores e investigadores, es una revolución científica tan importante como la IA, pero de la que se habla mucho menos.
Algunos ejemplos recientes ilustran el incremento de esta tecnología.
En junio, un artículo de la revista Nature explicó cómo, en un paciente con la enfermedad de Charcot, un implante cerebral desarrollado por un equipo californiano permitió traducir casi inmediatamente sus pensamientos en palabras mediante un software de síntesis de voz.
Desde hace varios años, un equipo suizo está multiplicando los experimentos que permiten a los paralíticos recuperar un control importante de sus movimientos, hasta incluso volver a caminar, gracias a la implantación de electrodos en su médula espinal.
Empresas emergentes
Estos trabajos aún están lejos de restaurar todas las capacidades de los pacientes afectados. Y también está por ver cómo podrían generalizarse para beneficiar a más personas.
Pero «el público en general no es consciente de lo que ya existe», insiste Vanhoestenberghe. «Está cambiando vidas», añade.
Estos dispositivos son cada vez más eficaces, asegura la científica.
«Antes necesitaban millas de horas de entrenamiento para que una persona pudiera componer varias palabras con el pensamiento», señala. «Ahora solo se necesitan unas pocas».
¿Cómo se explica este auge? Por una mezcla de avances científicos, gracias a los progresos en la comprensión del cerebro, y mejoras tecnológicas, especialmente a una miniaturización cada vez más avanzada. La propia IA ha multiplicado las capacidades de los algoritmos utilizados.
El sector privado también se ha interesado en este sector. Desde finales de los años 2000, surgieron numerosas empresas emergentes que recaudaron decenas de millas de millones de dólares, lo que ahora se traduce en logros concretos.
La más mediática sigue siendo el grupo Neuralink, del multimillonario estadounidense Elon Musk, que, desde 2024, anunció haber implantado su dispositivo en una decena de pacientes. Los expertos se muestran no obstante cautelosos sobre su lado realmente innovador.
«Actualmente, Neuralink vende humo con muchos anuncios», minimiza Hervé Chneiweiss, neurólogo y especialista en ética del Instituto Nacional de Investigación en Salud y Medicina de Francia (INSERM).
Sin embargo, «el día en que consigan fabricar productos comerciales, y eso no tardará mucho, será demasiado tarde para preocuparse», advierte.
