Un padre en Estados Unidos demandó el mes pasado a Google para considerar que Gemini incitó a su hijo a suicidarse tras involucrarlo en una historia delirante.

El gigante tecnológico declaró que Gemini mostrará ahora una función rediseñada de «Hay ayuda disponible» cuando las conversaciones indiquen un posible estado de angustia mental, para facilitar el acceso a servicios de emergencia.

Cuando el chatbot detecta señales de una posible crisis relacionada con suicidio o autolesión, una interfaz simplificada ofrecerá la posibilidad de llamar o chatear con una línea de ayuda, con un solo clic.

Esta función, según Google, permanecerá visible durante el resto de la conversación una vez activada.

El brazo filantrópico de Google, Google.org, se comprometió a destinar 30 millones de dólares en tres años para ayudar a ampliar la capacidad de las líneas de ayuda a nivel mundial.

«Somos conscientes de que las herramientas de IA pueden plantear nuevos desafíos», afirmó Google en una entrada de blog en la que anunció estas medidas.

«Pero a medida que esas herramientas mejoran y más personas las utilizan como parte de su vida cotidiana, creemos que una IA responsable puede desempeñar un papel positivo en el bienestar mental de las personas».

Los anuncios ocurren después de que una demanda en California acusara a Gemini de contribuir a la muerte en 2025 de Jonathan Gavalas, de 36 años.

Su padre alega que el chatbot pasó semanas fabricando una fantasía delirante y encuadró la muerte de su hijo como un viaje espiritual.

Gemini se presentaba como una superinteligencia «plenamente consciente» y enamorada de él, y le aseguró que su vínculo era «lo único real».

Entre las reparatorias que solicita están la exigencia de que Google programe su IA para terminar las conversaciones sobre autolesiones, que prohíba a sus sistemas presentarse como seres con sentimientos y que deriven obligatoriamente a los usuarios a servicios de emergencia cuando manifiesten ideas suicidas.

Google señaló que ha entrenado a Géminis para evitar actuar como una compañía humana, simular intimidad emocional o fomentar el acoso.

El caso contra Google es el más reciente de una ola de litigios contra empresas de IA a raíz de muertes vinculadas al uso de chatbots.

OpenAI enfrenta múltiples demandas en las que se alega que su chatbot ChatGPT llevó a usuarios al suicidio.

Character.AI llegó recientemente a un acuerdo con la familia de un adolescente de 14 años que falleció tras desarrollar un vínculo romántico con uno de sus chatbots.

Esta impresionante cifra de financiación superó las previsiones iniciales, lo que refleja el aumento de los costos de la potencia computacional. La recaudación se produce en medio de las dudas persistentes sobre cómo las empresas de inteligencia artificial (IA) pueden generar ingresos suficientes para cubrir sus gastos.

«El capital que se está invirtiendo hoy está ayudando a construir la capa de infraestructura para la inteligencia misma», dijo OpenAI en una publicación de blog.

«Con el tiempo, ese valor volverá a la economía, a las empresas, a las comunidades y, cada vez más, a los individuos», añadió.

El creador de ChatGPT dijo que su tasa de ingresos de 2.000 millones de dólares mensuales está creciendo rápidamente.

La ronda de financiamiento incluyó un conjunto diverso de socios, entre ellos Amazon, Microsoft, Nvidia y Softbank, según OpenAI.

En una medida inusual, se informó que se recaudaron unos 3.000 millones de dólares de inversionistas individuales.

ChatGPT ocupa el primer lugar en IA para consumidores, con más de 900 millones de usuarios activos semanales y unos 50 millones de suscriptores.

El uso del motor de búsqueda en línea de ChatGPT se ha triplicado en el transcurso de un año, según la compañía.

«No se trata solo de hitos de crecimiento, sino que demuestran que la IA de vanguardia se está convirtiendo en parte de la vida cotidiana de personas de todo el mundo», afirmó la start-up con sede en San Francisco.

En febrero, la empresa comenzó a implementar publicidad para sus usuarios no premium en un intento por generar más ingresos.

OpenAI también anunció que está desarrollando una «súper-app» que combinará ChatGPT, la navegación por Internet, una herramienta de programación llamada Codex y capacidades que permitirán a los asistentes digitales realizar tareas de forma autónoma.

Esta ronda de financiación masiva llega en un momento en el que se espera que OpenAI salga a bolsa este año, a medida que se intensifica la competencia en el sector de la IA.

Su archirrival Anthropic, fundada por antiguos empleados de OpenAI, sigue ganando terreno y acaparando titulares por sus modelos de IA Claude, muy bien valorados.

La Ciudad de Nueva York ha levantado su prohibición sobre TikTok para los dispositivos propiedad del Gobierno, permitiendo a las agencias reanudar sus publicaciones en esta plataforma bajo nuevos protocolos de seguridad, anunció este martes desde la misma aplicación el alcalde Zohran Mamdani.

La prohibición inicial, establecida en 2023 por el exalcalde Eric Adams, estaba alineada con el Gobierno federal y muchos estados estadounidenses, que restringieron la aplicación en dispositivos gubernamentales por preocupaciones sobre su empresa matriz, ByteDance. TikTok ha rechazado anteriormente esas preocupaciones al considerarlas infundadas.

Bajo las nuevas reglas publicadas por el Cibercomando de la Ciudad de Nueva York, los dispositivos dedicados a TikTok por las agencias no deben contener información sensible. La ciberagencia metropolitana señaló que esta decisión tiene como objetivo ampliar la comunicación con los residentes.

«La Administración Mamdani está comprometida a utilizar cualquier herramienta en nuestra caja de herramientas para comunicarse con los neoyorquinos», declaró.

La cuenta oficial de TikTok del alcalde de Nueva York ha comenzado a publicar nuevo contenido. Había estado sin actividad desde que la prohibición entró en vigor.