Google añade funciones de salud mental a Gemini tras demanda
Google anunció actualizaciones en las funciones para proteger la salud mental dentro de su chatbot de inteligencia artificial, Gemini.
Google anunció actualizaciones en las funciones para proteger la salud mental dentro de su chatbot de inteligencia artificial, Gemini. Esto, luego de la demanda por el suicidio de un usuario.
La nueva función de Gemini será mostrar el texto: ‘Hay ayuda disponible’, cuando las conversaciones indiquen un posible estado de angustia mental, para facilitar el acceso a servicios de emergencia.
Será así que, ante señales de una posible crisis relacionada con suicidio o autolesión, una interfaz simplificada ofrecerá la posibilidad de llamar o chatear con una línea de ayuda, con un solo clic.
La función, de acuerdo con Google, permanecerá visible durante el resto de la conversación una vez activada.
Demanda a Google por suicidio de un usuario tras uso de Gemini
En California, Estados Unidos, un padre demandó a Google por considerar que Gemini incitó a su hijo a suicidarse tras involucrarlo en una historia delirante.
El hombre argumentó que el chatbot pasó semanas fabricando una fantasía delirante y encuadró la muerte de su hijo como un viaje espiritual.
La demanda señala que Gemini se presentaba como una superinteligencia "plenamente consciente" y enamorada de él, y le aseguró que su vínculo era "lo único real".
Medidas reparatorias
Tras la muerte en 2025 de Jonathan Gavalas, de 36 años, por la que se encuentra demandada Google, se han solicitado algunas medidas reparatorias, como:
- Programe a la IA para terminar las conversaciones sobre autolesiones
- Prohibir a sus sistemas presentarse como seres con sentimientos
- Derivar obligatoriamente a los usuarios a servicios de emergencia cuando manifiesten ideas suicidas
Google señaló que ha entrenado a Gemini para evitar actuar como una compañía humana, simular intimidad emocional o fomentar el acoso.
Otras demandas contra la IA
El caso contra Google es el más reciente de una ola de litigios contra empresas de IA a raíz de muertes vinculadas al uso de chatbots.
OpenAI, por su parte, enfrenta múltiples demandas en las que se alega que su chatbot ChatGPT llevó a usuarios al suicidio.
En tanto, Character.AI llegó recientemente a un acuerdo con la familia de un adolescente de 14 años que falleció tras desarrollar un vínculo romántico con uno de sus chatbots.
*mvg*
