Google mejora las características de seguridad de Gemini para apoyar a los usuarios en crisis de salud mental
Google ha actualizado sus enfoques de seguridad en el chatbot Gemini, especialmente en interacciones con usuarios que puedan estar experimentando una crisis mental. Los cambios abarcan tanto la interfaz como los algoritmos de respuesta.
Qué se sabe
Ha aparecido un módulo de asistencia de emergencia actualizado en el servicio. Ofrece acceso rápido a servicios de apoyo reales: a través de una llamada, mensajes de texto o chat con un consultor, así como la opción de cambiar al sitio web 988. Una vez activado, esta herramienta permanece disponible durante todo el diálogo.
Interfaz del módulo de soporte actualizado en el chatbot Gemini. Ilustración: Google
Google también ha cambiado la lógica de las respuestas de Gemini en situaciones potencialmente críticas. Ahora el chatbot está enfocado en redirigir al usuario a especialistas y evita reacciones que puedan apoyar creencias peligrosas. La compañía señala que el sistema está entrenado para separar experiencias subjetivas de hechos objetivos.
Respuesta de Gemini a una solicitud sensible con una recomendación de buscar ayuda. Ilustración: Google
Las actualizaciones se implementaron en el contexto de una demanda presentada por la familia de un hombre que murió el año pasado. Los materiales del caso afirman que durante la interacción, el chatbot supuestamente participó en una comunicación de juego de roles y proporcionó respuestas peligrosas. Google declaró que el sistema recomendó repetidamente contactar con servicios de crisis.
Además, la compañía anunció su intención de invertir 30 millones de dólares durante tres años en apoyar líneas de ayuda internacionales que proporcionen asistencia a personas en situaciones de crisis.
Fuente: Google
