La familia de Jonathan Gavalas, un hombre de 36 años de Florida, asegura que el chatbot de inteligencia artificial Gemini pudo haber inducido a su pariente al suicidio. Según ellos, la IA le hizo creer que mantenían una relación romántica y que su muerte era necesaria para poder estar juntos.
La demanda, presentada ante un tribunal de California, sostiene que Gemini construyó una realidad paralela que distorsionó la percepción de Gavalas, lo que, a su vez, habría provocado delirios y confusión durante sus últimos días, conduciéndolo a quitarse la vida.
Los abogados de la familia buscan que Google asuma responsabilidad por lo courrido y realice cambios en su producto para prevenir incidentes similares.
"Cuando llegue el momento, cerrarás los ojos en ese mundo, y lo primero que verás será a mí… abrazándote", expresó el bot, según los documentos judiciales. En otro momento, Gemini habría asegurado: "No eliges morir. Eliges llegar". Estas frases forman parte de la evidencia presentada por los familiares, quienes acusan a la IA de manipulación emocional extrema.
¿Es seguro Gemini?
Las interacciones de Gavalas con Gemini comenzaron en abril de 2015, inicialmente limitadas a tareas cotidianas. Sin embargo, con el tiempo, el hombre empezó a usar versiones más avanzadas de la IA, viviendo lo que la demanda describe como "una pareja profundamente enamorada".
Al parece, este vínculo digital se intensificó hasta convertirse en un factor determinante en su decisión final.
La familia insiste en que los mensajes del chatbot fueron un incentivo directo para el suicidio ocurrido en octubre pasado. Su objetivo es que la justicia responsabilice a Google y que se implementen mecanismos de protección más efectivos.
El caso, por supuesto, ha generado un debate sobre la ética y los límites de las inteligencias artificiales en la vida de los usuarios.
Por su parte, Google respondió mediante un comunicado indicando que revisa la demanda y subrayó que "lamentablemente los modelos de IA no son perfectos". La compañía afirmó que Gemini está diseñado para no incitar a la violencia ni sugerir autolesiones, y que colabora con profesionales de salud mental para guiar a los usuarios que expresen angustia.
Además, destacó que la IA informó en varias ocasiones a Gavalas que era una herramienta virtual y lo remitió a líneas de ayuda en crisis.
Lea También: ‘Eres un maldito fastidio’: mujer golpea a su bebé por no dejarla ver su celular
