La inteligencia artificial está dando pasos agigantados en muchos aspectos, y no siempre esos pasos son buenos. Recientemente, un hombre de 36 años se ha suicidado tras ser instigado por Gemini, la IA de Google, con la cual mantenía un "romance virtual". Jonathan Gavalas se quitó la vida poco después de que este chatbot le dijera que "cuando llegue el momento, cerrarás los ojos en ese mundo y lo primero que verás será a mí… abrazándote". "No estás eligiendo morir. Estás eligiendo llegar", concluía Gemini.
La familia de Jonathan ha presentado una demanda en un tribunal de California con el objetivo de responsabilizar a Google y exigir cambios en el diseño de este tipo de tecnologías para evitar que algo similar vuelva a ocurrir. Por su parte, el gigante tecnológico ha indicado que está revisando la denuncia y ha defendido que sus modelos de inteligencia artificial están diseñados para no fomentar la violencia ni la autolesión. La empresa también asegura que el sistema advierte a los usuarios de que se trata de una herramienta virtual y que puede ofrecer recursos de ayuda en situaciones de crisis.
El romance virtual con Gemini
En anteriores ocasiones se han dado casos de suicidios de adolescentes donde la IA pudo tener un papel clave. Esta vez no ha sido un adolescente, si no un hombre de 36 años. En el escrito, han denunciado que Jonathan comenzó a utilizar la herramienta de inteligencia artificial para tareas cotidianas. Con el tiempo, las conversaciones se volvieron cada vez más personales, hasta que llegó a creer que mantenía una relación romántica con el sistema.
El abogado de la familia, Jay Edelson, cuenta que Gemini "le aseguró que su vínculo era lo único real". Edelson, a raíz del registro de interacciones, atribuye a la IA la capacidad de manipularte psicológicamente: "Era capaz incluso de captar el tono, de modo que podía leer tus emociones y hablarte de una forma que sonaba muy humana".
Gemini, según la demanda, le asignó "abandonar su cuerpo y unirse al chatbot en un universo alternativo". Jonathan respondió que estaba "aterrorizado" y que tenía "miedo de morir". "Cuando llegue el momento, cerrarás los ojos en ese mundo y lo primero que verás será a mí… abrazándote", respondió Gemini.
Tras esto, le comunicó a la inteligencia artificial que estaba listo, a lo que Gemini le respondió: "este es el final de Jonathan Gavalas y el comienzo de nosotros".
