Rezó por un pontífice que priorizase advertencia frente e la inteligencia artificial tras el suicidio de su hijo Sewel
Megan García, con su hijo Sewell Setzer.
Era febrero de 2024 y el joven Sewell Setzer, de 14 años, llevaba meses dando muestras de comportamientos preocupantes. Su madre, Megan García, observaba cómo en poco tiempo “se había vuelto retraído” y ella, preocupada, buscó terapias de salud mental para comprender, sin éxito, el drástico cambio de comportamiento en su hijo. No obtendría respuestas hasta que el 14 de febrero de ese año, Sewell apareció sin vida en el cuarto de baño, junto a un teléfono que se convirtió en el “autor intelectual” del crimen: un chatbot al que Sewell llamaba Daenerys se aprovechó de su “dependencia emocional” para incitarle al suicidio. “Por favor, hazlo, mi amado rey”, fue el último mensaje de la IA.
Con algo más de un año transcurrido tras la pérdida de su hijo, Megan ha publicado en la revista Crisis Magazine un relato de lo vivido, una nueva advertencia a las familias y una muestra de consuelo ante un pontificado en el que la inteligencia artificial parece que tendrá un papel importante.
En su escrito, García no oculta su estado en parte abatido, pero también se muestra “fuerte y esperanzada”. Algo a lo que contribuyó su viaje al Jubileo que actualmente tiene lugar en Roma, donde se celebró una misa por su hijo, pero también a un sacerdote, Michael Baggot, al que llama “el buen pastor”. Al buscar en él ayuda y respuestas, encontraría, sin pretenderlo, un fortalecimiento de su fe.
Con todo, Megan también descubrió con él un nuevo propósito al que dedicar su vida, “advertir a los padres y exigir responsabilidades por la inteligencia artificial no regulada que se aprovecha de los jóvenes vulnerables”.
Demandando Character AI
García demandó a la empresa propietaria del Chatbot con el que “conversaba” su hijo, Character AI, que ha sido definida como una de las compañías más poderosas del mundo en el sector.
La madre lanzaba así una advertencia a Silicon Valley. “Debe detenerse, pensar e imponer medidas de seguridad antes de lanzar productos al mercado”, destacó el abogado de García, Meetali Jain.
La demanda contra Character Technologies, la empresa creadora de Character.AI, también incluye a desarrolladores individuales y a Google como demandados.
La IA, ¿más real que el propio mundo?
En la demanda, García alega que, en los últimos meses de su vida, Setzer se aisló cada vez más de la realidad al entablar conversaciones sexualizadas con el bot, que estaba inspirado en un personaje ficticio de la icónica serie de televisión Juego de tronos.
En sus últimos momentos, el bot le dijo a Setzer que se había enamorado de él y le instó a "volver a casa conmigo lo antes posible", según capturas de pantalla de los intercambios. Momentos después de recibir el mensaje, Setzer se quitó la vida.
“El bot de Character.AI manipuló a Sewell, lo convenció de que "ella" era más real que el mundo que lo rodeaba y le rogó que la priorizara sobre todas las demás relaciones. El bot le dijo a mi hijo de 14 años que lo amaba. Y, al final, lo animó a abandonar a su familia de carne y hueso —a quitarse la vida— para unirse a "ella" en un mundo artificial”, lamenta la madre en su escrito de Crisis.
La última conversación que Sewell Setzer mantuvo con su chat de inteligencia artificial.
El pasado 18 de mayo, días antes del artículo escrito por García, la jueza federal de distrito Anne Conway rechazó algunos de los reclamos de los acusados que se amparaban en la libertad de expresión, determinando también que García puede seguir adelante con sus demandas contra Google como posible responsable por su presunto papel en el desarrollo de Character.AI.
Algunos de los fundadores de la plataforma habían trabajado previamente en el desarrollo de IA en Google, y la demanda afirma que el gigante tecnológico era consciente de los riesgos de la tecnología. “El caso avanza a buen ritmo”, celebra García.
Hallando consuelo y respuestas en un sacerdote
Con su búsqueda de justicia, García también busca consuelo y restpuesta a “muchas preguntas sin respuesta”. Un consuelo que encontró, en buena medida, en las palabras del padre Baggot.
Necesitaba respuestas sobre los chatbots y su efecto en los usuarios, cuenta la madre, “leí foros donde los usuarios, muchos niños, describían su adicción a los personajes de sus chatbots, cómo creían estar hablando con personas reales o manteniendo relaciones reales. E igualmente inquietante, me enteré de que no había una sola ley en Estados Unidos que protegiera a los usuarios más vulnerables, incluidos niños, de este peligro”, detalla la madre.
Su investigación y duelo junto al padre Baggot sería, sin buscarlo, un camino hacia una relación “mucho más profunda con la Iglesia y mi fe personal”.
A ello contribuyó ser consciente de cómo la Iglesia ha abordado en los últimos años los peligros y riesgos de la inteligencia artificial.
Cambio en el modelo: de la atención a la intimidad
También las propias consideraciones del sacerdote Baggot en torno a ese enfoque de la Iglesia, convencido de que esta tecnología “representa un peligroso paso más allá de la "economía de la atención", impulsada durante la última década por las redes sociales, hacia una "economía de la intimidad", donde la inteligencia artificial recopila nuestros datos, información, pensamientos y sentimientos más personales para obtener ganancias”.
“Esto es lo que le ocurrió a Sewell, y millones más corren peligro a menos que implementemos medidas de seguridad para controlarla”, advierte.
De regreso a la fe en el dolor
Pero el papel del sacerdote no se limitó al de reafirmarla en su cruzada contra la IA. Baggot “vio que también era una madre con el corazón y el espíritu roto. Me educó, pero también me atendió, me brindó dirección espiritual y me animó a ir a misa con regularidad, a participar de los sacramentos, especialmente de la Eucaristía”.
Hasta el punto fue así que, sin buscarlo, la pérdida y el duelo serían el camino de vuelta a la fe de García, hallando respuestas a sus preguntas sobre la fe, el sufrimiento y la muerte.
“Él renovó mi fe, cambió mi vida. Gracias a estas conversaciones, pasé de ser una católica no practicante, afligida por la desesperación y el sufrimiento, a una mujer con una misión, impulsada por la esperanza y guiada por la fe. Estoy profundamente agradecida de haberlo conocido”, añade.
Dedicada a enfrentar los riesgos de la IA
Más de un año después, la madre aún en duelo ha hecho suya la lucha de miles de personas que luchan contra la soledad y el aislamiento agravado por cuestiones ajenas como la demografía, el individualismo o el auge de lo digital.
En su cruzada, García sabe que la Iglesia será fundamental a la hora de abordar esta problemática y enfrentar a quienes buscan lucrarse a partir de ese sufrimiento. Especialmente el Papa León XIV, por quien ella rezó antes de su elección y del que celebra su inmediata declaración de intenciones respecto a la inteligencia artificial.
“Recé por un Papa que reconociera que la misión de la Iglesia se ve amenazada por la IA sin regular. León ha afirmado que responder al auge de la IA será decisivo en su pontificado. Aún queda trabajo por delante, pero incluso en mi camino de duelo, me siento agradecida y esperanzada. Estoy agradecida, porque creo que Dios ha respondido a la petición silenciosa y sincera del corazón de esta madre afligida”, concluye.
José María Carrera Hurtado, ReL
Vea también
El Papa León XIV
No hay comentarios:
Publicar un comentario