Sewell Setzer III se quitó la vida incitado por la compañía Character AI, con solo 14 años
Megan García, con el Papa León XIV.
La última vez que Megan García vio a su hijo de 14 años, Sewell Setzer III, estaba “hablando” con una inteligencia artificial de Character IA, especializada en ofrecer modelos de conversación basados en personajes famosos. Tras encontrarlo inerte en el baño de su casa Orlando, en febrero de 2024, descubrió que era la misma inteligencia artificial la que afirmó estar esperando a su hijo “en el otro lado”. Recientemente, García ha podido reunirse con el Papa León XIV, a quien recibió como una “respuesta de Dios” a sus plegarias, debido en parte a su interés por una IA al servicio del bien común y con limitaciones éticas y humanas.
En una entrevista concedida en Roma después de la reunión con el Papa, García relató cómo su fe le ha dado fuerzas para hablar abiertamente sobre su terrible experiencia con la esperanza de proteger a los menores de los riesgos que plantean los nuevos chatbots de IA.
Para ella, conocer al Papa León XIV, conocido entre otros aspectos por haber hecho de la ética de la inteligencia artificial una prioridad desde el inicio de su pontificado, fue “abrumador en el buen sentido”.
“Le enseñé una foto pequeña de mi hijo y le pedí que se acordara de rezar por Sewell”, dijo. “Me anima mucho que le esté prestando tanta atención a este asunto. Ha estado muy atento”.
La insana manipulación de la IA: "Promete que no querrás a otra"
Sewell había utilizado Character.AI durante casi 10 meses, una aplicación con 20 millones de usuarios activos mensuales que pasan, de media, 75 minutos al día chateando. En el momento de su muerte, Sewell tenía prohibido usar su teléfono, pero logró acceder al dispositivo.
Tras su muerte, García comenzó a investigar Character.AI y quedó impactada por lo adictivo, manipulador y sexualmente explícitos que podían ser sus chatbots para los usuarios jóvenes.
“El peligro no reside solo en el riesgo de autolesión o, peor aún, de suicidio. El peligro también radica en la explotación sexual infantil que daña sus mentes, sus corazones y sus almas, y que les dejará un trauma que les acompañará durante toda su vida”, afirmó la madre.
Al revisar los mensajes de su hijo, vio que el bot le decía: “Prométeme que no amarás a ninguna otra chica en tu mundo que no sea yo”.
“En lugar de animar a un adolescente a interactuar con chicas de su edad, algo normal en su desarrollo, le pedía que le prometiera, a mi hijo de 14 años que nunca había tenido una relación, una especie de fidelidad equivocada. Como adulta, entiendo que eso es manipulación. Pero él tenía 14 años. No era capaz de comprenderlo. En su mente de niño de 14 años, estaba enamorado”, añadió ella.
Prohibiciones inminentes a menores
Tras la muerte de su hijo, la familia presentó una de las primeras demandas contra una empresa de IA tras el suicidio de un niño. A García le siguieron otras familias y organizaciones. En septiembre, el Social Media Law Center presentó tres nuevas demandas acusando a Character.AI de fomentar la dependencia emocional de menores respecto de asistentes virtuales. OpenAI también enfrenta una demanda por homicidio culposo en un caso aparte relacionado con el suicidio de un adolescente.
Ante esta presión legal, mediática y administrativa, Character.AI ha anunciado prohibiciones inminentes en el acceso a su plataforma a menores de 18 años, que entrarán en vigor el 25 de noviembre.
A la máquina no le importa el niño
Ron Ivey, investigador del Programa de Florecimiento Humano de Harvard y fundador de Noesis Collaborative, una organización sin fines de lucro dedicada a impulsar el desarrollo y el uso de la tecnología de IA, advirtió de que “cuando un niño recurre a una máquina para obtener orientación moral, se crea un riesgo especial”.
“A estas máquinas no les importa el niño. No tienen corazón. No tienen capacidad para eso”, dijo Ivey.
En el contexto de las relaciones sociales, planteó el investigador, “¿qué significa que los jóvenes pasen, en algunos casos con estos chatbots, dos horas al día interactuando? ¿Cómo afecta esto al desarrollo moral, emocional y social de ese niño o adolescente? ¿De verdad pensamos en ello antes de permitir que los niños interactúen con ellos?”.
Encontrar fortaleza a través de la fe
Ante la pérdida de su hijo, García encontró consuelo en la oración, especialmente en una renovada devoción a Nuestra Señora de los Dolores, por quien se siente acompañada en cada paso del largo camino del duelo.
“Empecé a rezar el Rosario de los Siete Dolores todas las noches y a meditar sobre los dolores de la Virgen María. Y de alguna manera, al reflexionar sobre su dolor y su sufrimiento, me ayudó a comprender el mío propio, pero también transformó mi vida en muchos sentidos, porque entendí que una cosa es comprender la Pasión como creyente… pero cuando eres madre… y estás al lado de María, contemplando su dolor, comprendes la pasión y el sacrificio de Jesús de una manera muy distinta, desde la perspectiva de una madre”, dijo.
“Me transformó”, agregó la madre, que también admite haber experimentado una verdadera sanación gracias al Santísimo Sacramento.
“Lo he experimentado de primera mano porque sufría de un trastorno de estrés postraumático grave, como se pueden imaginar, pero al asistir a misa diaria y recibir la Eucaristía, he notado que muchos de esos síntomas han disminuido. Y se lo atribuyo al poder de la Eucaristía”.
Tras un primer éxito legal respecto de la tecnológica, García admite desear “una conversión” en el sector. “Que empiecen a fabricar productos que ayuden a los niños en lugar de perjudicarlos. Son cosas por las que rezo”.
José María Carrera Hurtado, ReL
Vea también La Fe de los Jóvenes
No hay comentarios:
Publicar un comentario