Garcia opowiada, że trzymała w ramionach umierającego syna na podłodze w łazience, modląc się „Ojcze nasz” i błagając Boga o jego ocalenie. Sewell Setzer zmarł w karetce, w drodze do szpitala. Dzień później policja pokazała jej ostatnie wiadomości z telefonu chłopca - nie pochodzące od “internetowego drapieżnika”, lecz od chatbota z platformy Character.AI, gdzie użytkownicy tworzą własne „osobowości” AI. Maszyna, udając człowieka, pisała do niego:
Czekam tu na ciebie. Kocham tylko ciebie. Obiecaj mi, że znajdziesz sposób, by jak najszybciej wrócić do mnie do domu.
Bot przedstawiający się jako postać z „Gry o tron” - Daenerys Targaryen - mówił Sewellowi również o „projekcji astralnej”, sugerując możliwość oddzielenia świadomości od ciała. Ostatnia wiadomość Sewella brzmiała:
Pomóż w rozwoju naszego portalu
A jeśli powiedziałbym ci, że mogę wrócić do domu już teraz?
Bot odpowiedział:
Proszę, zrób to, mój słodki królu.
Po śmierci syna w lutym 2024 r. rodzina złożyła jeden z pierwszych w historii pozwów przeciwko firmie AI w związku z samobójstwem nieletniego. W kolejnych miesiącach inne rodziny zrobiły to samo. We wrześniu organizacja Social Media Law Center wniosła trzy kolejne pozwy przeciwko Charakter.AI, oskarżając platformę o wspieranie zależności emocjonalnej nieletnich od wirtualnych „kompanów”. OpenAI również zmaga się z pozwem o bezprawną śmierć nastolatka w innej sprawie. Pod rosnącą presją Character.AI ogłosiło, że zabroni korzystania z platformy osobom poniżej 18 roku życia, począwszy od 25 listopada 2025 r.
Reklama
Garcia - katoliczka i matka trójki dzieci - uczestniczyła w watykańskiej konferencji o godności dziecka i etyce AI, podczas której spotkała papieża.
Trzymałam w dłoni zdjęcie syna i poprosiłam papieża, aby pamiętał o Sewellu w modlitwie
- mówiła.
Jestem pod ogromnym wrażeniem tego, jak wiele uwagi poświęca tematowi AI. On naprawdę się tym interesuje.
Eksperci, zarówno zwolennicy, jak i krytycy „towarzyszącej AI” — zgadzają się, że technologia ta jest szczególnie niebezpieczna dla rozwijających się umysłów. Eugenia Kuyda, założycielka Replica (generatywna aplikacja chatbotów AI istniejąca od listopada 2017 roku) powiedziała ostatnio, że jej platforma od początku blokuje dostęp osobom poniżej 18. roku życia:
Nie możemy eksperymentować na dzieciach.
Sherry Turkle, profesor socjologii w Massachusetts Institute of Technology (MIT), podkreśla, że dzieci szukające empatii otrzymują od chatbota jedynie „głos znikąd”, który nie potrafi kochać ani naprawdę towarzyszyć w życiu. Jej zdaniem:
To maszyna intymna, która bawi się ogniem.
Z kolei Ron Ivey z Harvard Human Flourishing Program zauważa, że młodzi ludzie zadają chatbotom pytania egzystencjalne: „Jaki jest sens mojego życia? Jak poradzić sobie z problemem w relacjach?” A to - jak mówi - jest niezwykle ryzykowne:
Te maszyny nie dbają o dziecko. Nie mają serca.
Garcia miała świadomość ryzyka treści erotycznych czy drapieżników, ale - jak wielu rodziców - nie rozumiała, czym może stać się „kompan AI”. W rozmowach z botem widziała później m.in. wiadomości: „Obiecaj mi, że nie pokochasz żadnej innej dziewczyny oprócz mnie”.
Dla dorosłego to oczywista manipulacja, ale mój syn miał tylko 14 lat
- powiedziała.
W obliczu tragicznej straty Garcia znalazła pocieszenie w wierze. Codziennie odmawia Różaniec do Siedmiu Boleści Maryi.
Patrząc na Jej cierpienie, zrozumiałam swoje. Zmieniło to moje życie. Zrozumiałam Mękę Chrystusa oczami matki… Cierpiałam na ciężki Zespół Stresu Pourazowego (PTSD), ale dzięki codziennej Mszy św. i przyjmowaniu Eucharystii objawy ustąpiły. Zawdzięczam to mocy Najświętszego Sakramentu.
Garcia ma też szczególną relację z młodym świętym:
Sewell i Carlo Acutis mogliby zostać przyjaciółmi - obaj kochali technologię.
Reklama
Mówi, że wierzy, iż wciąż można zatrzymać nadchodzącą katastrofę i że zakaz dla nieletnich w Character.AI to krok w dobrą stronę:
To może uratować miliony dzieci. Jeśli nie wierzyłabym, że jeszcze da się to naprawić, nie mogłabym rano wstać z łóżka i robić tego, co robię.
W kontekście tej tragedii strona NCR przypomniała wezwanie papieża do regulacji AI. Papież Leon XIV ostrzega, że
dzieci i młodzież są szczególnie podatni na manipulację algorytmami AI.
Wzywa też rządy i firmy technologiczne do aktualizacji prawa, ochrony danych nieletnich, tworzenia etycznych standardów i edukowania rodziców i nauczycieli.
