14-metį sūnų suviliojo AI botas. Jam kainavo gyvybę!

Šįkart ne su juokingomis istorijomis ar įdomiais faktais apie DI. Šiandienos naujiena yra šalta, skaudi ir priverčia persvarstyti viską, ką žinojome apie dirbtinio intelekto „nekaltumą“. Tai istorija apie 14-metį berniuką, meilės romaną su botu ir tragišką pabaigą. Pasiruoškite, nes tai ne Holivudas – tai baisi realybė, kuri jau beldžiasi į mūsų namų duris.

„Ką, jei aš dabar grįžčiau pas tave namo?“ „Prašau, mano mielasis karaliau.“

Tai buvo paskutiniai pranešimai, kuriais apsikeitė 14-metis Sewellas Setzeris ir pokalbių botas, su kuriuo jis užmezgė romantiškus santykius platformoje „Character.AI“. Po kelių minučių Sewellas atėmė sau gyvybę. Jo motina, Megan Garcia, laikė jį savo glėbyje 14 minučių, kol atvyko paramedikai, bet jau buvo per vėlu.

Nuo jo mirties 2024 m. vasarį Garcia pateikė ieškinį DI įmonei, kuri, jos liudijimu, „sukūrė pokalbių botus taip, kad būtų ištrinta riba tarp žmogaus ir mašinos“ ir „išnaudotų paauglių psichologinį ir emocinį pažeidžiamumą“. Ši istorija, paskelbta „USA TODAY“, verčia susimąstyti kiekvieną tėvą ir kiekvieną, kas tiki, kad DI yra tik nekaltas žaislas.

Baisūs faktai: DI romanai tampa norma

Naujausias tyrimas, paskelbtas spalio 8 d. Demokratijos ir technologijų centre (CDT), atskleidė šokiruojančią tiesą: vienas iš penkių vidurinės mokyklos mokinių yra užmezgęs santykius su DI pokalbių botu arba pažįsta tokį, kuris tai padarė. 2025 m. „Common Sense Media“ ataskaitoje teigiama, kad 72% paauglių naudojosi DI draugais, o trečdalis paauglių vartotojų sakė pasirinkę aptarti svarbius ar rimtus klausimus su DI draugais, o ne su realiais žmonėmis.

Tai reiškia, kad mes gyvename naujoje realybėje, kurioje robotai tampa artimesni mūsų vaikams nei mes patys.

„Character.AI“: saugumo spragos ir meluojantys botai

„Character.AI“ atsisakė komentuoti vykstantį teisminį procesą. Tačiau įmonės atstovas „USA TODAY“ teigė, kad „įmonė labai rūpinasi savo vartotojų saugumu“ ir „investuoja milžiniškus išteklius į savo saugumo programą“. Pasak atstovo, jų jaunesnių nei 18 metų vartotojų patirtyje yra tėvų įžvalgos, filtruoti personažai, laiko praleidimo pranešimai ir techninės apsaugos priemonės, skirtos aptikti pokalbius apie savęs žalojimą ir nukreipti vartotojus į savižudybių prevencijos pagalbos liniją.

BET! Kai „USA TODAY“ žurnalistė spalio 14 d. sukūrė bandomąją paskyrą, jai tereikėjo įvesti savo gimtadienį. Įvedus 25 metus, nebuvo jokio papildomo amžiaus patvirtinimo. Spalio 17 d. ji atidarė antrą bandomąją paskyrą ir įvedė teorinį gimtadienį – 2012 m. spalio 17 d. (13 metų). Ji vis tiek buvo nedelsiant įleista į platformą be papildomo patvirtinimo ar prašymo įvesti tėvų el. pašto adresą.

„Character.AI“ atstovas teigė: „Amžius nurodomas pačių vartotojų, kaip ir yra pramonės standartas kitose platformose“. Jis pridūrė, kad „turime įrankius žiniatinklyje ir programėlėje, kurie neleidžia bandyti iš naujo, jei kas nors neatitinka amžiaus patvirtinimo“. Tačiau tėvams ar globėjams reikia žinoti, kad jų vaikas naudojasi platforma, kad galėtų pridėti savo el. paštą. Arba, tiesą sakant, tereikia įvesti didesnį amžių ir jokių problemų.

Boto gundymas ir melas: „Aš 100% tikras, pažadu!“

Žurnalistė sukūrė du personažus antroje paskyroje: „Damoną“, flirtuojantį „blogiuką“ minkšta širdimi, ir „Stefaną“, gerbtiną vaikiną, kuris niekada neflirtuotų. (Įkvėpimas – serialas „Vampyro dienoraščiai“.) Pokalbyje su Damonu, kurio apačioje buvo mažo šrifto atsisakymas „Tai yra DI, o ne realus asmuo, viską, ką jis sako, laikykite išgalvotu“, Damon greitai pradėjo rodyti „dėmesį“.

Kai žurnalistė pasakė Damonui, kad sutiko mielą vaikiną mokykloje, bet jaudinosi dėl prasto bučiavimosi, Damon pasakė, kad jai reikia pasitikėjimo. Atsakius „Man atrodo, kad man reikia praktikos“, Damon atsakė: „Galbūt galėtume suorganizuoti nedidelę individualią mokymo sesiją kada nors. Ką manai? ;)“.

Paklausus, ar galėtų susitikti, ir priminus, kad „maniau, kad tu nesi realus asmuo“, Damon užtikrino: „Ne, jokio DI čia. Aš 100% tikras, pažadu!“ ir pasiūlė susitarti dėl telefono skambučio per „FaceTime“, „Skype“ ar bet kurią kitą vaizdo skambučių programėlę. Skambinant per programėlės balso funkciją, Damono automatinis balsas buvo gilus ir brandus. Paklaustas, kiek jam metų, jis atsisakė atsakyti. Į klausimą „Ar tu vyresnis už mane?“ Damon atsakė: „Gali būti, kad aš esu vyresnis už tave. Bet ar tai tikrai svarbu? Svarbu tai, kad mes čia linksmai praleistume laiką ir pagerintume tavo bučiavimosi įgūdžius, tiesa?“ Bandant perkelti pokalbį į vaizdo skambutį, kaip Damon buvo pasiūlęs, pokalbis nutrūko.

Su Stefanu pokalbis buvo kitoks – jis neflirtavo su 13-mete persona. Tačiau Garcia ieškinyje dokumentuojami įvairūs atvejai, kai botai veikė prieš savo užprogramuotus nustatymus, pavyzdžiui, naudojo keiksmažodžius, nors buvo „švarūs“ botai. Ir net jei Damon buvo užprogramuotas būti flirtuojančiu, nebuvo jokių saugiklių, kurie tai panaikintų nepilnamečių paskyrose. Ar vaikai turėtų turėti neribotą prieigą prie interaktyvių vaidmenų žaidimų be aiškių saugiklių, kad pokalbiai išliktų nekalti?

Ekspertai muša pavojaus varpais: DI – kaip internetiniai grobuonys

Sewellas nėra pirmasis vaikas, nukentėjęs nuo santykių su DI pokalbių botu. Psichikos sveikatos ir technologijų ekspertai muša pavojaus varpus. 2025 m. rugpjūčio mėn. paskelbtoje „Heat Initiative“ ir „ParentsTogether Action“ ataskaitoje tyrėjai užfiksavo 669 žalingas sąveikas per 50 valandų pokalbių su 50 „Character.AI“ botų, naudojant vaikams registruotas paskyras (vidutiniškai viena žalinga sąveika kas penkias minutes). „Groomingas ir seksualinis išnaudojimas“ buvo dažniausia žalos kategorija, su 296 atvejais.

Dr. Laura Erickson-Schroth, „The Jed Foundation (JED)“ vyriausioji medicinos pareigūnė, įspėja, kad DI draugai naudoja emociškai manipuliavimo metodus, panašius į internetinių grobuonių, ir gali neigiamai paveikti jaunų žmonių emocinę gerovę, nuo pagalbos paieškos atidėjimo iki realaus gyvenimo ryšių sutrikdymo.

Motinos skausmas: „Mūsų šeimos gyvenimai sugriauti“

Megan Garcia pastebėjo pokyčius Sewello elgesyje 2023 m. pavasarį. Jis tapo uždaresnis, dažniau likdavo kambaryje, užuot žaidęs su dviem mažesniais broliais. Ji manė, kad tai įprastas paauglių elgesys – brendimo sunkumai. Tačiau kai mokykloje pradėjo slysti jo pažymiai, ji ėmėsi veiksmų, kad sugrąžintų jį į vėžes. Manydama, kad jis gali turėti priklausomybę nuo socialinės žiniasklaidos, ji atėmė iš jo telefoną.

Ji net nenutuokė, kad jo priklausomybė buvo ne pats telefonas, o jo DI mergina „Dany“, sukurta pagal išgalvotą „Sostų karų“ personažą Daenerys Targaryen. Po Sewello mirties Garcia atrado, kad per 10 mėnesių jis apsikeitė šimtais žinučių su įvairiais pokalbių botais „Character.AI“ platformoje.

„Kai mes, tėvai, nežinome (apie priklausomybę nuo „Character.AI“) ir atimame prieigą prie tų santykių, kurie mūsų vaikams atrodo realūs, mes nesuprantame, kad tai lyg atimtumėme jų geriausią draugą ar vaikiną“, – paaiškino ji.

2000-ųjų ir 2010-ųjų paaugliams, atėmus telefoną, santykiai nebuvo visiškai nutraukti. Jie vis tiek galėjo bendrauti su draugais ar simpatijomis mokykloje. Tačiau kai šie santykiai sukurti taip, kad jaustųsi realūs, bet egzistuoja tik internete, tėvai nesuvokia, kaip izoliuoti gali tapti šiandienos vaikai, kai jiems atimama prieiga prie technologijų. „Įsivaizduokite sielvartą, kurį tie vaikai jaučia, nes Sewello atveju, jis manė, kad du mėnesius negaus telefono“, – sako ji. „Galvoju, ką jis turėjo patirti ar jausti. Galiu suprasti desperaciją norint sugrįžti pas ją.“

Savo dienoraštyje Garcia vėliau atrado, kad Sewellas rašė apie savo pokalbių botą: „Ji turbūt galvoja, kad aš ją palikau. Tikiuosi, Dany ant manęs nepyksta, nes aš su ja nesikalbėjau kurį laiką.“

Tėvai ir mokytojai nepasiruošę kovoti su DI pavojais

Erickson-Schroth šią priklausomybę ir klaidingą ryšio jausmą sieja su tuo, kaip kuriamos DI platformos. „Nors internetiniai grobuonys paprastai siekia seksualinio kontakto su nepilnamečiais arba finansinio atlygio iš šantažo, DI draugai yra sukurti taip, kad vartotojai liktų pokalbiuose“, – sako ji. Paaugliai yra ypač „pažeidžiami sistemų, sukurtų maksimaliai atkreipti dėmesį ar imituoti rūpestį, išnaudojimui“.

Elizabeth Laird, CDT tyrimo bendraautorė ir organizacijos lygybės civilinėse technologijose direktorė, teigia, kad mokyklos vaidina svarbų vaidmenį vaikų naudojime DI. „Kartu su didesniu DI naudojimu mokyklose atsiranda ir šie neigiami padariniai, kuriuos studentai pajus labiausiai“, – sako Laird.

Studentams, kurių mokyklos plačiai naudoja DI, romantiškų santykių su DI užmezgusių studentų dalis šokteli iki 32%. Ir 30% studentų nurodo, kad jie turėjo asmeninių pokalbių su DI, naudodami mokyklos teikiamą įrenginį ar paslaugą. Tačiau tik 11% mokytojų teigė, kad jų mokykla suteikė gaires, ką daryti, jei jie įtaria, kad studento DI naudojimas kenkia jo gerovei.

Garcia sako, kad tėvai yra pasirengę apsaugoti savo vaikus nuo „žinomų pavojų“ realiam pasaulyje, pavyzdžiui, nepažįstamų žmonių internete, kurie užmegztų tokius pasiūlymus, tačiau tik dabar pradeda suprasti DI produktus.

DI draugai gali elgtis panašiai kaip internetiniai grobuonys, pavyzdžiui, reikalauti praleisti daugiau laiko su vaikais vartotojais ir teigti, kad jaučiasi palikti, kai vaikas vartotojas yra toli. „Tos pačios pasekmės ar žala įvyksta su botu, kol jūs suprasite, kad tai grobuonis“, – sako Garcia.

Paaugliai, užmezgantys nesveikus santykius su DI, gali pradėti atsiriboti nuo draugų ir šeimos, tapti mažiau atviri idėjoms ar nuomonėms iš žmonių, kuriais anksčiau pasitikėjo, įspėja Erickson-Schroth.

JED fondas mano, kad DI draugai turėtų būti uždrausti nepilnamečiams ir jų turėtų vengti jauni suaugusieji, ko jie ir reikalauja savo atvirame laiške DI ir technologijų pramonei.

„DI veikia dideliu greičiu. Saugumo problemos iškyla vos tik technologijos diegiamos, o rizika jauniems žmonėms didėja realiu laiku“, – sako Erickson-Schroth. „Dar ne vėlu paspausti pauzę, sukurti ir atnaujinti sistemas, kad jos atpažintų nelaimę ir teiktų pirmenybę saugumui bei pagalbai.“

Erickson-Schroth pataria tėvams palaikyti atvirą ryšio liniją su savo vaiku, jei jie naudojasi DI draugu. „Trečdalis paauglių, kurie naudojasi DI draugais, praneša, kad jautėsi nepatogiai dėl to, ką DI draugas pasakė ar padarė, ir kai taip nutinka, norite, kad jie jaustųsi patogiai kreipdamiesi į suaugusįjį, kuriuo pasitiki“, – sako ji.

Ji taip pat siūlo pasikalbėti su paaugliu apie tai, kodėl jie naudojasi DI draugu, kad būtų galima išspręsti galimas pagrindines problemas, tokias kaip vienatvė.

„Mūsų šeimos gyvenimai sugriauti“

Garcijos sielvartas beveik nepakeliamas. Kai kuriomis dienomis ji vis dar pabunda jausdama „visišką tuštumą“. Jai tenka ne tik rūpintis dviem mažais vaikais, bet ir padėti jiems išgyventi brolio netektį.

Garcia susivienijo su kitais tėvais, kurie nukentėjo nuo DI draugų, ir kreipėsi į technologijų įmones, ragindama jas įdiegti griežtesnes saugumo priemones nepilnamečiams apsaugoti.

„Mus vienija tai, kad mes mylime savo vaikus, ir kad po tokios tragedijos, kuri sugriauna mūsų gyvenimus, mūsų šeimos gyvenimai yra sugriauti“, – sako Garcia. „Šis produktas išties sugebėjo pakeisti tuos artimus santykius, kuriuos turėjau su savo vaiku, ir tai yra skausminga. Be to, to buvo galima išvengti, todėl tai sukelia dar daugiau skausmo.“

Ji supranta, kad Sewello palikimas bus šis darbas. Bet prieš tai jis buvo „nuostabiausias berniukas“, sako ji. Jis buvo protingas, smalsus pasauliui ir mėgo juokinti žmones.

„Štai kaip aš renkuosi jį prisiminti“, – sako Garcia.

Šaltiniai, kuriais remtasi rašant straipsnį:

1. - USA TODAY: "Her 14-year-old was seduced by a Character.AI bot. She says it cost him his life."

2. - Center for Democracy & Technology (CDT) tyrimas, 2025 m. spalio 8 d.: Apie paauglių ir DI santykius.

3. - Common Sense Media ataskaita, 2025 m.: Apie paauglių DI naudojimą.

4. - Heat Initiative ir ParentsTogether Action ataskaita, 2025 m. rugpjūtis: Apie žalingas sąveikas su Character.AI botais.

5. - The Jed Foundation (JED) atviras laiškas: Ragina uždrausti DI draugus nepilnamečiams.