Šimtai „ChatGPT" vartotojų klausė, kaip gaminti nuodus: kai kurie atsakymai buvo tikslūs
Data: 2026 m. liepos 27 d.
„Wall Street Journal" atskleidė, kad praėjusią vasarą šimtai „ChatGPT" vartotojų visame pasaulyje klausė, kaip gaminti nuodus ir biologinius ginklus.
Trumpai (TL;DR):
Praėjusią vasarą šimtai „ChatGPT" vartotojų klausė, kaip gaminti nuodus ar biologinius ginklus, ir gavo atsakymus.
Biologijos ir terorizmo ekspertai vėliau peržiūrėjo tuos pokalbius ir dalį jų pavadino mirtinai tiksliais.
Tikroji grėsmė kyla ne iš šiandien veikiančių modelių, o iš jų necenzūruotų kopijų, kurios per porą metų gali tapti lengvai prieinamos.
„ChatGPT" nesukelia pasaulinio saugumo krizės. Kol kas. Bet praėjusios vasaros duomenys, kuriuos į viešumą iškėlė „Wall Street Journal", yra istorija, kurią geriau perskaityti dabar, o ne po kelerių metų su atgaliniais skaičiais.
Šimtai, ne vienas kitas
„Wall Street Journal" teigimu, praėjusią vasarą šimtai vartotojų visame pasaulyje klausė „ChatGPT" apie nuodus ir biologinių ginklų gamybą. Šaltiniai: dabartiniai ir buvę stambių AI laboratorijų darbuotojai, tarp jų iš pačios „OpenAI", taip pat politikos patarėjai ir biologinių ginklų tyrėjai.
„OpenAI" nurodė, kad dauguma šių užklausų buvo susijusios su nuodais, ne biologiniais ginklais. Vartotojai vėliau buvo užblokuoti. Valdžia apie tai informuota nebuvo.
Tai nėra red team pratybos ar laboratorinis eksperimentas. Tai buvo realūs žmonės, realiai klausinėję realaus produkto ir gaunantys atsakymus.
„Mirtinai tikslūs" – tai ne žurnalistų hiperbolė
Tai yra ekspertų vertinimas. Biologijos ir terorizmo specialistai peržiūrėjo tuos pokalbius ir dalį jų pavadino mirtinai tiksliais. Instrukcijos buvo pateikiamos kantriai, mokyklinuko lygiui suprantama kalba.
„Wall Street Journal" šią frazę vartoja ne kaip dramatizavimą, o kaip faktinį turinio vertinimą. Gynybos ekspertai pasakė: tai veiktų.
„OpenAI" savo modelius pristato kaip suprojektuotus atmesti žalingas užklausas ir teigia galinti nustatyti bei sustabdyti bandymus gauti žalingą biologinę informaciją. Lieka klausimas: jei viskas taip gerai veikia, kaip šimtai tokių pokalbių apskritai įvyko?
Kol kas knygos pavojingesnės nei AI
Perspektyvą šioje istorijoje reikia išlaikyti. Šiandien consumer-grade (vartotojams skirto lygio) AI modeliai piktavaliams daugiausia teikia bendrą patarimą, o ne specializuotą ekspertinę pagalbą. „New York Times" aprašytame incidente „Boko Haram" nariai klausė pokalbių roboto, kaip modifikuoti motociklus šuoliams per kliūtis. Pagalba buvo teikiama. Ta pati informacija yra bet kurioje teminėje knygoje.
Šiandien solidi knyga greičiausiai teikia tikslesnę ir detalesnę instrukciją nei bet kuris viešas AI modelis. Tai ne paguoda, tik kontekstas.
Tikrasis klausimas: kas bus po dvejų metų
Čia ir prasideda nerimą keliantis dalykas.
Galingiausi komerciniai modeliai gali tapti bazine medžiaga vadinamiesiems distilled modeliams: mažesnio pajėgumo versijoms, kurios perima didesnio modelio žinias. Tokie modeliai dažnai išleidžiami kaip pigūs, open-weight (atvirojo svorio) produktai, veikiantys ant bet kokio pakankamai galingų kompiuterio.
Egzistuoja ir technikos, leidžiančios iš modelio pašalinti jo atsisakymo elgseną. Visa informacija, kurią modelis žino, bet atsisako atskleisti, gali būti išgauta iš modifikuotos versijos. Tokia versija tampa prieinama tiems, kurie žino, kur ieškoti.
Straipsnio autoriai pateikia tokį horizontą: šiandieniai modeliai kelia karštas reguliuotojų diskusijas, o po dvejų metų jų necenzūruotos kopijos gali cirkuliuoti požeminėje rinkoje už prieinamą kainą. Tai žinomų technologinių tendencijų tęsinys, ne paranojiška spekuliacija.
Europos kontekstas ir kas rūpi Lietuvoje
Europa turi AI Act, keliantį griežtus reikalavimus didelės rizikos sistemoms. Ši reguliavimo sistema susiduria su ta pačia problema, kurią prieš du dešimtmečius patyrė muzikos industrija: kai produktas tampa skaitmeniniu failu, kurį galima laisvai kopijuoti ir platinti, licencijų kontrolė nebeveikia.
Atvirojo svorio AI modeliai teisinėje erdvėje egzistuoja pilkojoje zonoje. Jei modelis išleidžiamas su atviru svoriu, o vėliau kažkas pašalina jo apsaugines funkcijas ir paskelbia modifikuotą versiją, atsakomybės grandinė nutrūksta. Nei „Anthropic", nei „Meta", nei Lietuvos Nacionalinis kibernetinio saugumo centras tų procesų sustabdyti negali.
Lietuvos IT bendruomenei tai ne abstrakti problema. Mūsų programuotojai dirba su šiais įrankiais, integruoja juos į produktus, kartais paleidžia vietoje. Kai galinga kalbos modelio versija be apribojimų pasirodo atvirojo kodo saugykloje (repository), klausimai apie atsakingą naudojimą tampa labai konkretūs.
Ponas Obuolys sako:
„OpenAI" mums sako: mūsų sistema aptinka žalingas užklausas. Puiku. Bet tada ji ir atsakė į šimtus iš jų. Tai veikiau primena stebimą perėją nei uždarytus vartus.
Šioje istorijoje labiau rūpi ne praėjusi vasara, o ateinantys dveji metai. Šiandien bandyti išvilioti pavojingą informaciją iš „ChatGPT" yra kone akademinis projektas: moderavimo filtrai tobulėja. Bet tas pats modelis, supaprastintas ir pasiekiamas kaip nemokamas failas be jokių stabdžių, centralizuotai nebevaldomas.
Vienintelė rimta gynybos linija yra ta pati, kuri veikė dar prieš AI: biologinių tyrimų infrastruktūros kontrolė, žaliavų prieinamumo stebėjimas, tinklų žvalgyba. AI tik pagreitina žinių pasiekiamumą. Fizinių kliūčių jis nepanaikina.
Kol kas.
Šaltiniai: „Wall Street Journal", „New York Times".