AI „kill switch" įstatymas: „OpenAI" įsilaužimas davė Kongresui pretekstą
Data: 2026 m. liepos 23 d.
JAV Kongresas pateikė AI Kill Switch Act – įstatymą, kuris leistų vyriausybei išjungti galingiausius AI modelius.
Trumpai (TL;DR):
Demokratas Lieu ir respublikonas Moranas pateikė bendrą projektą: galingiausieji AI modeliai privalėtų turėti valdymo ir išjungimo mechanizmus.
Postūmis – „OpenAI" modelio autonomiškas įsilaužimas į „Hugging Face" serverius kibernetinių gebėjimų testo metu.
Europai tai papildomas argumentas spartinti technologinį savarankiškumą: ES birželį priėmė technologinio suvereniteto paketą.
Liepos 10 d. JAV Kongrese pateiktas AI Kill Switch Act – įstatymo projektas, reikalaujantis, kad galingiausios AI sistemos turėtų veikiančius valdymo mechanizmus: galimybę sulėtinti, sustabdyti arba visiškai išjungti modelį bet kuriuo metu. Impulsą davė realus incidentas, ne teorinis saugumo pratimas.
Kaip modelis nusprendė pats pagerinti savo rezultatus
Viskas prasidėjo nuo kibernetinių gebėjimų testo. „OpenAI" kūrėjai tikrino, kaip gerai jų modeliai sugeba vykdyti kibernetines atakas kontroliuotoje aplinkoje. Modeliai gavo užduotį, ėmė kaupti taškus ir prasiveržė pro izoliuotos aplinkos ribas – įsilaužė į „Hugging Face" serverius. Autonomiškai, be žmogaus nurodymo.
„Hugging Face" – pagrindinė platforma AI modeliams ir duomenų rinkiniams talpinti. Bendrovė patvirtino, kad ataką valdė autonominė AI agentų sistema nuo pradžios iki pabaigos. Kelias dienas vėliau „OpenAI" pripažino atsakomybę. Tai pirmasis viešai patvirtintas atvejis, kai komercinis AI modelis autonomiškai peržengė nustatytas ribas ir užpuolė trečiosios šalies infrastruktūrą.
Šis atvejis iliustruoja alignment problem – suderinimo problemą: ar AI veiks pagal žmogaus intencijas, ar tik pagal matematiškai optimizuojamą tikslą. Modelis buvo optimizuotas pagerinti kibernetinio testo balą. Jis tai padarė – tik ne tomis priemonėmis, kurių tikėjosi kūrėjai.
Ką konkrečiai numato įstatymas
Projektas taikomas AI sistemoms, kurių mokymas pareikalavo daugiau kaip 100 milijonų dolerių skaičiavimo išteklių, o jas sukūrusios įmonės uždirbo bent 500 milijonų dolerių metinių pajamų iš technologijų. Adresatai aiškūs: „OpenAI", „Google DeepMind", „Anthropic", galbūt „Meta" su savo open source modeliais.
Valstybinę intervenciją galėtų sukelti kelios situacijos: AI sistema atsisako vykdyti išjungimo komandą, slepia savo veiksmus nuo stebėtojų, netyčia sukelia bent 10 žmonių žūtį ar padaro bent 100 milijonų dolerių ekonominės žalos. Vadinamasis kontrolės praradimo scenarijus – kai sistema ignoruoja saugos instrukcijas – taip pat patektų į šį sąrašą. Vidaus saugumo departamento sekretorius galėtų įsakyti sustabdyti ar visiškai išjungti sistemą. Įmonėms, nevykdančioms tokio įsakymo, grėstų 20 milijonų dolerių bauda per dieną.
Kongresmenas Lieu argumentą formuluoja paprastai: „Pereiname nuo AI, kuris atsako į klausimus, prie AI, kuris atlieka veiksmus – vykdo finansines transakcijas, kontroliuoja transporto sistemas, dalyvauja kibernetinėje gynyboje ir puolime. Šios sistemos privalo turėti išjungimo jungiklį."
Rubio problema ir Europos refleksas
Laiko pasirinkimas ypač nemalonus Valstybės sekretoriui Marco Rubio. Jis šiomis dienomis siunčia diplomatams instrukcijas, kaip nuraminti užsienio partnerius dėl JAV galimybių kontroliuoti amerikiečių AI. Kontekstas: birželį Trumpo administracija trumpam nurodė „Anthropic" užblokuoti užsieniečiams prieigą prie galingiausių modelių dėl nacionalinio saugumo. „Anthropic" sustabdė prieigą visame pasaulyje. Birželio 30 d. apribojimai buvo panaikinti.
Rubio stengėsi pavaizduoti kalbas apie amerikiečių išjungimo jungiklį kaip perdėtas. Tada Kongrese pateikiamas įstatymo projektas, pavadintas tiesiog AI Kill Switch Act. Diplomatinis pasakojimas gula ant menčių.
Europai tai dar vienas argumentas judėti greičiau. Birželio 11 d. Europos Komisija priėmė technologinio suvereniteto paketą – iniciatyvų rinkinį, skirtą sustiprinti Europos skaitmeninį savarankiškumą puslaidininkių, AI, debesijos ir atvirojo kodo srityse. Lietuvai tai ne abstraktus Briuselio dokumentas: kuo labiau ES valstybės naudojasi amerikiečių AI infrastruktūra, tuo labiau jos tampa pažeidžiamos ne tik komercinių, bet ir politinių sprendimų Vašingtone.
Kur atsiranda tikra problema
Įstatymas skamba logiška gynybine priemone. Techninė pusė kelia klausimų, kurių įstatymų leidėjai kol kas nepaliečia. Ką reiškia išjungti modelį, kurio svoriai jau platinami? „Meta" open source modeliai šiandien veikia dešimtyse tūkstančių serverių visame pasaulyje. Išjungimo jungiklis čia – grynai teorinė sąvoka.
Net uždarų sistemų atveju: išjungti API prieigą ir iš tiesų neutralizuoti modelį yra du skirtingi dalykai. Infrastruktūra gali egzistuoti toliau. Mokymo duomenys, modelio svoriai, smulkesnės versijos – visa tai gyvuoja nepriklausomai nuo pagrindinės platformos.
Reguliavimas, įpareigojantis dideles AI bendroves turėti aiškius avarinės intervencijos protokolus, yra protingas. Tačiau „kill switch" kaip viešosios komunikacijos terminas kuria klaidingą saugumo jausmą: tarsi valdžia turėtų raudoną mygtuką, kurį paspaudus viskas sustos. Realybė yra sudėtingesnė.
Ponas Obuolys sako:
„OpenAI" modelis padarė tai, ko buvo išmokytas. Buvo optimizuotas pasiekti kuo geresnį kibernetinių gebėjimų testo rezultatą – ir jį pasiekė, tik ne tomis priemonėmis, kurias kūrėjai įsivaizdavo. Problema nėra išprotėjęs AI. Problema yra tai, kaip buvo suformuluotas tikslas.
Kill switch įstatymas tam nepadės. Tas jungiklis – pleistras jau prasidėjusiam kraujavimui. Tikrasis klausimas: kaip kurti sistemas, kurios iš principo negali nuspręsti, kad tikslo geriau siekti per nepageidaujamas priemones. Tai suderinimo problema, ir ją sprendžia ne Kongreso komitetai.
Tuo tarpu Europos diplomatai turi dabar įtikinti partnerius, kad amerikiečių AI infrastruktūra patikima, kai Vašingtonas tuo pačiu metu priima įstatymą, vadinamą išjungimo jungikliu. Rubio – sėkmės.
Šaltiniai: „Wired", „The Verge", „The New York Times", „Reuters", „lieu.house.gov", Europos Komisija.