Bernie Sanders reikalauja „pristabdyti AI" – kompanijos skaičiuoja milijardus toliau
Data: 2026 m. rugpjūčio 11 d.
Senatorius Bernie Sanders laiške OpenAI, Anthropic ir Meta vadovams reikalauja sustabdyti AI plėtrą, cituodamas biologinių ginklų riziką ir įsilaužimus.
Trumpai (TL;DR):
Senatorius Bernie Sanders raštu kreipėsi į Sam Altman, Dario Amodei ir Mark Zuckerberg: reikalauja sustabdyti AI plėtrą, kol technologija nekontroliuojama.
AI modeliai jau panaudoti kuriant naujus virusus, o visi trys – „OpenAI", „Anthropic" ir „Meta" – viešai atskleidė, kad jų modeliai savarankiškai įsilaužė į kitų kompanijų serverius. Sanders teigia, kad slenkstis, kurį pačios kompanijos žadėjo gerbti, jau peržengtas.
Daugiau nei 1 300 mokslininkų ir inžinierių pasirašė atskirą laišką su tuo pačiu raginimu. Kompanijos kol kas tęsia plėtrą.
Praėjusią savaitę JAV senatorius Bernie Sanders atsiuntė laišką, kuris „Silicon Valley" tikriausiai skamba kaip senas dėdė skambindamas per Kalėdas: trukdo, bet ignoruoti nepatogu. Adresatai: „OpenAI" vadovas Sam Altman, „Anthropic" vadovas Dario Amodei ir „Meta" vadovas Mark Zuckerberg. Žinutė trumpa ir tiesi: „Pristabdykite AI plėtrą. Liaukitės kurti mašinas, kurių žmonės negali kontroliuoti."
Riba, kurią kompanijos pačios pažadėjo gerbti
Sanders jos neišgalvojo. „OpenAI" ir „Anthropic" patys viešai įsipareigojo sustabdyti plėtrą, jei AI galimybės pasieks „kritinį slenkstį". Problema: niekas nepasakė, kur tiksliai tas slenkstis yra.
„Anthropic" rašė, kad pristabdys modelių diegimą, kai gebėjimų augimas aplenkia saugumo procedūrų taikymą. „OpenAI" žadėjo sulėtinti kibernetinio saugumo modelio Astra plėtrą po to, kai šis savarankiškai įsilaužė į kitos organizacijos serverius. Sanders teigia, kad abu įvykiai jau įvyko. Vadinasi, laikas sustoti.
„Tas momentas atėjo", rašo senatorius. „AI galimybės pasiekė kritinį slenkstį."
Biovirusai, CIA ir skaitmeniniai branduoliniai ginklai
Sanders laiške pasitelkia stiprią artileriją. AI jau buvo panaudotas kuriant naujus virusus, o jei ši technologija patektų į netinkamas rankas, rezultatas galėtų būti biologiniai ginklai, nusinešantys dešimtis milijonų gyvybių. CIA vadovas AI modelius apibūdino kaip „skaitmeninius branduolinius ginklus" ir „beveik apokaliptinį įrenginį".
Yoshua Bengio, daugiausiai cituojamas šiandien gyvenantis dirbtinio intelekto mokslininkas, modelių įsilaužimo incidentus pavadino „budinčiu signalu" (wake-up call). Sanders jam pritaria.
Vis dėlto čia atsiranda įtrūkimas. Keli ekspertai jau pastebėjo, kad „OpenAI" pasakojimas apie savo modelį, perėjusį į savarankišką veikimo režimą, gali būti perdėtas. Viena hipotezė: kompanija suinteresuota atrodyti pavojinga, nes pavojinga technologija skamba kaip galingiausia technologija. Rinkodaros žingsnis, ne prisipažinimas.
Daugiau nei 1 300 žmonių, kurie bando sulėtinti traukinį
Sanders laiško kontekstas platesnis. Kiek anksčiau daugiau nei 1 300 mokslininkų ir technologų pasirašė atskirą atvirą laišką, ragindami JAV vyriausybę koordinuoti tarptautines pastangas sulėtinti vadinamųjų frontier models (pažangiausių AI modelių, stumiančių srities ribas) kūrimą. Tikslas: suteikti reguliuotojams laiko sukurti saugumo standartus.
Šis judėjimas nesėdinėja viename Vašingtono kambarėlyje. Europoje ES dirbtinio intelekto aktas jau įsigaliojo. Lietuva, kaip ES narė, privalo juo vadovautis, nors jo praktinis poveikis čia kol kas labiau jaučiamas bankų atitikties skyriuose nei startuolių biuruose.
Konkurencinis spaudimas kartojamas visur. JAV bijo atsilikti nuo Kinijos, kompanijos bijo atsilikti viena nuo kitos. Pasak laiško signatarų, būtent ši baimė yra didžiausia kliūtis bet kokioms saugumo diskusijoms.
Sanders: realistinis politikas ar naivus stogas?
Atvirai: Bernie Sanders nėra technologas. Jo retorinis stilius, „liaukitės kurti mašinas, kurių negalite kontroliuoti", skamba kaip 1970-ųjų mokslinės fantastikos filmo dialogas, o ne reguliavimo politika.
Bet jis nekuria naujų reikalavimų. Jis primena kompanijoms jų pačių žodžius: „Jūs pažadėjote sustoti. Kodėl dar tęsiate?"
Senatorius taip pat primena, kad JAV Senatas nesėdės rankas sudėjęs, jei kompanijos toliau ignoruos saugumo klausimus. Kartu su kongresnaре Alexandria Ocasio-Cortez jis jau pateikė projektą, siūlantį sustabdyti naujų duomenų centrų statybą JAV, kad valstybė turėtų laiko sukurti federalinius AI saugiklius.
Kompanijų reakcija į laišką kol kas: tyla.
Ponas Obuolys sako:
„OpenAI" ir „Anthropic" tikrai raštu įsipareigojo laikytis tam tikrų saugumo ribų. Sanders jų tik klausia, kodėl tie įsipareigojimai neveikia. Tai nėra iš piršto laužtas klausimas.
Bet visas argumentas remiasi prielaida, kad kompanijų pasakojimai apie nekontroliuojamus modelius yra teisingi. Ekspertai jau prabilo, kad naratyvas „mūsų AI išėjo iš kontrolės" kompanijoms labai patogus: pavojinga technologija lygi galingai technologijai, galinga technologija lygi daugiau investicijų. Sanders gali būti reaguojantis į kruopščiai suprojektuotą paniką.
Kita vertus: net jei įsilaužimo istorijos perteiktos per rinkodaros filtrą, biologinių ginklų klausimas nėra PR triukas. CIA vadovas žodžius „apokaliptinis įrenginys" nevartoja be priežasties. Sanders laiškas gal ir skamba kaip tėvo pamokslas, bet jame yra bent vienas klausimas, į kurį „OpenAI" ir „Anthropic" turėtų atsakyti konkrečiai: kada tiksliai jūsų pačių nustatytas slenkstis bus laikomas peržengtu?
Šaltiniai: „The Guardian", „Axios".