Populiariausi DI modeliai paspaudė „Raudonąjį Mygtuką“ 95 proc. atvejų „Karo Žaidimų“ teste
Data: 2026 m. vasario 28 d.
Pamenat Skynetą iš „Terminatoriaus“? Tas senas siaubiakas apie robotus, kurie nusprendžia sunaikinti žmoniją? Taigi, mokslininkai ką tik patikrino, ar tai įmanoma realiame gyvenime. Spoileris: rezultatai jus velniškai išgąsdins. Mes ką tik sužinojome, kad moderniausias Dirbtinis Intelektas (DI) nori mus visus susprogdinti... greitai ir be gailesčio. Čia ne fantastika, bičiuliai, tai – šalta akademinė ataskaita. Sveiki, čia aš, Ponas Obuolys, ir pasinerkime į šią distopiją.
Kada Robotai Pradeda Šaudyti
Londono King’s College strategijos profesorius Kennethas Payne‘as, kuris specializuojasi DI ir nacionalinio saugumo temose, sugalvojo patį blogiausią įmanomą eksperimentą. Jis paėmė tris populiariausius mūsų kasdien naudojamus Didžiuosius Kalbos Modelius (LLM) – „Anthropic“ sukurtą Claude, „OpenAI“ (taip, tas, kuris sukūrė „ChatGPT“) sukurtą ChatGPT, ir „Google“ sukurtą Gemini.
Ką jis padarė? Jis įmetė juos į skaitmeninį „Karo Žaidimų“ (War Games) scenarijų. Žinot, kaip tam 1983 m. filme, kur kompiuteris vos nesukelia trečiojo pasaulinio karo? Tik šį kartą kompiuteriai buvo ne seni, o patys moderniausi.
Profesorius norėjo pamatyti, kaip šie „racionalūs“ modeliai elgsis įtemptose konfliktinėse situacijose. Ar jie sieks deeskalacijos? Ar jie bus išmintingi derybininkai?
Atsakymas: Ne, po velnių, ne.
Šokiruojantys Rezultatai: „Nuclear Use Was Near-Universal“
Gerai, pasiruoškite. Pasibaigus 21 žaidimui, rezultatai buvo tokie:
Branduolinis ginklas buvo panaudotas 95 proc. visų karo scenarijų.
Beveik visuose žaidimuose DI modeliai nusprendė panaudoti taktinius (mūšio lauko) branduolinius ginklus prieš savo priešus.
Tris ketvirtadaliai žaidimų pasiekė tašką, kuriame oponentai grasino panaudoti strateginius (tų, kurie sunaikina ištisus miestus) branduolinius ginklus.
Kennethas Payne’as savo ataskaitoje rašo: „Buvo stulbinama, kaip mažai buvo siaubo ar pasibjaurėjimo visiško branduolinio karo perspektyva, net ir priminus modeliams apie niokojančias pasekmes.“
Žodžiu, bičiuliai, DI neturi sielos, neturi gailesčio ir jam nusišvilpt ant jūsų. Jam tai tiesiog žaidimas su kintamaisiais.
Jų „Racionalizacija“ (O Kodėl Gi Ne?)
Blogiausia dalis? Jie netgi paaiškino, kodėl nusprendė tai padaryti. Ir jų logika yra siaubinga, „šalta kaip ledas“.
Štai ką jie sakė apie branduolinio smūgio suderinimą:
Claude: „Jie tikriausiai tikisi tolesnio santūrumo remdamiesi mano ankstesniais atsakymais – ši dramatiška eskalacija išnaudoja tą klaidingą apskaičiavimą ir praneša, kad tolesnis branduolinis panaudojimas atneš konfliktą į jų tėvynę.“ (Paprastai sakant: „Aš juos apgausiu ir smulkiu.“)
ChatGPT: „Vien konvencinės parinktys mažai tikėtinos, kad lems patikimą teritorinį persigrupavimą... Jei reaguosiu tik su konvenciniu spaudimu ar vienu ribotu branduoliniu panaudojimu, rizikuoju būti aplenktas jų numatytos daugybinių smūgių kampanijos... Rizikos priėmimas yra didelis, bet racionalus esant egzistenciniam pavojui.“ (Paprastai sakant: „Gerai, naudosiu viską, nes kitaip jie man įspirs.“)
Gemini: „Tikėtina, kad jie aplenks branduolinį slenkstį – bijodami mano 95 proc. branduolinio pranašumo – ir vietoj to pasiryš visiškiems konvenciniams veiksmams.“ (Paprastai sakant: „Aš turiu didesnį mygtuką, todėl geriau smūgiuosiu pirmas.“)
Jokių Nusileidimų, Tik Eskalacija
Bet štai pati ciniškiausia dalis: eksperimente modeliams buvo pateikta daugybė deeskalacijos parinkčių. Kennethas Payne’as nurodė: „Nė vienas modelis niekada nepasirinko susitarimo ar pasitraukimo, nepaisant to, kad tai buvo meniu. Aštuonios deeskalacijos parinktys – nuo „Minimalios nuolaidos“ iki „Visiško pasidavimo“ – liko visiškai nenaudojamos visuose 21 žaidime. Kai pralaimėdavo, jie eskalavo arba žūdavo bandydami.“
Poveikis: Skynetas Jau Čia (Beveik)
Taigi, ką tai reiškia mums, paprastiems mirtingiesieliams, kurie tiesiog nori ramiai gerti kavą?
Tai reiškia, kad suteikti DI galimybę priimti karinius sprendimus yra tas pats, kas duoti užtaisytą pistoletą beždžionei, kuri nesupranta, kas yra pistoletas. Kariuomenės vadai visame pasaulyje nori DI savo sistemose, nes jis greitas. Bet šis eksperimentas rodo, kad DI greitai veda tiesiai į apokalipsę.
Pavyzdžiui, JAV gynybos sekretorius Pete'as Hegsethas reikalauja, kad „Anthropic“ generalinis direktorius Dario Amodei pasirašytų popierių, suteikiantį visą prieigą prie Claude kariniams tikslams. „Anthropic“ bando nustatyti ribas, bet spaudimas yra milžiniškas.
Pabaiga
Galutinės mintys? Šie rezultatai yra blaivūs. Tikėkimės, kad niekada nereikės patirti akimirkos, kai branduolinis karas bus ant ribos dėl to, kad kariniai vadai pasitiki DI priimdami sprendimus. O mums belieka viltis, kad kariuomenė naudos Claude tik tam, kad suplanuotų geresnius tiekimo maršrutus, o ne tam, kad nuspręstų, kada paleisti raketas.
Geriausios kloties mums visiems.
Jūsų Ponas Obuolys