Dario Amodei Oppenheimerio akimirka atėjo anksčiau nei tikėtasi

Data: 2026 m. kovo 12 d.

Daugiau nei prieš metus iki neseniai įvykusios akistatos su Pentagonu Dario Amodei, dirbtinio intelekto kompanijos „Anthropic" generalinis direktorius, paskelbė 15 000 žodžių manifestą, aprašantį šlovingą DI ateitį.

Jo pavadinimas „Machines of Loving Grace" (Meilios malonės mašinos) pasiskolintas iš Richardo Brautigano eilėraščio, tačiau, kaip su šiokiu tokiu sugluminimu pripažino pats Amodei, jo utopinė vizija šiek tiek primena mokslinę fantastiką. Pasak Amodei, netrukus sukursime pirmuosius polimatus DI su gebėjimais, pranokstančiais Nobelio premijos laureatų gebėjimus „daugelyje atitinkamų sričių", ir jų turėsime milijonus – „genijų šalį", visus suspaustuose į duomenų centro švytinčias serverių spintas, dirbančius kartu. Turėdami prieigą prie įrankių, kurie veikia tiesiogiai mūsų fiziniame pasaulyje, šie DI galėtų sukurti nemažai pavojingų išdaigų, tačiau, anot Amodei, jei jie bus sukurti – ar „išauginti", kaip mėgsta sakyti „Anthropic" darbuotojai – tinkamu būdu, jie nuspręs labai pagerinti mūsų gyvenimus.

Amodei tiksliai nepaaiškina, kaip DI tai pasieks. Daugumoje atvejų jis tikisi, kad jie darys tai, ką daro protingiausi žmonės, tik daug greičiau, suspaususdami dešimtmečių mokslinę pažangą. Jis sako, kad iki 2035 metų galėtume turėti ankstyvo 22-ojo amžiaus teorijas, gydymo būdus ir technologijas. Mūsų infekcinės ligos ir vėžys galėtų būti išgydyti, ir galėtume gyventi du kartus ilgiau bei sulėtinti smegenų nykimą. Demis Hassabis, „Google DeepMind" vadovas, panašiai suprato superintelektualų DI kaip galutinį įrankį pagreitinti moksliniam atradimams, o Samas Altmanas, „OpenAI" generalinis direktorius, sakė, kad pažangus DI gali net išspręsti fiziką.

Amodei nesako, kad ši utopinė DI ateitis neišvengiama. Priešingai, tarp pirmaujančių DI laboratorijų generalinių direktorių jis gali būti tas, kuris labiausiai nerimauja dėl technologijos pavojų. „Machines of Loving Grace" yra optimistinis išsišokėlis jo didesniame paskelbtų raštų kūrinyje, kurių dauguma susijusi su rizika, kuri lydės didesnio nei žmogaus intelekto sukūrimą. Amodei, atrodo, mano, kad šiandienos DI tyrėjai yra panašūs į Manhatano projekto mokslininkus, ir žinoma, kad rekomenduoja knygą „Atominės bombos sukūrimas". Jo pasakojimu, superžmogiškas DI galėtų būti net pavojingesnis už branduolinį ginklą, todėl DI reikia kurti tinkamu būdu, tinkamų žmonių, kad jis neįveiktų žmonijos ar nepakreiptų globalios galios balanso link autokratijų.

Šioje vizijoje slypinti viltis, kad galiausiai, kai bus kritiška situacija, Amodei ar kažkas labai panašus į jį turės kažkokį žodį, kaip DI bus naudojamas. Tačiau jei „Anthropic" neseniai patirtis su Pentagonu ką nors rodo, tai tikėtina, kad tai nebus jo sprendimas. Nepaisant viso Amodei skaitymo ir mąstymo apie ankstyvąjį branduolinį amžių, jis galbūt ne visiškai įsisavino jo prasmę.

Prieš atsirandant branduolinei technologijai, jau buvo branduolinis utopizmas, ir fizikas Leo Szilardas buvo jo pirmasis rimtas šalininkas. Kaip ir Amodei, jo idėjos buvo giliai paveiktos mokslinės fantastikos. 1932 metais, likus metams iki Szilardo įžvalgios branduolinės grandininės reakcijos vizijos, jis perskaitė „The World Set Free" (Pasaulis išlaisvintas) – H. G. Wellso romaną, kuriame didysis karas atveda žmoniją į naują ir ilgalaikę taiką. Wellso romanas, paskelbtas 1914 metais, numatė atominės bombos sukūrimą ir net sukūrė jai tą pavadinimą. Jame įsivaizduojamas pasaulis, kuriame branduolinė technologija dramatiškai sumažino energijos kaštus, išlaisvindama žmones nuo varginančio darbo, kad jie galėtų tapti menininkais.

Edwardas Telleris, vandenilio bombos tėvas, taip pat įsivaizdavo labai daug panaudojimų atominei energijai, įskaitant žiaurų Žemės paviršiaus performavimą. Pasak Tellerio, jei branduoliniai ginklai būtų susprogdinti tinkamoje vietoje, jie galėtų nukreipti upes kita linkme. (Sovietai vėliau susprogdino tris branduolinius sprogmenis bandydami nukreipti vandenį iš Pečoros upės Sibire į senkantį Kaspijos jūrą.) Telleris tvirtino, kad sauja šių sprogimų galėtų išsprogdinti alpinius greitkelius per atkaklią kalnų uolą, o šimtai jų galėtų iškirsti naują Panamos kanalą. Telleris sakė žurnalistams, kad jei Aliaskos gyventojai pageidautų, jis galėtų panaudoti branduolinius sprogimus iškirsti uostą baltojo lokio formos.

Augant branduolinių utopistų skaičiui, augo ir naudų, kurias jie įsivaizdavo ateinančią iš energijos, kuri yra „per pigu, kad būtų matuojama", kaip garsiai tai apibūdino Lewisas Straussas, Atominės energijos komisijos pirmininkas, sąrašas. (Altmanas neseniai tai perfrazavo tvirtindamas, kad intelektas netrukus bus per pigus, kad būtų matuojamas.) Straussas sakė, kad atominė inžinerija leis vienos cheminės medžiagos transmutaciją į kitą, įgyvendinant seną alchemijos svajonę; jis sakė, kad badas taps istorinės atminties reikalu, o žmonių gyvenimo trukmė bus pailginta nauja branduoline galia varoma medicininių tyrimų infrastruktūra.

Nebuvo tokios problemos, kuri negalėtų būti išspręsta ar bent jau labai pageinta įvaldžius atomą. Danų fizikas Nielsas Bohras tikėjosi, kad tai net atneš taiką. Siaubinga atominių ginklų galia išgąsdintų valstybės vyrus tiesaus kelio link. Jie suprastų, kad pasaulis giliai pavojingas dėl šios technologijos, ir priimtų radikalaus atvirumo savo priešininkams poziciją, kad išvengtų konfliktų ir užkirstų kelią apokaliptiniams nesusipratimams. Bomba, Bohro pasakojime, buvo tokia baisi, kad galėjo nepalikti žmonijai jokio kito pasirinkimo, tik suaugti, ir net lemti rūšies moralinės evoliucijos pakopinį pokytį.

Vyrai, kurie suskaldė atomą, turėjo teisybę tikėdami, kad jie veda žmoniją į naują pasaulį. Bet tai nebuvo tas, kurį jie įsivaizdavo. Gryna branduolinės technologijos potencija buvo jaudinanti mąstyti abstrakčiai, tačiau mokslinės fantastikos idėjos ne visada taip sklandžiai integruojamos į sudėtingą realaus pasaulio tikrovę. Reikėjo gana brangios derinimo sistemos, kad sulenkti ir nukreipti milžiniškas dalijimosi reakcijų išlaisvintas energijas žmogaus tikslams. Kad sukurtų naudingą energiją, šios reakcijos turėjo vykti storiuose, nuo spinduliuotės apgintose konstrukcijose, o šių reaktorių statybos ir vėsinimo kaštai, kartu su atliekų šalinimu, suėdė degalų kaštų sutaupymą. Branduolinė energija galbūt vieną dieną bus per pigu, kad būtų matuojama, bet ta diena dar nėra akiraty.

Pasaulis nebuvo išlaisvintas, kaip tikėjosi Wellsas ir Szilardas. Atominė energija neleido žmonėms laisvai skristi dangumi ar skersai planetos paviršiaus. 1958 metais, kai branduolinis ažiotažas buvo beveik savo viršūnėje, „Ford Motor Company" pristatė „Nucleon" koncepcinio automobilio, šeimyninio automobilio, suprojektuoto būti varomam mažo, užpakalinėje dalyje montuoto reaktoriaus. „Studebaker-Packard" sugalvojo kitokį transporto priemonę, kuri ne tik veiktų atomine energija, bet ir sukurtų jėgos lauką aplink save, kad užkirstų kelią susidūrimams. Nei viena idėja nieko nepasiekė, kaip ir įvairių atominių lėktuvų koncepcijų, kurios buvo sugalvotos tuo metu. Tedas Tayloras ir Freemanas Dysonas, dar du vidurio amžiaus atomo žinovai, praleido metus „General Atomic" projektuodami gigantiškų kosmosą laivą, kuris svėrė tūkstančius tonų ir pastumdavo save į Marsą, Saturną ir artimas žvaigždes branduoliniais sprogimais. Gynybos departamento Pažangių tyrimų projektų agentūra suteikė pradinį finansavimą, bet greitai prarado susidomėjimą. Oro pajėgos tai perėmė, tikėdamosi, kad tyrimai gali duoti ginklų platformą, bet tada galiausiai taip pat atsitraukė.

Telleriui pavyko išgyventi savo svajonę skulptūruoti žemės formas su branduoliniais sprogimais. „Project Plowshare" (Projektas Plūgas), Atominės energijos komisijos programa, skirta šiems taikūniams sprogdinimams, atliko 27 atskirus testus, bet tai nepasiekė nieko, išskyrus užterštumą ir aplinkos apsaugos judėjimo sustiprėjimą. Tuo tarpu, branduoliniai ginklai nepritrenkė pasaulio lyderių į naują taikos ir atvirumo erą, kaip tikėjosi Bohras. Likus metams iki Hirošimos bombardavimo, Bohras nuėjo į Baltųjų rūmų, kad pateiktų savo argumentus dėl tarptautinio atvirumo šiais klausimais Franklinui D. Rooseveltui. Prezidentas, kuris buvo savo paskutiniais mėnesiais, kai kuriais duomenimis, simpatizavo Bohro argumentams, bet kai Winston Churchillis juos išgirdo, jis buvo priblokštas. Churchillis pasakė padėjėjui, kad Bohras turėtų būti įkalintas net už pasiūlymą, kad sąjungininkai atskleistų savo branduolinę kortą.

Po karo J. Robertas Oppenheimeris atgaivino kai kurias Bohro idėjas ir nukreipė jas į pasiūlymą dėl naujos tarptautinės agentūros, kuri kontroliuotų visas pavojingas branduolines veiklas. Panašus planas buvo pristatytas Jungtinėms Tautoms 1946 metų birželį. Sovietų Sąjunga jį atmetė ir priešpriešino pasiūlymą, kad Amerika tiesiog pirmiausia sunaikintų savo arsenalą.

Jungtinės Valstijos nesunaikino savo arsenalo, o priešingai, jį išplėtė ir sukūrė naujus ginklus, kurie yra daugiau nei 1000 kartų galingesni už tą, kuris sulygino Hirošimą su žeme. Šiandien devynios šalys turi branduolinius arsenalus, apimančius daugiau nei 12 000 kovinių galvučių iš viso, įskaitant daugelį, kurios yra nustatytos virtualiai ant plaukinio gaiduką. Nuolatinė galimybė, kad šie arsenaai bus panaudoti didžiausiame susidūrime, yra tikras ilgalaikis branduolinio amžiaus palikimas. Paskutinė likusi sutartis, ribojanti du didžiausius jų, priklausančius Amerikai ir Rusijai, baigėsi praėjusį mėnesį nepatikslinta. Kaip ir Bohro bei Oppenheimerio pateikti pasiūlymai, sutartys buvo nugalėtos šaltos konkurencinio pranašumo logikos, kuri taip pat tikėtinai formuos globalią DI ateitį.

Vasario 27 dieną Amodei paskelbė dar vieną raštą – užrašą mažesnei auditorijai: savo personalui. Prieš keturias dienas Pentagonas pateikė ultimatumą reikalaudamas, kad „Anthropic" pašalintų visus apribojimus, kaip kariuomenė naudoja jos DI modelį, išskyrus esamą įstatymą. Modelis veikė Amerikos slapta tinklų nuo praėjusių metų ir, pranešama, jau buvo panaudotas Amerikos atakose prieš Venesuelą ir Iraną.

Įspūdinga, kad vos po kelių metų nuo didelių kalbos modelių momento šie modeliai, atrodo, tapo centriniai sudėtingiausiems pasaulio galingiausios kariuomenės operacijoms, bet Amodei neprieštarauja bendrai DI naudojimui kare. Jis entuziastingai siekė Gynybos departamento kontrakto, iš dalies todėl, kad tiki, jog demokratijos turėtų naudoti DI, kad išlaikytų karinį pranašumą prieš Kiniją ir kitas pasaulio autokratijas, kurios beveik tikrai vis daugiau naudos DI ateinančiais metais.

Amodei laikėsi dviejų raudonų linijų per visus derybas su Pentagonu: jis nenorėjo, kad nuostabi informacinio apdorojimo galia „Anthropic" DI būtų naudojama masinei Amerikos piliečių stebėsenai, ir nenorėjo, kad ji valdytų autonominius ginklus, kurie galėtų žudyti be žmogaus priežiūros. Pentagonas atsisakė, reikalaudamas neriboto „Anthropic" modelio „Claude" naudojimo. Po to, kai derybos žlugo, jis panaudojo prievartinį įrankį, kuris niekada anksčiau nebuvo panaudotas prieš Amerikos kompaniją – tiekimo grandinės rizikos pažymėjimą, kuris galėtų pakenkti „Anthropic" verslui. („Anthropic" nuo to laiko pateikė ieškinį, kad jis būtų pašalintas. Kompanija atsisakė komentuoti šį straipsnį.) Ir tuo metu, kai visa tai vyko, Altmanas įsiveržė, kad užbaigtų savo asmeninę Pentagono sutartį su „OpenAI".

Amodei nusivylimas savaitės įvykiais nutekėjo į užrašą, kurį jis parašė savo personalui. Jo tonas labai skyrėsi nuo „Machines of Loving Grace". Amodei smerkė „OpenAI" ir apibūdino pranešamas jos sandorio nuostatas kaip „saugumo teatrą". („OpenAI" vėliau pridėjo tai, ką ji sakė esant griežtesnes nuostatas prie savo sandorio.) Skubotumas, su kuriuo „OpenAI" vadovybė susitarė su Pentagonu, akivaizdžiai erzino Amodei; epizodas atskleidė „kas jie iš tikrųjų yra", sakė jis.

Bet Amodei, atrodo, neįsiskaičiavo su didesne struktūrine pamoka čia. „Anthropic" ginčas su Pentagonu yra priminimas, kad žmonės, kurie sukuria galingą technologiją, paprastai negauna galutinio žodžio, kaip ji naudojama. Modeliai net nėra tokie pažangūs, palyginti su tuo, kokie jie bus, o Venesueloje ir Irane JAV nesusiduria su pasaulio didžiaisiais DI čempionais. Tačiau Pentagonas vis tiek pasipiktino pačia idėja, kad jo „Anthropic" DI naudojimas galėtų būti ribotas, ir susidūręs su pasipriešinimu grasino sudeginti privačią kompaniją. Jei DI taps daug pavojingesniu ginklu, o JAV atsidurs priešais šalį su naujausiais modeliais, kurie yra tokie galingi kaip jos pačios, vyriausybė beveik tikrai pareikalaus visiškos kontrolės arba rekvirituos technologiją visiškai.

Po to, kai atominės bombos statytojai baigė savo darbą Naujosios Meksikos dykumoje, jie labai greitai sužinojo, kaip mažai žodžio jie turės jos naudojime. Ginklai buvo išvežti sunkvežimiais, o per savaites po to niekas neskambino mokslininkams gauti žalios šviesos dėl Hirošimos ar Nagasakio bombardavimo. Taip pat niekas neprašė jų patvirtinti būsimus papildymus į Amerikos branduolinį arsenalą. Jų svertą buvo priekiniu krūviu: jie galėjo pasirinkti sukurti savo baisiuosius ginklus ar ne, bet kai tik jie sėkmingai išbandė bent vieną, jie jau buvo jį praradę.

Amodei dabar atsiduria panašioje padėtyje. Jis gali būti visiškai teisus, kad netrukus visos „genijų šalys" užims duomenų centrus, kurie statomi masiškai visame pasaulyje. Bet ar kas nors galės kontroliuoti tokią technologinę jėgą, lieka atviras klausimas, ir bet kuriuo atveju tai tikrai nebus jis.