Kas apsaugos pasaulį nuo dirbtinio intelekto? Tikrai ne jo kūrėjai

Data: 2026 m. kovo 30 d.

Demis Hassabis praleido gyvenimą kurdamas technologiją, kuri, jo paties nuomone, gali sunaikinti civilizaciją – ir dabar pripažįsta, kad nežino, kaip tai sustabdyti

DeepMind įkūrėjas Demis Hassabis nėra tipiškas technologijų vizionierius. Jis nekeliauja po pasaulį skelbdamas gerų naujienų apie ateitį. Vietoj to trejus metus su žurnalistu Sebastian Mallaby susitikdavo senamiesčio pabe Londone ir aiškino, kodėl technologija, kurią kuria, gali tapti žmonijos pabaiga. Tai ne paranoja – tai sąmoningas pasirinkimas.

Bunkeryje su geriausiais protais

2014-aisiais, kai Google nupirko DeepMind, Hassabis iškėlė sąlygas, kurių dar nė vienas startuolis nebuvo drįsęs pareikšti. Jis pareikalavo, kad Google neturėtų galutinio žodžio dėl dirbtinio intelekto technologijos išleidimo į rinką. Pareikalavo nepriklausomos priežiūros tarybos. Uždraudė bet kokį karinį technologijos panaudojimą.

Google derybininkai niekada nebuvo girdėję tokio reikalavimo – mažas Londono startuolis norėjo gauti šimtus milijonų dolerių už turtą, kurio pirkėjas negalėtų visiškai kontroliuoti. Bet Hassabis buvo sutelkęs geriausią dirbtinio intelekto tyrėjų komandą pasaulyje. Google sutiko.

Hassabis turėjo ir konkretesnį planą. Jis svarstė su geriausiais mokslininkais pasislėpti slaptame bunkeryje – toli nuo priešų ir pasaulio dėmesio. Ten filosofai ir mokslininkai iš akademinės bendruomenės dirbtų su elito komanda, kuriant saugų superintelektą visos žmonijos labui.

Vienas tyrėjas, prisijungęs prie DeepMind po pardavimo, patvirtino: Hassabis pokalbio metu įspėjo jį būti pasirengusiam bet kuriuo momentu išvykti į slaptą vietą. "Jei Demis būtų liepęs sėsti į skrydį į slaptą vietą Maroke, būčiau jautęsis gavęs sąžiningą perspėjimą," – sakė tyrėjas. Kodėl Marokas? Dykuma. Kaip Manheteno projektas.

Tai buvo "singleton" scenarijus – viena mokslinė organizacija, vadovaujama Hassabis, užtikrintų saugų dirbtinio intelekto atsiradimą.

Kaip Elonas Muskas viską sugadino

2015-aisiais, bandydamas įgyvendinti pažadą Google dėl priežiūros tarybos, Hassabis surengė slaptą susitikimą Kalifornijoje. Kad įtrauktų potencialius konkurentus į savo viziją, jis suteikė Elonui Muskui garbę organizuoti renginį jo būstinėje Hawthorne mieste.

Planas sprogo į veidą. Muskui pakako vieno susitikimo su Hassabis komanda. Jis padarė priešingai nei tikėtasi – su Sam Altman įkūrė OpenAI, aiškiai anti-Google ir anti-DeepMind įmonę. Vėliau singleton vizijos šalininkai šį momentą apibūdino kaip "nuopuolį": gyvatė įnešė blogį į rojų.

Bet nuopuolis buvo neišvengiamas. Kai žmonės susiduria su Promėtėjiška technologija, jie nesusijungia į vieningą bendradarbiavimą. Jie ginčijasi, pavydi ir laikosi genčių.

Šiuo momentu Hassabis galėjo stabtelėti ir pergalvoti. Jei singleton scenarijus naivus – kaip išvengti lenktynių link bedugnės? Be to, Google atsisakė rengti antrą priežiūros susitikimą, nes Muskas jau buvo pasiskolinęs visas idėjas.

Vietoj stabdžio Hassabis įsibėgėjo. 2016-aisiais DeepMind sukūrė sistemą, kuri nugalėjo geriausią žmogų senoviniame Go žaidime. Mašinų pranašumo laiko juosta susitrumpėjo.

Trys nesėkmės ir viena Nobelio premija

Kad subalansuotų pažangą, Hassabis sugalvojo naujų idėjų. Kartu su bendraįkūrėju Mustafa Suleyman jis derėjosi su Google dėl naujų valdymo priemonių. "Project Mario" rėmėsi stipria teisininkų komanda, 1 milijardo dolerių pažadu iš Reid Hoffman (LinkedIn įkūrėjo) ir galimybe išskirti DeepMind iš Google, jei būtų atmestas kontrolės reikalavimas.

Tuo pačiu metu Suleyman vadovavo DeepMind projektui su Britanijos nacionaline sveikatos tarnyba NHS – padėti valdyti ūmines inkstų ligas. Jei dirbtinis intelektas galėtų būti nepriklausomai valdomas ir pagerintų sveikatos rezultatus – Hassabis galėtų jaustis teisus.

Abi iniciatyvos žlugo. Valdymo kova su Google truko trejus metus ir parodė, kaip sunku uždėti nepelno priežiūrą ant pelno siekiančios kompanijos. NHS projektas susidūrė su privatumo aktyvistų pykčiu – amerikiečių technologijų giganto dukterinė įmonė turėtų prieigą prie pacientų duomenų? 2019-aisiais Hassabis ir DeepMind pasitraukė abiejose fronte. Suleyman buvo išmestas iš kompanijos.

Kitas bandymas sukurti dorą dirbtinį intelektą – mokslas. 2020-aisiais DeepMind pristatė sistemą, kuri sugeba nustatyti mikroskopinių baltymų formas. Už tai Hassabis su kolega gavo Nobelio chemijos premiją. Apdovanojimas parodė dirbtinio intelekto privalumus. Bet neneigia vienodai realių pavojų.

Karo ekonomika ir asmeninė galia

2022-ųjų lapkritį – lygiai savaitę po to, kai Mallaby pasiūlė Hassabis kalbėtis dėl knygos – OpenAI išleido ChatGPT, virusinio pokalbių robotą. Tai buvo naujas moralinis testas.

Teoriškai Hassabis galėjo palikti pokalbių robotų verslą konkurentams ir laikytis mokslo kelio. Bet jis – labiausiai konkurencingas žmogus, kurį Mallaby kada sutiko. Be to, Google palikti šios rinkos nebuvo įmanoma.

"Tai karas," – sakė Hassabis 2023-ųjų pradžioje.

Rezultatas – žiaurios kapitalistinės lenktynės, kuriose Hassabis Gemini sistema kovoja su ChatGPT ir keliais kitais konkurentais. Šimtai milijardų dolerių kursina šį šuolį į priekį. Nors kai kurie dalyviai nuoširdžiai stengiasi daryti savo modelius saugius, nei nacionaliniai reguliavimai, nei korporacinės valdymo struktūros nesustabdo kitų nuo lenktynių link dugno. Google dabar aktyviai siūlo dirbtinį intelektą amerikietiškam gynybos sektoriui – tai priešingybė superintelekto pabaigos scenarijui, kurio Hassabis norėjo.

Platesnė perspektyva

Europos Sąjungos dirbtinio intelekto aktas – pirmasis pasaulyje reguliavimas – įsigaliojo šių metų pradžioje, bet jo veiksmingumas priklausys nuo vykdymo, ne intencijų. Svarbu suprasti: Europos reguliavimas negali sustabdyti lenktynių, kurias varo amerikietiškos ir kinų korporacijos su beribiais biudžetais. Jei Hassabis – žmogus, kuris nuo pat pradžių matė pavojus ir įkūrė vieną galingiausių dirbtinio intelekto laboratorijų – pripažįsta, kad prarado kontrolę, kas gi tikisi ją išlaikyti?

Dabar Hassabis sako, kad saugumas nėra apie valdymo struktūras. Net jei turėtum priežiūros tarybą, ji greičiausiai nepriimtų teisingo sprendimo. Vienintelis kelias – užsitikrinti "vietą prie stalo", kad kai iškils saugumo klausimas, galėtum padėti rasti sprendimą.

"Dalykai nėra juodi ir balti, ypač kai dirbi su technologija, kurios pasekmės nežinomos," – sako Hassabis. "Todėl turi būti prisitaikantis. Turi pereiti nuo idealisto prie realisto, bet, tikėkimės, vis dar su savo vertybėmis."

Ponas Obuolys sako

Hassabis istorija – tobula metafora visai dirbtinio intelekto pramonei. Vyras, kuris geriau už daugelį suvokė pavojus, praleido dešimtmetį bandydamas sukurti saugų superintelektą. Ir visiškai žlugo.

Dabar jis atsigręžęs į paskutinį bastioną – asmeninę galią. Esmė tokia: "pasitikėkite manimi, aš protingas ir turiu gerų intencijų". Bet tai ta pati logika, kuri priveda prie distopijų – vietoj sistemų turime žmones, kurie tiki, kad jie yra išskirtiniai.

Ar tai reiškia, kad Europa turėtų sustabdyti visas dirbtinio intelekto ambicijas? Ne. Bet tai reiškia, kad reikia būti brutaliais realistais. Dirbtinio intelekto saugumas nėra technologinė problema – tai politinė ir ekonominė. Ir kol pagrindinis atsakymas į "kas apsaugos pasaulį?" yra "na, aš pats tikrai protingas vaikinas" – mes visi bėdoje.

---

Šaltiniai: The Atlantic, Sebastian Mallaby "The Infinity Machine", DeepMind oficialūs pranešimai, EU AI Act dokumentai