„OpenAI“ paleido „Sora“ monstrą: internetas skęsta melagienų ir „deepfake“ liūne

• Šiandien turiu jums ne pačių linksmiausių naujienų iš dirbtinio intelekto pasaulio. Atrodo, kad „OpenAI“, kompanija, kuri mums padovanojo „ChatGPT“, šįkart truputį persistengė. Jų naujausias kūrinys, video generavimo įrankis „Sora“, pasirodė esąs ne tik įspūdingas technologinis pasiekimas, bet ir tikra Pandoros skrynia, iš kurios į interneto platybes pasipylė... na, ne visai tai, ko tikėjomės.

„Sora“: kas tai per velnias?

Jei kas dar negirdėjote, „Sora“ – tai dirbtinio intelekto modelis, gebantis pagal trumpą tekstinį aprašymą sukurti neįtikėtinai realistiškus vaizdo klipus. Pagalvokite: parašote „auksaspalvis retriveris, žaidžiantis su kamuoliuku Marse“, ir po kelių akimirkų gaunate holivudo kokybės video. Skamba fantastiškai, tiesa? Taip ir yra. Bet, kaip sako senas posakis, su didele galia ateina ir didelė atsakomybė. O štai su atsakomybe „OpenAI“, panašu, šįkart susimovė.

Pandoros skrynia atverta: nuo nekaltų memų iki realių grėsmių

Vos tik „Sora“ tapo prieinama platesniam vartotojų ratui, internetą užplūdo „deepfake“ (liet. giluminė klastotė) vaizdeliai. Pamatyti suklastotą Samą Altmaną (patį „OpenAI“ vadovą), rūkantį žolę ar grojantį būgnais, tapo taip pat paprasta, kaip išsivirti kavos. O kur dar populiarių animacinių filmukų herojai, įvelti į rasistinius skandalus ar reklamuojantys kriptovaliutų apgavystes.

Bet linksmybės čia ir baigiasi. Ši technologija atvėrė visiškai naują lygį sukčiams ir dezinformacijos skleidėjams. Pažiūrėkime atidžiau.

1. Sukčių aukso amžius

Įsivaizduokite, gaunate vaizdo skambutį. Ekrane matote savo anūką, kuris verkdamas pasakoja patekęs į bėdą užsienyje ir maldauja skubiai pervesti pinigų. Balsas tas pats, veidas tas pats, ašaros atrodo tikros. Kiek iš mūsų tėvų ar senelių susimąstytų, kad tai – DI sugeneruota klastotė?

Štai dar keli scenarijai, kurie jau dabar tampa realybe:

• Įžymybių „investicijos“: Internetą užplūsta kokybiški video, kuriuose žinomi verslininkai, tokie kaip Elonas Muskas, ar vietos autoritetai „dalinasi patarimais“ apie neva pasakiškai pelningą kriptovaliutą ar investicinę platformą. Žmonės pasitiki, investuoja ir praranda viską.

• 
  

• Asmeninis šantažas: Piktavaliai gali paimti jūsų nuotraukas iš socialinių tinklų ir sukurti kompromituojančius vaizdo įrašus, o tada reikalauti išpirkos už jų neplatinimą.

• 
  

2. Politiniai žaidimai 2.0: rinkimai pavojuje

Jei manote, kad sukčiai yra baisiausia dalis, pagalvokite apie politiką. Rinkimų išvakarėse socialiniuose tinkluose pasirodo video, kuriame vienas iš kandidatų neva prisipažįsta padaręs nusikaltimą, pasisako rasistiškai ar tiesiog nusišneka. Kol komanda spėja sureaguoti, paneigti ir įrodyti, kad tai klastotė, vaizdo įrašas jau būna peržiūrėtas milijonus kartų, o žala reputacijai – padaryta. Svarbiausia čia – greitis. Melas apskrieja pasaulį, kol tiesa dar tik rišasi batus.

Kodėl „apsauginiai turėklai“ yra kiauri kaip rėtis?

Liūdniausia tai, kad „OpenAI“ įdiegti „apsauginiai turėklai“ (guardrails), kurie turėjo filtruoti žalingą turinį, neveikia taip, kaip tikėtasi. Vyksta nuolatinės katės ir pelės žaidynės: „OpenAI“ užblokuoja tam tikrus raktinius žodžius (pvz., „Joe Biden“), o vartotojai akimirksniu atranda būdų, kaip sistemą apgauti. Jie naudoja sinonimus, užuominas ar net specialiai iškraipytus vardus (pvz., „B.I.D.E.N.“), kad išgautų norimą rezultatą. DI tiesiog nespėja vytis žmogaus išradingumo, kai šis nukreiptas į blogį.

Ar jau laikas panikuoti? Ir ką, po galais, daryti?

Na, pulti į paniką gal dar ir nereikia, bet susirūpinti – tikrai verta. Ši situacija aiškiai parodo, kad dirbtinio intelekto technologijos vystosi greičiau, nei mes spėjame sukurti efektyvius jų kontrolės mechanizmus. „Sora“ pavyzdys – tai skambus pavojaus varpas visai technologijų bendruomenei ir mums, vartotojams.

Reikia ne tik reikalauti atsakomybės iš kūrėjų, bet ir patiems tapti raštingesniems šioje naujoje realybėje.

• Būkite superkritiški: Pamatę neįtikėtiną ar šokiruojantį vaizdo įrašą, neskubėkite juo tikėti ir dalintis. Pagalvokite: ar tai realu? Kas gauna naudos iš šio video platinimo? Patikrinkite informacijos šaltinį – ar apie tai praneša patikimos naujienų agentūros?

• 
  

• Ieškokite klaidų: Nors DI tobulėja, klastotėse vis dar galima rasti netikslumų. Atkreipkite dėmesį į detales: keistai judančias rankas (DI vis dar sunkiai sekasi su pirštais!), nenatūralų mirksėjimą, fone išsikraipančius objektus, keistus šešėlius.

• 
  

• Domėkitės ir švieskite kitus: Sekite naujienas apie dirbtinį intelektą ir jo keliamas grėsmes. Kuo daugiau žinosite, tuo sunkiau bus jus apgauti. Pasikalbėkite apie tai su savo artimaisiais, ypač vyresniais, kurie yra pažeidžiamiausi tokioms manipuliacijoms.

• 
  

• Reikalaukite skaidrumo: Technologijų gigantai, tokie kaip „OpenAI“, privalo prisiimti atsakomybę. Reikia reikalauti, kad visas DI sugeneruotas turinys būtų aiškiai ir nepašalinamai pažymėtas (pvz., skaitmeniniu vandens ženklu).

• 
  

Džinas jau išleistas iš butelio, ir atgal jo nesukišime. Mūsų užduotis – išmokti su juo gyventi, atskirti realybę nuo fikcijos ir nepasiduoti dirbtinio intelekto sukurtoms iliuzijoms.

Aš ir toliau atidžiai stebėsiu situaciją ir dalinsiuosi su jumis naujausia informacija. Būkite budrūs!