Ne vjerujte nikome: što prijeti neuronskom mrežom, stvarajući porno
Dmitry Kurkin
Lažni porno videiu kojoj je zvijezda filma "Wonder Woman" Gal Gadot navodno seksala sa svojim polubratom, koji se ovaj tjedan pojavio na webu, ispostavilo se da nije samo lažna, nego lažna generirana umjetnom inteligencijom.
Autor videa, anonimni korisnik reddita s nadimkom deepfakes, u intervjuu s Vice, potvrdio je da je koristio neuronsku mrežu kako bi "fotografirao" Gadotovo lice tijelu porno glumice. Lažna je, općenito, primjetna, a dubokofake nisu planirale zaraditi novac - rekao je, samo je htio provjeriti kako će to biti lako koristiti AI. I za nas ima loše vijesti: bilo je vrlo lako napraviti lažnu pornografiju kod kuće.
Problem uopće nije u pornografijama: potražnja za slikama i videozapisima, gdje glumci i glumice poput slavnih imaju seksualne odnose, jest, jest i jest s fetišistima i senzacionalnim ljubavnicima. Što se tiče vanjske sličnosti sa zvijezdama u porno industriji, stvaraju se cijele karijere - ovaj fenomen čak je doveo do izvanrednog naslova žutog tiska: "patuljasti porno patuljak Gordon Ramsay otkrio je mrtve u jazbinskoj rupi".
Ali ako je prije proizvodnje bilo potrebno vrijeme, resursi i neka vrsta vještine, tada neuronska mreža, obučena za zavarivanje lica prema slici, uvelike pojednostavljuje zadatak. Roboti se zadržavaju, a ne čovjek, a roboti s vremena na vrijeme postaju pametniji, što znači da će fakes izgledati sve pouzdanije. Korisnik deepfakes pojasnio je da je sakupio svoj AI softver iz elemenata bilješke koji se nalaze u knjižnicama otvorenog koda, te snimio fotografije i videozapise u javne kanale i hosting kao što je YouTube. Jednostavno rečeno, svi alati za generiranje pornofeikovaca ležali su pod njegovim nosom, ne samo s njim, nego i među milijunima ljudi širom svijeta.
I ovo, strogo govoreći, čak ni vijesti. Još 2003. godine, stručnjaci sa Sveučilišta Oregon Health and Science upozorili su da su audio prijevare "lako napraviti i teško ih je odrediti". Do 2017. godine predviđanje se ostvarilo i postojale su lažne glasovne snimke koje su generirale neuronske mreže, a koje je vrlo teško razlikovati od stvarnih. Nakon zvuka, videozapis je povučen. Razvoj osoblja Sveučilišta u Washingtonu sinkronizira izraze lica osobe s njegovim govorom: u videoisječku s Barackom Obamom, na primjer, samo audio je prisutan, slika je generirana programom. Povežite se s drugim - i sada postoje spremni lažni videozapisi u kojima, recimo, poznati liberalni političar "priznaje" svoje simpatije prema Hitleru.
Potrebno je malo mašte da zamislite kako zlouporabe takve umjetne inteligencije mogu dovesti do - chatovi Microsofta, koje su Twitterovi trolovi pretvorili u rasističke za manje od jednog dana, činit će se kao prilično šala protiv njih. I naravno, tehnologiji pornografije ne prijeti prvenstveno Gal Gadot, Taylor Swift ili Jennifer Lawrence. Oni su dovoljno osigurani da zaposle vojsku IT stručnjaka koji prepoznaju varanje i flotu odvjetnika koji će tužiti svakoga tko pokuša iskoristiti ove krivotvorine za osobnu korist.
Ne, jednostavni smrtnici će postati žrtve novih bezopasnih algoritama. Digitalne varalice mogu se koristiti za pornografiju, cyber-stabljike, mrežno uznemiravanje, ucjene i manipulacije od strane ljudi koji su lako sugestivni i ne prate posebno vijesti s područja naprednih tehnologija ("Vaša je kći snimljena, hitno prebacite novac, inače će ga sve vidjeti"). I ne govorimo nužno o pornićima: laži se mogu pokrenuti iu Mrežu za političku propagandu i poticanje na mržnju.
"Ali ovo je monstruozno!" Da, to je monstruozno, a koder dubokih riba nije kriv za to. Kako hakeri ponekad provaljuju u bankarske sustave da ne kradu novac, nego da upoznaju odjel za kibernetičku obranu u sigurnosne praznine, tako da ga je izumio anonimni programer AI koji nas stavlja pred činjenicu: doba digitalnih krivotvorina nije antiutopijska priča o užasima "Crno zrcalo", i nadolazeća stvarnost. Suvremenu etiku još uvijek nije shvatila (može li se pornifil smatrati invazijom na privatnost drugih ljudi?), Niti zakon koji je na snazi. Ali u njoj mi nekako moramo živjeti u nadolazećim godinama. Dakle, potrebno je razviti protuotrov protiv takvog nadjevanja.
Collins rječnik kustosi nazvao pojam "lažne vijesti" izraz 2017, na taj način naglašavajući da je prosječan korisnik je ovisnik o clickbate i repost senzacionalno naslove bez gubljenja vremena provjere autentičnost informacija. U međuvremenu, lažne vijesti mogu utjecati na rezultate izbora i referenduma. I to je također dio nove stvarnosti u kojoj već postojimo iu kojoj ćemo morati naučiti biti manje neozbiljni.
Društvene mreže već su učinile internet kućicom od staklenih zidova u kojoj milijuni ljudi mogu gledati vaš život svaki dan - čak i kada to ne želite. Sada je očito da nema vrata u ovoj kući: svatko može pokušati napasti vaš osobni prostor, koristeći AI da vam zajebe lice na pornorollu ili filmu "Gospodar prstenova". Privatnost je mrtva, ali ne samo Big Brother je kriv za to u obliku posebnih usluga i globalnih korporacija, nego i nas samih.
Dolazi svijet digitalnih krivotvorina, ali to nije razlog za paniku, paranoju, odbijanje korištenja Interneta ili zahtjeve za zabranu neuronskih mreža. To je razlog za razmišljanje o mrežnoj higijeni i novoj etici, u kojoj će se jednom zauvijek utvrditi da je upotreba tuđe slike za stvaranje digitalnog lažnog djela pokvarena i protuzakonita. Vrijeme kada su ljudi bezuvjetno vjerovali svemu što kažu na televiziji (čak i ako kažu da je "Lenjin bio gljiva") blijedi. Isto tako, postupno se navikavamo da ne vjerujemo svemu što je napisano na Internetu.
Cover:Warp zapisi