Sisu
- Mis on deepfake?
- Kuidas deepfake toimib?
- Päritolu
- Ohud
- Lahenduse leidmine
- Populaarne sügavkülmutatud sisu
Sügavkülm sisu loob kaose inimeste seas, kes kasvasid üles mõttega, et nägemine on usklik. Fotosid ja videoid, mida kunagi peeti vaieldamatuks tõendiks millegi toimumisest, küsitlevad nüüd massid. Seda võib oodata pärast seda, kui oleme teada saanud hämmastavalt realistliku Barack Obama video, milles kutsutakse president Trumpi “täielikuks ja täielikuks ****” - see pole midagi muud kui sügav võltslooming.
Sügavkülm sisu loob kaose inimeste seas, kes kasvasid üles mõttega, et nägemine on usklik.
Edgar CervantesKaasatud tehnika tõstatab kulme ja tekitab küsimusi, mistõttu oleme siin selleks, et anda teile täielik sügavmõistetus selle kohta, mis see on, kuidas see töötab ja kas tõesti on põhjust muretsemiseks.
Mis on deepfake?
Deepfake on AI (tehisintellekti) tehnika, mille abil sisu loomiseks või manipuleerimiseks kasutatakse masinõpet. Seda kasutatakse sageli montaažide loomiseks või inimese näo asetamiseks teise peale, kuid tema võimalused ulatuvad sellest kaugemale. Sellel tehnoloogial on palju muid rakendusi. Nende hulka kuulub heli, liikumise, maastike, loomade ja muu manipuleerimine või loomine.
Kuidas deepfake toimib?
Deepfake'i sisu luuakse masinõppe tehnika abil, mida tuntakse GAN-i (generatiivne võistlev võrk) kaudu. GAN-id kasutavad kaht närvivõrku: generaatorit ja diskrimineerijat. Need konkureerivad pidevalt üksteisega.
Generaator proovib luua realistliku pildi, samal ajal kui diskrimineerija püüab kindlaks teha, kas see on võlts või mitte. Kui generaator eksitab diskrimineerijat, kasutab diskrimineerija kogutud teavet parema kohtuniku saamiseks. Samuti, kui diskrimineerija tuvastab, et generaatori pilt on võlts, saab generaator võltskujutise paremini luua. Lõputu tsükkel võib jätkuda seni, kuni pilt, video või heli ei ole enam inimese vaatevinklist võltsitud.
Päritolu
Esimesed deepfake'i videod olid ilmselgelt pornotähed!
Edgar CervantesEsimesed deepfake'i videod olid ilmselgelt pornotähed! Täpsemalt öeldes oli tavaline näha kuulsuste nägusid pornonäitlejate kohal. Nicholas Cage'i meemid olid ka teiste lõbusate leiutiste hulgas populaarsed.
Sõna deepfake sai selle tehnika sünonüümiks 2017. aastal tänu Redditi kasutajale, kes läks nimeks “deepfakes”. Kasutajaga liitusid teised, kes on nüüd keelatud r / sügavmõtted subreddit, kus nad jagasid oma loomingut kogu maailmale.
Generatiivsete konkureerivate võrgustike tegelik looja on Ian Goodfellow. Koos kolleegidega tutvustas ta kontseptsiooni 2014. aastal Montreali ülikoolile. Seejärel asus ta tööle Google'i ja töötab praegu Apple'is.
Ohud
Valedes kätes saab sügava võltsloomuse abil võltsida palju enamat kui rumal Nicholas Cage'i meem.
Edgar CervantesKuigi sisuga manipuleerimine pole midagi uut, nõudis see varem tõsiseid oskusi. Võlts sisu tegemiseks oli teil vaja võimsat arvutit ja tõesti mõjuvat põhjust (või lihtsalt liiga palju vaba aega). Deepfake'i loomistarkvara, näiteks FakeApp, on tasuta, hõlpsalt leitav ega vaja palju arvuti võimsust. Ja kuna see teeb kogu töö iseseisvalt, ei pea te hullumeelselt tõelise sügavmõtetava meedia tegemiseks olema osav toimetaja.
Seetõttu on üldsus, kuulsused, poliitilised isikud ja valitsused mures sügava võltsimise pärast. Valedes kätes saab sügava võltsloomuse abil võltsida palju enamat kui rumal Nicholas Cage'i meem. Kujutage ette, et keegi loob võlts uudiseid või süüdistab videotõendeid. Võite probleemile lisada võlts- ja kättemaksuporno. Asjad võivad kiiresti segaseks saada.
Teine põhjus sügava võltsisisu pärast muretsemiseks on see, et ka olulised isiksused võivad eitada mineviku tegusid. Kuna deepfake'i videod tunduvad nii tõelised, võib igaüks väita, et pärisklipp on sügavfake.
Loe ka: Eetika ja AI keerukus
Lahenduse leidmine
Ehkki väljaõppinud silm on väga lähedal reaalsele kohale, suudab ta võltsvideot siiski tähelepanelikult tähele panna. Mure on selles, et tulevikus ei pruugi me mingil hetkel erinevust öelda.
Twitter, Pornhub, Reddit ja teised on edutult üritanud sellisest sisust lahti saada. Ametlikuma poole pealt teeb DARPA (Defense Advanced Research Projects Agency) koostööd teadusasutuste ja Colorado ülikooliga, et luua viis sügavate võtete avastamiseks.
Parim, mida sügavate võltsvideote vastu võitlemiseks teha saame, on olla tähelepanelikum ja vähem kergeusklik.
Edgar CervantesKuni meil pole tarkvara, mis suudaks selliste videote eeskirjade eiramist märgata, on parim, mida teha saame, olla tähelepanelikum ja vähem kergeusklik. Enne kui video, pildi või heli eeldamine on tõeline, uurige oma uuringut. See on asi, mida oleksime pidanud niikuinii tegema.
Populaarne sügavkülmutatud sisu
Jordan Peele liitub Buzzfeediga selle video kokku panemiseks, mis on mõeldud teadvuse loomiseks.
Veebipõhine manipuleerimise asjatundja Claire Wardle näitab meile, kui realistlikud need videod võivad välja näha, näidates end video esimese 30 sekundi jooksul Adelena. See The New York Timesi video annab meile selle teema kohta suurepärase ülevaate.
Watchmojo annab on kureerinud nimekirja kõige populaarsematest sügavate võltsvideotega videost. See on lõbus video, kus on palju suurepäraseid näiteid.
Kas olete mures sügavate võltsvideote tagajärgede pärast? See on kindlasti teema, mida peaksime meeles pidama, töötades samal ajal ka lahenduste leidmise nimel.
