Kaj so Deepfakes in zakaj so tako nevarni?

Kako

Avtor:Michael Bryant

Zadnja posodobitev dne1. september 2021

Nekoč v veliki meri omejeni na pornografijo, se globoko ponarejajo zdaj povsod. Še bolj zaskrbljujoče: tehnologija, ki stoji za njim, se vsako leto izboljšuje, kar bi lahko imelo široke posledice v prihodnjih letih.

Ali je Mark Zuckerberg res priznal z ukradenimi podatki od milijard ljudi? Je Barack Obama Donalda Trumpa poklical "popolno sranje?”Vsaka od teh povezav do videoposnetkov je primer deepfakea, nevarne oblike umetne tehnologije, ki omogoča, da nekomu v usta damo besede ali drug obraz na telesu druge osebe. Obstajajo tudi "glasovne kože" in "glasovni kloni", ki omogočajo potegavščinam, da posnemajo glas.

Pri razpravi o globokih ponaredkih je treba odgovoriti na dve vprašanji. Prvič, kaj jih dela, in drugič, zakaj postajajo vse bolj učinkoviti. Pa poglejmo.

Deepfakes: Kaj je torej problem?

Nedvomno so nekatere globoke ponaredke smešne - ko se enkrat zavedete v šalo. Predstavljajte si na primer, da je 44. predsednik Združenih držav 45. res javno poimenoval 45. slabo ime ali da je prvotna Čudežna ženska, Lynda Carter,

je bil nekako postavljen v novejše filme, v katerih je dejansko igrala Gal Gadot.

Na žalost se lahko z napredovanjem globinskih ponaredkov pojavijo težave in povzročijo velike težave. Na primer, politični nasprotniki lahko ustvarijo ponarejene videoposnetke, ki prikazujejo nasprotnike na ogroženih položajih. S tem bi lahko spremenili izid volitev. V bolj nevarnem primeru si predstavljajte, da trenutni predsednik Združenih držav napoveduje vojno Kitajski, kitajska vlada pa verjame, da je to res.

Težave z globokimi ponaredki ne vključujejo nujno slavnih oseb ali vladnih uradnikov. Na primer, z "glasovnimi kožami" bi lahko prevarant prepričal starša, da je njihov otrok v težavah, ali pa bi ponarejen agent davčne uprave lahko prevaral nič hudega slutečega državljana, da bi mu izročil bančne podatke.

Drugi primeri globokih ponaredkov so med drugim lažne prevare, kršitve podatkov, uničevanje ugleda, socialni inženiring, avtomatizirani napadi dezinformacij in finančne goljufije.

Zakaj so učinkoviti?

Tehnologija globokega učenja je v zadnjih letih izboljšala kakovost globokih ponaredkov. In vendar obstajajo drugi razlogi, ker se dejstva in fikcija čedalje bolj zabrisujejo. Po navedbah Globoko ponarejeno zdaj, potrditvena pristranskost in napačno prepričanje prav tako motijo ​​naše možgane.

Potrditvena pristranskost

S potrditvijo pristranskosti posamezniki iščejo, razlagajo in dajejo prednost informacijam na način, ki podpira prepričanja ali vrednote.

Kot pojasnjuje Ameriško združenje za psihologijo (APA): »Pristranskost potrditve je težnja po iskanju informacij, ki podpirajo in ne zavrača lastne predsodke, običajno z razlago dokazov za potrditev obstoječih prepričanj, hkrati pa zavrača ali ignorira vse nasprotujoče si podatke. "

Lažno prepričanje

V psihologiji se teorija uma nanaša na mentalno sposobnost razumevanja drugih ljudi in njihovega vedenja. Lažno prepričanje velja za pomemben mejnik teorije. To je razumevanje, da drugi ljudje lahko verjamejo stvarem, ki niso resnične.

Nazaj na Deep Fake Now: »Ob zadostnem času bo nekdo nekje neizogibno uporabil„ alternativna dejstva “v podporo svoji agendi. In verjetno bodo uporabili globoko ponarejeno tehnologijo za "dokazovanje" svojih izjav. To je njihov način širjenja dvoma in propagande v družbah. "

Oba koncepta prikazujeta, kako se deepfakes uporablja kot orodje za spreminjanje mnenja.

Deepfakes: Je resničen ali lažen?

Čeprav se tehnologija globoko ponarejanja izboljšuje, obstajajo načini, kako ugotoviti, kdaj je videoposnetek ponaredek. Pravzaprav Norton pojasnjuje, da jih je vsaj 15 zanesljivih načinov za ugotavljanje ponaredkov. Med temi so:

• Nenaravno gibanje oči. Gibi oči, ki niso videti naravni - ali pomanjkanje gibanja oči, na primer odsotnost utripanja - so rdeče zastavice. Težko je ponoviti dejanje utripanja na naraven način. Prav tako je zahtevno ponoviti trenutke oči resnične osebe. To postane pogled nekoga, ki običajno sledi osebi, s katero se pogovarja.
• Pomanjkanje čustev. Prav tako lahko opazite preoblikovanje obraza ali slikovne lepila, če se zdi, da obraz nekoga ne izraža čustev, ki bi morala ustrezati temu, kar naj bi govorili.
• Nenaravno barvanje. Nenormalen ton kože, razbarvanje, čudna osvetlitev in napačno postavljene sence so znaki, da je to, kar vidite, verjetno ponaredek.
• Digitalni prstni odtisi. Tehnologija blockchain lahko ustvari tudi digitalni prstni odtis za videoposnetke. Čeprav ni varno, lahko to preverjanje, ki temelji na verigi verig, pomaga ugotoviti pristnost videoposnetka. Evo, kako to deluje. Ko je videoposnetek ustvarjen, je vsebina registrirana v knjigi, ki je ni mogoče spremeniti. Ta tehnologija lahko pomaga dokazati pristnost videoposnetka.
• Iskanje povratne slike. Iskanje izvirne slike ali iskanje povratne slike s pomočjo računalnika lahko na spletu odkrije podobne videoposnetke, ki pomagajo ugotoviti, ali so bila slika, zvok ali video kakor koli spremenjeni. Čeprav tehnologija povratnega iskanja videoposnetkov še ni javno dostopna, bi lahko bile naložbe v takšno orodje v pomoč.

Primeri

Na spletu je veliko primerov globokih ponaredkov. Moje najljubše so naslednje:

Kot lahko vidite, so globoki ponaredki res smešni, smešni. Na žalost so lahko nevarne tudi, če se tehnologija uporablja nezakonito. V prihodnjih letih bo zanimivo, kam gre to kot koncept.

Kako

Kako počistiti predpomnilnik Google Chrome, piškotke in zgodovino brskanja

Chrome odlično shrani vašo zgodovino brskanja, predpomnilnik in piškotke, da optimizira delovanje vašega brskalnika v spletu. Njen način, kako ...

Kako

Vaš vodnik po skupni rabi dokumentov v Google Dokumentih, Preglednicah in Diapozitivih

Z Googlovimi spletnimi aplikacijami lahko preprosto sodelujete. Tukaj je vaš vodnik za skupno rabo v Google Dokumentih, Preglednicah in Diapozitivih z dovoljenji ...