Deepfake videi su lažni video (ili audio) zapisi stvoreni pomoću vještačke inteligencije. To znači da računar „nauči“ izgled i glas neke osobe na osnovu postojećih fotografija ili snimaka, a potom kreira potpuno novi sadržaj u kojem ta osoba radi ili govori nešto što zapravo nikada nije uradila. Na prvi pogled deepfake djeluje potpuno autentično, pa je teško povjerovati da je u pitanju obična prevara. Ukratko, deepfake je „duboko lažan“ sadržaj koji zavarava gledaoce.
Kako nastaju deepfake videi?
Zamislite da imate mnogo fotografija i video snimaka neke osobe. Računarski program analizira te snimke i uči kako lice te osobe izgleda kada govori ili pokazuje emocije. To je slično kao kad slikar proučava mnogo fotografija prijatelja da nacrta njegov portret. Kada program savlada sve detalje, može napraviti potpuno novi video u kojem ta osoba radi ili govori nešto što u stvarnosti nikada nije uradila. Kao da je digitalna lutka ili maska: program pomjera lice te osobe, stvara pokret i glas kao da su pravi, iako je sve veštačko.
Što se tiče glasa, program sluša mnogo snimaka te osobe i uči njen glas, ton i način govora. Zamislite to kao da je računar papagaj koji nauči da govori glasom te osobe ili glumac koji vježba da imitira tuđi glas i način govora. Kada dovoljno nauči, program može izgovoriti nove rečenice tim glasom, iako ta osoba to nikada zaista nije rekla. Kada se generisani glas spoji sa generisanim licem, dobijemo video u kojem izgleda kao da ta osoba priča i pomjera usne, a zapravo to nije uradila. Računar je u pozadini složio vještačku verziju glasa i slike, pa zato video i zvuk djeluju vrlo stvarno, iako nisu pravi, već su digitalno stvoreni.
Ovo je sve moguće zahvaljujući vještačkoj inteligenciji. Međutim, kako tehnologija postaje dostupnija, obrade postaju sve uvjerljivije. Generativni AI alati danas mogu brzo učiti i iz relativno malog broja slika, pa je moguće da čak i neko sa osnovnim tehničkim znanjem napravi ovakav sadržaj. Zbog toga se deepfake smatra ozbiljnim izazovom – što više originalnih podataka ima napadač (fotografija, video-snimaka, snimljenog glasa), to će lažni video izgledati realnije.
Zašto je deepfake sadržaj opasan?
Budući da deepfake sadržaj djeluje izuzetno realistično, njihova zloupotreba nosi velike rizike. Takvi snimci mogu poslužiti za širenje lažnih vijesti i dezinformacija, za narušavanje nečije reputacije ili privatnosti, pa čak i za kriminalne radnje.
U kontekstu djece, posebno je zabrinjavajuća praksa tzv. roditeljskog dijeljenja (sharenting) – kada roditelji često, a nekad i bez razmišljanja, objavljuju fotografije i video-snimke svoje djece na društvenim mrežama. Studije pokazuju da prosječno petogodišnje dijete ima oko 1.500 svojih fotografija već dostupnih online, često upravo zbog objava roditelja. Svaka takva slika ostavlja digitalni trag koji ne možemo povući. Ako nepromišljeno dijelimo te fotografije, nenamjerno izlažemo dijete rizicima – naprimjer, mogućnosti krađe identiteta ili čak pedofilije. Jedna objavljena slika već je dovoljna da nepoznate osobe (ili zlonamjerni AI servisi) iskoriste te podatke protiv djeteta. U jednoj anketi samo je trećina roditelja znala da je jedna jedina fotografija dovoljna da dijete postane žrtva krađe identiteta.
Najzlokobnija upotreba deepfake videa je kreiranje neovlaštenih pornografskih sadržaja ili ucjena. Na primjer, algoritam može „zalijepiti“ lice djeteta (ili tinejdžerke) na eksplicitni video bez ikakve dozvole. Takav lažni pornografski materijal izaziva ogromnu psihološku traumu, stid i strah kod žrtve, te se često koristi za ucjenu – počinitelj može zaprijetiti da će objaviti taj video ako žrtva ne udovolji njegovim zahtjevima.
Osim toga, i drugi kompromitirajući deepfake snimci (npr. lažni video u kojem dijete loše govori ili se kompromituje) mogu biti korišteni za cyber-nasilje i zlostavljanje vršnjaka. Posebno je opasno to što deepfake mediji djeluju toliko stvarno da čak i stručnjaci ponekad ne mogu odmah uočiti laž. U svakom slučaju, roditelji bi trebali znati da danas često nije lako razlikovati stvarno od lažnog – malo je trikova kojima AI ne može imitirati neko lice ili govor.
Kao ilustracija, kompanija Deutsche Telekom je u kampanji #ShareWithCare (Dijeli sa oprezom) napravila videozapis „Poruka od Ele” u kojem je djevojčica poput virtualnog AI avatara upozorila roditelje na opasnosti prekomjernog dijeljenja fotografija djece na internetu. Pogledajte njihov kratak video:
Kako prepoznati deepfake sadržaj?
Iako su deepfake snimci vrlo uvjerljivi, postoje neki detalji na koje možete obratiti pažnju kad gledate video zapis ili sušate audio snimak:
Lažni videozapisi često imaju neprirodne pokrete lica i očiju – na primjer, lice može „skakati“ ili se suviše glatko pomjerati, a treptaj očiju djeluje čudno i neujednačeno. Obratite pažnju na pokrete usana: ako govor ne prati realan pomak usta (usne „kasne” za zvukom ili se ne poklapaju sa izgovorenim riječima), to je znak manipulacije. Provjerite ivice lica – deepfake često ostavlja „mutne“ ili neprirodne relaze duž linija lica i vrata (kao da je glava „zalijepljena“ za tijelo). Takođe, neobično osvjetljenje i sijenke mogu otkriti deepfake: nagli prelazi svjetla, nelogične senke ili neravnomjeran kontrast na licu ukazuju na AI manipulaciju.
Ako glas zvuči robotizovano ili monotono, bez prave emocije ili tonaliteta, moguće je da je AI generisao govor. Česti su i prekidi, čudni tonovi ili šumovi – na primjer, nagle pauze, šuštanje, metalni prizvuk ili pak previše „čist” audio bez bilo kakvih zvukova iz okoline, mogu ukazivati da je glas vještački. Ukoliko je video zapis u pitanju, uvjerite se da glas odgovara licu: ako zvuk i slika nisu usklađeni (glas stiže „naknadno” ili zvuči drugačije od osobe na ekranu), uvijek su sumnjivi.
Često su lažne i nelogične same okolnosti prikazane u sadržaju. Zapitajte se: “Da li ovo ima smisla?“ Ako sadržaj prikazuje poznatu osobu u nenormalnoj ulozi ili situaciji – npr. lider stranke koji naglo objavljuje nešto neobično, ili slavna ličnost sa čudnim izgledom – vjerojatno je u pitanju deepfake. Lažni sadržaj često prikazuje nemoguće ili preuveličane scene (kao što je npr. poznata fotografija pape u luksuznoj jakni bez rukava) – ako nešto djeluje „previše nestvarno”, budite oprezni. Dodatno, obratite pažnju na izvore: ako o događaju nema vijesti u pouzdanim medijima ili ga drugi izvori ne prenose, to je znak da je vjerojatno lažan.
Za dodatnu sigurnost, iskoristite i tehničke metode. Prvo provjerite izvor videa: ko je objavio snimak i je li kanal ili profil vjerodostojan i kredibilan. Pregledajte komentare i opis – ako autor ne navodi pouzdane izvore ili zanemaruje kontekst, budite sumnjičavi. Upotrijebite i reverse tj. oobrnutu pretragu (recimo pretraga slike ili video zapisa na Google pretrazi): to može otkriti je li video nastao ranije u drugom kontekstu. Postoje i specijalni alati za detekciju deepfakea – npr. aplikacije poput Deepware Scanner ili servisi Reality Defender mogu analizirati video i detektovati AI-manipulacije. Čak i neki novi modeli telefona (npr. Honor Magic7) imaju ugrađene AI funkcije koje upozoravaju na deepfake sadržaj. Ukratko, pretražujte digitalnim metodama – tražite video na pouzdanim portalima, provjerite da li postoje originalni snimci ili vijesti na drugim sajtovima, i koristite alate koji prate „digitalni otisak” algoritama.
U praksi je otkrivanje deepfake-a otežano jer vještačka inteligencija stalno napreduje. Ipak, ovi sitni detalji — kako okoreaguje, kako se poklapaju slika i zvuk, kako izgledaju sjenke i rubovi — mogu pomoći da uočite nepravilnosti. Ako vam nešto ne djeluje u potpunosti prirodno, budite sumnjičavi.
Savjeti za roditelje: Što možete uraditi kako biste zaštitili dijete
Kako roditeljima tako i djeci treba biti jasno da Internet nije uvijek bezazlen. Ključ je u edukaciji i oprezu. Evo nekoliko savjeta:
Razgovarajte otvoreno s djetetom: Objasnite djetetu šta je deepfake i da ne vjeruje automatski svemu što vidi na Internetu. Ohrabrite ga da postavlja pitanja – na primjer, ako vidi video u kojem se pojavljuju poznate ličnosti ili vršnjaci u nekom čudnom kontekstu, da vas pita da provjerite izvor.
Razvijajte kritičko razmišljanje: Podstičite djecu da preispituju kredibilitet medija. Naučite ih da provjeravaju dolazi li video s pouzdanih kanala, imaju li druge potvrde ili izvore vijesti, i da budu oprezni prema viralnim sadržajima. Kao što stručnjaci savjetuju, neka djeca nauče prepoznati da nisu sve informacije online tačne.
Odredite jasna pravila i granice: Postavite pravila o tome koje informacije i fotografije mogu dijeliti online, a koje ne. Upoznajte dijete s time da jednom objavljena slika ili video može postati javno dostupan i da ga kasnije ne može povući. Objasnite važnost privatnosti i saglasnosti – djeca bi trebala znati da ih niko ne smije prisiljavati ili zlostavljati preko Interneta. Jedno od pravila može biti da dijete uvijek treba da dobije vaše dopuštenje prije nego što podijeli nešto što je u vezi s sobom, porodicom ili prijateljima.
Budite oprezni kod dijeljenja fotografija: Roditelji sami trebaju da razmisle da li je potrebno objavljivati svaku fotografiju djeteta. Istraživanja su pokazala da većina roditelja svakodnevno dijeli slike svoje djece na internetu, ali da mnogi nisu svjesni rizika. Svaka objava ostavlja digitalni trag koji drugi mogu iskoristiti. Zato pridržavanje strogih postavki privatnosti na društvenim mrežama i objašnjavanje zašto ne treba javno dijeliti sve detalje može značajno smanjiti rizik.
Pratite online ponašanje djeteta: Redovno provjeravajte koje aplikacije vaše dijete koristi i kakav sadržaj pretražuje. Pritom budite otvoreni – neka osjeti da može razgovarati s vama o bilo čemu neobičnom ili uznemirujućem što vidi na Internetu. Podrška roditelja i povjerenje ključni su ako dijete ikada postane meta sajber-nasilja ili deepfake manipulacije. Bitno je da dijete zna da može doći kod vas bez straha od kazne ili osude.
Obrazovanje i razgovor s djecom o deepfake tehnologiji, kao i o drugim prijetnjama na internetu, mogu uveliko umanjiti rizik. Kao što stručnjaci savjetuju, dovoljno je da roditelji i djeca budu informisani i kritički nastrojeni prema onome što vide online. Ako se mladi posavjetuju sa starijima, i obrnuto, svi mogu naučiti da prepoznaju sumnjiv sadržaj.
U zaključku, deepfake sadržaj je izrazito uvjerljiva vrsta manipulacije koja može ugroziti privatnost i sigurnost djece. Roditelji bi trebali biti svjesni postojanja ove tehnologije i edukovati se o načinima otkrivanja ove vrste sadržaja.
Otvorena komunikacija i dobro poznavanje digitalnih rizika kod roditelja i djece najbolja su zaštita protiv deepfake prijetnji u digitalnom svijetu
Povezane cjeline:
