Deepfake to fałszywe filmy generowane przez sztuczną inteligencję, przedstawiające osoby, które w rzeczywistości nigdy nie zrobiły tego, co na filmie robią czy mówią. Ten „Photoshop” XXI wieku może poważnie manipulować opinią publiczną.

Jest to widoczne w dwóch filmach przedstawiających prezydenta Bharatiya Janata (BJP) Manoj Tiwari krytykującego obecny rząd w Arvind Kejriwal w Delhi. To pierwszy raz, gdy w Indiach zidentyfikowano deepfake stworzony z motywów politycznych. I nie będzie on zapewne ostatnim.

Urzędnicy z BJP współpracowali z firmą ds. komunikacji politycznej The Ideaz Factory, aby stosować deepfake w celu dotarcia do różnych grup wyborców. Chociaż językami urzędowymi w Indiach są hindi i angielski, w Indiach jest 22 głównych języków, napisanych 13 różnymi skryptami i ponad 720 dialektami. Politycy nie mogą ignorować wyborców, którzy mówią innym dialektem.

W oryginalnym filmie Manoj Tiwari złożył krótkie oświadczenie polityczne, oskarżając obecnych przywódców Delhi o składanie fałszywych obietnic swoim wyborcom. Oryginał został następnie sfałszowany w języku angielskim i Haryanvi, popularnym dialekcie hindi używanym w Delhi. Dwa filmy typu deepfake podzielono między grupy WhatsApp w regionie Delhi. Dotarły one do około 15 milionów ludzi!

Deepfake poważnym problemem

Deepfake są powodem, dla którego Obama nazywa Trumpa „kompletnym gównem” lub Mark Zuckerberg chwali się „całkowitą kontrolą nad miliardami skradzionych danych”. Te oświadczenia nigdy nie zostały sformułowane w rzeczywistości, ale pokazują ogromną moc nowoczesnych algorytmów uczenia maszynowego w rozpowszechnianiu fałszywych wiadomości. Wyobraź sobie, że ktoś wkłada ci słowa do ust i sprawia, że wszystko wydaje się niesamowicie autentyczne.

Według Deeptrace we wrześniu 2019 r. w Internecie krążyło ponad 15 tys. fałszywych filmów. Ich liczba podwoiła się w ciągu dziewięciu miesięcy, z czego oszałamiające 96 proc. to twory pornograficzne, które przedstawiają twarze gwiazd doklejone gwiazdom porno. Za nimi znajdują się deepfake wykonane jako fałszerstwa lub satyra. Oczywiście, z powodów politycznych również stosuje się deepfake. Samo w sobie może brzmieć to nieco niewinnie. Gdy jednak zbroi się zaawansowaną technologię podczas kampanii politycznych i wyborów, staje się to bardzo niebezpieczne.

W przyszłości, gdy deepfake będą coraz trudniejsze do rozpoznania, zagrożenia, jakie stanowią dla demokracji i dziennikarstwa, nie mogą zostać lekceważone. Zanim fałszywy film zostanie ujawniony, wiele osób wcześniej zdąży wyrobić sobie opinię na jego podstawie i będzie już za późno na sprostowania.

Należy spodziewać się niespokojnych czasów, zwłaszcza gdy zbliżają się wybory prezydenckie w USA. Rozwiązanie? Sieci społecznościowe muszą dotrzymywać kroku i stosować równie potężną sztuczną inteligencję do filtrowania i oznaczania potencjalnych podróbek. Jednak trudniej to powiedzieć, niż zrobić. Naprawdę niepokojące jest to, że wiele z algorytmów deepfake jest dostępnych bezpłatnie w Internecie. Ludzie mogą więc z łatwością używać ich do tworzenia własnych fałszywych filmów.

Ostatecznie społeczeństwo musi być świadome, że takie rzeczy istnieją. Ludzie powinni stać się bardziej sceptyczni wobec tego, co napotykają w Internecie.