Technologia deepfake - sposób na dobry żart czy realne zagrożenie?

• Technologia deepfake wykorzystuje sztuczną inteligencję do generowania filmów lub nagrań dźwiękowych, w których zastępuje prawdziwy wizerunek danej osoby fałszywym obrazem stworzonym na podstawie wygenerowanych wzorców.
• Celem takiej działalności jest przedstawienie czegoś, co w rzeczywistości się nie wydarzyło. Często jest to robione dla zabawy, ale może być także przemyślaną działalnością mającą na celu ośmieszenia kogoś. 
• Odróżnienie deepfake'a od prawdziwej informacji jest bardzo trudne i wymaga wstecznej analizy użytych plików wyjściowych. 

Sztuczna inteligencja potrafi coraz lepiej symulować rzeczywistość. Coraz częściej pojawiają się informacje m.in. o filmach, w których dana osoba mówi lub robi coś, co w rzeczywistości nie miało miejsca, i wygląda to bardzo autentycznie. 

Znak czasów AI - technologia deepfake

Jednym z przykładów deepfake'a jest okładka National Geographic. Portretuje ona nagą białą kobietę w objęciach roznegliżowanego czarnoskórego mężczyzny. Teksty okładkowe sugerują, że tematem numeru jest ewolucja populacji europejskiej w kierunku mieszania się ras.
Ale deepfake coraz częściej jest preparowany - i to w formie zabawy - w korespondencjach prywatnych. Ktoś kogoś pozdrawia z Nowego Jorku, wcale tam nie będąc, czy pozuje na zdjęciu ze znaną osobą, choć nie miał ku temu okazji. Liczba tak spreparowanych dezinformacji rośnie błyskawicznie. 

- W porównaniu z rokiem 2019 w 2023 roku liczba deepfake'ów wzrosła o... 550 procent - mówi Pamela Krzypkowska z Ministerstwa Cyfryzacji. - Często nie zdajemy sobie sprawy, że jest to deepfake, a nie prawdziwa informacja. Stworzenie czyjegoś głosu jako deepfake'a jest bardzo proste. Nawet istnieją strony do ich tworzenia - dodaje. 

Czytaj także

• Sztuczna inteligencja ożywiła głos Edith Piaf. Piosenkarka "przemówi" w swojej filmowej biografii
• Voicebot – nie będziesz musiał z nim rozmawiać. Masz prawo do rozmowy z człowiekiem
• "Indiana Jones i artefakt przeznaczenia": najsłynniejszy archeolog pop kultury rusza na ostatnią wyprawę

- To zjawisko było zawsze, tylko teraz mamy do tego lepsze narzędzia - mówi dr Anna Górska z Akademii Leona Koźmińskiego. - Kiedyś trudno się było złapać na scam na nigeryjskiego księcia, jeśli się wiedziało o takich rzeczach. Teraz te scamy są dużo bardziej zaawansowane. Sztuczna inteligencja nie tylko wpływa na odzwierciedlanie negatywnych rzeczy, ale często także je pogłębia - dodaje.    

Posłuchaj

37:49

Technologia deepfake - sposób na dobry żart czy realne zagrożenie? (News albo Fake News / Trójka)

Dodaj do playlisty

Dodaj do playlisty

***

Tytuł audycji: News Albo Fake News
Prowadzi: Monika Suszek
Gościni: Pamela Krzypkowska (Ministerstwa Cyfryzacji) i dr Anna Górska (Akademia Leona Koźmińskiego) 
Data emisji: 9.07.2024
Godzina emisji: 12.09

dm/wmkor