Jeszcze dekadę temu obraz wideo był dla większości ludzi czymś w rodzaju cyfrowego dowodu. Jeśli coś „widać na nagraniu”, to prawdopodobnie wydarzyło się naprawdę. Dziś ten fundament zaczyna się chwiać.
Sztuczna inteligencja nauczyła się nie tylko tworzyć obrazy. Nauczyła się tworzyć wiarygodność.
W praktyce oznacza to, że coraz łatwiej wygenerować człowieka, który nigdy nie istniał, albo sprawić, by prawdziwa osoba powiedziała rzeczy, których nigdy nie powiedziała. Jeszcze bardziej niepokojące jest to, że jako odbiorcy zaczynamy tracić zdolność intuicyjnego rozpoznawania manipulacji.
Jak to działa
Najprościej mówiąc: modele AI analizują gigantyczne ilości zdjęć, nagrań i głosów, a następnie uczą się wzorców ludzkiego wyglądu i zachowania.
Nie „rozumieją” człowieka w ludzki sposób. Działają statystycznie. Przewidują, jaki piksel, ruch mięśnia twarzy albo fragment głosu powinien pojawić się jako następny.
To trochę jak bardzo zaawansowany mechanizm autouzupełniania — tylko zamiast kończyć zdania, kończy twarz, emocję i mowę.
Przez lata deepfake zdradzały błędy. Nienaturalne mruganie, dziwne światło, problemy z ruchem ust albo artefakty obrazu. Problem polega na tym, że modele uczą się niezwykle szybko. Wiele współczesnych materiałów jest już praktycznie niemożliwych do rozpoznania bez specjalistycznych narzędzi.
Tu zaczyna się nowa epoka internetu.
Moment, w którym „widzieć” przestaje oznaczać „wierzyć”.
Mechanizm większy niż fake
Największym zagrożeniem może nie być sam deepfake, ale efekt psychologiczny, który wywoła.
Istnieje pojęcie „liar’s dividend”. Oznacza sytuację, w której możliwość istnienia fake’ów pozwala podważać nawet prawdziwe dowody.
Jeśli pojawi się autentyczne kompromitujące nagranie polityka, biznesmena albo celebryty, zawsze można odpowiedzieć: „to AI”. I część ludzi w to uwierzy.
Paradoksalnie więc technologia nie tylko tworzy fałszywe materiały. Ona rozmywa granicę między prawdą a możliwością jej udowodnienia.
To problem znacznie większy niż internetowe oszustwa.
Mówimy o potencjalnym kryzysie zaufania społecznego.
Warto zapisać
Przez dekady społeczeństwa działały według prostego schematu:
świadek → zdjęcie → nagranie → dowód.
AI zaczyna rozbijać ostatni element tego łańcucha.
W przyszłości autentyczność materiałów może wymagać dodatkowego potwierdzenia:
cyfrowych podpisów, kryptograficznych znaczników, potwierdzenia źródła albo specjalnych systemów weryfikacji.
Innymi słowy: prawda może przestać być „widoczna gołym okiem”.
Co wiemy dzisiaj
Technologia deepfake rozwija się szybciej niż regulacje prawne i edukacja społeczna. Narzędzia, które jeszcze kilka lat temu wymagały zespołów specjalistów, dziś bywają dostępne publicznie.
Jednocześnie rozwijają się systemy wykrywania manipulacji: analiza mikrodrgań twarzy, artefaktów kompresji, niespójności światła czy cyfrowych podpisów plików.
To jednak wyścig zbrojeń.
Im lepsze wykrywanie, tym lepsze generowanie.
I właśnie dlatego część ekspertów uważa, że największą obroną przed erą deepfake nie będzie technologia, ale zmiana społecznych nawyków. Wolniejsze ocenianie informacji. Weryfikacja źródeł. Ostrożność wobec emocjonalnych nagrań.
Bo AI uderza przede wszystkim w coś, co działało automatycznie:
„uwierzę, kiedy zobaczę”.
Dlaczego to ważne
Historia internetu była historią walki o uwagę. Deepfake może zamienić ją w walkę o samą rzeczywistość.
Jeśli społeczeństwo przestanie ufać obrazom, dźwiękom i nagraniom, konsekwencje dotkną mediów, polityki, sądów, relacji społecznych i bezpieczeństwa państw.
To nie jest już pytanie o technologiczną ciekawostkę.
To pytanie o to, jak będzie wyglądało zaufanie w epoce sztucznej inteligencji.
ŹRÓDŁA
https://www.weforum.org/stories/2024/01/deepfakes-ai-misinformation-risk/
https://mitsloan.mit.edu/ideas-made-to-matter/deepfakes-explained
https://www.brookings.edu/articles/the-liars-dividend-and-the-future-of-deepfakes/
Ocena źródeł (A/B/C) i ryzyko błędu
A: publikacje naukowe, Parlament Europejski, MIT, IBM
B: World Economic Forum, Brookings Institution
C: brak wykorzystanych źródeł niskiej jakości
Ryzyko błędu: średnie — technologia rozwija się bardzo szybko, więc część przykładów i możliwości może zmieniać się z miesiąca na miesiąc
Co by to rozstrzygnęło: powszechny standard cyfrowego podpisu materiałów, skuteczne systemy wykrywania AI oraz globalne regulacje dotyczące autentyczności treści