Deepfałszowania wyborów na Słowacji pokazują, że sztuczna inteligencja stanowi zagrożenie dla demokracji

Po kilku godzinach byli gotowi potwierdzić, że ich zdaniem nagranie zostało sfałszowane. Ich etykieta, która jest nadal widoczna na słowackojęzycznej stronie Facebooka, gdy odwiedzający natkną się na post, głosi: „Niezależni weryfikatorzy faktów twierdzą, że zdjęcie lub obraz zostało zmodyfikowane w sposób mogący wprowadzić ludzi w błąd”. Facebook – użytkownicy mogą wówczas zdecydować, czy nadal chcą obejrzeć film.

Zarówno piwo, jak i nagrania audio sfałszowane podczas wyborów pozostają widoczne na Facebooku z etykietą „Fact-Check”. „Po sprawdzeniu treści pod kątem faktów oznaczamy ją i degradujemy w aktualnościach, aby mniej osób ją zobaczyło – jak miało to miejsce w przypadku tych dwóch przykładów” – powiedział Ben Walter, rzecznik Meta. „Nasze standardy społeczności mają zastosowanie do wszystkich treści, niezależnie od tego, czy zostały utworzone przez sztuczną inteligencję, czy przez osobę, i podejmiemy działania w przypadku treści naruszających te wytyczne”.

Wybory te były jednym z pierwszych głosów będących następstwem wprowadzenia w sierpniu unijnego aktu prawnego o usługach cyfrowych. Ustawa, mająca na celu lepszą ochronę praw człowieka w Internecie, wprowadziła nowe zasady, które powinny zmusić platformy do większej proaktywności i przejrzystości w wysiłkach na rzecz ograniczenia dezinformacji.

„Słowacja była przypadkiem testowym, aby zobaczyć, co się sprawdza, a gdzie potrzebne są ulepszenia” – mówi Richard Kuchta, analityk w Reset, grupie badawczej zajmującej się wpływem technologii na demokrację. „Moim zdaniem, [the new law] Wywieranie nacisku na platformy, aby zwiększyły moderację treści lub możliwości sprawdzania faktów. Wiemy, że Meta zatrudniła więcej osób weryfikujących fakty na potrzeby wyborów na Słowacji, ale zobaczymy, czy to wystarczy”.

Oprócz dwóch fałszywych nagrań dźwiękowych Kuchta był także świadkiem, jak skrajnie prawicowa partia Republika opublikowała w mediach społecznościowych dwa kolejne filmy z imitacją dźwięku AI. Jeden udawał Michala Šimečkę, drugi – Prezydent Zuzanę Čaputovą. Nagrania te zawierały wyjaśnienia, że ​​głosy są fałszywe: „Te głosy są fikcyjne, a ich podobieństwo do prawdziwych ludzi jest całkowicie przypadkowe”. Jednak stwierdzenie to pojawia się dopiero w 15 sekundach 20-sekundowego filmu, mówi Kutcha, co jego zdaniem było próbą oszukać publiczność.

Wybory na Słowacji były w Polsce uważnie obserwowane. „Oczywiście bardzo boimy się dezinformacji generowanej przez sztuczną inteligencję, ponieważ bardzo trudno jest na nią szybko reagować” – mówi Jakub Śliż, prezes polskiej grupy sprawdzającej fakty Stowarzyszenie Prawda. Śliż twierdzi, że jest również zaniepokojony panującą na Słowacji tendencją do umieszczania dezinformacji w nagraniach audio, a nie w filmach czy obrazach, ponieważ klonowanie głosu jest tak trudne do zidentyfikowania.

Podobnie jak Hincová Frankovská na Słowacji, Śliżowi również brakuje narzędzi umożliwiających niezawodne wykrywanie tego, co zostało stworzone lub zmanipulowane przy użyciu sztucznej inteligencji. „Dostępne narzędzia umożliwiają ocenę prawdopodobieństwa” – mówi. Narzędzia te mają jednak problem z czarną skrzynką. Nie wie, na jakiej podstawie stwierdzają, że post jest prawdopodobnie fałszywy. „Jeśli mam narzędzie, które wykorzystuje inną sztuczną inteligencję, aby w magiczny sposób poinformować mnie, że w 87% jest to wygenerowana sztuczna inteligencja, jak mam przekazać tę wiadomość moim odbiorcom?”, mówi.

W Polsce nie krąży jeszcze zbyt wiele treści generowanych przez sztuczną inteligencję – mówi Śliż. „Ale ludzie wykorzystują fakt, że coś się dzieje móc Wygenerowana przez sztuczną inteligencję w celu zdyskredytowania prawdziwych źródeł.” Polscy wyborcy mają jeszcze dwa tygodnie na podjęcie decyzji, czy rządząca konserwatywna partia Prawo i Sprawiedliwość powinna pozostać w rządzie przez bezprecedensową trzecią kadencję. W ten weekend w Warszawie zebrał się ogromny tłum popierający opozycję. Kontrolowane przez opozycję władze miejskie oszacowały, że w szczytowym momencie tłum osiągnął milion osób. Jednak użytkownicy serwisu X, znanego wcześniej jako Twitter, zasugerowali, że filmy z marszu zostały zmanipulowane przy użyciu sztucznej inteligencji, aby tłumy wyglądały na większe.

Śliż uważa, że ​​tego typu treści można łatwo zweryfikować poprzez odniesienie do różnych źródeł. Gdyby jednak nagrania dźwiękowe wygenerowane przez sztuczną inteligencję miały krążyć po Polsce w ostatnich godzinach przed głosowaniem, jak to miało miejsce na Słowacji, byłoby to znacznie trudniejsze. „Jako organizacja weryfikująca fakty nie mamy konkretnego planu, jak sobie z tym poradzić” – mówi. Jeśli więc coś takiego się wydarzy, będzie to bolesne.