Deepfake to m.in. technika manipulacji obrazem, która wykorzystuje sztuczną inteligencję. Cyberbezpieczeństwo i zagrożenia związane z deepfake’ami były tematem konferencji eksperckiej zorganizowanej w ramach międzynarodowych targów służb mundurowych Polsecure w Kielcach.

Jak poinformowała dr Ewelina Bartuzi-Trokielewicz z państwowego instytutu badawczego NASK, technologia sztucznej inteligencji (AI) zdolna do generowania głosów osiągnęła poziom, gdzie już nawet krótkie nagranie, może wystarczyć do stworzenia przekonującej imitacji głosu danej osoby. Posiadając próbkę referencyjną, jesteśmy w stanie generować dowolną treść.

Zaznaczyła, że najnowszym narzędziom AI wystarczą nagranie poniżej minuty, aby powstała wierna replika głosu, niektóre potrzebują tylko od 6 do 15 sekund. Natomiast najbardziej wymagające i najwierniejsze repliki głosu są tworzone na bazie próbek od kilku minut do nawet kilku godzin nagrań.

Najbardziej narażone na naruszenie wizerunku są osoby publiczne politycy, czy celebryci, ponieważ w sieci dostępne są liczne materiały wideo i audio z ich udziałem. Te nagrania mogą służyć jako bogate źródło danych do trenowania algorytmów AI potrzebnych do stworzenia przekonujących deepfake'ów.

Dr Bartuzi-Trokielewicz zwróciła uwagę, że materiały takie pojawiały się podczas wyborów samorządowych. Przedstawiając kandydatów w niekorzystnym świetle, mogły dyskredytować ich w oczach mniej świadomych odbiorców i wyborców. Jej zdaniem ta sytuacja może się powtórzyć przed wyborami do Parlamentu Europejskiego.

"Niestety ludzie mają tendencje do wierzenia w to, co widzą i słyszą, a to generuje zagrożenia i może wpływać na proces wyborczy" – zaznaczyła.

Zwróciła uwagę, że przekonujące imitacje głosu mogą być używane do oszukiwania ludzi, zwłaszcza gdy oszust udaje osobę z rodziny lub znajomego, prosząc o pieniądze. "Zauważono ostatnio nową formę oszustwa, która ulepsza tradycyjną metodę wyłudzenia kodu blik na Facebooku. Oszuści włamują się na konta, wysyłają wiadomości głosowe imitujące głos posiadacza tego profilu i przekonują bliskich tej osoby do przekazania środków" – powiedziała.

Dodała, że w Polsce są też bardzo często wykorzystywane do tworzenia fałszywych reklam inwestycyjnych. Na podstawie zdjęcia osoby oraz jej głosu można wygenerować proste wideo z wiernie odwzorowanymi emocjami i o naturalnej ekspresji.

Z danych przedstawionych podczas środowych paneli dyskusyjnych organizowanych w ramach targów Polsecure wynika, że w ciągu godziny w internecie produkowanych jest 9 milionów e-maili zawierających złośliwe oprogramowania zaprojektowane do infiltracji, uszkodzenia lub wykorzystywania systemów komputerowych. Miesięcznie notowanych jest 100 tys. ataków z wykorzystaniem deepfake'ów.

W międzynarodowych targach służb mundurowych Polsecure w Targach Kielce bierze udział 142 wystawców oraz przedstawicieli służb mundurowych z 13 krajów. Podczas wydarzenia prezentują się firmy specjalizujące się w produkcji wyposażenia specjalnego, środków ochrony osobistej, sprzętu ratowniczego, dedykowanych policji, Straży Granicznej, Państwowej Straży Pożarnej czy Służbie Ochrony Państwa. Targi potrwają do czwartku.(PAP)

Autor: Wiktor Dziarmaga

wdz/ jann/