Jak rozpoznać deepfake po błędach w głosie?
Deepfake, który ma na celu wprowadzenie nas w błąd, to nie tylko wygenerowany obraz, ale także zmanipulowany dźwięk. Eksperci NASK przygotowali kilka wskazówek, jak rozpoznać manipulacje w generowanym głosie i skutecznie zidentyfikować fałszywe nagrania.
Choć modele AI stale się rozwijają, generowane głosy często wydają się „płaskie” lub pozbawione emocji. Barwa głosu może brzmieć sztucznie, zwłaszcza podczas wyrażania emocji, takich jak złość, radość czy smutek.
W naszym najnowszym odcinku Joanna Gajewska z NASK, która na co dzień zajmuje się analizą i badaniem generowanych treści, wskazuje konkretne przykłady błędów w generowanym głosie. Sprawdź jak w praktyce zastosować te wskazówki, by nie dać się nabrać na oszustwo.
Sygnały w głosie zdradzające deepfake
Twórcy deepfake’ów, manipulując głosem, używają zaawansowanych modeli generatywnych, które jednak nie są doskonałe. Oto typowe błędy, które mogą zdradzić oszustów:
- Nietypowa intonacja
Generowane głosy nie interpretują znaków interpunkcyjnych. Skutkuje to dziwnym rytmem wypowiedzi. Może to wyglądać tak, jakby osoba mówiła bez przerwy, nie uwzględniając naturalnych pauz czy akcentów. - Zmiana akcentu lub języka
Niekiedy w trakcie nagrania można usłyszeć subtelną zmianę akcentu, co jest efektem niedokładnej synchronizacji modelu. W ekstremalnych przypadkach zdarzają się nawet przejścia z jednego języka na inny. - Nagłe zmiany głośności
Fałszywe głosy często zdradzają swoją sztuczność poprzez niespodziewane wahania poziomu głośności. Przykładowo, jedna część wypowiedzi może być wyjątkowo głośna, a inna ledwo słyszalna. - Nienaturalne lub brakujące odgłosy tła
Warto zwrócić uwagę na dźwięki w tle. Jeśli brakuje naturalnych odgłosów środowiska, takich jak echo w pomieszczeniu czy szum otoczenia, może to być sygnałem, że głos został wygenerowany. - Syntetyczna barwa głosu
Choć modele AI stale się rozwijają, generowane głosy często wydają się „płaskie” lub pozbawione emocji. Barwa głosu może brzmieć sztucznie, zwłaszcza podczas wyrażania emocji, takich jak złość, radość czy smutek.
Nie przegap kolejnego odcinka
Wiedza to najlepsza obrona przed cyfrowymi manipulacjami. Świadomość jak odróżniać prawdziwe głosy od fałszywych, pomoże podczas codziennego korzystania z internetu i mediów społecznościowych rozpoznawać techniki, które stosują oszuści.
Premiera kolejnego odcinka już za tydzień. Będzie on poświęcony błędom logicznym w deepfake’ach – czyli nieoczywistym, ale zdradzającym manipulację sygnałom.
Wyróżnione aktualności
ArtykułNASK promuje młode talenty informatyczne. Weź udział w naszym konkursie
Trwa konkurs na najlepszą pracę magisterską z zakresu informatyki. To doskonała okazja, by zdobyć nagrody i otworzyć sobie drzwi do kariery w NASK oraz innych czołowych instytucji badawczo-technologicznych. Zgłoszenia przyjmowane są do 10 października, a pula nagród wynosi 60 tys. zł.
AktualnośćBez człowieka nie ma mowy o cyberbezpieczeństwie
Cyberodporność zyskała ludzką twarz – nie tylko technologia, ale przede wszystkim ludzie są odpowiedzialni za bezpieczeństwo firm. To ich świadomość, czujność i odpowiedzialność – stanowią pierwszą i ostatnią linię obrony przed cyfrowymi atakami. Jak rozwijać zabezpieczenia i jaka jest kondycja polskiego biznesu? O tym rozmawiali goście Europejskiego Kongresu Gospodarczego w Katowicach.
AktualnośćNASK inspiruje młodych: rekordowa frekwencja w Olimpiadzie ESA
Aż 21 tysięcy uczestników, trudne pytania z nauki o klimacie i wielka pasja do ochrony środowiska. 15-letnia Basia Lehmann jako jedyna uczestniczka zdobyła maksymalną liczbę punktów! Zakończyła się IV Ogólnopolska Olimpiada Antysmogowa, organizowana przez NASK.
AktualnośćPuls dezinformacji. EKG w Katowicach
Fałszywe narracje w infosferze to coraz większy problem społeczny. Szczególnie w kontekście zbliżających się wyborów prezydenckich. Jaka jest skala i dynamika tego zjawiska? Jak wpływa na życie społeczne oraz publiczne? To kwestie, które przewijają się w dyskusji podczas Europejskiego Kongresu Gospodarczego w Katowicach.
Najnowsze aktualności
AktualnośćAI – standardy i przyszłość. Europejskie warsztaty w NASK
UE chce by rewolucja AI była bezpieczna i zgodna z europejskimi wartościami – oparta na wspólnych, sprawdzonych standardach. To właśnie tym zagadnieniom poświęcone były warsztaty w NASK w zorganizowane ramach polskiej prezydencji w Unii Europejskiej. Wnioski ze spotkania będą przydatne m.in. podczas czerwcowego posiedzenia Rady UE.
Aktualność„Buduj przyszłość, zmieniaj Polskę”. Z NASK.
NASK – kluczowa instytucja w obszarze cyberbezpieczeństwa Polski – bierze udział w wyjątkowych Targach Pracy. Obywają się one 11 maja i są niezwykłe nie tylko ze względu na miejsce — Kancelarię Prezesa Rady Ministrów (KPRM), lecz także na zakres prezentowanych ofert. To jedno z najważniejszych wydarzeń rekrutacyjnych w sektorze publicznym.
Aktualność„Bezpieczny dzień” - nowa kampania NASK i Ministerstwa Cyfryzacji
Trafiasz na podejrzaną stronę w internecie. Co robisz? Zamykasz ją i zapominasz? A może zgłaszasz? Marek natknął się na taką stronę w Internecie i zgłosił ją do NASK. Kilka kliknięć, bez wychodzenia z domu i strony oszustów zostały zablokowane, a to uchroniło innych użytkowników. A Ty? Czy reagujesz tak jak Marek?