W terminowej innowacji przed wyborami w USA w 2024 roku, Hiya zaprezentowała bezpłatne rozszerzenie do Chrome, zaprojektowane do wykrywania deepfake’owych głosów. Nowe narzędzie, znane jako Hiya Deepfake Voice Detector, ma zdolność analizowania strumieni audio i wideo, dostarczając użytkownikom ocenę autentyczności, która wskazuje, czy głos jest prawdziwy czy sztucznie wygenerowany.
Według Hiya, obszerne testy wykazały, że rozszerzenie ma ponad 99 procent dokładności. Taki wysoki poziom niezawodności rozciąga się nawet na głosy syntezowane przez modele AI, z którymi algorytm wykrywania wcześniej się nie spotkał, zapewniając, że pozostaje skuteczne, gdy pojawiają się nowe technologie.
Wstępne testy wykazały, że rozszerzenie potrafi ocenić różne media. Na przykład, gdy testowane było na filmie z YouTube, który podejrzewano o użycie narracji głosowej AI, zwróciło ocenę autentyczności 1 na 100, co wskazywało, że prawdopodobnie było manipulowane.
Hiya podkreśliła odpowiedzialność platform mediów społecznościowych w tej erze cyfrowego oszustwa. Firma zauważyła, jak ważne jest pomoc użytkownikom w nawigacji i identyfikowaniu potencjalnie mylących treści, ponieważ obecnie to osoby w dużej mierze ponoszą odpowiedzialność za określenie prawdziwości tego, co konsumują online.
Rozszerzenie działa na zasadzie systemu kredytowego, przyznając użytkownikom codziennie 20 kredytów. To ma na celu zarządzanie obciążeniem serwera, jednocześnie oferując użytkownikom cenne zasoby w walce z przytłaczającą falą treści generowanych przez AI, jakiej się oczekuje w przestrzeniach online.
Dodatkowe Istotne Fakty:
Technologia deepfake szybko się rozwija, co sprawia, że coraz trudniej odróżnić prawdziwe treści audio i wideo od sztucznych. Wprowadzenie narzędzi, takich jak Hiya Deepfake Voice Detector, jest częścią szerszego ruchu przeciwko dezinformacji i fałszowaniu informacji online, szczególnie gdy globalne wydarzenia, takie jak wybory, mogą być znacząco wpływane przez manipulowane treści.
Kluczowe Pytania i Odpowiedzi:
1. **Jakie mogą być potencjalne skutki technologii deepfake?**
Technologia deepfake może być wykorzystywana w złych celach, takich jak oszustwa, podszywanie się oraz rozprzestrzenianie fałszywych informacji. Możliwość tworzenia realistycznego audio, które naśladuje dowolną osobę, stwarza poważne zagrożenia dla reputacji osobistej i może podważać zaufanie do mediów.
2. **Jak wiarygodne są obecne narzędzia do wykrywania deepfake?**
Chociaż takie narzędzia jak Hiya Deepfake Voice Detector deklarują wysokie wskaźniki dokładności (powyżej 99%), skuteczność wykrywania może się różnić w zależności od różnorodnych typów technologii deepfake i jakości syntezowanego głosu. Ciągłe aktualizacje i postępy w algorytmach wykrywania są niezbędne, aby nadążać za ewoluującymi metodami tworzenia deepfake.
3. **Co użytkownicy powinni zrobić, jeśli podejrzewają, że głos jest zmanipulowany?**
Użytkownicy powinni korzystać z narzędzi wykrywania, takich jak Hiya Deepfake Voice Detector, i weryfikować informacje z różnych wiarygodnych źródeł. Powinni być ostrożni w dzieleniu się lub podejmowaniu działań w odniesieniu do treści, które wydają się podejrzane.
Główne Wyzwania lub Kontrowersje:
– **Zagadnienia Etyczne:** Szerzenie się technologii deepfake podnosi kwestie etyczne dotyczące zgody, prywatności oraz potencjalnego nadużycia w postępowaniach sądowych, polityce lub sporach osobistych.
– **Postępy Adwersarialne:** Wraz z poprawą technologii wykrywania, również możliwości twórców deepfake do tworzenia bardziej wiarygodnych fałszywek się poprawiają, co prowadzi do ciągłego wyścigu zbrojeń między strategiami wykrywania a unikaniem.
Zalety i Wady:
– **Zalety:**
– Zapewnia bezpłatne źródło dla użytkowników do identyfikacji potencjalnej dezinformacji.
– Wysoka dokładność może pomóc przywrócić zaufanie do konsumowania mediów.
– Edukuje i wzmacnia użytkowników, by ci ponosili odpowiedzialność za treści, z którymi się angażują.
– **Wady:**
– Technologia może nie być nieomylna, prowadząc do potencjalnych błędów w identyfikacji deepfake.
– Zależność od narzędzia może zmniejszać myślenie krytyczne i staranność użytkowników w zakresie kompetencji medialnej.
– System oparty na kredytach może ograniczać użytkowanie dla niektórych użytkowników w sytuacjach o dużym zapotrzebowaniu.
Zaproponowane Pokrewne Linki:
Hiya
Deepfakes.com
