В своевременной инновации, предшествующей выборам в США в 2024 году, Hiya представила бесплатное расширение для Chrome, разработанное для обнаружения фальшивых голосов (deepfake voices). Новый инструмент, известный как Hiya Deepfake Voice Detector, способен анализировать аудиопотоки и видеопотоки, предоставляя пользователям оценку подлинности, которая указывает, является ли голос подлинным или искусственно сгенерированным.
По данным Hiya, обширное тестирование показало, что это расширение обладает точностью более 99 процентов. Этот высокий уровень надежности также распространяется на голоса, синтезированные ИИ-моделями, с которыми алгоритм обнаружения ранее не сталкивался, что обеспечивает его эффективность по мере появления новых технологий.
В предварительных тестах расширение продемонстрировало свои способности, оценивая различные медиа. Например, при тестировании на видео с YouTube, подозреваемом в использовании ИИ-голосового Narration, оно выдало оценку подлинности 1 из 100, что указывает на то, что, скорее всего, был произведен манипуляции.
Hiya подчеркнула ответственность социальных медиа-платформ в эпоху цифрового обмана. Компания отметила важность помощи пользователям в навигации и идентификации потенциально вводящего в заблуждение контента, так как на данный момент именно на пользователей лежит основная нагрузка по определению подлинности того, что они потребляют в интернете.
Расширение работает на кредитной системе, предоставляя пользователям 20 кредитов каждый день. Это сделано для управления загрузкой серверов, одновременно предлагая пользователям ценное средство в борьбе с подавляющим наплывом контента, сгенерированного ИИ, ожидаемым в онлайн-пространствах.
Дополнительные актуальные факты:
Технология deepfake быстро совершенствовалась, что делает ничем не примечательным отличать реальные и искусственные аудио- и видеоконтенты. Появление таких инструментов, как Hiya’s Deepfake Voice Detector, является частью более широкого движения по борьбе с дезинформацией и неправдой в интернете, особенно поскольку глобальные события, такие как выборы, могут быть существенно подорваны манипулированным контентом.
Ключевые вопросы и ответы:
1. **Каковы потенциальные последствия технологии глубоких фейков (deepfake voice technology)?**
Технология глубоких фейков может использоваться в злонамеренных целях, таких как мошенничество, выдавание себя за другого человека и распространение ложной информации. Возможность создавать реалистичное аудио, имитирующее любого человека, создает серьезные угрозы для личной репутации и может подорвать доверие к средствам массовой информации.
2. **Насколько надежны современные инструменты обнаружения глубоких фейков?**
Хотя инструменты, такие как Hiya’s Deepfake Voice Detector, заявляют о высокой точности (более 99%), эффективность обнаружения может варьироваться в зависимости от различных типов технологий глубоких фейков и качества синтезированного голоса. Необходимы постоянные обновления и усовершенствования алгоритмов обнаружения, чтобы успевать за развивающимися методами создания глубоких фейков.
3. **Что должны делать пользователи, если они подозревают, что голос был манипулирован?**
Пользователи должны использовать инструменты обнаружения, такие как Hiya’s Deepfake Voice Detector, и проверять информацию из нескольких достоверных источников. Им следует быть осторожными в отношении распространения или действий на основе сомнительного контента.
Ключевые проблемы или споры:
— **Этические соображения:** Эпидемия технологии глубоких фейков порождает этические вопросы вокруг согласия, конфиденциальности и потенциального злоупотребления в судебных разбирательствах, политике или личных спорах.
— **Противостояние:** Поскольку технологии обнаружения улучшаются, так и возможности создателей глубоких фейков развивать более правдоподобные подделки, создавая постоянную гонку между стратегиями обнаружения и уклонения.
Преимущества и недостатки:
— **Преимущества:**
— Предоставляет бесплатный ресурс для пользователей для выявления потенциальной дезинформации.
— Высокая точность может помочь восстановить доверие к потреблению информации.
— Образовывает и наделяет пользователей ответственностью за контент, с которым они взаимодействуют.
— **Недостатки:**
— Технология может не быть безошибочной, что приведет к потенциальным ошибкам в идентификации глубоких фейков.
— Зависимость от инструмента может снизить критическое мышление и должную осмотрительность среди пользователей в отношении медийной грамотности.
— Система на основе кредитов может ограничить использование для некоторых пользователей в ситуациях высокого спроса.
Предложенные ссылки:
Hiya
Deepfakes.com
