בחדשנות בזמן ללוח הזמנים של הבחירות בארה"ב 2024, Hiya חשפה תוסף חינמי ל-Chrome שנועד לזהות קולות מפוברקים. הכלי החדש, הידוע בשם Hiya Deepfake Voice Detector, מסוגל לנתח זרמים אודיו ווידאו, ומספק למשתמשים ציון אותנטיות שמצביע על כך אם קול הוא אמיתי או שנוצר בצורה מלאכותית.
על פי Hiya, בדיקות נרחבות הראו שהתוסף מתהדר ביכולת דיוק של למעלה מ-99 אחוזים. רמת אמינות גבוהה זו נמשכת גם לקולות שעוצבו על ידי מודלים של AI שהאלגוריתם לא נתקל בהם בעבר, מה שמבטיח שהוא יישאר יעיל ככל שהטכנולוגיות החדשות מופיעות.
בבדיקות מוקדמות, התוסף הפגין את יכולתו על ידי הערכת מדיה מגוונות. למשל, כאשר נבחן על סרטון YouTube שנחשד בשימוש בקריינות קולית של AI, הוא החזיר ציון אותנטיות של 1 מתוך 100, מה שמעיד שהוא ככל הנראה עבר מניפולציה.
Hiya הדגישה את האחריות של פלטפורמות מדיה חברתית בעידן זה של הונאה דיגיטלית. החברה ציינה את החשיבות של סיוע למשתמשים לנווט ולזהות תוכן שעלול להיות מטעה, כאשר כעת אנשים נושאים את רוב העומס בקביעת תקפות מה שהם צורכים ברשת.
התוסף פועל על בסיס מערכת אשראי, ומעניק למשתמשים 20 אשראים בכל יום. זה נועד לנהל את העומס על השרתים תוך מתן משאב יקר ערך למשתמשים במאבק נגד הגל ההולך ומתרקם של תוכן שנוצר על ידי AI שמצפים בכמה מקומות מקוונים.
עובדות נוספות רלוונטיות:
טכנולוגיית deepfake התקדמה במהירות, והפכה את האבחנה בין תוכן אודיו ווידאו אמיתי לבין מלאכותי לאתגר הולך ומתרקם. הכנסת כלים כמו Hiya’s Deepfake Voice Detector היא חלק מתנועה רחבה יותר למאבק במידע מוטעה ודיסאינפורמציה באינטרנט, במיוחד כאשר אירועים גלובליים, כמו בחירות, עשויים להיות מושפעים בעוצמה מתוכן שעבר מניפולציה.
שאלות ותשובות מרכזיות:
1. **מה הם ההשפעות הפוטנציאליות של טכנולוגיית קול מפוברק?**
טכנולוגיית קול מפוברק יכולה לשמש למטרות זדוניות, כמו הונאה, חיקוי והפצת מידע שקרי. היכולת ליצור אודיו ריאלי שמחקה כל אדם מהווה איום חמור על מוניטין אישי ועלולה לערער על האמון במדיה.
2. **כמה אמינים הם הכלים הנוכחיים לזיהוי deepfake?**
בעוד כלים כמו Hiya’s Deepfake Voice Detector טוענים לרמות דיוק גבוהות (מעל 99%), היעילות של הזיהוי עשויה להשתנות עם סוגים שונים של טכנולוגיות deepfake ואיכות הקול המיוצר. עדכונים מתמשכים וחידושים באלגוריתמים לזיהוי הם הכרחיים כדי לשמור על קצב עם שיטות יצירת ה-deepfake המתפתחות.
3. **מה על המשתמשים לעשות אם הם suspect קול שולי?**
משתמשים צריכים לנצל את הכלים לזיהוי כמו Hiya’s Deepfake Voice Detector ולאמת מידע ממקורות אמינים מרובים. הם צריכים להיות זהירים בשיתוף או בפעולות על תוכן שנראה חשוד.
אתגרים עיקריים או מחלוקות:
– **בעיות אתיות:** התפשטות טכנולוגיית deepfake מעוררת שאלות אתיות סביב הסכמה, פרטיות ופוטנציאל השימוש לרעה בהליך משפטי, פוליטיקה או סכסוכים אישיים.
– **התפתחויות יריבות:** ככל שטכנולוגיות הזיהוי משתפרות, כך גם היכולות של יוצרי deepfake לפתח זיופים משכנעים יותר, מה שיוצר מרוץ נשק מתמשך בין אסטרטגיות זיהוי והתחמקות.
יתרונות וחסרונות:
– **יתרונות:**
– מספק משאב חינמי למשתמשים לזהות מידע מוטעה פוטנציאלי.
– דיוק גבוה יכול לסייע בשיקום האמון בצריכת מדיה.
– מחנך ומאפשר למשתמשים לקחת אחריות על התוכן שבו הם מתעסקים.
– **חסרונות:**
– הטכנולוגיה עשויה שלא להיות חסינת טעויות, leading to potential mistakes in identifying deepfakes.
– התלות בכלי עשויה להפחית חשיבה ביקורתית ודקדוק ראוי בקרב משתמשים בנוגע לאוריינות מדיה.
– מערכת האשראי עשויה להגביל את השימוש עבור חלק מהמשתמשים במצבים של ביקוש גבוה.
קישורים רלוונטיים המומלצים:
Hiya
Deepfakes.com
