Anonim
ג'ו רוגן איי

היום בו הטכנולוגיה יכולה לשחזר את הקול שלך כדי להגיד כל דבר - לא משנה כמה מטורף - הוא די הרבה כאן. קבוצת מהנדסים יצרה תוכנית AI שיכולה לחקות באופן משכנע את קולו של מארח הפודקאסט ג'ו רוגן.

תוכלו לשמוע את התוצאות בסרטון שלהלן. הקול לא רק זהה לרוגן, אלא הוא גם יכול לייצר קצב נשמע טבעי כמעט לכל מילה שנאמרה.

עם זאת, הקול מלאכותי. המהנדסים בחברת AI אלה יכולים לגרום לג'ו רוגן המזויף שלהם לומר כל דבר - כל שעליהם לעשות הוא להקליד את הטקסט. במקרה זה, הם השמיעו את הקול המונע על ידי AI על חסות לקבוצת הוקי מלאה בשימפנזים וגם להעניק את היתרונות של להיות רובוט.

הסרטון כנראה ישעשע ויפריע לכם. וזה העניין. "זה די מפחיד", כתבו אלה בפוסט בבלוג על ההישג, שנוצר באמצעות טכנולוגיית סינתזת טקסט לדיבור שכונו את RealTalk.

החברה הוסיפה כי "בשנים הקרובות (או אפילו מוקדם יותר) נראה את הטכנולוגיה מתקדמת עד לנקודה בה דרושים רק כמה שניות של אודיו כדי ליצור העתק דמוי חיים של קולו של מישהו על פני כדור הארץ".

#RealTalk: תודה שהענקת לנו את הקול שלך, @JoeRogan! ידענו שתקבל עד כמה באמת AI רציני, ותעריך את עזרתך בהפצת מודעות לגבי הפוטנציאל שלה, שהוא בבת אחת מדהים אך גם מסוכן. https://t.co/kY31spaBdJ pic.twitter.com/UYggRaj4eT

- אלה (@dessa) 17 במאי 2019

ההדגמה היא רק הדוגמה האחרונה לאופן שבו ניתן לנצל אלגוריתמים המופעלים על ידי AI בכדי להפיץ מידע שגוי כדי להטעות את הציבור כולו. חוקרים כבר הראו שאפשר להשתמש בטכנולוגיה כדי ליצור תמונות וסרטוני וידיאו של אנשים, כולל פוליטיקאים וסלבריטאים, ריאליסטיים למראה. מחוקקים אמריקנים חוששים ש"עימות העמוקים "שנוצרו על ידי AI עשויים יום אחד לפתוח חזית חדשה בלוחמת מידע.

טכנולוגיית הסינתזה של טקסט לדיבור יכולה לשמש גם למטרות זדוניות. דמיין את המתקשרים לטלפון הונאה עם היכולת להתחזות לבני משפחתך. או האקרים שיוצרים זיופים של פוליטיקאי שאומרים דברים פוגעניים בכדי להפריע לבחירות.

כמובן, אותה טכנולוגיה יכולה לשמש לתמיד; כדוגמאות, אלה מצביע על דיבוב קול אוטומטי לסרטים בכל שפה, כמו גם לעוזרים חכמים נשמעים יותר טבעיים. עם זאת, ברור שהחברה צריכה להבטיח שטכנולוגיות דיבור סינתטיות מפותחות בצורה אחראית, לפני שהן הופכות לסכנה, מסרה החברה.

"זה לא גלוי להאמין שההשלכות שהזכרנו (וכמובן, הרבה יותר) יעשו בקרוב את דרכן למרקם החברה", הזהירו אלה.

ההשלכות המפחידות הן הסיבה שדייטים מסרבים לשחרר את הפרטים הטכניים העומדים מאחורי טכנולוגיית הסינתזה שלהם לטקסט לדיבור המופעלת באמצעות AI. בחברה נמסר כי "כדי לעבוד על דברים כאלה באחריות, אנו חושבים שצריך קודם כל להיות מודעים לציבור להשלכות שמודלים של סינתזת דיבור מציגים לפני שהוא משחרר שום מקור פתוח".

קשורים

  • כאשר AI מטשטש את הקו בין מציאות לבדיה כאשר AI מטשטש את הקו בין מציאות לבדיה
  • Deepfake Tech אחרון שתירקוד כמו ברונו מארס. Deepfake Tech אחרונה שתרקוד כמו ברונו מארס
  • ניצול למידת AI ומכונה, זיופים עמוקים, עכשיו קשה יותר לזהות AI ולנצל למידה במכונה, זיופים עמוקים, עכשיו קשה יותר לזהות

עם זאת, החברה מתכננת לפרסם סקירה טכנית של טכנולוגיית ה- AI שלה בימים הקרובים. בינתיים, אלה יצרו אתר הבודק אם תוכלו לבחור קטעי שמע אמיתיים של רוגן מהזויפים שנוצרו על ידי ה- AI שלהם.

בתגובה להדגמה, רוגן עצמו צייץ: "זה יכול להיות בעיה אמיתית. אני מחמיא לי וכבוד שהם בחרו בקולי כדוגמה כדי ליידע אותנו שאנחנו דפוקים."