The Rise of Deepfakes

הדיפ-פייקים של אילון מאסק, סאם בנקמן-פריד וטום קרוז הופכים לויראלים וגם - כמה כרטיסים מכרה טיילור סוויפט לסיבוב ההופעות שלה?

אם זה נראה כמו אילון מאסק, נשמע כמו אילון מאסק? האם זה בטוח אילון מאסק?

@kingelon100He’s back 🤣 #elonmuskmeme #twitter #republican #trump #viral #funny

Tiktok failed to load.

Enable 3rd party cookies or use another browser

״גבירותי ורבותיי, המלך חזר! ביטלתי באופן רשמי את השעייתו של  דונלד טראמפ מטוויטר, ועכשיו כל הבכיינים הליברלים שעובדים בטוויטר מאיימים לעזוב, אז אני הולך לפטר אותם…״

הדברים האלו נאמרים לכאורה על ידי אילון מאסק בסרטון שהופך לויראלי ברשת (בעיקר בטיקטוק) וזוכה לעשרות מיליוני צפיות. אלא שממש לא מדובר בבעלים ובמנכ״ל טוויטר אלא בטכנולוגיית  דיפ-פייק (טכנולוגיה מבוססת בינה מלאכותית שהשתמשה בצילומים של מאסק וקטעי קול שלו ליצור סרטון מזויף)! 

הדבר הלא פחות מדאיג הוא, כפי ששמה לב ג׳ולס טרפק שחלק ניכר מהמגיבים בטיקטוק לא שמו לב לכך שמדובר בסרטון מזויף. בטיקטוק (נכון לשעה כתיבת שורות אלו) לא הסיררו את הסרטון או סימנו אותו באזהרה כלשהי שמדובר בפייק. בינתיים הסרטון משותף בלי הפסקה ומה שלא פחות מדהים שאפשר למצוא אותו גם ברשת החברתית שבבעלותו של מאסק - טוויטר.

יכולות ה-AI בשנה האחרונה צברו תאוצה ויחד איתם גם יכולות ה-Deepfake. בחודש האחרון היה מי שניסה לנצל את הטכנולוגיה הזאת כדי לעשות כסף. כשבוע לאחר קריסתה של בורסת הקריפטו FTX, ומיליוני המשתמשים שלה שנותרו בלי גישה לכסף שלהם, עלה לטוויטר הסרטון הזה:

Jason Koebler @jason_koebler

Over the weekend, a verified account posing as FTX founder SBF posted dozens of copies of this deepfake video offering FTX users "compensation for the loss" in a phishing scam designed to drain their crypto wallets

בסרטון הדיפ-פייק הזה, אפשר לראות לכאורה את מייסד חברת FTX שפשטה את הרגל וחייבת לנושיה יותר מ3 מיליארד דולר, SBF (סם בנקמן פריד), שמציע לכאורה למשתמשים פיצוי על אובדן ההכנסה. מה שהפך את הסרטון הזה לבעייתי עוד יותר, היא העובדה שמי שצייץ את הסרטון הציג את זה כאילו זה בא מהחשבון האמיתי של בנקמן פריד. יוצרי החשבון ניצלו את העובדה שטוויטר אפשרה (ומאז חזרה בה) לכל משתמש לאמת את חשבונו ולקבל וי כחול תמורת $8 דולר לחודש. כך החליפו את תמונת הפרופיל לזו שנראית כמו החשבון המקורי וגם את שם החשבון. אתר Motherboard דיווח שהחשבון הזה נחסם על ידי טוויטר ולא ברור האם נגנב כסף בצורה הזאת.

מי שמנסה להעלות את המודעות סביב הסכנות של הדיפ-פייק הם טום קרוז ופריס הילטון. או יותר נכון דיפ-פייק של טום קרוז ופריס הילטון. חשבון הטיקטוק deeptomcruise, מעלה בחודשים האחרונים סדרה של סרטונים בו הכוכבים מדמים חיי זוגיות.

קרוז שר להילטון את Tiny Dancer של אלטון ג׳ון:

@deeptomcruiseWhen singing with your dog, always have sunglasses 🕶 🐶

Tiktok failed to load.

Enable 3rd party cookies or use another browser

יושבים במטבח ואוכלים ארוחת בוקר:

@deeptomcruiseAfter hard work, cold cereal can be so HOT. @parishilton

Tiktok failed to load.

Enable 3rd party cookies or use another browser

ובסרטון שלישי - הם מתכוננים ביחד ליציאה לבכורה של סרט: הילטון שואלת את קרוז: ״אתה חושב שאנשים באמת יאמינו שאנחנו זוג?״ ו(דיפ-פייק) קרוז עונה ״אני חושב שאנשים יאמינו להכל״, בסרטון שהגיע ליותר מ50 מיליון צפיות בטיקטוק ואינסטגרם:

@deeptomcruise@parishilton and I are #sliving our best life 🍾🤍

Tiktok failed to load.

Enable 3rd party cookies or use another browser

מי שעומדים מאחורי העמוד הזה הם שלושה מומחים באפקטים מיוחדים ובינה מלאכותית. בראיון לאתר פורבס סיפרו שהמטרה היא להראות באיזה קלות אפשר לעשות שימוש בטכנולוגיית הבינה המלאכותית כדי להטעות אנשים, אבל גם להציג צד יותר יצירתי לשימוש בדיפייק בתעשיות הבידור והאופנה.

עם התפתחות הבינה המלאכותית, גם טכנולוגיית הדיפייק צפויה להשתדרג ולהשתכלל וממש לא נופתע אם בבחירות הקרובות לנשיאות ארה״ב נראה שימוש בה במטרה להשפיע על מצביעים. השאלה העיקרית היא איך תתמודדנה הרשתות החברתיות עם סרטונים מזויפים של ביידן או טראמפ.  

---

מה אני קורא? מה אני שומע? מה אני רואה?

• 📰 - מה אני קורא?

  מאחורי סם בנקמן-פריד ו-FTX עמדה אישה צעירה, מבריקה ומעט משונה. עכשיו היא נעלמה - לינק. הסיפור המדהים על קרוליין אליסון, מי שניהלה את אלמידה, קרן ההשקעות של FTX.

• 📺 - מה אני רואה?

  Inside Man, נטפליקס

  מיני סדרה לא שגרתית שהפכה לאחד הלהיטים של נטפליקס בשבועות האחרונים, מציגה רוצח סדרתי שממתין להוצאתו להורג, מפענח פשעים של אנשים המגיעים אליו.

• 🎙️- מה אני שומע?

  סיבוב ההופעות של טיילור סוויפט הצליח לגרום לקריסתו הזמנית של אתר הכרטיסים טיקטמאסטר. לא פחות מ14 מיליון אנשים נכנסו לאתר וניסו לרכוש כרטיס, אבל רק 2.4 מיליון כרטיסים נמכרו. מה בדיוק קרה שם ואיך זה הוביל לחקירה כנגד אתר (בחשד למונופול). אגב, מי שהצליח לרכוש כרטיס, יכול לעשות מזה הרבה כסף - כרטיסים נמכרים כעת ברשת במחיר של עד $22,000.

• 🦠- ויראלי

  עדיין עם טיילור סוויפט - עוד לפני מכירת הכרטיסים להופעות שככל הנראה יכניסו לזמרת מאות מיליוני דולרים. בלוגר אחד ברשת חישב כמה הכניס האלבום ששחרה בשבוע הראשון (ששבר כל שיא השמעות אפשרי). אמ;לק - יותר מ-50 מיליון דולר.

  Dan Runcie @RuncieDan

  Taylor Swift 'Midnights' has likely generated $50M+. 1.75B Spotify streams = ~5.2B+ overall streams ~$0.005 per stream. That’s ~$26M Plus: 575k vinyl * $30 395k CDs * $13 161k digital downloads * $12 10k cassettes * $18 That's $24M just in US first week. $50M+ and counting.

  סופ״ש נעים!