נתקלתם בסרטון שבו אילון מאסק מאיים להשמיד את העולם ? או אובמה מכנה את דונלד טראמפ "אידיוט מוחלט" ? או ביבי מספר שהוא אוהב את יאיר לפיד ? אם כן, סביר להניח שמדובר בדיפ פייק (Deepfake).

טכנולוגיית דיפ פייק (או בעברית - 'זיוף עמוק') משתמשת בבינה מלאכותית (AI) כדי ליצור וידאו, תמונות או שמע מזוייפים, שמציגים משהו שבכלל לא התרחש במציאות. הטכנולוגיה הזו מבוססת על אלגוריתמים של למידה עמוקה, היודעים ללמד את עצמם לפתור בעיות המכילות כמויות גדולות של מידע ונתונים, ומשתמשים בהם גם כדי ליצור תוכן מזוייף של אנשים אמיתיים.

דיפ פייק יודעת לייצר תמונות, קולות וסרטונים מזוייפים ברמה גבוהה

הטכנולוגיה המדהימה הזו, אך גם המזיקה לפעמים, יכולה ליצור תמונות בידיוניות, אך משכנעות למדי של פוליטיקאים, שחקנים, זמרים, אומנים ואנשים מפורסמים מרחבי העולם לובשים בגדים מוזרים שלא קשורים אליהם בשום צורה או נמצאים בכל מיני מקומות שהם לא היו בהם אף פעם.

היא יכולה לזייף קולות ולייצר שיחות מזוייפות של מנהיגים גדולים בהיסטוריה או לגרום לזמר שכבר אינו בין החיים לשיר שירים חדשים שמתנגנים היום במצעדי הפזמונים.

מלבד אלה, אחת היכולות הגדולות והמסקרנות שיש לדיפ פייק היא זיוף וידאו. היא מסוגלת לזייף סרטונים ברמה מאוד גבוהה וגורמת לאנשים רבים לתהות אם מה שהם רואים הוא באמת אמיתי או זיוף.

איך נוצרים דיפ פייקס

יש כל מיני שיטות לייצור זיופים עמוקים, אך הנפוצה ביניהן מסתמכת על שימוש ברשתות עצביות (נוירונים) עמוקות המשתמשות בטכניקה של החלפת פנים. ראשית כל, צריך להשיג סרטון כלשהו שישמש כבסיס לסרטון המזוייף ולאחר מכן, צריך למצוא עוד מספר קטעי וידאו של האדם שאותו רוצים להכניס לסרטון המזוייף.

הסרטונים לא חייבים להיות קשורים אחד לשני. סרטון היעד (או סרטון המטרה), זה שמשמש כסרטון הבסיס, יכול להיות גם קטע וידאו שנלקח מאיזשהו נאום למשל ושאר קטעי הוידאו יכולים להיות כל מיני קטעים אקראיים שמצאתם ביוטיוב, שבהם מופיע האדם שבסופו של דבר יככב בסרטון המזוייף.

התוכנה או האפליקציה שמייצרת את הסרטון המזוייף מנחשת איך האדם נראה מכל מיני זוויות ותנאים שונים ולאחר מכן "מעתיקה" את האדם הזה אל האדם האחר שנמצא בסרטון היעד על ידי מציאת תכונות משותפות.

טכנולוגיה נוספת של למידת מכונה שמצטרפת לתהליך הזיוף נקראת GANs (או בשמה הארוך - Generative Adversarial Networks). טכנולוגיה זו מזהה ומשפרת את כל הפגמים שנוצרו בדיפ פייק ועושה חיים קשים לגלאי דיפ פייק, שיודעים לזהות היטב זיופים.

למרות שכל תהליך הדיפ פייק הוא מורכב מאוד, התוכנות והאפליקציות הזמינות כיום מאוד ידידותיות לשימוש ומאפשרות גם למשתמשים מתחילים לייצר תמונות, קולות וסרטונים מזוייפים בקלות ובמהירות. הפופולריות שביניהן הן: DeepFace Lab, FakeApp ו- Face Swap.

כיצד לזהות דיפ פייק

שלחו לכם סרטון כלשהו ואתם חושדים שהוא לא אמיתי. יש מספר שיטות ודרכים לזיהוי דיפ פייקס:

חפשו אחר הפרטים המטושטשים - בידקו האם יש בעיות בעור או בשיער של האדם שמופיע בסרטון, או האם הפרצוף שלו מטושטש יותר מהסביבה שבה הוא נמצא. בדרך כלל, בסרטוני דיפ פייקס, הפוקוס לא נראה טבעי.

תאורה לא טבעית - אלגוריתמים של דיפ פייק נוהגים להשאיר את התאורה שיש בקטעי הוידאו השונים שבהם השתמשו ליצירת הזיוף ובדרך כלל התאורה הזו לא תואמת לתאורה שיש בסרטון הסופי.

המילים והשמע לא תואמים את הויזואליה - יש דיפ פייקס שבהם השמע לא תואם לאדם שמופיע בסרטון, במיוחד אם הסרטון מזוייף ברמה גבוהה ובשמע המקורי לא טיפלו בקפדנות.

התוכן לא נראה אמין - אחת הטכניקות הנפוצות שבהן משתמשים עיתונאים, חוקרים ומומחים בתחום הדיפ פייק והבינה המלאכותית היא 'חיפוש תמונות הפוך'. בטכניקה מסוג זה בודקים את המקור האמיתי של התמונה. ואיך בדיוק עושים זאת ? מחפשים ברשת את האדם שפרסם אותה, בודקים היכן היא פורסמה ושואלים האם היא הגיונית.

ככל שטכנולוגיית הדיפ פייק משתפרת, כך קשה יותר לזהות מה אמיתי ומה מזוייף. לכן, אם יש ספק אין ספק, לא צריך להאמין לכל תמונה או סרטון שרואים ברשתות החברתיות או בכל מיני אתרים מפוקפקים. ואם אתם ממש סקרנים לדעת אם התמונה או הסרטון שראיתם אמיתיים, אתם יכולים להשתמש בכל מיני כלים מתקדמים לזיהוי דיפ פייק הזמינים ברשת, שבחלקם ניתן להשתמש בחינם.