מבין כל הכוחות המפחידים של האינטרנט, היכולת שלה להערים על התמונות עלולה להיות המפחידה ביותר. קליקבייט, תמונות שצולמו בחדשות וחדשות שקריות הן מהעברייניות הגרועות ביותר, אך בשנים האחרונות ראו גם עלייתו של כלי חדש שעלול להיות מסוכן המכונה בינה מלאכותית עמוקה (AI).
המונח שקוף עמוק מתייחס לווידיאו ושמע מזויפים, המיוצרים על ידי מחשב, שקשה להבדיל מתוכן אמיתי ללא שינוי. זה לצלם מה זה פוטושופ לתמונות.
כיצד פועל AI עמוק בפעולה?
הכלי מסתמך על מה שמכונה רשתות אדפרסריות גנרטיביות (GANs), טכניקה שהומצאה בשנת 2014 על ידי איאן גודפלו, דוקטורט. סטודנט שעובד כעת באפל, כך דיווח Popular Mechanics.
אלגוריתם ה- GAN כולל שני AIs נפרדים, זה שמייצר תוכן - נניח, תמונות של אנשים - ויריב שמנסה לנחש אם התמונות אמיתיות או מזויפות, לפי ווקס. ה- AI המייצר מתחיל כמעט בלי שום מושג איך אנשים נראים, כלומר בן זוגו יכול להבדיל בקלות בין תמונות אמיתיות לתמונות כוזבות. אך עם הזמן כל סוג של AI משתפר בהדרגה, ובסופו של דבר ה- AI המייצר מתחיל לייצר תוכן שנראה כמו חיים מושלמים.
דוגמאות עמוקות
מכשירי רשת אלחוטית הם כלים מרשימים ולא משמשים תמיד למטרות זדוניות. בשנת 2018, ציור שנוצר על ידי GAN, שמחקה את סגנון "המאסטר הישן" ההולנדי של אמנים כמו רמברנדט ואן ריין מהמאה ה -17, נמכר בבית המכירות הפומביות של כריסטי תמורת 432,500 דולר מדהימים.
באותה שנה עלו עמוקות העמוק בולטות, בעיקר באמצעות משתמש Reddit שהכנה בשם 'עמוקות', כך דיווח סגן. לעתים קרובות נעשה שימוש בטכניקת ה- GAN בכדי להציב את פניהם של ידוענים מפורסמים - כולל גל גדות, מייסי וויליאמס וטיילור סוויפט - על גופם של שחקניות בסרטים פורנוגרפיים.
אנשי GAN אחרים למדו לצלם תמונה יחידה של אדם וליצור תמונות או סרטונים אלטרנטיביים מציאותיים למדי של אותו אדם. בשנת 2019, שקיעה עמוקה יכולה לייצר סרטים מצמררים אך מציאותיים של המונה ליזה מדברים, נעים ומחייכים בעמדות שונות.
Deepfakes יכול גם לשנות תוכן שמע. כפי שפורסם על ידי The Verge בתחילת השנה, הטכניקה יכולה לפצל מילים חדשות לסרטון של אדם המדבר, ולגרום להיראות שאמרו משהו שמעולם לא התכוונו אליו.
הקלות בה ניתן לפרוס את הכלי החדש טומנת בחובה השלכות מפחידות. אם מישהו, בכל מקום יכול לעשות סרטים ריאליסטיים המראים סלבריטאי או פוליטיקאי מדבר, מרגש ואומר מילים שמעולם לא אמרו, הצופים נאלצים להיזהר יותר מתוכן באינטרנט. כדוגמה, רק הקשיבו לנשיא אובמה שהזהיר מפני עתיד דיסטופי "מפוספס" בסרטון זה מבוזפיד, שנוצר באמצעות זינוק עמוק של הקולנוען ג'ורדן פלה.
