מערכת דיילי באזזבמבט ראשון, ניה נואר נראית כמו עוד כוכבת רשת שהצליחה לפרוץ בן־לילה. עור כהה וחלק כמעט בצורה בלתי אפשרית, שיער שחור ארוך, מבט מהפנט ותמונות וסרטונים שנראים כאילו נלקחו מקמפיין אופנה יוקרתי. מיליוני אנשים צפו בה, עקבו אחריה והציפו את התגובות במחמאות, וחלקם אף העניקו לה את התואר המחמיא במיוחד – “האישה היפה בעולם”.
ניה צברה יותר מ־2.7 מיליון עוקבים בטיקטוק וקהל הולך וגדל גם בפלטפורמות אחרות. בפרופיל שלה הופיע המשפט המסתורי “רק בחורה עם צד אפל”, והמראה הייחודי שלה הפך במהירות לתופעה ויראלית. סרטונים שלה צברו עשרות ואף מאות מיליוני צפיות, וגולשים רבים התייחסו אליה כאילו מדובר בדוגמנית אמיתית לחלוטין.
אבל ככל שיותר אנשים הסתכלו מקרוב, משהו התחיל להרגיש מוזר.
יד שלא נראתה בדיוק כמו יד אנושית.
טלפון שחסר בו פרט שאמור להיות שם.
בגדים שהתנהגו בצורה משונה.
ועור שהיה כל כך מושלם, עד שחלק מהצופים התחילו לחשוד שה”שלמות” הזאת אינה תוצאה של גנטיקה, איפור או פילטר.
אלא של בינה מלאכותית.
הכול נראה מושלם – אולי מושלם מדי
בתחילת הדרך רוב התגובות לניה היו מלאות התפעלות. גולשים כינו אותה “אלה”, “יפהפייה טבעית” ו”לא אמיתית” – ביטוי שבאופן אירוני קיבל בהמשך משמעות אחרת לגמרי.
הסרטונים שלה מציגים אותה בסיטואציות יומיומיות לכאורה. היא יושבת בבית, מצטלמת מול המראה, לובשת בגדים אופנתיים או פשוט מביטה אל המצלמה. שום דבר לא נראה במבט ראשון כמו אנימציה או דמות ממוחשבת.
אבל בעולם שבו כלי AI מסוגלים כיום ליצור אנשים שלא קיימים ולגרום להם להיראות כמעט מציאותיים לחלוטין, כמה מהצופים החליטו להפסיק להסתכל על הפנים שלה – ולהתחיל להסתכל על הפרטים הקטנים.
ושם החלו הבעיות.
האצבעות היו הרמז הראשון
אחד הסימנים שעוררו את החשד היה הידיים של ניה.
בכמה מהסרטונים והתמונות, גולשים הבחינו שהאצבעות שלה אינן נראות טבעיות. לעיתים נראה שמספר האצבעות אינו נכון, ובמקרים אחרים הקצוות שלהן נראים מעוותים או מחוברים בצורה מוזרה.
ידיים ואצבעות היו במשך שנים אחת מנקודות התורפה הבולטות של מחוללי תמונות מבוססי AI. הטכנולוגיה השתפרה במהירות, אבל גם ביצירות מתקדמות עדיין יכולים להופיע מדי פעם פרטים אנטומיים לא הגיוניים.
ואז הצופים התחילו למצוא עוד רמזים.
באחד הסרטונים הטלפון שהיא מחזיקה נראה אמיתי במבט ראשון, אך חסר בו לוגו או פרט שהיה מצופה להופיע בדגם כזה. בחלק מהסרטונים חפצים ברקע נראו מעט משונים, ובגדים קיבלו קפלים וצורות שלא תמיד התנהגו כפי שבד אמיתי אמור להתנהג.
פתאום השאלה כבר לא הייתה “איך היא כל כך יפה?”
אלא: “האם היא בכלל בן אדם?”
@carterpcs 300M views and nobody realizes she’s AI?? #carterpcs #tech #ai #nianoir ♬ original sound – shixmmy
“איך אנשים לא מזהים שזה AI?”
אחד הסרטונים שהפנו תשומת לב גדולה במיוחד לנושא הגיע מיוצר תוכן טכנולוגי שהחל לפרק את הסרטונים של ניה לפרטים.
“איך אנשים כל כך גרועים בזיהוי AI?” הוא שאל, כשהוא מצביע על שורת אי־התאמות בתמונות ובסרטונים. הסרטון שלו צבר מאות אלפי צפיות בתוך ימים ספורים.
הוא הצביע על קצות האצבעות, החפצים שנראים מוזר, הטלפון והבגדים, והציע כלל פשוט שיכול לעורר חשד כאשר נתקלים בחשבון מסוג כזה: אם כמעט כל הסרטונים קצרים מאוד, האדם אף פעם לא מדבר והפרטים החזותיים מתנהגים בצורה מוזרה – “זה צריך להיות דגל אדום”.
אחד הסרטונים שעסקו בניה אף נשא את הכיתוב: “300 מיליון צפיות ואף אחד לא מבין שהיא AI?”
גם התגובות מתחת לסרטונים התחילו להיראות חשודות
לא רק המראה של ניה עורר שאלות.
גולשים החלו להבחין גם בדפוס מוזר בתגובות שמתחת לפוסטים שלה. חשבונות שונים פרסמו שוב ושוב מחמאות כמעט זהות, ולעיתים אותן תגובות בדיוק הופיעו מתחת לסרטונים שונים.
הדבר עורר חשד שחלק מהמעורבות סביב החשבון אינה אורגנית לחלוטין ושייתכן שגם חשבונות אוטומטיים מסייעים להגדיל את מספר התגובות והחשיפה.
כאשר סרטון מקבל הרבה צפיות, לייקים ותגובות, האלגוריתם עשוי להציג אותו לעוד אנשים – וכך נוצר מעגל שבו חשבון שנראה כבר פופולרי הופך לפופולרי אפילו יותר.
במקרה של ניה, התוצאה הייתה מדהימה: דמות שחלק גדול מהקהל האמין שהיא אישה אמיתית הפכה לאחת הדמויות המדוברות ברשת, בזמן שאחרים ניסו לשכנע את אותו קהל שהיא כלל אינה קיימת.
והיא ממש לא הראשונה
הרעיון של משפיענית שאינה בן אדם אינו חדש.
אחת הדוגמאות המפורסמות ביותר היא Lil Miquela, דמות דיגיטלית שהופיעה באינסטגרם כבר בשנת 2016. היא מוצגת כדוגמנית ומוזיקאית ברזילאית־אמריקאית בת 19, אבל מדובר בדמות וירטואלית שנוצרה במחשב.
למרות שאינה אדם אמיתי, מיקאלה הצליחה לעשות דברים שמשפיענים אנושיים רבים רק חולמים עליהם. היא עבדה עם מותגים גדולים ובהם Prada, Calvin Klein וסמסונג, צברה מיליוני עוקבים והפכה לדוגמה המפורסמת ביותר לכוח הכלכלי של משפיענים וירטואליים.
הערכות שפורסמו בעבר טענו כי פוטנציאל ההכנסה שלה יכול להגיע ליותר מ־10 מיליון דולר בשנה, כולל אלפי דולרים עבור פוסט ממומן בודד.
והיא כבר מזמן אינה לבד.
עולם המשפיענים משתנה במהירות
משפיענים וירטואליים יכולים לקבל שם, גיל, סיפור חיים, תחביבים, סגנון לבוש ואפילו “אישיות”. הם יכולים לפרסם תמונות מחופשות שמעולם לא התרחשו, ללבוש בגדים שמעולם לא נתפרו ולהצטלם במקומות שבהם אף אחד לא באמת ביקר.
עבור מותגים יש לכך יתרונות ברורים. דמות דיגיטלית אינה מאחרת לצילומים, אינה מבקשת העלאה בשכר, אינה מתעייפת ואפשר לשלוט כמעט לחלוטין באופן שבו היא נראית ומתנהגת.
מחקרים אף מצאו שמשפיענים וירטואליים יכולים ליצור אצל קהל תחושת קשר ואמון, במיוחד כאשר התוכן שלהם מעוצב כך שירגיש אנושי ומוכר יותר.
אבל ככל שהדמויות הופכות מציאותיות יותר, מופיעה גם בעיה חדשה: מה קורה כאשר הקהל לא יודע שמדובר בדמות וירטואלית?
האם צריך לסמן בבירור אדם שלא קיים?
במקרה של דמויות כמו Lil Miquela, העובדה שמדובר בדמות וירטואלית כבר מוכרת לציבור. אבל חשבונות חדשים יכולים להיראות הרבה פחות ברורים.
אם אדם רואה סרטון של משפיענית, עוקב אחריה, מגיב, מעריץ את המראה שלה ואולי אפילו קונה מוצר שהיא מקדמת – האם יש לו זכות לדעת שה”אישה” שמולו לא קיימת?
זו אחת השאלות שהופכות חשובות יותר ככל שהטכנולוגיה משתפרת.
גם בעולם הפרסום כבר מבינים שמשפיענים וירטואליים אינם גימיק חולף. נציגים בתעשייה תיארו אותם ככוח שהולך ותופס מקום משמעותי בשיווק ברשתות החברתיות, בזמן שמותגים מגלים עניין גובר בשיתופי פעולה איתם.
אחד הנציגים בתחום אף תהה האם העלייה המהירה שלהם יכולה יום אחד לאיים על מעמדם של המשפיענים האנושיים.
ומה קורה לסטנדרטים של יופי כשגם האדם המושלם אינו אמיתי?
יש בסיפור של ניה נואר עוד נקודה שקשה להתעלם ממנה.
הרשתות החברתיות כבר מזמן משפיעות על הדרך שבה אנשים תופסים יופי. פילטרים, עריכת תמונות, תאורה וטיפולים קוסמטיים יכולים ליצור תמונה שרחוקה מהאופן שבו אדם נראה בחיי היומיום.
אבל AI לוקח את הדבר הזה צעד נוסף קדימה.
עכשיו אפשר ליצור פנים שאין מאחוריהן אדם בכלל.
עור ללא נקבוביות.
פרופורציות מדויקות.
שיער מושלם.
גוף שמתאים בדיוק לאסתטיקה שהיוצר רוצה.
ולא צריך אפילו להתמודד עם מגבלות של גוף אנושי אמיתי. מומחים ותעשיית המדיה כבר מעלים חששות ששימוש הולך וגובר בדמויות וירטואליות עלול לטשטש עוד יותר את הגבול בין יופי אנושי למציאות דיגיטלית מתוכננת.
האירוניה במקרה של ניה כמעט מושלמת: אנשים התפעלו מהמראה שלה משום שהוא נראה “מושלם מדי” – ובדיוק אותה שלמות גרמה לאחרים לחשוד שהיא אינה אמיתית.
היום כבר אי אפשר תמיד לסמוך על העיניים
לפני כמה שנים, תמונת AI גרועה הייתה קלה יחסית לזיהוי. הפנים היו מוזרות, הידיים מעוותות והרקע נראה לא הגיוני.
היום הכלים מסוגלים לייצר אנשים שנראים אמיתיים במבט ראשון, ובווידאו הפער הולך ומצטמצם במהירות. מומחים מזהירים שככל שהטכנולוגיה מתקדמת, יהיה קשה יותר להסתמך רק על “תחושת בטן” כדי להבדיל בין תוכן אמיתי לסינתטי.
בינתיים, עדיין אפשר לשים לב לפרטים.
אצבעות.
טקסטים ולוגואים.
תכשיטים שמשתנים בין פריימים.
חפצים ברקע.
בגדים שנמסים או מקבלים צורות בלתי אפשריות.
וקולות או תנועות שפתיים שלא מסתדרים בדיוק.
אבל גם הסימנים האלה הולכים ונעלמים ככל שהטכנולוגיה משתפרת.
מיליונים הסתכלו עליה – ולא כולם שאלו את השאלה הנכונה
ניה נואר הצליחה להשיג משהו שמשפיענים אמיתיים עובדים לפעמים שנים כדי להשיג: מיליוני עוקבים, מאות מיליוני צפיות ותשומת לב בינלאומית.
אנשים התווכחו על היופי שלה.
אחרים רצו לדעת באילו מוצרי טיפוח היא משתמשת.
חלקם פשוט הסתכלו על הסרטונים שוב ושוב.
ורק כאשר כמה צופים החלו לבחון את הפרטים הקטנים, הסיפור השתנה לחלוטין.
פתאום האצבע המוזרה הייתה חשובה יותר מהפנים המושלמות.
הטלפון היה מעניין יותר מהבגדים.
והשאלה כבר לא הייתה אם ניה היא באמת “האישה היפה בעולם”.
אלא אם בכלל יש אישה בשם ניה נואר שעומדת מאחורי הסרטונים האלה.
בעידן שבו אפשר ליצור דוגמנית, לתת לה שם, לבנות לה אישיות ולגרום למיליוני אנשים לעקוב אחריה – הסיפור של ניה הוא הצצה לעולם חדש ומוזר שבו אפילו האדם שמופיע מולנו על המסך לא בהכרח קיים.
אז בפעם הבאה שאתם רואים ברשת אדם שנראה פשוט מושלם מדי, אולי כדאי להסתכל פעם נוספת – ובעיקר לספור את האצבעות.