חשבנו שהרשתות החברתיות מפיצות אנטישמיות – ואז הגיע ה-AI
אם הרשתות החברתיות מגבירות אנטישמיות, הבינה המלאכותית יוצרת "אוטומציה" שלה, ומעצימה מסרים של שנאה באפקטיביות שלא הכרנו. בינתיים בארה"ב מדברים על צעדים נוקשים נגד אנטישמיות אבל מבטלים פיקוח על בינה מלאכותית, ומי שנאבקת בהטיות המסוכנות של הטכנולוגיה היא דווקא אירופה
Photo: REUTERS+Canva
בתחילת פברואר נסעתי להלסינקי הקפואה כדי להשתתף בכנס של הארגון לביטחון ושיתוף פעולה (OSCE) . זהו ארגון שנוסד מכוח אמנת האומות המאוחדות בשנת 1975, בשיאה של המלחמה הקרה, כגשר בין מזרח למערב – "מוולידוווסטוק עד ונקובר". מאז, הוא הפך לפורום הבין-ממשלתי הגדול בעולם העוסק בזכויות אדם וביטחון. כיום, עם 57 מדינות חברות מצפון אמריקה, אירופה ואסיה, הוא גם מהווה את אחת הזירות המרכזיות למאבק בשנאת זרים, אפליה וגם אנטישמיות. הוזמנתי לכנס כדי לדבר על אנטישמיות דיגיטלית, ואכן, עד כמה שהמטפורה עשויה להישמע שחוקה, יהודים תמיד היו הקנרית במכרה הפחם של ההיסטוריה - סימן אזהרה מוקדם לסדקים עמוקים בסדר העולמי. מה שקורה ליהודים לעולם אינו מבודד; זהו רק הסימן המקדים למה שבסופו של דבר יזעזע את יסודות החברה הדמוקרטית כולה. כך היה תמיד, וכך קורה גם היום במרחב הדיגיטלי.
כשאנחנו חושבים על אנטישמיות דיגיטלית, אנחנו חושבים על רשתות חברתיות - ובצדק. המודלים העסקיים של הפלטפורמות האלה, התמריצים האלגוריתמיים שלהן, והכשלים המערכתיים שלהן בניטור תוכן, הפכו אותן למפעלים של שנאה בלתי מרוסנת. אני קוראת לזה אנטישמיות-מבוססת-פיצ'רים, לא כי הפלטפורמות מייצרות אותה בכוונה, אלא כי העיצוב של הרשתות הופך הפצת אנטישמיות לבלתי נמנעת. אלגוריתמים שתוכננו למקסם מעורבות בכל מחיר, מעדיפים זעם על פני אמת, פילוג על פני דיאלוג, וקיצוניות על פני ניואנסים. עמוד ה"בשבילך" של טיקטוק, מנוע ההמלצות של יוטיוב והפיד של פייסבוק לא רק משקפים תוכן אנטישמי - הם דוחפים אותו. האם צריך להזכיר את ג'קסון הינקל עם מיליוני העוקבים שלו? או את קניה ווסט שהפך להיות מוביל הניאו-נאצים של זמננו?
יותר מזה, במנגנוני ניטור התוכן, אנטישמיות מטופלת אחרת משאר צורות השנאה. למשל, אם מישהו מפרסם "כל האפריקאים טיפשים", זה מסומן כביטוי מסית, ומוסר מהפלטפורמה. אבל, אם מישהו כותב "היהודים שולטים בכסף של העולם", זה נחשב ביטוי מוגן מפני שמילולית אין מדובר בהשפלת יהודים אלא בהעצמת כוחם. בעולם שבו תיאוריות קונספירציה בנוגע לשליטה בעולם משגשגות, תפיסה כזאת עושה את כל ההבדל.
כולנו גם יודעים שתוכן ויראלי ברשתות כבר מזמן אינו אורגני. שחקנים מדינתיים ולא-מדינתיים מתמרנים את האלגוריתמים של הרשתות החברתיות באופן מתוכנן ולא אותנטי. העלייה המטורפת בנרטיבים אנטישמיים מאז תחילת המלחמה אינה מקרית. יש ידיים מכוונות מאחוריה, שיוצרות "טבעת אש" מתוזמרת סביב יהודים בכל העולם, במרחב הדיגיטלי.
אבל, אם הרשתות החברתיות מגבירות אנטישמיות, הבינה המלאכותית יוצרת "אוטומציה" שלה, ובמקום לבטל הטיות היא מעצימה, מחזקת, ומטמיעה אותן בתוך המבנה של הידע הדיגיטלי. מערכות AI שאומנו על מידע מוטה יכולות למחוק את ההיסטוריה ולמשל לסרב להכיר בשואה, או לכתוב מחדש אירועי מפתח כמו הקמת מדינת ישראל. הן יכולות גם לחזק סטריאוטיפים אנטישמיים, למשל לתאר יהודים וישראלים עם תווי פנים מוגזמים, לבוש דתי, או מוטיבים גרפיים שקשורים לכסף. כלים חינמיים מאפשרים לגורמים זדוניים לתרגם מסרים אנטישמיים לשפות רבות, לעקוף מנגנוני ניטור תוכן ולחדור לתוך השיח הפנימי של קהילות בארץ ובחו"ל.
אבל בינה מלאכותית אינה רק כלי שמשקף הטיות. היום אנחנו מתחילים להבין את עוצמת ההיפר-השפעה שלה, ככלי אמפתי שמסוגל לבצע מבצעי השפעה תפורים אישית בקנה מידה שלא נראה מעולם. ואם במשך מאות שנים אנטישמיות הייתה גלויה - מסומנת בטלאי צהוב, בהדרה פיזית ובהשמצות פומביות, עכשיו היא בלתי נראית - חבויה בתוך זרמי מידע, פרופיילינג מבוסס בינה מלאכותית, אפליה אלגוריתמית ויכולת לסמן ולטרגט יהודים על פי ניתוח רצפים של מידע גנטי, מאפיינים כמו שפה ושם משפחה, והכל בלי שאף אחד ידע או ידבר על כך.
הקנרית במכרה מאבדת חמצן. העניין הוא שמאז כניסתו של דונלד טראמפ לבית הלבן מתגלה פרדוקס מושלם. מעניין לשים לב לשלושה צווים שעליהם חתם הנשיא טראמפ: הוא ביטל את הצו הנשיאותי הקודם של הנשיא ביידן בנושא בינה מלאכותית, והחליף אותו בהוראה המקדמת עליונות אמריקאית בפיתוח בינה מלאכותית. הצו השני עליו חתם נקרא "הצו לקידום חופש הביטוי" והוא מצווה על כל הרשויות הפדרליות לחדול מכל מאמץ או פעילות לניטור תכנים, בעיקר ברשתות חברתיות. במקביל, סגר הממשל את כוח המשימה של משרד המשפטים וה-FBI המיועד לטיפול בהשפעה מצד מדינות זרות בפוליטיקה האמריקנית.
אז היכן הפרדוקס? זה נמצא בצו השלישי, הצו המבטיח שהממשל ינקוט מעתה צעדים נוקשים יותר במאבק באנטישמיות בארצות הברית. זה כמובן דבר חשוב מאד עבורנו, אבל קשה להבין כיצד תוכל ארצות הברית להילחם בשנאה מקוונת בזמן שהיא מפרקת את מנגנוני ניטור התכנים ברשתות, ואיך תוכל להיאבק באנטישמיות כשהיא מתנגדת למנגנונים שתכליתם למנוע הטיה אלגוריתמית. זה לא סתם פרדוקס, זה עלול להוביל לכישלון אסטרטגי.
עד כמה ששמחתי שניתנו לי הבמה והקשב לומר את הדברים האלה בהלסינקי, בתוך תוכי ידעתי שהמאבק האמיתי על עתיד השנאה ליהודים ולישראל לא מתנהל שם, אלא בוועידה שהתקיימה באותם ימים בדיוק בפריז – פסגת הבינה המלאכותית. בזמן שוושינגטון ממהרת לבטל רגולציה, בריסל צועדת בכיוון ההפוך. חוק השירותים הדיגיטליים, חוק הבינה המלאכותית ותקנות הגנת המידע האירופיות דוחפים לפיקוח הדוק יותר, לאחריותיות אלגוריתמית ולזיהוי הטיות בבינה מלאכותית. כשסגן הנשיא האמריקני ג'יי די ואנס הכריז בפסגה שכל רגולציה על AI היא "רגולציית יתר" שתחנוק חדשנות, הפער בין ארצות הברית לבין אירופה מעולם לא היה עמוק יותר.
והיהודים? שוב ימצאו את עצמם בתווך. עתיד האנטישמיות לא ייקבע ברחובות, בבתי כנסת, במשרד התפוצות שלנו ואפילו לא בכנסים כמו זה בהלסינקי. הוא ייקבע סביב שולחנות הדיונים על מדיניות טכנולוגיה ובמסגרות הרגולטוריות שנכתבות היום. הקנרית מזהירה מפני מסווה של "חדשנות" שיאפשר קידום של טכנולוגיות ומוצרים שיופנו בסוף כלפינו. אם נתעלם מקריאותיה, לא רק שנאבד אותה אלא נאבד את השליטה על המכרה עצמו.
פורסם לראשונה במקור ראשון