"הממשלה היא משת"פית של מעצמות האינטרנט"

"האינטרנט העניק לתאגידים ולממשלות כוח עצום לשלוט על הציבור ומחשבותיו, וזה הופך את הדמוקרטיה לפארסה", מתריעים מומחי הרשת רועי צזנה ותהילה אלטושלר. בסין פועלת כבר מערכת יודעת-כל לדירוג נאמנותו ומסוכנותו של כל אזרח. "אם לא נגביל את הממשלה, היא תגיע בקרוב לישראל"

דמיינו לעצמכם עולם שבו ניתן לשלוט על המחשבות שלכם. עולם שבו התיאורים של ג'ורג' אורוול בספרו האלמותי '1984' מחווירים לעומת מציאות של מסרים מושתלים ויכולת להכיר אותך טוב יותר מאשר בני משפחתך, ואפילו מאשר אתה עצמך מכיר. זה עולם בעל כוח עצום ובלתי מוגבל שקשה לעצור וקשה לעמוד בפניו. ברוכים הבאים לכדור הארץ. השנה היא 2018, אתם מוזמנים לשתות כוס מים, להדק חגורות ולא לשתף את הטקסט הבא בפייסבוק או בחשבון הוואטסאפ והג'ימייל שלכם. אנחנו יוצאים לדרך.

ד"ר רועי צזנה, חוקר במרכז בלווטניק באוניברסיטת תל־אביב ומחבר הספר 'השולטים בעתיד', וד"ר תהילה אלטשולר, עמיתה בכירה במכון הישראלי לדמוקרטיה וראשת התוכנית לדמוקרטיה בעידן המידע, רואים עצמם כמו נח ובני משפחתו העומדים בפתח ספינתם וזועקים לבני עירם להתעורר בטרם יֵרד המבול. השינויים הטכנולוגיים, הם מבהירים, נוגעים לכולם.

את שמו קנה העתידן ד"ר צזנה במחקריו על עתיד הממשל כפי שאנחנו מכירים אותו, בדגש על כיצד הטכנולוגיות החדשות משפיעות על שיטות הממשל בעולם ועל עתיד החברה. נשמע מורכב, אבל אנחנו מבקשים ממנו לחשוף בפנינו טפח מהמציאות החדשה, המשנה סדרי עולם מאחורי הקלעים. "אנחנו רואים שיש היום מעבר של הכוח מהציבור אל חברות גדולות וממשלות, וזה בדיוק הפוך מההליך שהחברה האנושית ציפתה שיהיה"' אומר צזנה בשיחה טרנס־אטלנטית מארה"ב.

הוא ממשיך ומסביר: "מאז ומתמיד חשבנו שהאינטרנט עומד לשנות סדרי עולם – להביא את הכוח לאנשים הקטנים ולספק לציבור יכולת השפעה על התעשיות והממשלות. זה היה החזון המוקדם והגדול של האינטרנט. אבל אנחנו רואים היום שהחזון התפספס לחלוטין. החברות והממשלות מקבלות שליטה רחבה יותר בזכות הכוח הגדול של המידע שהאינטרנט מספק להן".

ד"ר אלטשולר מרכזת בימים אלו קבוצת מחקר שכותבת מחדש את חוק הגנת הפרטיות כדי להתאימו למציאות הנוכחית וכן עורכת בימים אלו מחקר על השפעות מערכות הבינה המלאכותית. מבחינתה היא שומרת־סף ציבורית מפני השתלטות חברות האינטרנט הענקיות והממשלה על חיינו. את ימיה היא מעבירה בין השאר בוועדות השונות בכנסת, בניסיון לבצר את מעמד התקשורת בחברה הישראלית. לדבריה, "איסוף המידע עלינו נעשה במגוון אמצעים, בין שבאמצעות חיישנים כמו אינפרא אדום שנמצאים גם על הסלולרי שלנו, ועד לבית חכם שיודע מהם הרגלי השינה שלנו. בין שזה באמצעות ניטור הפעילות שלנו ברשתות החברתיות ובאפליקציות, ובין שבאמצעות מצלמות אבטחה ברחובות. כל המידע עליך נאסף, ומערכות בינה מלאכותיות מפענחות אותו ומוציאות מסקנות. החשש שלי הוא שההיכרות שלהן איתי מעלה את יכולת השכנוע שלהן כלפיי".

צזנה: "פייסבוק מכירה אותך טוב יותר מאשר אשתך ואפילו ממך. הרשת הזו יודעת מהן הדעות והמחשבות שלך, וגם, בסבירות גבוהה, למי אתה עומד להצביע".

וכיצד יכולה פייסבוק, באמצעות המידע הזה, להשפיע על ההצבעה שלי לכנסת?

"אתה בטח חושב על עצמך, כמו כולם, כעל ישות אוטונומית ששולטת בעצמה, ומקבלת החלטה שקולה על פי הידע שהיא צוברת ומעבדת, אבל זה לא באמת ככה. אתה ישות שמבוססת על מידע שהיא מקבלת מהסביבה ולפיו היא מגבשת ידע.

"פייסבוק יכולים היום לטרגט (לשייך לפלח קהל מסוים – י"ק) כל אדם לפי העמדות שלו והדרך שבה הוא צורך מידע, לפי מה שמפעיל אותו יותר וגורם לו לרגשות. בדוק זאת בעצמך. אתה יכול היום ללכת לפייסבוק ולומר שאתה רוצה לפרסם מודעה. הם ישאלו אותך למי אתה רוצה לפרסם אותה, ואז תראה קטגוריות מדהימות כמו יהודי או נוצרי, נשוי או רווק. אתה יכול גם לטרגט אפילו אנשים שחיים בשכונות מסוימות, שעומדים לעזוב את הדירה או מתלבטים לפני החלטות משמעותיות אחרות בחיים".

מה רע בכך שהפרסומות יותאמו לעולמות התוכן שלי?

אלטשולר: "הבעיה היא שאנחנו מתחילים לראות שימוש במתודות האלה כדי להשפיע עלינו נניח בבחירת ראש הממשלה הבא".

צזנה ממשיך ומסביר: "הבעיה עם מסרים ממוקדים כאלה היא שהדמוקרטיה מאבדת את הערכים המרכזיים שלה – שכל אחד מחזיק בדעה עצמאית ויכול לתרום מהרעיונות שלו, ושיש תחרות חופשית.

"הדמוקרטיה אומרת שמי שנמצא בשלטון, יש לו אחריות כלפי הבוחרים כי הם יכולים לזרוק אותו אם לא יהיו מרוצים. אך היא הופכת לפארסה, מכיוון שבסופו של דבר זה הופך בעלי אמצעים לבעלי יכולת בהחדרת אג'נדות שיותאמו לעולם שלך ביעילות מדאיגה".

ומי שלא גולש בפייסבוק חסין מההשפעה?

אלטשולר: "בפירוש לא. כל מי שיש לו טלפון חכם בעל אפליקציות, ולא משנה אילו, הוא מקור מידע ענק, החל בווייז ובוואטסאפ ועד משחקים שמותקנים על המכשיר. וככל שיודעים עליך יותר, כך עולה היכולת להשפיע עליך. פייסבוק עוקבת אחריך גם באמצעות אפליקציית המסרים וואטסאפ, ששייכת לה. ההנחה היא שלכל אדם יש פרופיל צללים שפייסבוק וענקיות האינטרנט בונות על סמך מידע שהן קונות ממקורות רבים – ומוכרות כמובן למקורות אחרים".

תנועות אשראי הן סחורה

החוקרים מסכימים שבעולם שולטים היום ארבעה תאגידי אינטרנט ענקיים, אשר לצד הממשלות מחזיקים בכוח של מעצמות. צזנה: "כולם משתמשים היום בגוגל, פייסבוק, אמזון ואפל, חוץ אולי מכמה אקטיביסטים. גוגל שולטת במידע שאתה מחפש ברשת וקובעת לְמה תיחשף ומתי, ולמה לא. האיחוד האירופי בדיוק עוסק בסוגיה. הם הבינו שבגוגל מטים את תוצאות החיפוש כדי להראות לך שירותים שהיא מציעה על חשבון שירותים אחרים. בגוגל אף הודו לפני כשנה שהם קונים מידע מאפליקציות שאוספות עליך נתונים. בארה"ב לבדה גוגל חשופה ל־75 אחוזים מתנועות האשראי".

צזנה מדגים: "גוגל יודעת שאתה מחפש משקפי שמש, ומתאימה לך פרסומות של חברת 'אירוקה' נניח. היא יודעת מתי נכנסת לחנות ואיזה דגם קנית, ולומדת איך הפרסומות השפיעה עליך. זה אבסורד שהכוח והמידע הזה נמצאים בידי חברות עסקיות ושזה מתקבל בהבנה בקרב הציבור. לוּ היה מדובר במידע שהממשלה מחזיקה בידה עלינו, כולם היו נכנסים לפאניקה".

בנובמבר 2017 ביצעה מערכת התוכנית 'חי בלילה' ניסוי רב־משתתפים כדי להבין אם פייסבוק מאזינה לנו. המשתתפים שוחחו ביניהם על נושאים שהם לא חלק משגרת יומם, כמו תכנון חתונה או חופשה (שלא באמת היו באופק), ונוכחו מהר מאוד שפייסבוק מציגה להם מודעות ממומנות באותם נושאים בדיוק. הם אף הופתעו מרמת ההתאמה למילים שנאמרו בשיחה הפרטית עם חבריהם. צמד החוקרים אינו מתרשם מהניסוי. "זה פעלול קרקס מגוחך שמבזה את הציבור", אומרת אלטשולר, "לא היו קבוצת ביקורת או מדגם מייצג".

צזנה שותף להסתייגות: "פייסבוק לא צריכה להאזין לטלפון שלך. זה לוקח המון כוח מחשוב לעבד דיבור, בוודאי בשפה העברית. החברה משתמשת בכלים הרבה יותר פשוטים שנקראים 'ביג דאטה'. מתברר שכולנו אנשים די דומים, אם אתה בן 20 עד 30 ואתה לא נשוי. ושיהיה לך ברור שהיא יודעת עליך טוב מה מצב הזוגיות שלך. היא גם יודעת אם אתה נמצא באירוע עם עוד כמה עשרות או מאות אנשים צעירים שגם להם יש פייסבוק, והאלגוריתם שלה מיד מבין שאתה מחפש חברה, ותקבל הודעות פרסומת על רומנטיקה ואהבה".

ומה בין ניסיון לשכנע אותי להתחתן בגן ולא באולם אירועים לבין לבחור בנתניהו או בלפיד?

אלטשולר: "דמוקרטיה מבוססת על בחירה, ואם יש מישהו שיכול להשפיע על הבחירה הזאת בעוצמה ובצורה תפורה היטב למידותיך – אנחנו צריכים לשאול את עצמנו אם אנחנו רוצים בכך. ההשפעה הזאת יכולה להיעשות באמצעות 'בוטים' של פייסבוק שעוזרים לכל מיני גורמים לטרגט היטב קהל יעד לקראת מערכת בחירות. זו יכולה להיות רוסיה ששוכרת את שירותיה של פייסבוק, או סין או טראמפ.

"מארק צוקרברג אמר לפני הבחירות האחרונות בארה"ב שלוּ פייסבוק הייתה רוצה, היא הייתה יכולה לקבוע מי יהיה נשיא ארה"ב הבא. האם זה אמיתי? כן. לפייסבוק יש די מידע ויכולת להשפיע על ההחלטות שלנו גם בבחירות דמוקרטיות שנשענות על הצבעה חופשית של בני האדם".

טוב יותר מהאינטרפול

ד"ר צזנה מספר על תהליך דומה, ואף מדאיג יותר, שמתרחש בימים אלו במעצמה הסינית. "בעוד ממשלות בעולם לובשות לכאורה כפפות של משי ומספרות שהן משתמשות במידע שנאסף עלינו רק כשהן צריכות ובמקרים קיצוניים ולמעננו, בסין זה לא קיים. יש שם רשת בשם 'ווי־צ'ט' שהיא כמו פייסבוק אבל גדולה ממנה מבחינת היכולת שלה, וחוקי הפרטיות בה הרבה יותר רופפים. כל מה שעובר דרך הרשת הזאת ואחרות מגיע לממשלת סין".

מומחה הרשת מספר על מערכות ברוח פולשנית זו שקמות כעת בסין. "הראשונה היא מערכת לחיזוי פשיעה שמסתמכת על מידע שמגיע מכל 170 מיליון המצלמות שנמצאות בשטחים ציבוריים במדינה, שהן בעלות יכולת זיהוי פנים טובה יותר מזו של ה־CIA ה־FBI והאינטרפול. אורוול תיאר באירוניה שלכל משפחה יש קצין שמשקיף עליה דרך הטלוויזיה או חור בקיר, וברור שזה לא אפשרי באמת, כי חצי מהעולם יצטרך להשקיף ולעקוב אחרי החצי השני. מה שקורה בסין הוא שיש מערכות בינה מלאכותית שעושות את העבודה בגרושים. כבר היום במקומות מסוימים בסין אתה יכול לחצות את הכביש באור אדום, ובתוך כמה דקות התמונה שלך תופיע בלוחות הדיגיטליים מסביב לעיר ומעל התמונה יופיע שמך.

"המערכת השנייה שעובדים עליה בסין היא בעלת יכולות חיזוי. כשאתה קונה פטיש גדול, המערכת מזהה את הפנים ואת הרכישה שלך ולא מוטרדת מזה יותר מדי. אך אם כעבור יומיים אתה קונה שק גדול שיכול להחזיק בתוכו גופה, המערכת יודעת לעשות הצלבה ושמה עליך את העיניים. אם שבוע לאחר מכן תקנה סכין, המערכת תשלח שוטרים למקום הימצאך".

למה זה רע? המערכת היא למען ביטחוני.

"החיים הבטוחים האלו דומים לחיי זבוב בענבר. כי כאשר קל כל כך לשתק אותך ולרסן את הדעות שלך, אפשר להעלים אותך". צזנה מציין כי גם בישראל עובדים על מערכות דומות, שמטרתן המוצהרת היא חיזוי טרור, אבל בגלל חוקי הפרטיות בישראל המידע נאסף באמצעות הרשתות החברתיות ומקורות מידע זמינים.

הדוגמה הנוספת למעקב הסיני חריפה יותר. "סין עובדת עכשיו על מה שנקרא דירוג אשראי חברתי. דירוג כזה, המעריך עד כמה אפשר לסמוך עליך שתחזיר חובות ומה מצבך הפיננסי, היה קיים עוד במאה הקודמת, אך הדירוג שהסינים מובילים הוא משהו אחר לגמרי. גורם אחד מקבל את כל המידע על הרכישות שלך, איפה אתה מסתובב ומה עשית, ומשקלל הכול כדי להבין עד כמה אתה אזרח טוב, שומר חוק ונאמן לממשל. סין כבר בשלבי פיתוח מתקדמים של המערכת הזאת, 'ססמי קרדיט'".

איך זה עובד? "נניח שאתה הולך ברחוב בסין ויכול לבחור בין מסעדה יפנית ומסעדה סינית ובוחר ביפנית. הדירוג החברתי שלך יורד קצת כי אתה לא נאמן לקולינריה הסינית. נמשיך. אתה הולך וקונה רכב מתוצרת גרמניה, ירד לך עוד קצת. אתה כותב משהו נגד המפלגה השלטת בסין, והדירוג שוב יורד. הסינים אומרים כבר עכשיו, וזה ציטוט: 'אזרחים בעלי דירוג נמוך יהיו מוגבלים כשירצו לרשום את ילדיהם לבתי ספר וכשירצו למצוא עבודות מסוימות בעיתונות או במשפט, כשהם ירצו לשכור דירות ועוד'. ואם כך, לא רק שלא תעז לדבר נגד הממשלה, אלא גם לא תתקרב לאנשים בעלי דירוג נמוך, כי אז הדירוג שלך ירד גם כן".

למה זה נוגע לי כישראלי?

צזנה: "כי כל מה שקורה בסין ובאמריקה מגיע לישראל בתוך שלוש שנים. שהרי כל מדינה שרוצה להגן על עצמה מטרור ומפשיעה, עליה לייצר במוקדם או במאוחר דירוגי אשראי חברתיים דומים. אנו צריכים למצוא דרך להגביל את כוח הממשלה, שהיא משתפת פעולה עם הרשתות החברתיות".

לנטר כל ציוץ

גם הממשלה לא חוסכת במאמצים להקמת מערכות דומות. "כמו שענקיות המידע אוגרות עלינו מידע, כך גם ממשלות העולם. ה־NSA (הסוכנות לביטחון לאומי – י"ק) צוברת מדי יום מידע על אזרחי ארה"ב", מספרת אלטשולר. "בישראל יש ארבעה משרדי ממשלה לפחות שפיתחו מערכות ניטור אחר פעילות דיגיטלית. במשרד התפוצות פועלת מערכת שבמשרד טוענים שהם לא מפעילים אותה על אזרחי ישראל, אבל אם הם רוצים הם יכולים. המערכת הזו יכולה לנטר כל ציוץ אנטישמי ברשת עד לרמת החדר בגרמניה שממנו הוא צויץ. הם יודעים מי צייץ ומה מיקומו, ובעיניי זה מטריד מאוד. כוחה של המדינה לדעת מה אנחנו אומרים ואיפה הוא פגיעה משמעותית בזכות לפרטיות".

האם הממשלות פועלות היום נגד חברות האינטרנט?

"יש עכשיו איזו אמירה בעולם שצריך לחוקק חוקים נגד פייסבוק וכו'. מה שמדאיג אותי זו התגובה של הענקיות הללו, שאומרות לרשויות: 'בואו נשתף פעולה מתחת לשולחן, העיקר שלא תחוקקו חוקים'. אפילו פרקליטות המדינה מנהלת בישראל 'הליך אכיפה אלטרנטיבי' שבמסגרתו היא פונה ישירות אל הרשתות החברתיות בלי לפנות לבית המשפט. חלק מהתוכן שהפרקליטות מבקשת למחוק קשור באמת לטרור, אבל רובו קשור לפוסטים של העלבת עובדי ציבור. ברגע ששני הכוחות האלו משתפים פעולה, זה סופן של זכויות האדם".

אולי הפתרון הוא חקיקה מחמירה?

"צריך להיזהר שהחקיקה לא תהפוך לצנזורה על תוכן", מבהירה אלטשולר.

צזנה סבור שהפתרון היחידי הוא הגברת מודעות הציבור: "בעשור הקרוב צריך לפעול להגבלת הכוח של ענקיות האינטרנט. לדרוש מהן יותר אחריות ושקיפות, וגם, בלית ברירה, להגביל אותן בחקיקה. אני מאמין שבסופו של דבר תקום תנועה ציבורית שתדרוש מהן התנהלות הוגנת".