מה שבין ממשלה-חברה-וטכנולוגיה

אם ללמוד מהניסיון באסדרת טכנולוגיה בעבר, בעיקר סביב מהפיכת המידע והקישוריות בעשרים השנים האחרונות, קובעי מדיניות מתעוררים מאוחר מידי – בדרך כלל לתוך אופוריה שבינה לבין אוריינות דיגיטלית אין ולא כלום.

עסקת מכירת חברת "מובילאיי" לאינטל אינה מפתיעה אם לוקחים בחשבון שכבר בשנה שעברה דורגה מובילאיי בדו"ח הטכנולוגי של MIT בין עשרת החברות החכמות בעולם. מה שגם לא מפתיע במיוחד הוא השמחה, על גבול ההיסטריה, בממשלה, ההכרזה על הורדת מיסים וניכוס ההצלחה לפעולות הממשלה בתחומי החדשנות.

אבל, הסיפור כאן איננו רק סיפורם של מובילאיי, שוק הרכב האוטונומי ותגובת הממשלה להצלחתם, אלא סיפור גדול יותר על היחסים שבין ממשלה-חברה-וטכנולוגיה. אתגר הבינה המלאכותית הוא הניסיון לגרום למכונות לפתור בעיות השמורות לבני אדם: להשתמש בשפה, ליצור הפשטות ורעיונות, וכמובן - לשפר את עצמן. פריצות הדרך הטכנולוגיות והשקעות העתק במחקר וברכישה של חברות, מקרבות אותנו למימוש האתגר הזה במרחבים שונים. החל בעוזרים אישיים, עובר בשינוי מערכות הרפואה והמשפט, וכלה ברחפנים, מכוניות וכלי נשק אוטונומיים. בטווח זמן של שנים בודדות – מהפיכת הבינה המלאכותית תטייב את חיינו ותייעל מערכות.

אולם, המהפיכה אינה באה בלי אתגרים, ואלה אינם זוכים להתייחסות מספקת. בקרב מקבלי החלטות קיימת תנודה בין פחד בלתי רציונלי לעסוק בתחום הבינה המלאכותית ("מה יקרה ביום שבו הרובוטים ישתלטו על חיינו"/"מה יקרה כשהרכב האוטונומי יצטרך להחליט אם להרוג את היושב בו או את הילד החוצה את הכביש"), לבין אופוריה ודטרמיניזם טכנולוגי שמשמעותו ש"אי אפשר בכלל לעצור את הטכנולוגיה". כל אחד מן הקטבים מוביל לערפול ולחוסר נכונות לעסוק בסוגיות האמיתיות שעל הפרק.

אם ללמוד מהניסיון באסדרת טכנולוגיה בעבר, בעיקר סביב מהפיכת המידע והקישוריות בעשרים השנים האחרונות, קובעי מדיניות מתעוררים מאוחר מידי – בדרך כלל לתוך אופוריה שבינה לבין אוריינות דיגיטלית אין ולא כלום. די אם ניזכר בכך שמשרד התקשורת, העסוק כל כך בהשתלטות על הטלוויזיה, דוחה כבר כמה שנים את הטיפול בקביעת סטנדרטים לאבטחת ה"אינטרנט של הדברים".

נדרשת היום התמודדות רוחבית עם האתגרים שמערכות הבינה המלאכותית מציבות, שניתן לחלק לארבעה תחומים.

ראשית, היבטי מדיניות רחבים והשפעות על הכלכלה, החברה והמשטר, מעתיד שוק התחבורה ועד עתיד המשטר הדמוקרטי בעולם של מערכות חיזוי מדוייקות.

שנית, שינוי דרכי הפיקוח מצד המדינה בהתייחסות למערכות לומדות, הבטחת תחרות והתמודדות עם סוגיות של רישוי, מיסוי, אבטחת מידע ואבטחת איכות.

שלישית, הבטחת ההגנה על זכויות אדם ויצירת סטנדרטים חדשים מתחום המשפט המנהלי, כאשר המדינה היא זו שתטמיע מערכות חכמות כחלק מפעילותה השגרתית, אם כתחליף יעיל וזול לשיקול דעת אנושי של פקידים מתוך הבירוקרטיה השלטונית ואם כדרך לפקח על מערכות במגזר הפרטי.
למשל, המערכות האוטונומיות שמפתחת מובילאיי מתבססות על "למידת תגבור" (reinforcement learning), כלומר, אינן מתוכנתות על ידי אלגוריתם המצווה עליהן לפעול בדרך כזאת או אחרת בכל תרחיש נתון, אלא לומדות באמצעות אימון: נחשפות שוב ושוב לסרטוני ווידיאו של שעות על גבי שעות של נהיגת כביש, וכך לומדות, בעצמן, כיצד לפעול גם ביחס לתרחישים או לעצמים אותם לא ראו מעולם בעבר. כש"למידת תגבור" היא היא פריצת הדרך הטכנולוגית של 2017, צריך להתמודד עם הבטחת שקיפות במערכות שגם מתכנניהן אינם יודעים לאן יגיעו בתהליך הלמידה שלהן.

רביעית, נדרשת התמודדות רוחבית, מוסדית וארגונית, בתוך הממשלה. נדרשים מומחים שמבינים ויכולים לנתח אינטראקציות בין טכנולוגיות בינה מלאכותית וערכים חברתיים, ונדרש שיח חוצה ממשלה בנושא. לא בטוח, אגב, שהמוסדות הקיימים בנוגע לתפר שבין משפט וטכנולוגיה מעולם האינטרנט הם המתאימים כאן.

מה שעסקת מובילאיי מוכיחה הוא שאין מדובר בעתידנות רחוקה אלא ב"הווה-אנות", באתגרים הצריכים להיות מונחים לפתחם של מקבלי החלטות כבר היום.