שימו לב לכוח שמיקרוסופט צוברת
כחלק ממירוץ החימוש בתחום הבינה המלאכותית היוצרת משחררת החברה מוצרים אפויים למחצה, שאינם מתיישרים עם הצהרות האתיקה שלה. אסור לטעות: למערכות האלה השלכות מרחיקות לכת ומיקרוסופט מצטרפת למעגל ענקיות הטק שלא נודעו באחריות גדולה כלפי ההשלכות החברתיות של הטכנולוגיה שלהן.
Photo by Gili Yaari/Flash90
אם נדרג את ענקיות הטכנולוגיה לפי רמת הנפיצות שלהן ברור שהראשונות ברשימה תהיינה פייסבוק וגוגל. השילוב שבין גודל עצום, הון כביר, כמויות של דאטה – לבין שליטה על שוק הרעיונות והדעות, הופך את הדיון בהן לפוליטי, טעון ומקוטב. מצד שני, בסוף רשימת הדירוג נמצאות אמזון ומיקרוסופט, שנתפסות כסוכנויות מכירה ענקיות של שירותים שונים ולא יותר. שלא תטעו, המפגש של מיקרוסופט עם הרגולציה היה מכאיב לאורך השנים, אבל הוא נגע בענייני הגנת הצרכן ותחרות ולא בשאלה האם להעיף את דונלד טראמפ מהרשת החברתית. המקסימום שמיקרוסופט עשתה בתחום המדיה החברתית היה לרכוש את לינקדאין המקצועית והחלבית בשנת 2016. אמנם, בשנה שעברה הודיעה מיקרוסופט על רכישת יצרנית משחקי הווידאו אקטיוויז'ן בליזארד, אחת מחברות המשחקים הגדולות בעולם, מה שיחייב אותה לקחת אחריות על התכנים הפוגעניים בפורומים ובצ'אטים הכתובים והקוליים שייצרו מאות מיליוני המשתמשים. אבל ממילא העסקה בסכנת ביטול על ידי רשויות הרגולציה בבריטניה, אירופה וארה"ב, כך שהמחשבה מה יקרה כשיתברר שתכנים ניאו-נאציים, דיסאינפורמציה או סודות צבאיים מתפזרים בפורומים של משחקי הווידיאו, נדחית בינתיים.
כל זה משתנה לנגד עינינו המשתאות. השקעת העתק של מיליארד דולר בשנת 2019 במיזם OpenAI, השקעת ההמשך ושילוב המערכת במנוע החיפוש Bing ובכלל מערכת השירותים, מלמדות שהגיע הזמן לדבר על מיקרוסופט. המהלכים האגרסיביים של החברה, הידועה כשונאת סיכון, מונעים ללא ספק על ידי רצונה לנצח במרוץ לשלוט בדבר הגדול הבא, לא רק של תעשיית הטכנולוגיה אלא של האנושות כולה: בינה מלאכותית יוצרת. אבל ככל הנראה, ההצלחה המפתיעה של ChatGPT הובילה לנכונות במיקרוסופט לקחת סיכונים אתיים גדולים יותר. מצד אחד, בפברואר, הדגיש מנכ"ל מיקרוסופט סאטיה נאדלה את נאמנותה של מיקרוסופט לעקרונות האתיקה בפיתוח הבינה המלאכותית שלה. מיקרוסופט, וכמוה גם Open AI, ניסחו קודים של כללים מנוסחים למשעי והן גם חתומות על הקוד האתי של האיחוד האירופי נגד דיסאינפורמציה מקוונת, כלומר על הנייר היא מחויבת ליישם אמצעים למאבק בהפצת זיופים מקוונים.
מצד שני, ממש כפי שניסיון המר מלמד לגבי פייסבוק וגוגל, הכללים נפלאים אבל לא רואים תהליכי ציות והטמעה שלהם. לפי דיווח של אתר "פלטפורמר" מאמצע מרץ, מיקרוסופט פיטרה חלקים מצוותי "הבינה המלאכותית האחראית" שלה במסגרת סבב הפיטורים הרחב שביצעה בחודשים האחרונים. דווקא הצוותים שמטרתם לוודא את הטמעת כללי האחריות, בין השאר במוצרים מבוססים מודל השפה של Open AI, נשלחו הביתה. ולא שלא יודעים במיקרוסופט מה קורה בפועל. הרי כבר לפני כמה שנים מיהרה מיקרוסופט לשלוף את הצ'אטבוט Tay לאחר שמשתמשים דחפו אותו לייצר תגובות גזעניות, ולפי דיווחים באתרים רבים עובדים במיקרוסופט הפיצו בחודשים האחרונים.
כנראה שמה שמוביל את האסטרטגיה של מיקרוסופט נמצא במייל שהודלף לניו יורק טיימס, שעליו חתום סם שיליס, מנהל הטכנולוגיה של החברה, ושבו נכתב כי זו תהיה "טעות פטאלית ברגע זה לדאוג לדברים שניתן לתקן מאוחר יותר". לכך מתווסף דו"ח שפורסם על ידי ארגון השקיפות האירופי Corporate Europe Observatory הטוען שמיקרוסופט מפעילה לובי משמעותי, יחד עם גוגל וענקיות טק אחרות, כדי שהחקיקה האירופית המתגבשת בעניין בינה מלאכותית לא תוחל על בינה מלאכותית כללית, כלומר על ספקי המקור של מודלי שפה גדולים אלא רק שירותים שיתבססו על המודלים האלה. כמה נוח.
כן. צריך לדבר על מיקרוסופט. על החיפזון לפתוח מהאריזה מוצרים חצי אפויים ועל ההצהרות על כללי אתיקה ומסגרות אחריות שנראות חלולות מתמיד. צריך לדבר על שילוב ChatGPT, שהוא בולשיטר מקצועי וסובל מ"הזיות", בתוך מנוע החיפוש Bing שתפקידו להיות המקור שממנו לומדים משתמשים מהי אמת ומהי בדיה בעולם המציאות. צריך לדבר על כך שהחברות טוענות שב-ChatGPT עצמו הוכנסו "מחסומי תוכן", אבל עוד ועוד הוכחות מתפרסמות לגבי היכולות לעקוף את המחסומים (מה שמכונה Jailbreak) ולגרום נזק ברמות שלא הכרנו, מבניית פצצה ממוצרי צריכה זמינים, השבתת תחנת כוח, ועד הפצת שקרים, שנאה, טרור, פוגענות ועובדות מלאכותיות ולא נכונות במהירות הרוח. צריך לדבר על כך שלכלים האלה יש יכולות לחקות התנהגות אנושית בצורה שתיצור תהליכי שכנוע תפורים לפי מידה, מהסוג שמסוגל לגרום לילד בן עשר לקפוץ מהגג, וצריך לדבר על כך שמשתמשים עלולים להפוך לתלויים בכלי ולהרגיש שהם מדברים עם בת אנוש. בקיצור, צריך לדבר על כך שמיקרוסופט הופכת כעת לחברה שתעמוד בראש רשימת ענקיות הטק הנפיצות, ולשאול: האם מיקרוסופט למדה מחברותיה בביג טק איך ליצור יחס דו-פרצופי כלפי האחריות החברתית שלה?
המאמר פורסם לראשונה במגזין TheMarker