אולי לא הבחנתם בזה. איך אפשר להבחין, כשאנחנו כאן עם הבחירות שלנו, החגים שלנו, החופשות, הקצוות הלא סגורים בחזיתות השונות. קשה להבחין, אם לא מרימים את הראש, אבל לפעמים ראוי להרים אותו, כדי לשים לב שהעולם שרוי במצברוח דיסטופי.
על מה ולמה? נמנה שלושה דברים: האפשרות שרוסיה תחליט לתקוף את מדינות נאטו. האפשרות שסין תחליט לכבוש את טאיוואן. האפשרות שהבינה המלאכותית מתקרבת לנקודת אל חזור שאחריה מי יודע. ובמילים אחרות, שלושה דברים שמתכנסים לשתי אפשרויות. האחת – שהאדם, בכוח המצאתו, המציא את המכונה שתילחם נגדו. השנייה – שהאדם, בשיגיונו, מצא את התירוץ לפתוח במלחמת עולם שלישית.
ישראלים מסתובבים מודאגים מהרבה סיבות, אבל לא מהסיבות האלה. נניח כרגע לרוסיה ולסין ונתמקד בדיסטופיה של הבינה המלאכותית. ממנה הם בוודאי לא מודאגים. והרי הוכחה: מ-37 מדינות שנסקרו על ידי מכון פיו, כדי לבחון את רמת החרדה מהאפשרות שבינה מלאכותית תשבש סדרי עולם, ישראל נמצאת במקום האחרון. ונדייק: במקום הראשון. זו המדינה שנמנו בה הכי הרבה משיבים שאומרים שהם ״יותר נלהבים מאשר מודאגים״ מהשימוש הגובר בבינה מלאכותית בחיי היומיום.
בממוצע של 37 מדינות, 37% מהמשיבים מודאגים יותר מאשר נלהבים. אבל בישראל רק 19% יותר מודאגים. רק אזרחי בנגלדש וסרי לנקה עוד פחות מודאגים, אבל מותר להניח, בלי להתנשא, שבמדינות הללו החשיפה לבינה מלאכותית נמוכה מאוד. דרום קוריאה, מדינה מפותחת ומעודכנת, דומה לישראל ברמה הנמוכה של דאגה, אבל מפגרת ברמת ההתלהבות (29% בישראל מול 21% בקוריאה).
האם יש סיבה לדאגה? ביום כיפור קראתי ספר חדש של ההיסטוריונית ג׳יל לפור, על ״עלייתה ונפילתה של המדינה המלאכותית״. לפור – זה ברור – מודאגת. היא מזהה תהליכים. את הדמוקרטיה מחליפה טכנוקרטיה. שלטון הטכנולוגיה, שהוא שלטון שאינו מתעניין בבני אדם, הוא מתעניין רק בדאטה. על כמה מטענותיה של לפור אפשר להתווכח. יהיו בלי ספק מי שיזהו בספר שלה מוטיבים של אידיאולוגיה שנוטה ל״ווקיות״ אופנתית. אבל היא היסטוריונית, שיודעת לטוות סיפור, וכמה מהסיפורים שהיא מגוללת מרתקים ומשכנעים. הבחינה הכמותית המתמדת היא אתגר לדמוקרטיה. כשיודעים לחזות, נוצר פיתוי לחשוב שהחיזוי הוא התוצאה. נוצר פיתוי להניח שאם אני חושב שאני יודע איך תצביע, זה יכול לשמש תחליף להצבעה עצמה.
ומי הבין את זה ראשון? אולי הסופר אייזק אסימוב. האיש שקבע את ״שלושת חוקי הרובוטיקה״ המבטיחים שרובוטים לא יפגעו בבני אדם, או באנושות. אלא שכמו שהאסטרופיזיקאית אלונה וזאן הזכירה לי לא מזמן, כאשר שוחחנו על אסימוב, חוקי הרובוטיקה הם חוקים שלא נאכפים – הם חלק מהדי.אנ.איי הרובוטי. חוקים שמוטמעים ברובוטים. לעומתם, על הבינה המלאכותית של ימינו נהוג לחשוב שנאבד שליטה. היא תקבע בעצמה מה החוקים שחלים עליה, ומתי עליה לציית.
האזינו: אורי כץ, מה נעשה כשהבינה תחליף אותנו?
אוגוסט 1955. אסימוב מפרסם סיפור קצר בשם “זכות הבחירה” Franchise. הסיפור מתרחש בעתיד – העתיד של אסימוב, שאצלנו הוא כבר עבר – שנת 2008. ובעתיד הזה יש מחשב ענק בשם מולטיוואק שמנהל את הבחירות בארצות הברית. איך? הוא כבר לא צריך את כל הבוחרים. מספיק אחד. הוא בוחר אזרח אחד, מייצג (נורמן מולר, תושב בלומינגטון אינדיאנה). הוא שואל אותו כמה שאלות. הוא קובע את תוצאת הבחירות. לפור מצטטת בספרה דיאלוג מהסיפור. הזקן במשפחה, מתיו, מסביר לנכדה: בעבר היו צריכים את כל הקולות. אחר כך למדו לחזות מפחות ופחות קולות. “ואז, סוף סוף, בנו את מולטיוואק, והוא יכול לדעת ממצביע אחד בלבד”. הנכדה, לינדה, מחייכת ואומרת: “זה נחמד”. ומתיו מתרגז: “לא, זה לא נחמד. אני לא רוצה שמכונה תגיד לי איך הייתי מצביע רק בגלל שאיזה ליצן במילווקי אומר שהוא נגד העלאת מכסים. אולי אני רוצה להצביע הפוך סתם בשביל הכיף שלי. אולי אני לא רוצה להצביע. אולי… “
כדי לחשוש מהבינה צריך ללמוד עליה. ישראלים מעידים שהם לומדים פחות מרבים אחרים. ביפן, גרמניה, צרפת, אוסטרליה, יותר ממחצית המשיבים אומרים שקראו ״הרבה״ על הבינה. בישראל, פחות משליש. ישראל עומדת בשורה אחת עם ניגריה, מלזיה, צ׳ילה, ברזיל, קולומביה. הישראלים נלהבים יותר מאחרים, אבל כנראה יודעים פחות מהם. אולי קריאת-יתר מזיקה. אולי מוטב להשתמש בכלים בלי לחשוב עליהם יותר מדי. כי הקריאה מובילה לחרדה. ומה נקשר לקריאה? הנה, גם כאן ישראל יוצאת דופן. המחקר מזהה זיקה בין רמת העושר של מדינה לבין רמת המודעות של אזרחיה לבינה מלאכותית. ישראל מוצבת על הגרף לצד מדינות מסוג אחד ברמת העושר (בריטניה, קנדה, גרמניה), אך לצד מדינות אחרות ברמת המודעות (יוון, צ׳ילה, מקסיקו).
כאמור, היסטוריונית לפור קושרת את החרדה מפני הבינה לחרדה מפני אובדן הדמוקרטיה. זה נושא שאפשר היה לדבר עליו גם כאן ערב בחירות, אם לא היינו עסוקים בהתבטאות היומית של פוליטיקאי זה או אחר.
הפחד מפני שחיקת כוח הבחירה של האזרחים באמצעים טכנולוגיים, מסתבר, היה נפוץ עוד הרבה לפני אילון מאסק, וקלוד, וצ׳אט והבינה המלאכותית, והרשתות החברתיות, וכל שאר הדברים החדשניים שאנחנו עוסקים בהם היום. ב-1956 יצא סיפור מדע בדיוני תחת הכותרת “2066: יום הבחירות”. הסיפור עוסק בנשיא ארצות הברית שנבחר על ידי מחשב בשם SAM, עד ש”האחרון והגדול מבין המוחות האלקטרוניים” מחליט שאף אדם לא כשיר לנהל את המדינה כמוהו. אם המחשב יכול לבחור טוב יותר, הוא יהיה גם נשיא טוב יותר. בסיליקון וואלי יושבים היום לא מעט בני אדם חזקים מאוד, שגם הם משוכנעים שאף אדם לא כשיר כמו המכונות שהם מרכיבים. לא רק זה, טוענת לפור, אלא שאלה אנשים חזקים שלמעשה ויתרו על האנושות. ויתרו על ההווה לטובת עתיד מדומיין של אנושות חדשה, או מוחלפת, או משודרגת, אולי על כוכב אחר. אנשים חזקים מאוד שמוכנים להחריף את בעיות ההווה, שנראות בעיניהם קטנוניות וחסרות ממשות, לטובת חלומות גדולים, מגלומניים – שנקרא להם משיחיים?
בכל חברה, בכל מדינה, מתקיים מתח בין קטנות ההווה לחלומות העתיד. עד כמה ראוי להידרש לקשיי היום, עד כמה מותר להזניח אותם לטובת שאיפות נשגבות. נניח שצריך לעבור עשרים שנות סבל, כדי שאחריהן יבוא המשיח – תסכימו או לא? עשרים שנות סבל זה לא מעט. גם המשיח זה לא מעט. אבל הסבל יהיה מידי, והמשיח יבוא רק עוד עשרים שנה – אם יבוא. כדי שתסכימו לשקול עשרים שנות סבל, אתם צריכים להיות משוכנעים שאחריהן המשיח באמת יבוא. או שאין ברירה אלא לדבוק בו, כי האלטרנטיבה גרועה יותר. כך או כך, למה להיות פסימיים כמו לפור בישראל, נראה שרובנו נלהבים. כנראה שהסבל – זה שקשור לכניסת הבינה המלאכותית – עוד לא גדול. או שאולי הוא מתגמד לנוכח הסבל האחר. כך שנמשיך לחכות למשיח הסיליקון. אולי יבוא.
