מחשבות על המאה ה־21 – בעקבות קריאת ספרו של יובל נח הררי

הקדמה
בקריאת ספרו של יובל נח הררי בחרתי להתרכז בעיקר בפרקים העוסקים בבינה המלאכותית, משום שלדעת המחבר – ובמידה רבה גם לדעתי – היא הגיבורה המרכזית של העולם הטכנולוגי במאה ה־21. פיתוחה והשפעותיה נוגעים כמעט בכל תחום של חיינו: כלכלה, רפואה, חינוך, ביטחון, פוליטיקה ואפילו בזהות האנושית עצמה.

עם זאת, בעיניי, החשיבות העמוקה ביותר של הספר אינה טמונה רק בניתוח הטכנולוגי המרשים, אלא במסר האנושי, ההומניסטי והמוסרי שהוא מבקש להעביר. בעולם גלובלי, ממוחשב ומואץ, עולה קריאה ברורה: קיים צורך דחוף בהסכמה בין מדינות העולם על הגבלות, ריסון ופיקוח על הפיתוח הטכנולוגי – לא כדי לעצור את הקדמה, אלא כדי להכפיף אותה לכללים אנושיים, מוסריים ואקולוגיים, לטובת כלל האנושות ולטובת שמירת כדור הארץ.

הבינה המלאכותית והחוויה האישית
פרק נרחב בספר מוקדש לסכנות ולקידמה הטמונות בפיתוח הבינה המלאכותית, ואני מבקש לפתוח דווקא בסיפור אישי קטן.
יש לי בלוג שבו אני כותב על ספרים, מאמרים ושאלות פילוסופיות ופוליטיות. כיוון שאני דיסלקטי, יכולת העריכה העצמית שלי מוגבלת. נתתי אחד ממאמריי לעריכה בידי הבינה המלאכותית – וקיבלתי טקסט מצוין: בהיר, מסודר, מנוסח באופן הגיוני להפליא. אלא שזה לא היה אני. זה היה טקסט נכון, אך שלא שיקף את קולִי.

ידידים הציעו לי להזין לבינה את הספר שכתבתי, כדי שבפעם הבאה הטכנולוגיה תוכל לחקות טוב יותר את אופן חשיבתי וסגנוני. זוהי עצה מפתה – ורבים כיום, ובעיקר סטודנטים, משתמשים בבינה המלאכותית באופן דומה. אך כאן עולה שאלה עמוקה: היכן עובר הגבול בין עזרה טכנולוגית לבין ויתור מלא על העצמי, ועל הקול הייחודי שלנו?

שוק העבודה, רובוטים והדילמה המוסרית
אחד הנושאים המרכזיים שהררי עוסק בהם הוא השינוי הדרמטי הצפוי בשוק העבודה. מקצועות רבים – החל בעבודות כפיים פשוטות ועד מקצועות של עורכי דין, אנשי רפואה וחינוך – עלולים להפוך למיותרים. רבים ייפלטו משוק העבודה, והנותרים יידרשו להשכלה רחבה וגמישות מתמדת.

נעשו כבר ניסיונות במדינות שונות לחשוב על ביטול הצורך בעבודה, ובמקומה לספק הכנסה בסיסית, ביטוח רפואי והשכלה חינם, אך השאלה נותרת פתוחה: מה נכלל במסגרת זו, ומה נשלל ממנה? מה משמעות החיים בעולם שבו העבודה אינה עוד מקור זהות וערך?

בהקשר הביטחוני עולות שאלות קשות לא פחות: חיילים רובוטיים – האם יהיו חפים מנקמה? האם יידעו להבחין בין לוחמים לאזרחים? ובעיקר: מי מתכנת את גבולות המוסר שלהם?

דוגמה דומה עולה בתחום המכוניות האוטונומיות: רכב הנקלע לסיטואציה שבה עליו לבחור בין פגיעה בילדים לבין סיכון חיי הנוסע – על פי אילו ערכים הוא פועל? לבינה יש מהירות חישוב אדירה, אך אין לה תודעה: היא אינה חשה כאב, חמלה, אהבה או אחריות מוסרית.

השולטים במידע שולטים בעתיד
הררי שואל: מי שולט בעולם של המאה ה־21? מי הן האליטות הגלובליות המחזיקות במידע, בטכנולוגיה ובבינה המלאכותית?

במאה ה21 המידע הוא המשאב החשוב, והמאבק על השליטה בו כבר החל. כיום ענקיות הטכנולוגיה כגון גוגל, פייסבוק ואחרות מתחרות על השליטה והן מספקות לנו בחינם מידע, בידור ותקשורת כדי ללכוד את תשומת הלב שלנו.

בעבר נאבקו על אמצעי הייצור. היום המידע הוא המשאב המרכזי. ענקיות טכנולוגיה כמו גוגל ופייסבוק מספקות לנו מידע ובידור “בחינם”, אך גובות מחיר כבד בהרבה: שליטה בתשומת הלב שלנו, איסוף דאטה אישי, והיכולת להכיר אותנו טוב מאיתנו עצמנו.

בעתיד, ייתכן שנשאל את גוגל איזו מכונית מתאימה לנו – על סמך ניתוח השקפותינו, העדפותינו ואפילו דעותינו הפוליטיות. האם נסמוך על האלגוריתם יותר מאשר על שיקול דעתנו? ומה יישאר מחירותנו?

התחזית המפחידה ביותר היא זרימה ישירה של מידע מהמוח ומהגוף למערכות מרכזיות – מצב שבו ממשלות ותאגידים יוכלו לתמרן, לשלוט ולקבל החלטות עבורנו.

מציאות, תעמולה ופוליטיקה בישראל
כאן אי אפשר שלא להביט סביבנו. בישראל כבר קשה להבחין בין מציאות לבין תעמולה ערוכה בידי בינה מלאכותית. ניסוחים, תמונות ומסרים פוליטיים מעוצבים כך שהעובדות מאבדות מחשיבותן. מה שקובע הוא הסיפור – לא האמת.

עוד דוגמא של עיצוב המציאות ע"י הבינה היא הפסקת המלחמה בעזה- האופן שבו היא הוצגה לציבור ממחישה עד כמה המציאות ניתנת לעיצוב. הבינה אינה יוצרת שקר חדש – היא הופכת את השקר לאמין, חלק ומפתה.

גלובליזציה, לאומיות ואתגרי הקיום
לפי הררי, הלאומיות כפי שהכרנו אותה תלך ותפנה מקום לעולם גלובלי, שבו אינטרסים כלכליים, טכנולוגיים וסביבתיים יכתיבו שיתופי פעולה. האיחוד האירופי והסכמי אברהם הם דוגמאות ראשוניות לכך.

אך האיום הגדול ביותר אינו פוליטי אלא קיומי: פגיעה באטמוספרה, במקורות המים, ביערות ובקרקע. כמו גם סכנות של פיתוח ביוטכנולוגי לא מבוקר. בנושאים אלו אין משמעות לפעולה מדינתית נפרדת – נדרש שיתוף פעולה גלובלי והסכמה על כללי מוסר ורגולציה.

הררי מציע לכנס מדענים, מהנדסים, פילוסופים, פסיכולוגים ואנשי משפט כדי לנסח חוקים שיגבילו שימושים לא אנושיים בבינה המלאכותית. זהו אתגר פוליטי עצום – אולי כמעט בלתי אפשרי – אך האלטרנטיבה מסוכנת בהרבה.

סקירה על מצב הטכנולוגיה של הבינה המלאכותית
בספר ״ההיסטוריה הקצרה של ה-AI״ (מאת טובי וולש, הוצאת ״תכלת״) מצוין כי יפן השקיעה 850 מיליון דולר במחשבים משוכללים המבוססים על הבינה כבר בשנות השמונים של המאה ה-20. אנגליה השקיעה 350 מיליון פאונד בתחומי המחקר של הבינה. ארה"ב כבר בשנים 1983-1993 השקיעה יותר ממיליארד דולר בנושא זה. ונראה כי ישנם מחשבים היכולים כבר עם עזרי AI לשוחח איתנו בשפה אנושית. גם חברות ענק כמו גוגל, מיקרוסופט ו-IBM הצטרפו למרוץ לפיתוח יכולות הבינה, כולל מחקר רפואי ומדעי. כמו כן, חברות תעשיות מסחריות מפתחות יכולות טכנולוגיות מדעיות בעזרת הבינה.

השלב הבא של פיתוח הבינה והטכנולוגיה זו הרובוטיקה – בתעשייה, בתקשורת ובתחום הביטחוני. בקנדה ובטח בארה"ב, יש כבר מסעדות רבות בהן הרובוט מגיש את האוכל לשולחנך בהתאם להזמנתך. כמו כן יש כבר מכוניות אוטונומיות ומוניות שירות ללא נהג, בהם הוראה ממוחשבת ממכשיר הטלפון הסלולרי תוביל אותך ליעד המבוקש. ללא החידושים הנעשים ע״י הבינה, פיתוחים אלו לא היו מתקיימים.

לא רק שהבינה מקדמת את המחקר הרפואי, אלא גם בפועל את פיתוח מכשירי הרפואה והרובוטיקה הקשורה בה, לצד קידום החקר הגנטי ופיתוח תחום ההנדסה הגנטית. ומכאן שהתקשורת בעזרת בוטים ויצירת תמונה וקול שעלולים להיות "פייק ניוז", תוביל לכך שקשה יהיה להבחין בדבר ביחס למציאות האמיתית. כיום, ידוע כי במקום לקרוא מאמרים רבים, בעזרת הבינה יכול כל סטודנט להגיש עבודה אקדמית כתובה למשעי ומסוגננת בהתאם, עם כל המקורות הדרושים ומבלי לפתוח ספר אחד.

עולם הרובוטיקה הגיע בשנת 2023 להכנסה עולמית של 37 מיליארד דולר מכל תחומי התעשייה והתקשורת, וכן לשימושים שונים ברפואה, בצבא ובחלל וכל פיתוח זה מבוסס על הבינה.

נראה כי ישנם נושאים נוספים מעניינים אשר עלו בספר זה, בהם, ברשותכם, אדון בפעם אחרת:

• פיתוח מחשבים מבוססי-בינה המחקים את הרשת העצבית-מוחית (הנקראת טרנספורמטורים)
• הניסיונות לתרגום השפה האנושית למספרים (שכן כך עובדים המחשבים)
• פיתוח GPT וממירים לווקטורים מספריים (הנקראים קידוד)
• פיתוח GPT 1/2/3/4/5 המכילים מיליונים של מילים

סיכום
הבינה המלאכותית מקדמת את האנושות בקצב חסר תקדים – ברפואה, במדע, בתקשורת ובתעשייה. אך ללא ריסון מוסרי, היא עלולה להעמיק פערים, למחוק זהויות, ולערער את יסודות החירות והאחריות האנושית.
השאלה איננה אם נוכל לעצור את הקדמה – אלא האם נצליח להישאר אנושיים איתה.

21 מחשבות על המאה ה-21
הוצאת "דביר"