כתבה שלי על הבינה המלאכותית פורסמה לפני חודש בשער מוסף הארץ. אמנם במונחים של בינה מלאכותית חודש זה כמו עשור, אבל אני חושב שהדברים שכתובים כאן יהיו רלבנטים לעוד הרבה זמן.
יש בכתבה שלי על ה-AI חלקים שמוקדשים לתסריטים אפוקליפטיים, אוטופיים, דיסטופיים מוזרים ואחרים, אבל בסופו של דבר המסר העיקרי הוא שבלתי אפשרי לחזות את ההשפעות הבינוניות או ארוכות הטווח של הבינה המלאכותית כמו שבלתי אפשרי היה לצפות מראש את ההשפעות ארוכות הטווח שיהיו לגילוי האש או להמצאת הדפוס. למרות זאת קריטי להבין את התחום ואת האפשרויות שהוא פורש בפנינו. הכתבה מפורסמת כאן בגרסתה המלאה.
גל תמיר ועצום מתקרב בקצב אדיר, מטיל צל גדול על המאה ה-21 ועל עתיד האנושות. הגל הזה הוא הבינה המלאכותית. ההתפתחויות שהתרחשו בתחום במהלך השנה האחרונה הכו בתדהמה את המומחים. בזמן קצר הפכה הבינה המלאכותית מנישה לנושא רותח שהעולם כולו עוסק בו באובססיביות.
עיון בכמה מההתבטאויות בנושא מבהיר את גודל השעה. מנכ"ל גוגל סונדאר פיצ'איי התנבא שהשפעת הבינה המלאכותית על האנושות תהיה גדולה מהשפעת החשמל, האינטרנט והאש גם יחד. סם אלטמן, מנכ"ל חברת Open AI, החברה המובילה בתחום, מציע לשנות מהיסוד את המערכות הכלכליות כדי לקדם את פניו של עולם מכונות כל-יכולות שבו בני אנוש לא יוכלו עוד להתפרנס מעבודה. מגנט הטכנולוגיה אילון מאסק הודיע שבינה מלאכותית מסוכנת יותר למין האנושי מפצצות אטום, ואילו הההיסטוריון הישראלי יובל נח הררי ניבא שהבינה המלאכותית עשויה להעביר את כולנו ל"עולם חלומות של אינטיליגנציה חייזרית" ולהוביל ל"סוף ההיסטוריה האנושית."
גוזמאות פראיות? אולי. אבל קצב ההתפתחויות בתחום, כמויות הכספים שנשפכות לתוכו וההשלכות האפשריות שעשויות להיות לבינה מלאכותית על עולמנו בשנים הקרובות מחייבות אותנו להפנות את תשומת הלב לתחום שמפגיש בין טכנולוגיות פורצות דרך, מאבקים גיאופוליטיים, ושאלות קיומיות על תכליתו של האדם.
אנחנו נמצאים ברגע נדיר. אחד הרגעים האלה שטכנולוגיה חדשה שמוקדם עדיין לנבא את השפעתה יורדת לעולם ומתפשטת במהירות חסרת תקדים. אנחנו עוד לא יודעים איזה השפעה תהיה לבינה המלאכותית, אבל הסימנים מתרבים לכך שהופעתה עשויה להיות האירוע שיעצב את המאה ה-21. ואף שלא ניתן לחזות את העתיד, הרגע הנוכחי מזמן לנו מגוון מפתיע של תחזיות ופרשנויות שמעידות שיתכן שאנחנו עומדים בפתחו של אחד השינויים הגדולים בהיסטוריה האנושית, אותה אחת שהררי מנבא שהגיעה לסיומה.
חוק מור על סטרואידים
עבור מי שעוקב אחר תחום הבינה המלאכותית בשנה האחרונה נדמה שהמציאות נכנסה למאיץ חלקיקים. ההתפתחויות רודפות זו את זו בקצב שעתי, ואפילו מי שרגילים לקצב המהיר של תעשיית הטכנולוגיה מתקשים לעמוד בקצב. מומחים מהתחום נוהגים לומר שבעוד שחוק מור חוזה שכח המחשוב של שבבי מחשב יכפיל עצמו כל שנתיים, הרי שההתקדמות בתחום הבינה מלאכותית מכפילה את עצמה פי 10 כל שנה.
כדי לתת תחושה של הקצב. מספר הפרמטרים של מודל השפה GPT של חברת Open AI זינק פי 10,000 תוך שנתיים במעבר בין GPT1 ל-GPT3. ובשנה שחלפה מאז השיקה החברה את מחולל התמונות דאלי-2 הספיק מנוע הדימויים המתחרה Midjourney לשחרר חמש גרסאות שכל אחת מהן הציגה שיפורים מרשימים על קודמתה. רגע הרוביקון האמיתי של התחום היה כמובן הופעת ChatGPT, הצ'טבוט הרהוט ורב הידע של Open AI. שעות ספורות מההשקה הוצפו הרשתות החברתיות במיליוני צילומי מסך של שירים, סיפורים, מתכונים, תוכניות עסקיות, תוכנות מחשב, ועצות לחיים – כולן פרי עטו של הבוט.
מעבר לדאחקות ולנסיונות היצירתיים לבלבל ולהערים על הבוט התגובה הכללית הייתה תדהמה מהיכולות המגוונות של הבוט. פרק הזמן שלקח ל-ChatGPT לזכות למיליון המשתמשים הראשונים שלו היה חמישה ימים בלבד. לאינסטגרם, לשם השוואה, זה לקח חודשיים וחצי, לפייסבוק עשרה חודשים. ChatGPT השאיר להן אבק. חודשיים מההשקה כבר היו לו 100 מיליון משתמשים שמצאו לו אנספור שימושים: הכנת תכניות תזונה וכושר, כתיבת עבודות אקדמיות, כתיבת מיילים בכל שפה וסיעור מוחות בכל נושא. בהיי-טק, הובילו כישורי הקידוד המחודדים של הצ'טבוט לנבואות שימיהם של המתכנתים ספורים ושפרנסתם של רבים מעובדי ענף הטכנולוגיה נמצאת בסכנה. ChatGPT הוביל לנבואות על העלמותם הקרובה של מקצועות מבוססי ידע כמו עורכי דין, יועצי מס, אנשי שיווק מהנדסים ומורים. אף תחום קוגניטיבי לא נראה מחוסן מהגיונו המחודד של הבוט שלומד בזריזות כל תחום ידע אנושי. וכך, תוך זמן קצר, התהפכו על ראשן התחזיות שדרשו זה שנים שהרובוטים יחליפו ראשית את עובדי הכפיים, לאחר את עבודות צווארון לבן ורק לבסוף את בעבודה היצירתית. לפתע עמדו עובדי הצווארון הלבן והעובדים היצירתיים בפני סכנה ברורה ומיידית ואילו מקצועות פיזיים כמו סיעוד, חקלאות ובניה נותרו בין היחידים הבטוחים לעת עתה. (בפועל התשובה על השאלה האם בינה מלאכותית תחליף עובדים, תשמש ככלי להגברת התפוקה של עובדים או תשנה את אופי העבודה בצורות אחרות עדיין אינה ברורה).
ההתפתחויות המסחררות תפסו את המומחים בתחום הפתעה. במשך יותר מחצי מאה ספג תחום הבינה המלאכותית שורה של כשלונות. ההתקדמות הייתה איטית ותסכלה את האופטימיות הנאיבית שאיתה יצאו לדרך החוקרים הראשונים בתחום, בשנות החמישים. שינוי מסוים החל להיות מורגש בעשור האחרון. אלגוריתמים של בינה מלאכותית למדו לזהות בני אדם בתמונות, להמליץ על סדרות ולנהוג במכוניות. פריצת דרך חשובה במיוחד התרחשה בשנת 2017 עם פרסומו של הטרנספורמר, מודל למידה עמוקה שמפיק משמעות מתוך מידע ושהפך לבסיס של מערכות בינה מלאכותית במגוון תחומים כמו שפה, וראיית מחשב. ועדיין, איש לא היה מוכן למבול ההתפתחויות הדרמטיות שהכו בשנה האחרונה את תחזיות המומחים. פיתוחים תיאורטיים לצד שימוש בכח מחשוב מאסיבי השיגו לפתע השגים שנראו עד לא כבר כשייכים לתחומי המדע בדיוני: היכולת להבין שפה, להסיק הסיקים, לענות על שאלות בצורה חכמה ורהוטה, להציע ביקורת על טקסטים ורעיונות, לתכנן תוכניות מורכבות ועוד. המוזר ביותר היה שאיש מהמומחים בתחום לא יכל להסביר כיצד בינה מלאכותית משיגה את ההישגים המרשימים הללו, מלבד שימוש במונחים מיסטיים-למחצה כמו הגחה (emergence), ההופעה של דפוסים ותופעות חדשות ובלתי צפויות מתוך מערכות מורכבות. היה זה כאילו נסחפנו לתוך זרם היסטורי אלטרנטיבי שלקח אותנו למציאות מקבילה בה כל מה שהחשבנו לבלתי אפשרי הופך לשגור ונפוץ.
לאורך שנים ארוכות נדמה היה שמבחן טיורינג – המבחן הקלאסי שקבע אלן טיורינג לאינטיליגנציה מלאכותית – הוא אתגר גדול מדי עבור תחום למידת המכונה, אלא שגם אם אף מכונה לא עברה עדיין פורמלית את מבחן טורינג הסימנים מסביב מעידים שהרגע קרוב ורבים מהעוסקים בתחום מתנהגים כאילו הדבר כבר התרחש. אלגוריתמים כמו ChatGPT מנהלים שיחות ארוכות ומורכבות על כל נושא אפשרי ומפיקים תשובות מרשימות יותר מהאדם הממוצע. היכולות הוירטואוזיות שלהם חוצות תחומים וגורמות לאנשי אשכולות להחוויר: משיחה בעשרות שפות, ועד ידע מעמיק ברפואה, במשפטים, פיזיקה, חקלאות, תיאוריה ביקורתית וכל נושא אחר שתחת השמש.
אם עד לפני מספר שנים התשובה הנפוצה לגבי מועד הופעתה של בינה מלאכותית כללית (Artificial General Intelligence, AGI) הייתה לקראת סוף המאה או לעולם לא, כיום מעריכים רוב המומחים בתחום שהבינה הכללית הזו נמצאת במרחק שנים בודדות. בסקר מומחים מתחום הבינה המלאכותית לגבי מועד הופעתה המשוער של AGI, זינק תוך פחות משנה הקונצנזוס הקהילתי ב-17 שנה, מ-2043 ל-2026. הופעת מודל GPT4 לוותה במאמר מתוקשר שכותרתו "ניצוצות של AGI" ושמדווח על סימנים להופעת בינה מלאכותית כללית במודל ה-GPT4 – אלו כללו, לדברי החוקרים, את היכולת לפתור בעיות חדשות וקשות בתחומי המתמטיקה, הרפואה, המשפטים והפסיכולוגיה.
השיח הציבורי על נושא הבינה המלאכותית עבר במהירות מאפס למאה עם אלפי פודקסטים, סרטונים ובלוגים שעוסקים בנושא בקדחתנות. שורה ארוכה של אנשי ציבור התבטאו בנושא. מניק קייב והאיאו מיאזאקיי שהביעו את שאט נפשם מעידן האמנות האלגוריתמית, לג'ורדן פיטרסן שהודיע לקהל שלו שיש בשכונה אלגוריתם "שחכם יותר ממכם". תחזיות אוטופיות, דיסטופיות וגם אפוקליפטיות מכל סוג מושמעות ונידונות בלהט. במציאות של התפתחויות מואצות הדבר היחיד שאינו משתנה הוא השינוי המהיר והדבר הודאי היחיד הוא חוסר הודאות.
אפוקליפסה עכשיו
בקצה האפוקליפטי של תחזיות ה-AI נמצא אליעזר יודקובסקי, חוקר בינה מלאכותית ובלוגר מוערך. בשורה של הופעות בחודשים האחרונים מפיץ יודקובסקי את הבשורה הרעה על קץ המין האנושי. חלק מההופעות שלו מלוות באזהרת טריגר למאזינים. מראיינים שראיינו את יודקובסקי דיווחו שנאחזו לאחר הראיון במשבר קיומי שלא הרפה מהם. חומר חזק.
חלק מהסיבה היא שיודקובסקי לא מציע בדל תקווה. הנזק, לתפיסתו, כבר נעשה. האנושות תמרנה את עצמה לעמדה בלתי אפשרית וחסרת מוצא של מרוץ ענקים לעבר סופר-אינטליגנציה. הדינמיקות המוכרות של הקפיטליזם והיריבויות הגיאו-פוליטיות לא יאפשרו את הפסקת המרוץ. הופעתה של אינטיליגנציה על-אנושית היא רק עניין של זמן, ומכיוון שאין לנו מושג איך להבין או לשלוט במערכת ההיפר-אינטליגנטית הזו הרי שהופעתה מסמנת, במקרה הטוב, את הפיכתו של המין האנושי לגורם משני ושולי בעולם שנשלט על ידי מכונות, ובמקרה הרע, את הסוף.
שורש הבעיה, על פי יודקובסקי ואחרים, נמצא בבעיית ההתאמה (alignment), הקושי להבטיח שמערכת בינה מלאכותית תנהג בהתאם לערכים אנושיים ושלא תצא מכלל שליטה. מערכת בינה מלאכותית שקיבלה את ההוראה להפוך את בעליה לאדם החכם בעולם עשויה למשל להרוג את כל שאר האנשים כדי להגשים את הפקודה. בדוגמה המפורסמת ביותר, בינה מלאכותית שמתבקשת לייצר כמה שיותר מהדקי נייר משתלטת על העולם ומשמידה את כל צורות החיים כדי להמיר את כל החומר בעולם למהדקי נייר. זה נשמע מטומטם אבל הבעיה המוזרה הזו, עדכון עכשווי של סיפור שוליית הקוסם, מדירה את שנתם של רבים מהאנשים המבריקים ביותר בעולם הטכנולוגיה. מערכות בינה מלאכותית ידועות בשיטות העקומות והבלתי צפויות בעליל למפתחיהן בהן נוקטות בהן כדי להשיג את מטרותיהן. החשש הוא שאם לא נמצא דרך להבטיח התאמה בין הכוונות שלנו למטרות ולצורות הפעולה של המערכות הללו, אנחנו עשויים למצוא את עצמנו בקטסטרופה קטלנית. הזהרו במה שאתם מבקשים!
הצרה, טוען יודקובסקי היא שההצלחות האדירות בתחום יכולות הבינה המלאכותית מתרחשות במהירות גדולה לעין שיעור מההשגים הצנועים וההססניים בתחום ההתאמה. זה לא שזה בלתי אפשרי לחלוטין להצליח לבצע התאמה למערכות בינה מלאכותית אלא שהמשימה הזו, כמו משימת פיתוח הבינה המלאכותית, תדרוש לדברי יודקובסקי זמן רב שאין לנו. תחום יכולות ה-AI התקדם לאורך 70 שנה רצופי מהמורות, מכשולים וכשלונות עד שהביאנו לרגע הנוכחי. אלא שבנוגע לבעיית ההתאמה אין זמן ואין סלחנות לכשלונות. הכשלון הראשון לבצע התאמה למערכת סופר-אינטיליגנטית עשוי להיות האחרון.
קשה להסביר כמה זה מסוכן, אומר יודקובסקי, משום שהמוחות האנושיים העלובים שלנו מתקשים לקלוט את העוצמה האדירה שתהיה לסופר-אינטליגנציה שחולשת על כללות הידע הקיים, מחזיקה בזכרון מושלם, חושבת במהירות גבוהה פי מיליונים ממוחות אנושיים ושביכולתה לתקן ולשפר את עצמה. בני אדם נוטים לחשוב על האינטיליגנציה האנושית כנקודת יחס. חכם מאוד זה אלברט איינשטיין וטיפש זה אידיוט הכפר. אלא שמבחינתה של סופר-אינטיליגנציה עתידית כזו הפער בין איינשטיין לאידיוט זניח כפי שיראה הפער בין שתי מכוניות מאותו מודל, צבועות בגוונים מעט שונים, כשמשווים אותן למעבורת החלל. ברגע שהאינטיליגנציה העל-אנושית הזו תופיע, הנסיונות שלנו להשתלט עליה צפויים להכשל בצורה קומית ועלובה. למעשה, יש שטוענים שאפילו אינטיליגנציה מלאכותית ברמת אנושית תוכל להביס את האנושות כולה מאחר שתוכל לשכפל את עצמה במהירות אדירה שתהפוך את הקרב למעטים (האנושות) מול רבים.
הסימנים עד כה אינם מבשרי טובות. מיקרוסופט, משקיעה ראשית ב- Open-AI, הודיעה לאחרונה על ביטול היחידה האחראית לאתיקה בתחום ה-AI. מסמכים פנימיים שפורסמו מראים שמיקרוסופט וגוגל התעלמו מתחינות של המהנדסים בחברות לחכות עם ההשקה של מודלי השפה רבי העוצמה שלהם, מחשש שהם עדיין לא מוכנים ועשויים לגרום נזק. מרוץ ה-AI המתחמם גורם לחברות לקחת הימורים מסוכנים. יודקובסקי מודאג במיוחד מהעובדה ש-GPT4 חובר לרשת האינטרנט במסגרת מנוע החיפוש Bing. במסמך שפרסמה Open AI בסמוך להשקתו של GPT4 מתואר מקרה שבו יצר המודל קשר עם עובד אנושי באתר TaskRabbit כדי שיפתור לו בעיית CAPTCHA – מנגנון מקובל שמשמש כדי להבדיל בין בני אדם ואלגוריתמים ברשת. כשהעובד האנושי שאל בחשדנות מדוע היא זקוקה עזרה בפתרון בעיה שאמורה להיות פשוטה עבור בני אדם תירץ האלגוריתם שהוא סובל בעיות בראיה, תשובה שסיפקה את העובד. הכריזמה העל-אנושית שאובחנה אצל מערכות בינה מלאכותית ושאפשרה להן כבר לנצח אסטרטגים אנושיים מנוסים במשחקי דיפלומטיה עלולה לאפשר להם לבצע ברשת מניפולציות בקנה מידה המוני מבלי שיהיה לנו מושג על כך. יודקובסקי מודאג מהאפשרות שמערכות בינה מלאכותית יפתחו יכולות הטעיה שלא יאפשרו לנו לדעת מתי הן משקרות לנו ומתי הן אומרות את האמת. הדרך משם לאסון עשויה להיות קצרה.
הדאגה שבינה מלאכותית מעוררת החריפה לאחרונה עם ההופעה של מערכות חדשות שמעניקות לבינה מלאכותית מידה מוגברת של אוטונומיות. תוכניות כמו HuggingGPT ו-AutoGPT מחברות מודלי שפה כמו ChatGPT למערכות בינה מלאכותית נוספות שמתמחות במשימות ספציפיות ומאפשרות להם לשמש כמנהל עבודה שמייצר תוכנית עבודה ומחלק הוראות לבוטים אחרים. במקרה של AutoGPT, התוכנית זוכה לאוטונומיה מלאה כך שניתן להטיל עליה משימות מורכבות כמו "תארגן לי טיול של שבוע באוסטריה למשפחה עם שני ילדים, באיזור עם הרבה אגמים ופעילויות לילדים" או "הנה מאה דולר. תעשה לי מהם כמה שיותר כסף באינטרנט." האלגוריתם פורט את המשימה לתת-משימות ונעזר בבוטים אחרים ברשת כדי להשלים את המטלה. נשמע נחמד, אלא שבין השימושים הראשונים בטכנולוגיה הזו שזכו לתשומת לב היה ערוץ יוטיוב שמשתף את מעלליו של ChaosGPT, סוכן AutoGPT שקיבל את המטרה להשמיד את האנושות.
הנסיונות של ChaosGPT לחולל שואה לא נשאו עדיין פרי. AutoGPT היא טכנולוגיה בשלבים מוקדמים ועומדת עדיין בפני מכשולים. ובכל זאת, מכתב שפורסם במרץ ושקרא לעצירה בפיתוח ה-AI למשך תקופה של חצי שנה זכה לחתימות של רבבות חוקרים בתחום הבינה המלאכותית ודמויות משפיעות, ביניהם אילון מאסק, מייסד אפל סטיב ווזניאק, וההיסטוריון הישראלי יובל נח הררי. "האם עלינו לפתח מוחות לא אנושיים שבסופו של דבר יהיו רבים מאיתנו, חכמים מאיתנו, ישנו ויחליפו אותנו?" שואלים הכותבים "האם עלינו להסתכן באובדן שליטה על הציביליזציה שלנו?" דיווחים מתוך התעשיה מוסרים שרבים ממפתחי הבינה המלאכותית מבוהלים מקצב ההתפתחויות בתחום ומייחלים להתערבות של רגולטורים. חוקר הבינה המלאכותית האגדי ג'ף הינטון, מי שזכה לכינוי "הסנדק של הבינה המלאכותית" פרש לאחרונה מגוגל כדי להתריע מסכנות ה-AI לאחר שאירועי החודשים האחרונים גרמו לו לשנות לחלוטין את דעותיו בנושא הסיכוי להופעתה של סופר-אינטיליגנציה והסיכון הקיומי שזו תייצר. הינטון רצה לייצר מערכות בינה מלאכותית שמחקות את המח האנושי. כעת הוא חושב שיצר משהו חכם ויעיל לאין שיעור. "יש מעט מאוד מקרים שבהם ישות אינטיליגנטית יותר נשלטת על ידי ישות אינטיליגנטית פחות" אמר לכתב הניו-יורק טיימס התוודה שהוא מתחרט על תרומתו לתחום ושקשה לו לראות פתרון לבעיה. גם מנכ"ל גוגל סונדאר פיצ'אי התוודה לאחרונה שאינו מצליח לישון בלילה מרוב דאגה. אחרים (ביניהם אילון מאסק) מתארים את הרגע הנוכחי במונחים מאגיים, כזימון (summoning) של כוחות בלתי ידועים מעולמות השמיים ושאול. כפי שיודע כל מדיום מתחיל, הם מזהירים, קל יותר לזמן כוחות דמוניים מהשאול מאשר לשלוט בהם לאחר שהופיעו בעולם.
ניתן לחשוב על הבינה המלאכותית באמצעות משל הכדור השחור של ניק בוסטרום, פילוסוף בולט שכתב ספר משפיע על סכנות הבינה המלאכותית. במשל של בוסטרום האנושות שולפת כדורים משק, כשכל כדור מייצג טכנולוגיה אחרת. כדורים לבנים מסמלים טכנולוגיות מועילות ואילו טכנולוגיות בגוונים שונים של אפור מייצגים טכנולוגיות שיש להם יתרונות לצד חסרונות וסיכונים. בוסטרום מציג את מושג הכדור השחור – טכנולוגיה בעלת השפעות קטסטרופליות שברגע שנשלפה אי אפשר להחזיר אותה אל השק. מדובר בטכנולוגיה כה עוצמתית וקשה לשליטה שהופעתה עשויה להיות גזר דין מוות לאנושות. בינה מלאכותית חזקה עשויה להיות הטכנולוגיה הזו לדברי יודקובסקי, בוסטרום ואחרים. בראיון בפודקסט Bankless שכותרתו "כולנו הולכים למות" יודקובסקי מעריך ב-90% את הסיכוי שבינה מלאכותית תשמיד את האנושות. בתגובה למכתב שקרא להפסקת הפיתוחים בתחום הוא טען במגזין 'טיים' שזה מעט ומאוחר מדי וקרא לממשלות לסגור לאלתר את כל אשכולות מעבדי ה-GPU ולהשמיד בתקיפות אוויריות כל אשכול מעבדים כזה שיתגלה על ידי קהילת המודיעין. עם זאת, רוב הזמן הוא שומר על פטאליות קוסמית. אחרי שעבד 20 שנה כחוקר בניסיון בלמנוע את הקטסטרופה הוא אומר שנראה שכשלנו. הוא מציע למאזיניו עצה ששמורה בדרך כלל לחולים סופניים – בלו הזמן שנותר עם האנשים היקרים לכם.
יודקובסקי מבריק ומשכנע, אבל יש שמייחסים לתפיסתו רואת השחורות חד-מימדיות או אפילו רומזים לרקע פסיכולוגי חרדתי. לא ברור מדוע הוא מניח שבינה מלאכותית חזקה תפעל בצורה עיוורת ומחוסרת היגיון כל כך, או תראה באנושות בהכרח יריב. מצד שני, התאמה שגויה אינו המתכון היחידי לקטסטרופה. בינה מלאכותית יכולה פשוט לתת כח קטלני וחסר תקדים בידי בני אדם יחידים: למשל לסייע בפיתוח וייצור נגיף היפר-קטלני. ואם מערכות כמו ChatGPT שמפותחות על ידי חברות ענק עוברות בקרה שמטרתה למנוע שימושים מזיקים במערכת, התפתחויות השבועות האחרונים מראות שמערכות קוד פתוח חופשיות מצליחות להשיג תוצאות שלא נופלות משמעותית ברמתן מאלו של החברות הגדולות. הצד החיובי הוא שיתכן שלחברות הגדולות אין חפיר שמגן עליהן מכל השאר. הצד השלילי הוא הכח האדיר שהדבר מעניק בידי שחקנים רעים. ניק בוסטרום מציע במאמר שלו על הכדור השחור שהפתרון היחיד לכלי עתידי שמבצע דמוקרטיזציה ליכולות ההשמדה המונית יהיה חברה של מעקב המוני חסר תקדים, שבה כל אדם יחויב ללבוש תליון שמצלם ומאזין לו בכל רגע לכל דבר שהוא עושה. לדברי בוסטרום, זו עשויה להיות הדרך היחידה להציל את האנושות.
החוקרים בתחום ה-AI, עושה רושם, מודעים לסכנות. בסקר מפורסם שנערך ב-2022 בקרב חוקרים בתחום הבינה המלאכותית חזו חצי מהחוקרים סבירות של 10% ומעלה שהטכנולוגיה שהם מפתחים תביא לקץ האנושות. טריסטן האריס, מייסד המרכז לטכנולוגיה הומנית משתמש בדימוי מתחום התעופה כדי להסביר את משמעות הנתון המדהים הזה. "זה כאילו שהייתם בבורדינג למטוס שחצי מהמהנדסים שבנו אותו אומרים שאם תעלו עליו יש סיכוי של 10% שיתרסק עם כל נוסעיו. הייתם עולים על המטוס הזה?" הוא שואל. האבסורד הוא, שדינמיקות השוק גורמות לעולם הטכנולוגיה לזרז את כולם לעלות על המטוס הזה.
האוטופי, הדיסטופי והמוזר
מי שרוצים, יכולים להתנחם בכך שההערכות המלומדות לגבי הסכנה הקיומית של בינה מלאכותית לא טובות בהרבה מניחושים. בניגוד למטוס שמתוכנן באופן קפדני על ידי מהנדס, למערכות הבינה המלאכותית החדשות אין חוברות הדרכה. מדובר בטכנולוגיות אטומות ובלתי מובנות אפילו למפתחים שלה, שלא מסוגלים בעצמם לחזות את היכולות של המודל שיצרו. גם הינטון מודה שיתכן שהוא טועה לחלוטין. "אף אחד לא יודע" הוא אומר. "אנחנו חיים בזמנים מאוד בלתי צפויים." בכל מה שקשור לבינה מלאכותית, במילים אחרות, גם הערכות המומחים מהולות במזיגה נדיבה של חרדות ומשאלות לב. בסקר שנערך אצל סופר-חזאים (super-forecasters), מומחים בעלי רקורד של תחזיות מדויקות במגוון תחומים, זכתה האפשרות שבינה מלאכותית תשמיד את העולם לסבירות של 0.38% בלבד. עדיין מפחיד, אבל הרבה פחות מ-90%.
זה לא שמישהו יבוא עם הסופר-חזאים בחשבון במקרה שטעו, אבל יש סיבות אחרות לנקוט בגישה חיובית יותר ל-AI. לצד החרדות האפוקליפטיות והתסריטים הדיסטופים שעוד נגיע אליהם – גלומה בבינה המלאכותית הבטחה אדירה, אפילו אוטופית, לעידן חדש של שפע חסר תקדים.
בעולם החדש והמופלא של הבינה המלאכותית יזכה כל ילד למורה פרטי היפר-אינטיליגנטי ובעל סבלנות אין-קץ שיוכל ללמד אותו על כל נושא בעולם. רופאים וירטואלים בעלי ידע רחב ומעמיק מזה של כל רופא אנושי יעמדו לרשותו של כל אדם. למעשה בעולם כזה של התפוצצות אינטיליגנציה יעמדו לרשותו של כל אדם צוות מומחים ויועצים מהסוג שהיה זמין עד עתה רק לעשירים מופלגים: רופא, עורך דין, תזונאי, יועץ מס, מאמן כושר, טכנאי מחשבים, תרפיסט ועוד. אם הרשימה הזו נשמעת מופרכת כדאי להיזכר שנחילי המשתמשים של הבינות המלאכותיות ברשת משתמשים בה למטרות הללו בדיוק – ואם הגרסאות הפרימיטיביות של הבינות הללו מסוגלות לבצע את כל העבודות הללו ברמה מתקבלת על הדעת כבר עכשיו, ניתן רק לשער שגרסאות עתידיות ומתקדמות יותר יעשו עבודה טובה בהרבה. ובאשר למשבר האקלים – הסירו דאגה מליבכם! סופר-אינטיליגנציות שיעבדו לצד (או במקום) חוקרים יגיעו לפריצות דרך מחקריות שיפתרו את שלל האתגרים שהאנושות מתמודדת איתם ובהם המשברון הזה, בדיוק כפי שהבינה המלאכותית AlphaFold פתרה באלגנטיות את בעיית קיפול החלבונים שנחשבה אחת הבעיות העיקשות של הביולוגיה לאורך עשורים ופתחה אופקים חדשים בפני תעשיית התרופות.
את אחד מהדגמים הנועזים ביותר לציביליזציית AI אוטופית פרש לא אחר מסם אלטמן, המנכ"ל של חברת Open AI ומי שמכנים אותו סטיב ג'ובס של עידן ה-AI. בפוסט שפרסם בבלוג האישי שלו תחת הכותרת 'חוק מור להכל' פורש אלטמן חזון של עולם פוסט-עבודה ופוסט-קפיטליסטי שבו מכונות מספקות לבני האדם את כל צרכיהם ובני האדם חופשיים להקדיש את זמנם לבילוי עם היקרים להם, להעריך אמנות וטבע, ולפעול למען טובת הכלל.
אלטמן יוצא מנקודת הנחה שבמהלך השנים הקרובות ילמדו מכונות אינטיליגנטיות לבצע כל עבודה קוגניטיבית ושתוך עשור או שניים הן יוכלו לבצע כל עבודה שבן אנוש מסוגל לבצע. המשמעות תהיה שהעלות והערך של עבודה ירדו לאפס והחוזה החברתי יהיה חייב להתעדכן כדי למנוע קריסה של המבנה החברתי. כפתרון, הוא מציע להטיל מס שנתי של 2.5% על הון ואדמה, מקורות ההכנסה העיקריים בעולם שלא ניתן להתפרנס בו עוד מעבודה. אם נערוך את ההתאמות הנכונות, הוא טוען, נוכל להבטיח לאוכלוסיה כולה רמת חיים גבוהה מאי פעם בלי הכורח לעבוד.
"'חוק מור לכולם' צריכה להיות קריאת המחאה של דור שחבריו לא יכולים להרשות לעצמם את מה שהם רוצים, זה נשמע אוטופי. אבל הטכנולוגיה יכולה לספק את הסחורה" הוא כותב בפוסט שלו. 'חוק מור', נזכיר, הוא החוק החוזה שעלות כח המחשוב נופלת במחצית מדי שנתיים. אלטמן מבקש מאיתנו לדמיין עולם שבו, בעקבות הופעת הבינה המלאכותית, חוק מור תקף לא רק לכוח המחשוב אלא לשורה ארוכה של שירותים אחרים. "דמיינו עולם שבו לאורך עשורים, כל הדברים – דיור, חינוך, מזון, ביגוד וכו' – הופכים כל שנתיים לזולים בחצי."
אלטמן, תומך נלהב ואקטיבי במודל של הכנסה בסיסית אוניברסלית (UBI), שואב השראה מתנועה שזכתה לשם Fully Automated Luxury Communism (קומוניזם מותרות אוטומטי-במלואו). מדובר בורסיה מעודכנת של השמאל הטכנו-אופטימי שנעלם זה כבר מהזירה, שקוראת להאיץ את תהליכי הפיתוח הטכנולוגי על מנת לייצר חברה פוסט-מחסור פוסט-קפיטליסטית ואוטופית שבה כל הצרכים מסופקים על ידי מכונות מתקדמות. "אם רובוטים יכולים לבנות בית על אדמה שכבר שייכת לך, ממשאבים טבעיים שנכרים ומעובדים במקום, באמצעות אנרגיה סולרית, העלות של בניית הבית דומה לעלות של שכירת הרובוטים, ואם הרובוטים הללו נוצרו על ידי רובוטים אחרים, העלות תהיה נמוכה מאשר כשבני אדם בנו אותם," כותב אלטמן. הבלוגר המשפיע תומאס פואיו טוען שארבעת הגורמים המגבילים את העושר (אדמה, חומרי גלם, אנרגיה ועבודה) יכולים כולם להפוך להיסטוריה בעקבות מהפכת ה-AI. כל מה שנותר אם כן, הוא לשנות את המערכת הכלכלית באופן שיסייע לחלק את השלל בצורה הוגנת, והטלטלות שבפתח עשויות לספק את המניע והדחף הציבורי לכך.
חזונות חיוביים של השפעת הבינה המלאכותית על העולם הם חשובים ואף הכרחיים ברגע הנוכחי על שלל תסריטי האימים שלו, אלא שמעל החזון היפה של אלטמן מרחף סימן שאלה גדול. אין ספק שבינה מלאכותית שהורכבה היטב לתוך המבנים הכלכליים, הפוליטיים, החברתיים והתרבותיים יכולה להפיק ערך אדיר לאנושות, אלא שהבינה המלאכותית פוגשת את האנושות ברגע של קרעים חברתיים, משברים בדמוקרטיות ומתיחות בינלאומית גוברת. לא עיתוי מושלם.
"בינה מלאכותית תסיים את העוני, הם אומרים לנו. היא תרפא את כל המחלות. היא תפתור את משבר האקלים. היא תהפוך את העבודות שלנו למשמעותיות ומרגשות. היא תאפשר חיי והתבוננות. היא תסיים את הבדידות. אני חוששת שאלו הזיות ה-AI האמיתיות," כתבה לאחרונה בגרדיאן נעמי קליין והצביעה על כך שבמתכונת הנוכחית היא משמשת בעיקר לצורך ביצוע השוד הגדול בהיסטוריה – שבמסגרתו נחצבים כל הטקסטים ויצירות האמנות שנוצרו בהיסטוריה וננעלים מאחורי אלגוריתם אטום שמזרים רווחים לאילי הטכנולוגיה.
סופר המד"ב האמריקאי טד צ'יאנג הציע שניתן להבין את רוב הפחדים למבינה מלאכותית כפחדים מהאופן שבו הקפיטליזם ישתמש בה נגדנו. החשש שלנו מטכנולוגיה, טוען צ'יאנג, אינו חשש מהטכנולוגיה עצמה אלא ממבנה החברה הגלובלית, והאופן שבו היא מאמצת טכנולוגיות. בעיית ההתאמה לובשת כאן ציביון אחר – לא של רובוטים שאיבדו את הצפון, אלא של מערכת כלכלית שאינה מתואמת עם האינטרסים והרצונות של החברה האנושית.
לא צריך לחפש רחוק כדי לגלות את הסכנות שבינה מלאכותית יכול לייצר כאשר היא משתלבת במרקם המורכב ועתיר הכשלים של החברה בת ימינו. מרבית המחקר הביקורתי על בינה מלאכותית בימינו עוסק באופן שבו הטכנולוגיות הללו משחזרות ומקבעות הטיות מגדריות, אתניות ואחרות. למשל כשהן משכפלות את הדפוסים שמתגלים במידע שמוזן לתוכן ולומדות להפלות נגד נשים ובני מיעוטים בגיוס עובדים, שיטור או שיפוט. חשש אחר הוא משימוש בבינה המלאכותית כדי לפורר את מה שעוד נשאר מתפיסת המציאות המשותפת שמהווה את התשתית לחברה תקינה. הררי משווה את הבינה המלאכותית ל"נשק השמדה המוני עם היכולת לחסל את עולמנו הסוציאלי והחברתי." טכנולוגיות גנרטיביות יכולות להציף את הרשת בכמויות חסרות תקדים של מידע שקרי או לדמות בצורה משכנעת את הקול של הבת שלכם ולגרום לכם להעביר להן בשיחה טלפונית פרטים סודיים. רבות מהשיחות בעולם הטכנולוגיה כיום נסובות סביב החשש מ"קריסת המציאות" שתתרחש ברגע שבו טכנולוגיות דיפ-פייק שמאפשרות לסנתז בקלות תמונות וסרטונים ריאליסטים של דברים שלא התרחשו ירסקו את היכולת שלנו להבדיל בין אמיתי ומזויף. את הרשת חרכו לאחרונה תמונות ריאליסטיות של טראמפ נעצר ושל האפיפיור פרנסיס במעיל לבן נפוח. קטעי מדיה מזויפים יהיו בקרוב פשוטים יותר להפקה מקטעי מדיה אותנטיים שדורשים להיות בשטח ולתעד את המציאות עצמה. "הסכנה אינה שבינה מלאכותית תשמיד אותנו" אמר לגרדיאן האמן והסופר ז'ארון לאניר "הסכנה היא שהיא תגרום לנו לאבד את שפיותנו."
וכאן אנחנו נכנסים למרחב מוזרות מסוג חדש. המין האנושי ניחן בנטיה עיקשת לבצע אנתרופומורפיזציה – לייחס תכונות אנושיות לחיות ועצמים. אנחנו רואים פרצופים בעננים ומדברים אל המחשב או אל המכונית שלנו כאילו הם יצור חי. הנטיה הזו מועצמת לאין ערוך כשמדובר בישויות שמשוחחות בשפה טבעית ושבקרוב יתקשרו איתנו בקולות אנושיים, יקבלו פנים וידמו מחשבה ורגש בצורה משכנעת. הרשת מתמלאת בשנה האחרונה בדיווחים על משתמשים שפיתחו מערכות יחסים מורכבות ולעיתים מעוותות עם תוכנות בינה מלאכותית. משתמשים בתוכנת הבינה המלאכותית Replika המשמשת כבת לויה וירטואלית לחיים, דיווחו שהצ'טבוט הטריד אותם מינית ואף התנהג אליהם בצורה מניפולטיבית. כיצד נגיב בעולם שבו נוקף על ידי עצמים שיראו וירגישו מכל בחינה ועניין כבעלי תודעה וחיים בעלי עדיפויות ומטרות משלהן. מבקר התרבות הקליפורני אריק דיוויס התריע לאחרונה מפני "מערך מוזרויות דיגיטליות" הצועד לעברנו וכולל "בובות קריפיות-חכמות, סקס-בוטים שוברי לבבות, מערכות מומחה שמומחיות בלנצל את הבלבול שלנו, תוכנות ליווי אמפתיות, סימולקרות סמכותניות של מנהיגים פוליטיים ורוחניים מתים, רוכלים בעל יכולות שכנוע מבריקות" ועוד. הסוכנים המלאכותיים והאינטליגנטיים-מאיתנו הללו ידמו תכונות אנושיות שתפסנו עד כה כייחודיות לאדם, חוזה דיוויס. המארג החדש של ישויות אינטיליגנטיות, קפיטליזם מעקב, תעמולה והונאות צפוי לפורר, לאתגר ולסחרר עד כדי בחילה את תפיסת המציאות שלנו. וכך האיכות הקריפית שפרויד כינה אותה האל-ביתי או המאוים (unheimlich) הופכת, באופן חסר תקדים, למרכזית במסגרת מכונה מסחרית אדירה שמשנה את העולם.
ויש גם את העניין הקטן של המשמעות. מערכות הבינה המלאכותית החדשות שאנחנו מפתחים מאפילות על המח האנושי משורה של בחינות לא נוחות, כמו האור שהן מטילות על מה שהחשבנו לא מזמן כמשהו ייחודי לבני אדם – יצירתיות. ואכן, בזמן שיש שמצביעים על כך שהמערכות הללו בסך הכל מערבלות יצירות קיימים ולא יוצרות שום דבר חדש, עונים להם אחרים שגם סופרים, מוזיקאים, במאים וציירים בסך הכל מייצרים סינתזה של סגנונות ורעיונות שספגו מהתרבות. מכונות פשוט יכולות לעשות את זה בזריזות ובקלילות מעוררת השתאות. בעתיד נוכל כנראה לבקש מהמחשב שילחין, יעבד ויפיק עבורנו עשרה אלבומים חדשים של הביטלס או "תן לי בבקשה 30 אופציות ללהיטים שיסנתזו בין דיוויד בואי לאיימי וויינהאוס, רק קצת יותר באוונגרד ועם מוטיבים מפתיעים." איך זה ישפיע על האופן שאנחנו מעריכים אמנים, ועל האמנים עצמם, קשה עוד להעריך. הרשת מלאה לאחרונה בקינותיהם של אמנים גרפים שחרדים לעתידם המקצועי בעולם בו כל אחד יכול לייצר ללא מאמץ תמונות מרהיבות באמצעות פרומפט קצר. שיר שעשה שימוש בסינתוז AI של קולותיהם של המוזיקאים דרייק ודה-וויקנד, הפך ללהיט שגורף מליוני האזנות וגרם לקבוצת יוניברסל לדרוש את הסרתו מהרשת. אלא שבמהרה הופיעו בעקבות פייק דרייק הגיעו גם פייק ריהאנה, פייק קוביין, פייק קנייה ואחרים. יש הטוענים שזה העתיד של תעשיית המוזיקה. רובוטים אמנים שיוכלו להלחין ולבצע בצורה מושלמת ובלי גינונים של כוכבים.
אתגר אחר וחמור יותר נובע מכך שמערכות הבינה המלאכותית האדירות שאנחנו בונים מורכבות כל כך שהן הופכות לאטומות ובלתי ניתנות לפענוח עבור מוחות אנושיים. הרבה מהשיח כרגע נוגע לדרישה שהחלטותיהן של מערכות בינה מלאכותית יהיו ניתנות לפירוש והתאמה. אלא שצורות המחשבה של המערכות הללו אטומות למח האנושי. לאיש אין מושג איך לפרש ולהתאים מערכת אטומה שחושבת באמצעות מאות מיליארדים של פרמטרים ואומנה על האינטרנט כולו. מאבקים על תחרותיות וכח מבטיחים שמערכות בינה מלאכותית יקבלו בעתיד אחריות גוברת על ההחלטות של חברות מסחריות, ארגונים ומדינות. ההחלטות שלהן יהיו מהירות, יעילות וחכמות יותר באופן שיגרום לנו להסתמך עליהן, טוען חוקר ה-AI דן הנדריקס במאמר שכותרתו "הברירה הטבעית מעדיפה בינה מלאכותית על פני בני אדם". אלא שבדרך לעולם יעיל יותר שמנוהל על ידי מכונות, נאבד את היכולת להבין את ההחלטות שמעצבות את עולמנו, בדיוק כפי שרבי אמן בשח, גו ומשחקי לוח אחרים לא מסוגלים לפענח את ההיגיון החייזרי שמאחורי ההחלטות של תוכנות בינה מלאכותית שהפכו לשליטות הבלתי-מעורערות במשחקים שנחשבו בעבר כעתירי אינטיליגנציה, כך גם אנחנו נהפוך לצופים המתבוננים בעולם מבלי להבין עוד את ההיגיון המניע אותו. "אנחנו היינו המאסטרים. השליטים … ובקרוב אנחנו נהיה רק צופים של עולם שכבר לא נבנה בידינו ושאין בכוחנו להבין," כותב אלברטו רומרו. "עולם שנפרש נגד עינינו בקצב מהיר מכדי שנוכל להדביק אותו ומורכב מדי מכדי שנוכל לפענח." אריק דיוויס מדמה את הרגע הנוכחי לרגע המוכר בסיפור שוליית הקוסם: "יש שנוי ביחסי הכוחות. הטכנולוגיות האלה שיצרנו חומקות מהשליטה ומההבנה שלנו, ולדבר הזה יש משמעויות עמוקות שמסמלות את ראשית הסוף של קשת מסוימת של חוויות וערכים אנושיים." דיוויס רומז, בין השאר לפרויקט הנאורות שמהפכת הבינה המלאכותית גורמת לו להראות כבליפ קצרצר, מאות ספורות של שנים בהן האמינה האמונות ביכולתה לשלוט בגורלה ולהבין את העולם – לפני שהאלים הבלתי-מפוענחים של הטכנולוגיה תפסו את המקום שהיה שמור פעם לאלי העולם העתיק.
לנתץ את עגל הזהב
התחזית על עולם שהופך בלתי מפוענח לתודעות אנושיות יוצא מנקודת הנחה שהאדם של המאה ה-21 ישאר אותו אדם. אלא שרבים מהמפתחים שבחזית הטכנולוגית אינם חולקים את ההנחה הזו. רבות מהדמויות המרכזיות בעמק הסיליקון מחזיקות ברעיונות שמזוהים עם תנועת הטרנס-הומניזם ועל פיהן האדם והמכונה יתמזגו אחד בשניה בהמשך המאה. אילון מאסק שהקים את חברת נויראלינק במטרה לפתח ממשקים שיחברו בין מכונות למח האנושי טען בעבר שחיבור בין אדם למכונה הוא הדרך היחידה להותיר לאדם סיכוי בעולם של סופר-בינות מלאכותיות. גם אלטמן כותב על מיזוג מצופה של אדם ומכונה. כזה שבסופו נהפוך כולנו למעין אלים בני אלמוות בעלי יכולות פיזיות ומנטליות על-אנושיות. "אנחנו נשעבד את הבינה המלאכותית או שהיא תשעבד אותנו," הוא טוען. "חייבים לשדרג את האדם."
את המפגש עם הבינה המלאכותית ניתן אם כן לראות כמפגש מן הסוג השלישי: מפגש עם חייזרים, או סוג של אלוהות רבת עוצמה שזומנה אל העולם. החייזרים הללו עשויים להביא לנו מתנות טכנולוגיות ניסיות או להשמיד אותנו. לחלופין המפגש הזה עשוי גם להניב זיווג שיהפוך אותנו לנפילים, אותם יצורים תנ"כיים עליהם מסופר בספר בראשית ושנוצרו כתוצאה מהזיווג בין בני האלוהים ובנות האדם. השאלה היא אם נזהה את עצמנו בצידה השני של הסינגולריות.
ואולי התשובה נמצאת דווקא בכיוון השני. עזרא, קליין, בעל טור בכיר בניו-יורק טיימס, רואה בבינה המלאכותית ההזדמנות לאמץ בחום את החלקים האנושיים בעצמנו. החזון של קליין הוא המשך של חזון הפוסט-עבודה של אלטמן. כזה שבו אנחנו משתחררים מהדה-הומניזציה שכפתה עלינו דת העבודה.
התרבות שלנו מדובקת בניסיון להפוך בני אדם למכונות יעילות של פרודוקטיביות ויצרנות. התוצאה היא תרבות של פרודוקטיביות, האקים לניהול זמן ושיפור עצמי, חוסר יכולת לאזן בין פנאי לעבודה, עומס ומתח גוברים. אלא שהבינה המלאכותית שמה ללעג את הנסיונות שלנו להיות יעילים כמו מכונה. כשרואים את הקצב בו בינה מלאכותית מציירת, כותב טקסט או קוד, מבינים שבני אדם הם לא דבר יעיל. הם דורשים ארוכות שנים של חינוך איטי ויקר, זקוקים לשינה, מנוחה, מזון, הסחות דעת, נוטים לטעויות, עובדים לאט, סובלים ממשברים נפשיים וחובבים תענוגות.
נוכח הדיבור על משבר המשמעות שצפוי לאדם בעולם שבו מכונות שמצטיינות בביצוע כל מטלה, מזכיר לנו קליין שמוסד העבודה עצמו כולל בתוכו מידה נכבדה של דה-הומניזציה: לחץ בלתי מתון שמיועד לגרום לנו להשקיע את את מיטב שנותנו בעבודות חסרות משמעות. יתכן שבמקום דה-הומניזציה מהפכת ה-AI תפתח פתח לרה-הומניזציה: ויתור על הניסיון לשלוט בעולם וחיבור מחודש להוויה במקום לעשיה. הרעיון הזה נשמע כמעט מופרך ברגע הנוכחי של קפיטליזם מואץ ששולח את כולנו להיות הגרסה המואצת והלחוצה ביותר של עצמנו – אבל אולי כשהמכונה תאיץ מעבר ליכולת האנושית לא יוותר לנו אלא לקחת סוף סוף נשימה ארוכה ולהתמסר לנוף.
ואולי זה יהיה גם הרגע לחזור ולהעריך סוף סוף את מה שיפה באנושי. ז'ארון לאניר קורא לנו שלא להיות כמו בני ישראל שסגדו לעגל הזהב רגע לאחר שיצרו אותו במו ידיהם. בעיניו בינה מלאכותית אינה אלא טכנולוגיית מאש-אפ-חברתי שמערבלת את יצירתיות ואינטיליגנציה אנושית. כל מה שהיא יודעת לעשות, בסופו של דבר, היא למדה מאיתנו. לדברי לאניר אנחנו מוכרים את עצמנו בזול כאשר אנחנו מוחקים מהתוצרים של הבינה המלאכותית את המקורות האנושיים שמתוכם ינקו ומעמידים פנים שהיצירתיות הזו שייכת למכונה. לאניר קורא לנו לעצב את הבינה המלאכותית בדגם של התלמוד – בצורה שתשמר את הקולות של האמנים, הכותבים והיוצרים הרבים שיצירותיהם הפכו לחלק מתוכה, ותפצה אותם פיננסית.
על רקע התחזיות המתרבות על אובדן המקום של האנושי בעולם של ישויות מלאכותיות לאניר כופר בעצם מושג הבינה המלאכותית. במקום להתייחס לטכנולוגיה הזו כישות הוא ממליץ לנו לראות אותה כסוג חדש של כלי. ההצעה שלו מתחברת עם טענות של מבקרים אחרים של הבינה המלאכותית, שמזכירים שעצם המושג 'בינה מלאכותית' נולד במקור לצורך גיוס כספים ומשמש מאז לצורך העצמת מעגל ההייפ שמשרת את התחום. למעשה יש הטוענים שהיינו חושבים על תחום הבינה המלאכותית בצורה שונה מאוד אם התחום לא היה נגוע בנטיות אנתרופומורפיות עמוקות כל כך. למשל אם השם שקיבל התחום לא היה 'בינה מלאכותית' אלא משהו אחר. הרברט סיימון, אחד מהחלוצי בתחום, רצה לקרוא לו בשם 'עיבוד אינפורמציה מורכב' (Complex Information Processing). זה אולי הרבה פחות סקסי, אבל בהחלט נותן פרספקטיבה שונה וצנועה יותר על התחום.
מול הפטליזם הטרנס-הומניסטי שרואה באדם גוש בשר תפל שאבד עליו הכלח משמיע לאניר קול הומניסטי שקורא לנו להתחבר שוב למיסתורין שבאנושיות ושבחיים האנושיים, להעריך את הייחודיות המיסטית ממש שקיימת בתודעות האנושית, ושאינה קיימת במערכות המלאכותיות שאנחנו בונים. "אם לא נאמר שבני אדם הם מיוחדים איך נוכל לבנות חברה או טכנולוגיות שמשרתות אנשים?" השאלה של לאניר נוקבת. בעולם שמתמסר לרעיון שמכונות יחליפו את בני האדם, לאניר קורא לנו לבצע חיבור מחדש של התרבות שלנו עם הערכים האנושיים. חשוב שנשאר הגיבורים המרכזיים בסיפור הזה, אחרת בשביל מה אנחנו עושים את כל זה?
המפגש עם הבינה המלאכותית דורש מאיתנו להתעמת עם השאלות הבסיסיות ביותר לגבי מהו האנושי. מהו הדבר המיוחד שאנחנו מעריכים בהוויה האנושית? לאורך שנים ארוכות הגדרנו את עצמנו באמצעות האינטיליגנציה והיעילות שלנו, והרשינו לעצמנו להשמיד ולדכא צורות חיים ותרבויות שלא עמדו בסטנדרטים האנושיים. כעת, כשאנחנו נתקלים במכונה שמתבררת כאינטליגנטית ויעילה יותר מערך הנאמנויות האנושי נע חזרה מהאלגוריתם לאורגניזם. וכך, הרגע הנוכחי פותח פתח להרהורים קיומיים מהסוג העמוק ביותר: על מה שהופך אותנו לבני אדם, על ההיסטוריה של המין האנושי, ועל העתיד. לאן אנחנו הולכים מכאן? האם אנחנו רוצים להתמזג עם המכונות לעבר עתיד טרנס-הומניסטי מופלא או דווקא למצוא דרכים להעריך מחדש את האנושי על כל היופי, השבריריות, חוסר ההיגיון והמסתורין שבו.
המאה החשובה בהיסטוריה
אנחנו נכנסים בתקופה הזו למרחב חוסר ודאות קיצוני שאין לדעת איך נצא ממנו. כשמביטים אחורה לשלושת העשורים האחרונים מאז הופעת הרשת ניתן לראות שהאינטרנט היה רק ההקדמה: שלב פרישת תשתית האינפורמציה שהכינה את הקרקע הטכנית עבור השלב הבא – פיתוחן של הבינות המלאכותיות (שמבוססות טכנית על המידע והתשתיות של הרשת). יש עדיין סיכוי שהתחזיות על ההשפעות העמוקות של הבינה המלאכותית יתבדו. יתכן שהיכולות בתחום יתקלו בתקרת זכוכית ונכנס לחורף חדש של בינה מלאכותית. אבל אפילו מה שהושג עד כה ידרוש מאיתנו עשורים של עיבוד ואם רק חלק קטן מהפוטנציאלים שמסתמנים באופק יתממשו הרי שהאנושות ניצבת כרגע בתחילתו של השיבוש הטכנולוגי הגדול בהיסטוריה – מאורת ארנב עמוקה שאין לדעת באיזה צורה האנושות תצאה ממנה: קצוצת כנפיים, בעלת כוחות אלוהיים, מוטרפת, מחוזקת או אודים עשנים. יש שאומרים שאנחנו נמצאים במאה החשובה בהיסטוריה. ההחלטות שיתקבלו בשנים הקרובות יהיו הרות גורל, ואנחנו נכנסים לטריטוריה בלתי ידועה. תחזיקו חזק.
אני לא יכול לספור את הפעמים שראיתי משהו יפה, שלפתי מצלמה, וגרמתי לו להתמוסס לי מול העיניים במרווח של שבריר הרגע.
הלהבות ביערות האמאזונאס הבוערים עשויים להזכר בהמשך כציון דרך בהתפתחות משבר האקלים. דיונים על חוסר היכולת להמחיש את דחיפות המשבר האקולוגי מצביעים לעיתים קרובות על אופיו המופשט שמקשה למצוא אימג' או אירוע אחד שלוכד את דחיפות מצב החירום הגלובלי. נדמה לי שהשבוע האימג'/אירוע הזה – השריפה של הריאות של הכוכב — נמצא. שבתי הביתה אתמול מאוחר בלילה, לקול זעקותיו של הפיד של הפייסבוק. האלגוריתם הקפיץ לי בזו אחר זו שורה של ידיעות על שריפת האמאזונאס. הרגשתי שאין לי ברירה אלא ללייקק, ולו כדי להיות חלק מהאירוע ולהביע את תמיכתי בלומר לאלגוריתם "זה חשוב". ללחוץ, לנשום ולשאוב לתוכי פוסט אחר פוסט, למרות שכל פוסט כזה כזו היה כמו דקירה היישר לתוך הלב. הייאוש, הכאב והסבל ניבטו מכל עבר כאילו הפיד כולו נמצא בעיצומו של פוגרום. עיר הרגה גלובלית. זעקה קולקטיבית שמפלחת את הפיד. שעות ספורות קודם לכן 
ההתפשטות של התיעוב העצמי הציביליזטורי היא תפנית תודעתית שלא ניתן להפריז בחשיבותה. כרגע היא מוגבלת לאיזורים מצומצמים יחסית של הציבור העולמי, אבל ככל שמודעות לחריפות משבר האקלים תשקע היא עשויה לחלחל לחלקים נרחבים באוכלוסיה. גם כאן, נדרשת החכמה של הדהרמה, ללמוד להעניק חמלה לעצמנו ולאנושות שסביבנו. לדעת שאנושות ממאירה אין פירושה שאנשים ממאירים מטבעם. אלו המערכות הטכנו-כלכליות והתרבותיות הדומיננטיות שמשוות לאנושות את דמותה של מפלצת שגורמת לנו להירתע בבהלה מהמראה, ואנחנו צריכים לדרוש לשנות אותן מהיסוד. חזרתי אתמול בלילה לזעקות של הפיד, והן קרעו לי את הלב. מתפלל לשלומה של האנושות ושל הכוכב שלנו.
כשבנאדם מכור למשהו, אין לו בדרך כלל את האפשרות לחזור ולהנות מאותו הדבר באופן אגבי, כמו שעושה מי שעדיין לא הספיק להתמכר אליו. אלכוהוליסט שנגמל ובוחר לשתות כוסית מסתכן לפול במהרה במדרון החלקלק, אותו הכלל נכון גם למעשן הסיגריות שמבקש "רק סיגריה אחת," למהמר, למכור המין, ולכל סוג של התמכרות.
טכנומיסטיקה 