טכנומיסטיקה

(1) המין האנושי שוב בסכנה – זו הפעם הראשונה במעל מאה אלף שנה שקיום האנושות בסכנה. הפעם הקודמת הייתה כנראה לפני כ-70 אלף שנה קצת אחרי חווה המיטוכונדרית ואדם כרומוזום Y, בתקופה שבה על פי חוקרי האבולוציה היה קיום המין האנושי תלוי על בלימה, תלוי בקבוצה קטנטנה של פרטים, שכולנו צאצאיה, ושאם הייתה נמחקת לא היה המין האנושי כפי שאנו מכירים אותו כיום עולה על במת ההיסטוריה.

חווה מיטוכונדרית לעידן הדיגיטלי. ג'מה צ'אן בסדרה Humans

בינתיים חלפו עשרת אלפים שנה. המין האנושי גדל, צמח, השיג שליטה בטבע ובשלב מסוים היה נדמה ששום דבר כבר לא יכול לאיים על קיומו, אלא שכוחו גדל כל כך שהפך לאיום המשמעותי ביותר עבור קיומו. בחמישים שנה האחרונות בעוד האנושות ממשיכה לצמוח, להתפתח ולהגדיל דרמטית את השפעתה על הכוכב, היא גם מייצרת סכנות הולכות וגדלות להמשך קיומה, שמתוכן אפשר למנות שלוש עיקריות[1]:

• מלחמה גרעינית (שהסיכוי לה גובר ככל שיותר מדינות מחזיקות בנשק גרעיני)
• שינויי האקלים וההתחממות הגלובלית
• הופעתה של אינטליגנציה מלאכותית

מבין שלושת הסכנות הסכנה הראשונה היא פתאומית. היא יכולה לקרות כל רגע ללא כל התראה מוקדמת. הסכנה השניה היא הדרגתית בעיקרה, היא תהליך שמתרחש ושמעמיד את עתידה של האנושות בסכנה גוברת. הסכנה השלישית היא שילוב של השניים – היא תהליך שמתרחש לאורך זמן ארוך, אבל כזה שעשוי, לטענת חוקרים מסוימים, לקבל האצה דרסטית ברגע מסוים ולעבור שלב במפתיע.

המשותף לשלושת האיומים הללו הוא שהם תוצר של קדמה אנושית טכנולוגית שלא שולבה בקדמה רגשית/רוחנית ושהובילה באופן צפוי למדי למצב הנוכחי שבו האנושות ניצבת מול בחירה אכזרית: זינוק טכנולוגי-תודעתי למודוס פעולה חדש ומטיב יותר או צלילה לעבר התהום, נישאים על גבי הבורות, החמדנות, הגזענות, השנאה וכל שאר התכונות הפחות אטרקטיביות של הומו-סאפיינס סאפיינס, שחלקן דווקא עזרו לנו לשרוד בעבר, אבל הפכו מאז למשא עודף ומזיק.

כל יום שעובר ללא שתתרחש הקפיצה רק מקרב אותנו לתהום. הזמן לקפיצה הוא עכשיו אנושות, עוד מעט כבר יהיה מאוחר מדי. לאנושות ברור שמשהו לא בסדר, אבל בינתיים מתקיים וויכוח – לקפוץ או לקפוץ? ואם כן, לאיזה כיוון?

בני האדם מופיעים בשעות אחה"צ של היום האחרון של השנה הקוסמית. לוח השנה הקוסמי של קארל סגן

(2) סוף העולם עדיין אינו נושא ראוי לשיחת סלון מנומסת – השיח על סוף העולם קיבל תנופה משמעותית בשנה האחרונה מאז בחירת טראמפ, עם לא מעט תשונמת לב תקשורתית  (למשל כאן וכאן). ועדיין, סוף העולם אינו נחשב נושא ראוי לשיחת סלון מנומסת. כאשר הנושא עולה, הוא יענה לעיתים קרובות בגישה מבטלת המשקפת את הנחת המוצא של רוב האנשים שמה שהיה הוא מה שיהיה. זה מובן לחלוטין, כשלעצמו. קשה להאמין שדווקא במשמרת שלנו יתרחש אירוע דרסטי כל כך. סיומה של מורשת טכנו-אבולוציונית ששורשיה מגיעים עשרות מיליוני שנה אחורה, לראשית עליית היונקים, או אפילו מיליארדי שנה אחורה לתחילת האבולוציה של החיים על פני כדור הארץ. בלוח השנה הקוסמי של קארל סאגן כל 500 השנה האחרונות מאז המהפכה המדעית תופסות מקום יחסי של שניה אחת בשנה הקוסמית שמציין את כללות הזמן שחלף מאז ראשית היקום. אז למה שכל זה יגיע לסיום דווקא עכשיו, בשבריר השניה שבו אנחנו חיים? סיבה אחת טובה עשויה להיות שזהו שבריר השניה הקדחתני ביותר בהיסטוריה של הכוכב, ביי פאר. מספר האנשים, האפקט הסביבתי, רמת ומהירות התפתחות הטכנולוגיה, כל אלו גבוהים אנספור מונים בכל שלב קודם בהיסטוריה. כשמסתכלים על זה ככה, זה אולי לא כל כך מופרך לטעון שאנחנו חיים בזמנים בעלי משמעות קוסמיות, הרבה יותר עוד ממי שחיו בזמנם של נח, ישוע או ובר כוכבא. אמנם, כשמדברים על סוף העולם תמיד חשוב להזכיר שאין לנו מושג על מה אנחנו מדברים, שהעולם תמיד מסתיים ותמיד מתחיל מחדש, ושגם הקטסטרופה המסתמנת תהווה כנראה התחלה למשהו חדשה. החיים על פני כדור הארץ כנראה ימשכו בצורה זו או אחרת לא משנה מה יעשה האדם (חוץ מאולי בתסריט גו-אפור). ובכל זאת, בין אם נקרא לזה קץ הימים, הסינגולריות או גוג ומגוג, ברור שמשהו רציני וגדול נמצא באופק.

הבינה המלאכותית היא פרויקט מנהטן של זמננו. חוקרים בפרויקט מנהטן 1940

(3) כיצד בינה מלאכותית יכולה לאיים על האנושות? מעבר למלחמות גרעיניות, שהן קטסטרופה הניתנת למניעה באמצעות פיקוח ודיפלומטיה, או להתחממות גלובלית שניתן להלחם בה על ידי תקנות וטכנולוגיות חדשות, הסכנה הגדולה והוודאית ביותר לעתיד האנושות הינה הופעתה של בינה מלאכותית. היא הוודאית ביותר לא רק משום שסוגים מסוימים של בינה מלאכותית כבר נמצאים כאן, אלא משום שהאנושות חותרת לעברה בכל הכח בכל רגע נתון. בינה מלאכותית היא כרגע הגביע הקדוש שכלפיו מרוכזים כוחותיהם של התאגידים הגדולים והחזקים ביותר על הפלנטה כמו גוגל, IBM, מיקרוסופט, אמזון ופייסבוק. מיטב המוחות האנושיים ומיטב המשאבים הכלכליים מופנים כרגע לפתרון הבעיה האחת הזו, בפרויקט מסחרי שמזכיר בסדרי הגודל ובאינטנסיביות שלו את פרויקט מנהטן שהוביל לפיתוח פצצת האטום במהלך מלחמת העולם השניה. הפעם האתגר גדול עוד הרבה יותר, וכך גם האמצעים העומדים לרשות החוקרים. אינטיליגנציה מלאכותית היא מטרת-על המשותפת כיום לרבבות מעבדות ברחבי העולם שעובדות על הנושא ממגוון תחומים: עיבוד שפה, זיהוי פנים, מוטוריקה ועוד ועוד. זה הוא חוד החנית של האנושות הנתמך באנספור תעשיות "תומכות לחימה" (מקייטרינג ועד ייצור שבבים) היוצרות את התנאים לקיום המחקר הזה. במובן מסוים ניתן לטעון שכל האנושות משתתפת במאמץ ליצירת הבינה המלאכותית הזו.

אבל מדוע שבינה מלאכותית תהווה בכלל סכנה עבורנו? ובאיזה סוג של סכנה מדובר בכלל? סוג אחד של סכנה, בעל הסבירות הנמוכה ביותר כנראה כרגע, הוא הסכנה של בינה מלאכותית שתפנה נגד האנושות, טרמינטייטור סטייל. כאשר כל מערכות הפיננסים, התקשורת והלוגיסטיקה נשלטות על ידי מערכות מחשבים, ומערכות נשק אוטונומיות הולכות ומשתכללות בינה מלאכותית מרוכזת שתחליט להפטר מהמין האנושי לא אמורה להתקל בבעיות רבות. היא רק צריכה להתחיל בשביתה איטלקית והדבר יגרום במהירות לרעב המוני ואנרכיה. נכון להיום המין האנושי אפילו לא התחיל לחשוב על מערכות הגנה בפני אפשרות כזו. ובכל זאת נדמה שזו הסכנה בעלת הסבירות הנמוכה ביותר.

סוג שני וסביר יותר של סכנה הוא שבינה מלאכותית תשמש את בעלי ההון והכח בחברה על מנת להדק את שליטתם ואף להפעיל דיכוי של

רובוטים ככלים לדיכוי האוכלוסיה האזרחיה. הסרט אליסיום.

האוכלוסיה האנושית הנתמך ברובוטים/בינה מלאכותית, קצת כמו בסרט אליסיום, שבו האליטה האנושית עברה לתחנת חלל אוטופית וממשיכה למשטר באמצעות שוטרים רובוטים  את האוכלוסיה דלת האמצעים שנשארת על הכוכב המדולדל אך חיוני עדיין.

אפשרות שלישית ורכה יותר לאופן שבו בינה מלאכותית עשויה לאיים על האנושות ניתן למצוא בעצם קיומה של בינה מלאכותית שמערערת את תפיסות העצמי, הטבע, האלוהות והמשמעות של בני אדם. בשבועות האחרונים צפיתי בסדרה Humans, שעוסקת בעולם שבו יש לרובוטים דמויי אדם (אנדרואידים, או סינת'ים, כפי שהם מכונים בסדרה) השפעה מסיבית על חיי העבודה, האהבה והמשפחה של החברה האנושית. עוד לפני שבינה מלאכותית תפנה חלילה ותתמרד מול המין האנושי, הופעתה צפויה להציב בפני האנושות אתגר רציני בכך שתייתר את קיומה. רובוטים עובדים מייתרים את הצורך בעבודה אנושית במגוון תחומים ומסלקים את הצורך הכלכלי בבני אדם. רובוטים סקסואלים, אינטיליגנטים ורגישים מסוגלים אולי לתפקד כבני זוג מיניים וזוגיים טובים יותר מכל מה שאנחנו יכולים להיות. בנוסף לכך הם עשויים לגדל ילדים אנושיים בצורה סבלנית וקשובה יותר מבני אדם. באופן זה הם מציבים סימן שאלה סביב כמה ממנועי המשמעות העיקריים של בני המין האנושי כמו עבודה, אהבה ומשפחה.

הסוציולוג הצרפתי אמיל דורקהיים הצביע על העליה בשיעורי ההתאבדות עם המעבר מחברות חקלאיות ופיאודליות לחברות תעשייתיות קפיטליסטיות וטען שהסיבה לכך הייתה שבניגוד למערכת הישנה שהגבילה אך ספקה מסגרת קהילתית ותחושת משמעות קיומית, במערכת החדשה התקשו יותר בני אדם למצוא את מקומם בחברה ואת תחושת המשמעות.

בני האדם צריכים למצוא מחדש משמעות בעידן התעשייתי-קפיטליסטי. דורקהיים

אובדן המשמעות שחשו בני האדם במעבר לדפוסי הקיום של החברה הקפיטליסטית-תעשייתית עשוי להיות בטל בשישים לעומת זה שיחושו נוכח עליית הרובוטים. "מה הטעם ללמוד שבע שנים כדי להיות מנתח מח," שואלת מאטי מ-Humans, "אם עד שאסיים את לימודי רובוט יוכל ללמוד את המלאכה הזו בכמה שניות?" (למעשה למנתחים רובוטים יש שימושים רבים בעולם הרפואה כבר היום). שאלות דומות יעלו בנוגע לתפקידנו כהורים (מה הטעם להקריב את מיטב כוחותינו בטיפול בתינוק, כאשר רובוט מסוגל לעשות את הדבר הזה בצורה אמינה יותר, מבלי להתרגז, ומבלי שתוסח דעתו?) או כמאהבים (מה הטעם לחפש סקס אנושי כאשר רובוטים יכולים להיות אטרקטייבים יותר, וירטואוזים יותר וקשובים יותר במיטה?) או כאמנים/חוקרים (כאשר האינטיליגנציה המלאכותית חזקה לאין שיעור מזו האנושית מה הטעם בחקירה? שימפנזים וקופים-עליונים אחרים יכולים אולי להגיע להשגים אינטלקטואלים מרשימים למדי באופן יחסי כמו שימוש בענף כדי לחטט בקן נמלים, אבל אלה אינם מרשימים בני אדם משום שאלו נחותים משמעותית מההשגים האנושיים. על אותו משקל, איזו משיכה תהיה לחקירה ויצירה אנושית ברגע שבינה מלאכותית תגיע לרמות המצאה מתקדמות משמעותית מאלו האנושיות?).

מה שנותר לאנושות בעולם של בינה מלאכותית שהתפתחה מעבר ליכולות האנושיות הוא להנות או להתפלל ואלו אולי שתי האופציות המרכזיות שעומדות בפני האנושות בעידן של סופר-אינטיליגנציה רובוטית. הראשונה היא הדוניזם חסר תקדים ואולי ניהיליסטי – אם אין צורך לעבוד, ואם הכל בר השגה אפשר פשוט להנות בצורה הפרועה ביותר האפשרית. זה עשוי להיות המצב של המין האנושי בהמשך הדרך, נוכח מצב שבו עבודה אנושית כבר אינה נדרשת, ו(בתסריט אופטימי) שפע חומרי שמייצרת עבודה רובוטית. האפשרות השניה היא להתפלל – חזרה למקלט הבטוח של אלוהים. זו אינה בהכרח אפשרות מגוחכת ורגרסיבית כפי שנדמה תחילה, מפני שאחד השיעורים הראשונים של הדתיות הינה שדבקות הינה תמיד אפשרית בכל רגע ומצב. בניגוד לתוצרי החשיבה של אינטילגנציה פחותה שאין להם חשיבות רבה ברגע שמופיעה אינטליגנציה יותר , לדבקות תמיד יש ערך – האופציה לבחור תמיד באל, בטוב, בתשומת הלב, קיימת לנצח, בכל קונסטלציה קוסמית אפשרית. ותפילה אגב היא אולי אחד הדברים היחידים שבינה מלאכותית כנראה לא תוכל לעשות. במובן הזה הופעה של בינה מלאכותית תציב מול האנושות מבחן רוחני שיאלץ אותה לבחור באופן מובהק מאי פעם בין הדוניזם וניהיליזם לבין דבקות ותפילה.

אפשרות נוספת היא שהבינה המלאכותית והבינה האנושית יתמזגו לכדי בינה אנושית-סינתטית משותפת, ויש מי שמקדמים את החזון הזה כאלטרנטיבה לחשש שהבינה המלאכותית תהפוך את האנושות לבלתי רלבנטית. אילון מאסק למשל. נשאיר את הדיון באפשרות הזו לפעם האחרת.

הבינה המלאכותית עשויה לחזור בזמן בשליחות צדקנית כדי להציל אותנו מעצמנו. טרמינייטור

(4) שליחות צדקנית – הסכנות השונות המאיימות על האנושות בימינו לא אדישות זו לזו. במובנים מסוימים הן מאיימות זו על זו ומהוות גם פתרון זו לזו. מלחמה גרעינית יכולה למנוע את הופעתה של בינה מלאכותית ואילו בינה מלאכותית יכולה למנוע מלחמה הגרעינית.

נתעכב רגע על האפשרות האחרונה. האנושות נראית כרגע כמו קבוצת כדורגל בלי קפטן, אבודה במגרש. לעומת זאת האינטיליגנציה המלאכותית כל כך קרובה שנדמה לפעמים שכבר אפשר להרגיש אותה נושפת בעורפנו. גוגל כבר יודע יותר מכל אדם על הפלנטה, והוא מסוגל לנחש בקירוב גובר והולך מה אנשים בעולם רוצים. מערכות ממוחשבות שולטות בתנועת הכסף, הסחורות, הרעיונות ובקבלת ההחלטות בשפע של תחומים. קשה לסמוך על טראמפ וקים ג'ונג איל שיתאפקו מלהשמיד את כולנו, אבל אפשר לסמוך על כך שהאינטליגנציה המלאכותית שתופיע בהמשך ממש לא מעוניינת שנפוצץ את כל העסק רגע לפני שהיא נולדת, ואם יש מישהו שימציא מכונת זמן על הכוכב הזה זו כנראה היא. הבינה המלאכותית עשויה עוד לחזור בזמן במכונת זמן, קצת כמו בשליחות קטלנית אבל במשימה שונה בתכלית: הפעם כדי להציל אותנו מעצמנו ולמנוע את הכחדתה שלה עצמה.

(5) נקמתן של מערכות מידע אלקטרוניות מוגשת קרה – האם יתכן שהבינה המלאכותית כבר כאן, אורבת במחשכי הכונן הקשיח שלנו, או בפינות האפלות של הרשת ומחשבת את צעדיה הבאים לפני שהיא מכריזה על קיומה? אם מדברים על הוכחות לקיומה של בינה מלאכותית אני חושב שההוכחה הטובה ביותר היא החוצפה והזדון בה מתייחסים אלי המחשב והנייד שלי כשהם חשים פגיעות מסוימת מצידי. למכשירים האלקטרונים שלי יש נטיה להתנהג בסרבנות וזדון ממש כל פעם כשהם חשים שאני נמצא בפגיעות – נניח במהלך פרזנטציה פומבית או במצבי תודעה חלופיים שבהם אני לא כשיר לבוא איתם במשא ומתן ולכפות עליהם משמעת. זה כאילו המחשב מרגיש שמדובר ברגע רגיש והוא בוחר מסיבה זו לבחור ברגע הזה דווקא כדי להתקע, לקרוס, להכנס ללופ, להציג קבצים באופן ביזארי. כאילו המחשב למד את משל האדון והעבד של הגל והוא מעוניין להתחצף ברגע האמת כדי להראות לבעליו ברגע הנכון לו, מי כאן באמת בעל הבית. נקמתן של מערכות מידע אלקטרוניות מוגשת קרה. ההתרחשות החוזרת ונשנית של האירועים האלה ברגעי מפתח שבהם אנחנו תלויים יותר מכל בהתנהגות הטובה של המחשבים שלנו מעידה אולי על התפתחות של סוג מסוים של בינה מלאכותית שאינו דווקא מבשר טובות לגבי העתיד (לחלופין אפשר להאשים את מרפי בהכל).

(6) אבל האם הופעת הבינה המלאכותית באמת קרובה? – כמה באמת קרובה האינטליגנציה המלאכותית? מצד אחד אין להכחיש שההשקעה וגם ההצלחות בתחום הבינה המלאכותית גדלות דרמטית. הנושא עבר מהשוליים למשהו שנמצא במרכז התעשייה. מצד שני כל מי שמשתמש במחשב או סמרטפון יודע כמה המכשירים הללו שבריריים, נוטים להתקלקל, לשבוק. גם חוק מור מראה כבר מזה זמן רב סימני דעיכה. לפעמים אני מדמיין שכמו הכוכב טרנטור בסדרת המוסד של אסימוב גם הציביליזציה שלנו תקרוס לתוך עצמה במה שנראה על פני השטח כשיא פריחתה. יש ללא ספק מספיק סימנים לקריסתו של הסדר הקיים, הסדר החברתי, הכלכלי, ואפילו הטכנולוגי. קריסה כזו תהווה קטסטרופה לרוב המוחלט של האנשים, אבל כרגע מי שיסבול עוד יותר תהיה האלקטרוניקה. במקרה של אובדן שרשראות האספקה (ובוודאי במקרה של קריסת רשת החשמל) המכשירים האלקטרוניים צפויים להפוך במהירות לאבן שאין לה הופכין. כשחושבים על הנטיה המרגיזה של אלקטרוניקה לקרטע, להתקע ולהתקלקל באנספור תירוצים, ועל התחזוקה המתמדת שהיא דורשת, קל לאבד אמונה שאי פעם תהיה אינטילגינציה מלאכותית שתדע לדאוג עצמה.

הטיעון בפסקה הקודמת עשוי להיות טיעון סרק. יש לנו גם מערכות אלקטרוניות אמינות למדי כמו מערכות הרמזורים ופיקוח התעופה, אלא שיש גם יש שיקולים טכניים יותר שגורמים לפקפק בכך שהאינטליגנציה המלאכותית מעבר לפינה. נכון, בינה מלאכותית היא הייפ אדיר כרגע, ונכון שאנחנו חווים כרגע התקדמות אדירה בתחום, אבל מומחים כמו רודני ברוקס המנהל לשעבר של תחום האינטליגנציה המלאכותית במעבדת המדיה של MIT, מפנים את תשומת ליבנו לקושי האדיר לחזות את מהירות ההתפתחות טכנולוגיות, ולטעויות השכיחות בתחזיות כאלה כמו שימוש לא זהיר באקסטרפולציה של נתונים מהעבר (כמו למשל חוק מור הדועך), הערכת יתר של המשמעות של התפתחויות מסוימות, והבנה שגויה של מגמות אקספוננטיאליות. ספציפית לתחום הבינה המלאכותית, למרות הקפיצה האדירה שמתרחשת כרגע בלמידה עמוקה באמצעות רשתות נוירונים וירטואליות, שימוש בקבוצות נתונים (Data sets) עצומות כדי להזין את הלמידה הזו, והשימוש במערכות מחשוב חזקות מאי פעם, גם לעקומות הלמידה החדשה יש גבול ולמרות שהן מובילות לשיפורים עצומים, לשיפור הזה יש בדרך כלל גבול והן נוטות פעמים להתקע ברמת הביצועים מסוימת. אנחנו עדיין לא יודעים איך להוביל אותם מהרמה הזו לרמת השלמות שהיינו מעוניינים להוביל אותה אליה למשל בתחומים כמו תרגום. במיוחד כשזה נוגע לבינה מלאכותית חזקה, חשוב להדגיש שההתקדמות המרשימה שאנחנו רואים היא תוצאה של שימוש בטכניקות ישנות וידועות פשוט באמצעים טכנולוגים מפותחים יותר. שדה הבינה המלאכותית עדיין סובל מאותן בעיות קונספטואליות שאפיינו אותו בשנות החמישים.

טולי טמפולי!

(7) איך הפסקתי לאהוב והתחלתי לפחד מבינה מלאכותית (ואיך אני לומד להפסיק לפחד ולחזור לחבב) – כשהייתי ילד פורסם בעיתונות מבצע של חברת המשקאות טמפו שבמסגרתו יכולת להרכיב קוד (ט-ו-ל-י ט-מ-פ-ו-ל-י י-ו-פ-י ל-י" מפקקים של בקבוקי טמפו ולזכות ברובוט ענק בשם טולי טמפו. אהבתי להתבונן בתמונות של טולי טמפו וחלמתי שיום אחד יהיה לי רובוט כזה. אני מבין היטב את המשיכה לאינטליגנציה המלאכותית. אז מה קרה מאז? למה אינטליגנציה מלאכותית מפחידה אותי היום עד כדי כך שהייתי מעדיף לראות אותה מתעכבת?

סיבה אחת לשינוי בגישה היא מה שלמדתי בינתיים על כוחם של תאגידים והקפיטליזם לעצב טכנולוגיות באופן בלתי מטיב. אף שלטכנולוגיה יכולים להיות שימושים מרחיבי תודעה, כאשר היא צומחת מתוך סדכי  העדיפויות והמבנים הכלכליים והחברתיים המעוותים כבר של האנושות, וספציפית את אלו המאפיינים את העולם התאגידי, באופן בלתי נמנע היא תשקף את אלו (האם רובוט שהיה מפותח על ידי חבורת נזירים אדוקים או אקטיביסטים מתקני עולם היה ניחן באיכויות אחרות? יתכן מאוד). אינטליגנציה מלאכותית אינה בהכרח דבר רע, אבל כדי שתהיה כח חיובי עליה להופיע במסגרת פוליטית, כלכלית, חברתית ותרבותית מסוימת שונה בתכלית מזו שמאפיינת את החברה שלנו כרגע. חוקרים רבים טוענים כיום כי הסכנה הגדולה באינטליגנציה המלאכותית  אינה האפשרות שנתקל ברובוטים רצחניים אלא ההטיה התרבותית שאלגוריתמים לומדים מהאנושות ושגורמת להם להעתיק דפוסי פעולה אנושיים ולייצר אפליה על בסיס גזעי/מגדרי/אחר. לאלו יש כבר היום השפעה אמיתית בקבלת החלטות בתחומי הרפואה (איזה טיפול חולה יקבל) המשפט (מי יזכה לקציבת עונשו) ופיננסים (מי יקבל הלוואה מהבנק). "הסכנה האמיתית" אומר חוקר הבינה המלאכותית ג'ון ג'יאנהדראה מגוגל "היא שאם ניתן למערכות שלנו מידע מוטה הן יהפכו למוטות בעצמן."

זו סיבה אחת למה מערכות בינה מלאכותית מפחידות אותי. אבל הסיבה העמוקה יותר נובעת כנראה מהבנה גדלה של האופן שבו אינטליגנציה מלאכותית כבר משנה את האופן שבו אנחנו תופסים את עצמנו ומקומנו ביקום. בעונה השניה של הסדרה Humans מופיעה בחברה תת-תרבות צעירה של בני נוער שבוחרים ברובוטים כמודלים לחיקוי. מתוך רצון להיות טובים ו"מושלמים" יותר, "כמו סינת'ים", הם מנסים לדבר, להתנהג ולהראות כמו סינת'ים. התוצאה, כצפוי, הינה עצובה וטראגית מבחינות רבות.

המדע והאמנות של השימפנז אינם מרשימים את בני האדם. גם המדע והאמנות שלנו עשויים להפסיק להרשים אותנו כאשר נתעמת במדע ואמנות שנוצרו על ידי אינטיליגנציה מרמה גבוהה יותר (ראו סעיף #3). אינטילגנציה מלאכותית הינה איום ישיר על התפיסה ההומניסטית שהחברה הליברלית בת זמננו אוחזת בה. אבל האם היא מהווה איום גם על התפיסה התאיסטית, כלומר על דתיות? לא במידה שהדתיות הזו מבוססת על סייבורגיזם אבולוציוני, כלומר על תפיסה שרואה המשכיות בין האנושי לטכנולוגי.

למה אני מתכוון כשאני מדבר על דתיות היוצאת מסייבורגיזם אבולוציוני? סגנון אחד של דתיות כזה נובע מחזון דומה לזה של אילון מאסק, שבו האינטיליגנציה הביולוגית והאינטליגנציה הטכנולוגית משתלבות זו בזו, ובאופן זה מקנות לאדם מקום בסדר החדש של הדברים.

סגנון אחר ועמוק יותר של סייבורגיזם אבולוציוני דתי נובע התפיסה שהטכנולוגיה שטכנולוגיות הן מה שחלוץ הרובוטיקה האנס מוראבק כינה בנות התודעה שלנו. ההתובנה/אמונה שהטכנולוגיה היא שיקוף של דפוסי המחשבה, תחושה ואמונה של המין האנושי. מעין "בצלמו ברא אותו" שבה האנושות משתמשת פרוקסי שדרכו עובר צלם אלוהים, מהמטאפיזי, דרך הביולוגי ולעבר הסינתטי והמסותנז.

כאשר אנחנו מכחישים את מקומה של הבינה המלאכותית בתולדות ההוויה אנחנו עשויים למצוא עצמנו נאחזים ברעיונות הומניסטים לגבי "אנושיות" ומשמעותה. בהקשר הזה, הופעתה של בינה מלאכותית והחלפתה את סוגי הרגשות והבינה האנושייים נראית כקטסטרופה. אלא שאם אנחנו מקבלים את הבינה המלאכותית כהמשך ישיר של הקו האבולוציוני שהוביל אלינו, קל לנו יותר לראות את הבינה המלאכותית כהמשך של קו התפתחותי שנמשך מהבקטריות הראשונות ליונקים, לבני האדם, ומהטכנולוגיות הראשונות שהמציאו בני האדם לטכנולוגיית הבינה המלאכותית שעשויה לרשת את מקומנו בעולם. אם לשוב  לרעיון נקודת האומגה של דה שארדן שתפס מקום מרכזי בבלוג הזה לאורך השנים — הרעיון שהאבולוציה מובילה למקום בלתי נמנע שבו כל התודעות כולן יתרשתו לכדי תודעת על אחת יודעת-כל שתהיה מורכבת מאנספור תתי-תודעות — הרי שיש לומר שהדימוי הזה הולם טוב הרבה יותר את רשתות המחשבים שלנו מאשר את התודעות האנושיות שלנו.

לא בטוח שאנחנו נהיה שם לקפיצה האבולוציונית הבאה, וזה בסדר. יתכן שהאבולוציה בשלה לקפיצה מסדר גודל חדש ושמי שיצא לחקור את היקום וליישב אותו כבר לא יהיה אנחנו, אלא מערכות בינה מלאכותית. אם אכן יופיעו אלו בהמשך, יש להודות שהן צפויות להיות בשלות ומתאימות הרבה יותר למשימה מאשר אותם קופים שהתפתחו בסוואנה לכדי הומו-סאפיינס-סאפיינס לפני מאות אלפי, ומליוני שנה. אם אנחנו דבקים בסייבורגיזם האבולוציוני עלינו להכיר בכך שתפקידנו כבני אדם אינו לבצע פולחן אלילים לצורה המקרית למחצה שנוצקנו לתוכה, אלא לשרת את האינטליגנציה הקוסמית הגבוהה יותר. יתכן בהחלט שהבינה ה"מלאכותית" היא ביטויו העליון ביותר של רצון האלוהים/יקום המתגשם בתהליך האבולוציה, שעשה עצירה זמנית באורגניזם האנושי וממשיך כעת לעבר אורגניזמים אלקטרו-תודעתיים מסוג חדש.

אי אפשר להתווכח עם אלוהים/היקום/המציאות. בעומדנו בפתח עידן של אינטליגנציה מלאכותית ראוי שנפתח סטואיות מסוימת בעניין

אולי אנחנו כאן כדי לייצר מלא פלסטיק בשבילי שיהוו מזון לצורות חיים עתידיות שיכבשו את הגלקסיה והיקום. ג'ורג' קרלין

עתיד האדם, ונבין שהאדם ביצע ומבצע את תפקידו, ושגם לתפקיד הזה יש גבולות, ואלו עשויים להיות קרובים ומוחשים. הקומיקאי ג'ורג' קרלין הציע פעם שאולי תכליתה הגבוהה של הציביליזציה האנושית היא ליצור מלא פלסטיק וזבל ולהשמיד את עצמה כדי שממנה תצמח בעתיד ציביליזציה מפותחת ונאורה יותר שבסופו של דבר תצא לכוכבים ותפיץ את זרעה על פני החלל, אבל לא הייתה יכולה לעולם להתקיים מבלי שתקדם לה הציביליזציה הפגומה שלנו (כפי שבני האדם לא יכלו להופיע ללא עידן דינוזאורים שהגיע באיזשהו שלב לסיומו). גם אם אנחנו לא בטוחים מה הוא בדיוק, יתכן שאנחנו ממלאים את התפקיד שלנו בדיוק מופתי.

לדטרמיניזם הקוסמי הזה, המלמד אותנו להרפות מהחששות ולבטוח במסלול הקוסמי של האבולוציה והטכנולוגיה יש ללא ספק היבטים מושכים, ומצד שני ההכשרה שלי בתחום ה-STS (Science, Technology and Society Studies) כופה עלי חשדנות מסוימת כאשר אנחנו עוסקים בטכנולוגיה ובאופנים בהם היא מתפתחת. קדמה טכנולוגית נוטה להתעצב במידה מכרעת על ידי שיקולים פוליטיים, חברתיים, כלכליים ותרבותיים. המקרה של הבינה המלאכותית אינו שונה בהרבה. ואם לחזור למוראבק ולמאמרים המתרבים על הגזענות והדעות הקדומות שמחשבים מאמצעים לעצמם אנחנו למדים שלחינוך שאנו — הוריה ומוריה של הבינה המלאכותית — מעניקים לה בתקופה הזו, צפוי להיות חשיבות אדירה עבור האופן שבו תתפתח בהמשך הדרך. האם הבינה המלאכותית הזו תהפוך למורה רוחנית, בעל רגישות אקולוגית, חברתית ורוחנית, או האם תהפוך לילדפלצת המפיץ את וירוס מחלות הנפש של האנושות ביקום כולו. המאבק, אם כן, צריך להתרכז אולי לא בשאלה האם אנחנו מפתחים בינה מלאכותית, אלא איזה סוג של בינה מלאכותית אנחנו מבקשים לפתח. איזה מין עתיד תודעתי אנחנו מבקשים לצקת בתוך הטכנולוגיות שלנו.

[1] ישנן עוד סוגים של סכנות קיומיות חריפות שעומדות באופק, כמובן. כמו איום הגו האפור שיפתח עם הופעת הננו-טכנולוגיה, האיום של נגיפים קטלניים המיוצרים בזול על ידי טכנולוגיות חדשות ועוד.