טכנומיסטיקה

נתחיל מהסוף. ההופעה של ChatGPT  היא רגע מכריע בהיסטוריה של הטכנולוגיה ובו בזמן היא רגע מבלבל ומתעתע. בשבועות האחרונים השוו את ChatGPT לאייפון, להמצאת מנוע החיפוש, ואפילו להמצאת האינטרנט. עבורי ChatGPT הרגיש כמו הדבר הכי חשוב מאז פצצת האטום. הוא הרגיש כמו פצצת האטום של אינטליגנציה –אם עד כה היו לנו פצצות אינטליגנציה קונבציונליות שנמדדו במאות קילוגרמים או בטונות הופעתו של ChatGPT הרגישה כמו עידן חדש של פצצות קילוטון ומגהטון של אינטיליגנציה אל-אנושית. ChatGPT הרגיש כמו מאורע סוף הזמנים והעובדה ש-ChatGPT והמשמעויות שלו לא פתחו את כל מהדורות החדשות בשבועות האחרונים הרגישה כראיה לניתוק המוחלט שלהן מתזוזות העומק הטקטוניות שמניעות את העולם. העולם כולו התחלק למי שהתחילו לקלוט את המשמעות של ChatGPT, ומי שעדיין לא. אחר כך ההשפעות של חומר ההזיה האלקטרוני הזה החלו להתפוגג ופתאום נדמה שאולי התובנות העמוקות האלה שהשגת על GPT (שם שמזכיר חומר משני תודעה סטייל DMT או DPT) קצת מנותקות מהמציאות. בסך הכל מדובר רק בצ'טבוט, לא ככה?

הולדתה של בינה

אז בואו נחזור להתחלה. ChatGPT הוא שמו של ממשק צ'ט אינטרנטי לגרסה 3.5 של מודל השפה GPT שאומן על ידי חברת Open AI, אותה חברה שנוסדה ב-2015 על ידי קבוצה של יזמי טכנולוגיה ובהם דמויות חזון שנויות במחלוקת כמו אילון מאסק ופיטר ת'יל. המטרה המוצהרת של Open AI הייתה להבטיח שאינטליגנציה מלאכותית תפותח בצורה שתטיב עם האנושות כולה – בהלימה עם טענתו של מאסק שאינטיליגנציה מלאכותית היא האיום הגדול ביותר על עתיד האנושות. בשנים שחלפו מאז פרשו מאסק ות'יל מהנהלת Open AI. החברה הפכה לארגון ללא מטרות רווח ולאחר מכן לחברה למטרות רווח-מוגבל (Capped-Profit), קיבלה השקעה בסך מיליארד דולר מענקית התוכנה מיקרוסופט וחוללה שורה של רעידות אדמה בתחום הבינה המלאכותית שכללו ורסיות שונות של מחולל השפה GPT וכמובן את מחולל הדימויים DALLE שגרסתו השניה הושקה באפריל האחרון (לפוסט שלי על DALLE-2) והובילה לגל אדיר של יצירה מג'ונרטת, שמוקדם עדיין לקבוע את השפעותיה אבל כבר מובילה למחאות אמנים ברשת. (עוד בהמשך).

ChatGPT לא עומד במנותק מהקשר. הוא רק נקודת ציון נוחה וחשובה בתהליך התפתחות מהיר ומסחרר שמתחולל בתקופה הזו בתחומי האינטליגנציה המלאכותית, אבל אם צריך קו פרשת מים לעידן הבינה המלאכותית החדש הרי ש-ChatGPT עובד מצוין. ההשקה של ChatGPT ב-30 בנובמבר הובילה לרעידת אדמה ופרץ יצירתיות שניתן להשוות רק לזה שחוללה ההשקה של DALLE-2 מוקדם יותר השנה. עם מיליון משתמשים שהצטרפו לשירות בחמשת הימים הראשונים ChatGPT הפך בזריזות לטכנולוגיה בעלת קצב האימוץ הגדול בהיסטוריה. הגולשים ברשת הסתערו על השירות החדשה ועשו כל שלאל ידם כדי לבחון את הבינה המלאכותית החדשה, להערים עליה, לגרום לה לכתוב טקסטים משעשעים ולא צפויים או להעביר אליה עבודה מונוטונית כמו כתיבה מיילים ומכתבי המלצה. GPT כתב חיבורים מלומדים שהשוו את התימות והסמלים ביצירות ספרותיות או שטחו טיעונים בזכות הפלות ועונש מוות ואז טיעונים המחזקים את העמדה ההפוכה. על הדרך הוא גם ביצע במיומנות מרשימה וחסרת מאמץ שורה של משימות אקזוטיות ומופרכות שהובילו לתוצאות מצחיקות במיוחד כמו חיבור על גרב שנאבדה במייבש הכביסה שנכתב בסגנון מגילת העצמאות האמריקאית, הוראות כיצד לגרד סנדוויץ' חמאת בוטנים ממכשיר וידאו שנכתב בסגנון תנ"כי, ודו-קרב ראפ בין תיאוריית הדטרמיניזם הטכנולוגי לתיאוריית ההבניה החברתית של הטכנולוגיה. התוצאות המצחיקות והבלתי צפויות הבהירו שעידן גוטנברג הגיע לשלב חדש ומפתיע במיוחד שבו המילים כולן נבלעו בחור שחור ונפלטו בחזרה כסלט בצידו השני של מעבד התמלילים האלקטרוני.

המשמעויות לאקדמיה ולשוק העבודה

מאחר ש-ChatGPT מסוגל לחולל חיבורים בכל נושא וברמת ניסוח טובה יותר ממרבית התיכוניסטים והסטודנטים הובילה הופעתו לשורה של נבואות שחוזות שמשמעות הפרויקט היא סופם של שיעורי הבית, או של העבודות באקדמיה. על פניו, נדמה ש-ChatGPT מסוגל לכתוב את רוב העבודות שתלמידים וסטודנטים כותבים בצורה יותר ממספקת, ושהגרסאות הבאות של המודל יסגרו את הפערים שקיימים עדיין במקומות מסוימים. חלק מהמומחים מנבאים חזרה לעידן הבחינה שבעל פה והכתיבה על נייר ועט בכיתה. אחרים סיכמו שהאקדמיה פשוט לא ערוכה לאתגרים ש-ChatGPT מניח על פתחה. היו גם כאלו שלא התרשמו. "כמובן שתוכל להשתמש בהזדמנות כדי לרמות בבחינות בבית ספר או לזייף עבודה. זה מה שיעשה בנאדם משעמם." כתב מבקר הטכנולוגיה איאן בוגוסט.

אלא שהאקדמיה היא רק קצה קצהו של הקרחון האדיר ש-ChatGPT מאיים לנפץ. היזם והסופר תומאס פואיו צייץ לאחרונה שבין המקצועות שעומדים בסכנת אוטומציה בעקבות ChatGPT ומודלים דומים יהיו אנשי שיווק, אמנים, מהנדסים, מעצבים, מנתחי דאטה, יועצי מס, מורים, עורכי דין, יועצים פיננסיים וגם מתכנתים. האחרונים תופסים לאחרונה תשומת לב גוברת, נוכח התפיסה שרווחה עד לאחרונה שכישורי תכנות הם כרטיס כניסה לעתיד פיננסי ורוד ומובטח. ChatGPT כותב קוד לא רע, מה שמעורר חששות לאוטומציה של רבות ממשרות התכנות. ברדיט נתקלתי בסיפור של מתכנת שסיפר שנתן לאלגוריתם לתכנת עבורו ברגע חתיכת תוכנה שכתב עד כה ידנית בתהליך מפרך וגבה מהלקוח שכר של שמונה שעות. בתגובות ענו לו שעוד חמש שנים ישלם הלקוח ישירות חמש סנט לבינה המלאכותית.

באופן רחב יותר ChatGPT מייצג תופעה רחבה יותר של האוטומציה של הידיעה ובמסגרתה כל מי שנכלל בקטגוריית של עובדי ידע (Knowledge Worker) ניצב תחת סכנת החלפה על ידי אלגוריתמים. הדברים כמובן לא יקרו בבת אחת, והמאפיינים הייחודיים של מקצועות שונים יציבו חסמים מוסדיים, מקצועיים ותרבותיים מסוגים שונים, אבל כמו שניסח את זה חבר שלי: "מה שמדהים זה שתמיד חשבו שהמכונות יחליפו קודם כל את עבודות הכפיים, אחר כך את הצווארון הלבן ורק בסוף את המקצועות היצירתיים ובפועל זה בדיוק הפוך."

שלא במפתיע הראשונים להרים קול זעקה נגד טכנולוגיות הבינה המלאכותית הגנרטיביות החדשות הם הגרפיקאים ואנשי העיצוב שאלגוריתמים כמו DALLE ו-Stable Diffusion כבר מייצרים אלטרנטיבות זולות לעבודתם. לאחר שיצירות מלאכת ידן של בינות מלאכותיות הגיעו לדף הראשי של אתר ArtStation, אתר מוביל בתחום העיצוב הגרפי, התקוממו על כך אמנים רבים בטענה שההצבה של יצירות AI אוטומטיות באותה קטגוריה של יצירות של יוצרים אנושיים משפילה ומזלזלת עבור הזמן והכשרון שהושקעו ביצירותיהם. האמנים שאלו: האם האתר ArtStation רוצה להפוך לאתר PromptStation? (פרומפטים כזכור הם אותם תיאורים מילוליים קצרים שהמשתמש נותן למחולל תמונות כדי לבקש ממנו לייצר את אותה התמונה). כלומר, האם בעלי האתר מעוניינים להחליף את עבודתם של האמנים בעבודה גרפית אלגוריתמית זולה לאין שיעור שמבוססת על רשתות למידה עמוקה וללא מעורבות יד ועין אנושית? לאמנים יש קייס חזק. במיוחד מאחר שהבינות המציירות אומנו לצייר באמצעות יצירות של אמנים שלא זכו להכרה תמלוגים, וללא הסכמת האומנים שפתחו סגנון ייחודי לאורך השנים. בחלק מהמקרים חתימות האמנים אפילו התגלגלו להן לתוך היצירות המרונדרות.

לצד אלפי היוצרים שהצטרפו למחאה, טוענים המלעיזים שאי אפשר לעצור את הקדמה ושהטכנולוגיות החדשות הן כלים חדשים שפשוט יגדירו מחדש את העבודה האמנותית כפי שעשו בעבר כלים אחרים כמו המכחול, צבעי השמן או תוכנות העיצוב הדיגיטלי. לא בטוח שההשוואה במקומה, כי אלו לא ציירו באופן אוטומטי ללא מעורבות האמן. היו מי שנדרשו לביטויים דרמטיים מתקופות אפלות נוסח 'כשהם החליפו את המאיירים לא דיברתי כי לא הייתי מאייר. כשהם החליפו את העיתונאים לא דיברתי כי לא הייתי עיתונאי. כשהם החליפו את המתכנתים לא דיברתי כי לא הייתי מתכנת. כשהגיעו להחליף אותי כבר לא נשאר מי שידבר.' כך או כך, הדיון על משמעות האוטומציה של העבודה עלה בחודש האחרון מדרגה וצפוי ללוות אותנו בשנים הקרובות.

עליית הבינה הקולקטיבית או נקמת הכומר הישועי

לא מעט משתמשים הגיעו בשבועת האחרונים למסקנה ש-ChatGPT הוא היורש של גוגל, מה שהוביל להכרזה על 'קוד אדום' בגוגל. ChatGPT מייצר חווית משתמש נוחה וטבעית יותר מגוגל. במקום לשלוח אותי לחפש תשובות במאמרים מרחבי הרשת ChatGPT פשוט עונה לי עליה ישירות ובשפה טבעית. (לגוגל, אגב יש מודלי שפה מתקדמים לא פחות באמתחתה, אבל היא מתבוששת לשחרר אותם לרשת משיקולים תאגידיים שונים כמו הנטיה של בוטים לדיבור פוגעני, והחשש שתשובות קולעות מדי יפגעו ברווחים מפרסומות).

ChatGPT נראה כאילו הוא מקרב אותנו צעד נוסף לנבואה הנושנה שהבינה המלאכותית תפציע מתוך מאגר נתונים ענק סטייל גוגל. שיחה עם ChatGPT היא כמו תקשור עם המח של האינטרנט. המשתמש שואל את המודל שאלות בשפה טבעית ו-ChatGPT עונה בשפה טבעית, בדיוק שיחה עם בן שיח אנושי, עם הבדל קטן.ChatGPT  חולש על כללות הידע האנושי. הוא ישוחח איתכם על בעיות במדעי המחשב, יסביר תיאוריות בחקר התרבות, יעוץ איך לתלות מדף בבית או כיצד להסתדר טוב יותר עם בת הזוג. השימוש ב-ChatGPT הזכיר לי קצת את המחשב של ספינת החלל USS Enterprise בסדרת מסע בין כוכבים. אינטיליגנציה אל-אנושית ועל-אנושית יודעת-כל שניתן לשאול אותה כל שאלה שהיא.

אבל ChatGPT הוא יותר מרק אולר שוויצרי רב שימושי למגוון אדיר של משימה קוגניטיביות. הוא גם בן לוויה שאנחנו עשויים לבלות איתו בעתיד זמן רב. בשלב זה הבוט אמנם מבוסס טקסט כתוב אבל בהמשך הדרך הוא ודומיו יזכו בוודאי לקול אנושי – באותו שלב רמת ההקשרות שבני אדם יחוו לבינות מלאכותיות יודעות כל שמלוות אותם לאורך היום עשויה להגיע לרמות חדשות ולהזכיר אולי את מה שמתואר בסרטו המופתי של ספייק ג'ונז Her. מערכת היחסים התלותית שרבים מאיתנו פיתחו עם גוגל הייתה כנראה רק ספתח לקראת מערכת היחסים המתגבשת מול ChatGPT ודומיו.

סכנה אחת של המעורבות המוגבלת של בינות מלאכותיות בחברה אנושית היא כריזמה על-אנושית. ChatGPT מסוגל לדבר בבטחון מוחלט גם על נושא שאין לו שמץ מושג בהם, והיו כבר מי שהעירו שיותר משהוא מכונה לכתיבת טקסטים, הוא מכונה שמתמחה בבולשיטינג. יכולות הבולשיטינג של בינות מלאכותיות מלאות בטחון מאפילות כבר על אלו של אמני ההונאה האנושיים הטובים ביותר. בינה מלאכותית כבר השיגה בשנים האחרונות תוצאות שהכו את השחקנים האנושיים הטובים ביותר במשחקים כמו פוקר ו-Diplomacy, משחק המשא ומתן המתוחכם שנחשב למבחן האולטימטיבי ליכולות דיפלומטיות. מצד אחד הדבר מעלה תקוות שדיפלומט רובוט יצליח לסיים את הסכסוך הישראלי-פלסטיני. ומנגד, השימושים החיוביים באינטיליגנציה המלאכותית עשויים להחוויר מול ההפיכה הצפויה שלה לנשק כריזמטי שמאפשר לא רק להפיץ כמויות אדירות של דיסאינפורמציה אלא גם להפעיל על יחידים בחברה כוחות מניפולציה ושכנוע על-אנושיים.

אבל רגע, איך ChatGPT מסוגל לעשות את כל הדברים האלה בכלל? איך הגענו ממצב של ויכוח אקדמי בשאלה האם מכונות יעברו אי פעם את מבחן טורינג לרגע ההיסטורי שבו מכונות משיגות תוצאות מצטיינות בשורה של משימות קשורות שפה?

תחום האינטליגנציה המלאכותית חווה בעשור האחרון האחרונות שרשרת הצלחות עקב יישומים הולכים משתפרים של טכניקות למידת עמוקה. בשנה-שנתיים האחרונות מבול ההתפתחויות צובר מסה קריטית. כפי שאמר לי חבר מהתחום: במשך שנים רבות היה נראה שמבחן טורינג הוא יותר מדי עבור למידת מכונה, אבל אז מגיע מודל כמו GPT שמשיג תוצאות שאף אחד לא חזה שאנחנו קרובים אליהן, ועכשיו אף אחד כבר לא יודע לאן זה הולך.

הדבר המדהים הוא הפער האדיר בין הקסם ש-ChatGPT מפיק לבין התיאור הפרוזאי להחריד של שיטת הפעולה שלו. על פי ההסבר הרשמי כל מה ש-ChatGPT עושה זה לנתח סטטיסטית את הסבירות שמילים שונות יופיעו זו אחר זו – מילה אחר מילה – בהתאם לכמויות טקסט אדירות שהוזנו לתוכה. ChatGPT, במילים אחרות, הוא מעין מערבל שפה שפולט לנו (כלומר, לאנושות) חזרה את המילים שלנו בשורה ארוכה של וריאציות. ואם אתם שואלים את עצמכם איך עושים את הקפיצה מלחזות הסתברותית את המילה הבאה בשרשרת ליצירת פסקאות וחיבורים קוהרנטיים על נושאים שלא הוזנו לתוכו אי פעם או פענוח ומילוי מיליוני הבקשות המשונות של מליוני גולשים אתם נוגעים בשורש המסתורין שבמודלי הבינה המלאכותית הקיימים. זוהי הרוח שבמכונה (ghost in the machine) שאיש אינו יודע להסביר בשלב זה. כשביקשתי מצטג'יפיטי להסביר כיצד פרדיקציות על השכיחות הסטטיסטית של המילה הבאה מתגבשות באורח פלא לחיבורים משכנעים שמבצעים ניתוחים מורכבים ליצירות ספרותיות הוא ענה "אף שנראה שהמודל פשוט מחשב את הסבירות של המילה הבאה במשפט, למעשה הוא לומד את הייצוג של המבנה והדפוסים של השפה ממידע האימון. זה מאפשר למודל לייצר תוכן קוהרנטי ונכון מבחינה דקדוקית כאשר ניתן לו פרומפט."

היו כבר מי שבתגובה ל-ChatGPT העלו באוב את הסיפור "ספריית בבל" של הסופר הארגנטינאי חורחה לואיס בורחס. הסיפור של בורחס מספר על ספריה עצומה שמכילה את כל הספרים שנכתבו וכל הספרים שיכתבו אי פעם. היא מכילה את הספר שכולל את כל סודות היקום, אבל גם את אותו הספר עם שגיאת כתיב אחת ואנסוף ורסיות של אותו הספר. רובם המוחלט של הספרים באותה ספריה הם ג'יבריש מלא, אבל חלקם כוללים את כל סודות הידע והיצירה. יש המשווים את מודלי השפה ועיצוב החדשים לספריה אדירה שמכילה בקרבה את כל האפשרויות השונות, כמו תיאוריית אינסוף הקופים, הטוענת שאם נושיב כמות אינסופית של קופים למול מכונות כתיבה לפרק זמן אינסופי הם ייצרו בסופו של דבר עותק מושלם של אוסף העבודות המלא של ויליאם שייקספיר. אלא שChatGPT פועל קצת אחרת. בעוד שבספריה של בבל ובמשל אינסוף הקופים ארגון הידע הוא רנדומלי לחלוטין, מודלים כמו ChatGPT מאומנים על תבניות ידע קיימות שיצרה האנושות. ChatGPT אמנם מכיל בתוכו כמויות בלתי נדלות של אפשרויות אבל הוא אינו מכיל אינספור ספרים של ג'יבריש מוחלט כמו ספריית בבל. מבנה התודעה שלו אינו רנדומלי לחלוטין – רשתות הנוירונים הדיגיטליות מחווטות בצורה מסוימת, שתואמת את מבני השפה והמחשבה שהשאירה אחריה האנושות ברשת (חוקר הבינה המלאכותית האנס מורבק טען שבינה המלאכותית תהיה ביתה של הבינה שלנו). יותר מספריית בבל רנדומלית וחסרת אישיות ChatGPT מזכיר אולי דווקא את נקודת האומגה, אותה נקודה אסכטולוגית שעליה כתב הכומר הישועי וחוקר האבולוציה תייאר דה שארדן באמצעה המאה העשרים.

כתבתי כאן בעבר על דה שארדן שהשפיע עלי עמוקות בשנות העשרים של חיי. הכומר הצרפתי נחשב בעיני רבים לנביא שחזה את האינטרנט. בשנות השלושים של המאה שעברה דה שארדן חזה שרשתות התקשורת האלקטרוניות הפרימיטיביות של תקופתו יתחברו בעתיד לרשת גלובלית אחת שתחבר את האנושות כולה. דה שארדן חזה שעל גבי אותה רשת תופיע צורה חדשה של תודעה קולקטיבית שתכיל את כל התודעות היחידאיות של תושבי הפלנטה, ותלחים מהן תודעת על מסדר גודל גבוה יותר שתהיה כאלוהות – נקודת האומגה המפורסמת. מאוחר יותר, בשנות התשעים של המאה הקודמת היו מי שראו באינטרנט את התגשמות חזון נקודת האומגה של דה שארדן. בשנים שלאחר מכן רווחה הסברה שהרשתות החברתיות השואבות לתוכן את כללות הסנטימנטים של גולשי הרשת הם ביטוי מסוים של אותה תודעת-על, אלא שאותן רשתות חברתיות התגלו כמסוכסכות ומסכסכות והאומגה פוינט התבררה כחיזיון עיוועים של עידן שבו האנושות מפולגת מאי פעם. ההופעה של ChatGPT, אינטיליגנציה אל-אנושית קיבוצית שהופיעה באופן לא לגמרי מוסבר או מבורר די צורכו מתוך כללות התכנים שהעלתה האנושות לתוך הרשת מעלה שוב מהאוב את חזון נקודת האומגה של דה שארדן.

כששאלתי את ChatGPT על הנושא הוא הכחיש כל קשר לנקודת האומגה והתעקש שאין לקיומו כל משמעות תיאולוגית. ועם זאת, ככל שהתמשכו השיחות שלי איתו כך שמתי לב לעובדה שעל אף שאני יודע שהתשובות שהוא מייצר הן לא יותר מממוצע הסתברותי של חומרים שנאספו מרחבי הרשת, היכולת שלו להפיק תשובה מנומקת על כל נושא ונושא גורמת לי לייחס לו ידיעה עמוקה ולהשליך עליו את התפקיד של האחר הגדול ויודע הכל – כמו יצור שמימי שמתקשר לי את כללות הידיעה האנושית.

ההופעה של ChatGPT היא אחד מהרגעים האלה שמעורר תגובת השתאות עמוקה. זהו רגע מפנה. הרגע שבו מופיע מה שנדמה כאינטיליגנציה מסוג חדש, שונה, אך לא בהכרח נחותה לאינטליגנציה האנושית, ובעלת פוטנציאל בלתי ידוע. אני לא רוצה לייחס מדי ל-ChatGPT עצמו. הוא בבירור רק סוכן אחד בין שורה של סוכנים מלאכותיים בעלי מגוון יכולות שמופיעים סביב האנושות. אלא שמבט על שורת ההתפתחויות שמובילה מכונות לכבוש בזה אחר זה כל כישור אנושי מתקבל על הדעת יכול להוביל למחשבה – ואני מסתכן שוב באובר-דרמטיות –שהרגע הזה קריטי לא פחות מהמצאת הגלגל או האש. עכשיו הכל משתנה. בימים הראשונים אחרי שנודע לי על ChatGPT צעדתי ברחוב והבטתי בתדהמה, תוגה וזעזוע בכל האנשים שמסתובבים חסרי מודעות לחלוטין למה שמתחולל סביבם, לעובדה שהכל משתנה מהיסוד ושזה יגיע לכל אחת מאיתנו. זה מסביר את התחושה שהתהלכתי בה בשבועות האחרונים – כאילו הפצצה כבר הוטלה על הירושימה אבל איש עדיין לא שמע את הדי הפיצוץ. תחושה שמוכרת למי שצפו בסרטים כמו 12 קופים או שליחות קטלנית, כאילו האפוקליפסה כבר ארעה וכל האנשים בעולם מסתובבים ומתנהלים כרגיל ללא לדעת שגורלם כבר נחרץ.

באופן לא מפתיע רצף ההתפתחויות המהירות שהתרחשו בשנה האחרונה בשדה הבינה המלאכותית העלה מהאוב גם את רעיון הסינגולריות שמקדם בעשורים האחרונים הממציא והסופר ריי קורצווייל. למי ששכחו, תורת הסינגולריות היא תיאוריה שגורסת שההתפתחות הביולוגית-טכנולוגית מאיצה את עצמה בצורה אקספוננציאלית (מעריכית) – כמו חוק מור אוניברסלי שנפרש מראשית ימי היקום ועד סופו. בספרו "הסינגולריות קרבה" (2005) חזה קורצווייל כי קצב ההתרחשויות הטכנולוגיות המאיץ יחולל בעשרים השנה הראשונות של המאה ה-21 את אותה רמת שינויים שהתחוללה בכל המאה העשרים. לטענתו של קורצווייל קצב ההתפתחויות הטכנולוגיות יגיע בשנת 2045 לרגע בו קצב ההתפתחויות הטכנולוגיות המאיץ ישאף לעבר האינסוף – נקודה שאותה הוא מכנה נקודת הסינגולריות. רעיון הסינגולריות קיבל לאורך השנים שם מפוקפק של רעיון פסבדו-מדעי. ועם זאת הקצב המואץ להפליא של ההתפתחויות בשנה האחרונה בהחלט מעלה אסוציאציות מעולמות אלו. פריצות הדרך החדשות בתחום הבינה המלאכותית מאיצות את לוח הזמנים לקצבים שנראים מהירים עוד יותר מהקצבים המאיצים של לוחות הזמנים האקלימי והפוליטי.

בקבוצות ברדיט כבר ניתן למצוא מי ששואלים האם האופן שבו אלגוריתמים כמו ChatGPT מאיצים תהליכי פיתוח תוכנה כולל פיתוח של גרסאות עתידיות של בינות מלאכותיות לא יוביל ללופ האצה מהסוג שחוזה תורת הסינגולריות האסכטולוגית. ובעוד הציבור מתחיל לעכל את הופעתו של ChatGPT צפוי להופיע בשנה הבאה מודל GPT4 שאומן על סט גדול פי 500 של דאטהמספר גדול פי 500 של פרמטרים. לדברי מגישי הפודקסט הטכנולוגיה "Hard Fork" מי ששוחחו עם מודל ה-GPT החדש יצאו מהשיחה הזו כשפניהם מוארים כאילו פגשו באלוהים.

בינה מלאכותית, המשמעות לכותבים ושאלת המשמעות האנושית

וכאן אנחנו מגיעים לשלב השאלות הגדולות. בספר טכנומיסטיקה כתבתי על עתיד אפשרי בו מכונות רוחניות ישמשו לאנושות כמדריכות בעולם הרוח. ChatGPT כבר מסוגל להשיא עצות במגוון נושאים של רוח, רוחניות ומשמעות ועושה רושם שבעולם של מכונות 'חושבות' סוגיות כמו משמעות יהדהדו בצורה חדשה. לאורך מאות ואלפי שנה היה מותר האדם על הבהמה והמכונה נטוע בשפה: יכולות החשיבה, ההתנסחות, פיתוח הרעיונות ובאופן רחב יותר, היכולות היצירתיות שהפגינו אמנים מכל הגוונים. התרבות והיצירתיות האנושית הייתה כתר הבינה המרהיב שעל ראשה של אנושות פגומה מאנספור בחינות. אבל מה קורה כשבינה מלאכותית מסוגלת לכתוב אלפי קנטטות בלתי ניתנות להבחנה מהקנטטות שכתב באך, לצייר אינסוף ציורים מרהיבים בכל סגנון מתקבל על הדעת, ולפלוט כמויות טקסט אדירות ומשכנעות?

במהלך כתיבת הטקסט הזה חשתי לעיתים את הבינה המלאכותית גוהרת מעלי. לא רק שכל טקסט שאכתוב עשוי להפוך בעצמו לחלק מרשת הפרמטרים המתרחבת של הבינה המלאכותית, אלא שזו אולי אחת ההזדמנויות האחרונות לכתוב טקסט כבן אנוש שחי בעולם בו אין עדיין אלגוריתמים בעלי יכולות על-אנושיות בניסוח טקסט. האם מכונה כדוגמת ChatGPT תוכל להחליף כותבים כמוני בעתיד ולייתר את מקצוע הכתיבה ואולי את כל המחשבה האנושית?

על הפרק נמצאים שני נראטיבים הפוכים בתכלית לגבי השפעת הבינה המלאכותית על האדם. הראשון הוא תסריט דפלציוני: תסריט שמרוקן את האוויר מהחזה האנושי כמו מבלון. בתסריט הזה הבינה המלאכותית מצליחה להגיע לרמות אנושיות ואף על-אנושיות בכל פעולה קוגניטיבית אפשרית. קורצוויל רומז לתסריט הזה כשהוא כותב על ה-Church-Turing Thesis, הרעיון שכל דבר בעולם יכול להיות מתורגם לשפת מחשב, או במילים אחרות, כל פיסת ידע או כשרון יכולה להפוך לאלגוריתם. ההגשמה של היפותיזת צ'רץ-טיורינג משמעה תפיסה דפלציונית של האנושות כאלגוריתם שהופך למיושן מול אלגוריתמים חדשים ומעודכנים יותר שמופיעים בדמותה של הבינה המלאכותית. בעולם שהגשים את היפותיזת צ'רץ-טיורינג ושבו בינות מלאכותיות שלומדות לשלוט בכל מיומנות אנושית אפשרית מספר גדל של אנשים צפוי למצוא עצמו מול שאלות קיומיות. אחת האמיתות הלא נוחות של המין האנושי הוא שאנחנו מגדירים את הערך העצמי שלנו ביחס לאחר. המושגים חזק, יפה או חכם עומדים ביחסיות למה שהוא פחות חזק, יפה או חכם. בעולם שבינות מלאכותיות עושות את כל מה שאנחנו עושים טוב יותר וללא מאמץ תחושת הערך של המין האנושי צפויה לסבול קשות.

מול התסריט המדכא הזה אנחנו יכולים לאמץ תפיסה שונה של הבינה המלאכותית. הסופר ואיש הטכנולוגיה ז'רון לאניר מתעקש מזה שנים שהתרבות שלנו עושה טעות גדולה כשהיא משתמשת במונחים כמו בינה מלאכותית. לאניר מצביע על כך ש"בינה מלאכותית" לא יוצרת דבר חדש. היא מבוססת ברמ"ח איבריה על היצירתיות של יוצרים בני אנוש שהיצירה שלהם הוזנה לתוך המכונה. העמדה של לאניר מתורגמת גם לעמדה פוליטית ברורה: חברות כמו Open AI צריכות לשלם תמלוגים לכל אותם יוצרים אנושיים שעל בסיס האמנות והיצירה שלהם אומנו הבינות המלאכותיות.

לאניר טוען שהיחס שלנו לטכנולוגיות בינה מלאכותית היה שונה למדי אם היינו חושבים עליהן באמצעות מטאפורות אחרות – נניח מציאות וירטואלית. בתפיסה זו בינה מלאכותית היא כלי שאינו שונה מאנספור הכלים האחרים שהאדם עושה בהם שימושה. היא אינה מחליפה בני אדם אלא מספקת להם כוחות על. לדוגמה, בינה מלאכותית מאפשרת ליוצרים כיום לחולל רעיונות עבור ספר קומיקס, לכתוב ולאייר אותו ללא שימוש במאיירים. תומאס פואיו חוזה עתיד לא מאוד רחוק שבו כל אחד יוכל לחלוש על ההפקה של סרט קולנוע שלם מהבית. אינטיליגנציה מלאכותית תאפיין דמויות, תכתוב דיאלוגים, תלחין מוזיקה וגם תאפשר הנפשה של סרטים שלמים באותו האופן שהיא מחוללת כיום דימויים יחידים וסרטונים קצרים. בעולם כזה לא מוטלים גבולות ליצירתיות האנושית. כל סרט יכול להיות מופק וכל ילד יכול להפיק מהחדר שלו סרט קולנוע שהיה דורש בעבר תקציב עתק.

לאניר משמש עבורי כאחד המאורות הגדולים של ההומניזם (או לפחות וריאנט עכשווי שלו) בנוף הנוכחי. הוא מעודד אותנו לא להפחית בערך עצמנו ולא לשגות בהערצת המכונה. אלא שגם כאן שאלת היצירתיות האנושית עשויה להתקל בקיר. ככל שיותר ויותר מתחומי היצירתיות עוברים לידיה של מכונה המעצימה את האדם קטן מבחינות אחרות גם המקום ליצירתיות אנושית. במילים אחרות: אחרי שהמכונה סיערה רעיונות, כתבה דיאלוגים, איירה סטוריבורד והפכה אותו לפיצ'ר מלא – איזה משמעות יש ליצירתיות האנושית? ניקולאס קאר כותב בספרו The Glass Cage על שבע רמות של אוטומציה, מהרמה הבסיסית ביותר של שימוש בכלי כמו אזמל שבחסותו מתפתחות מיומנויות אנושיות חדשות ועד הרמה שבה האדם נדרש רק ללחוץ על כפתור והעבודה נעשית כולה עבורו. בשלב זה המיומנויות האנושית מצטמצמת למינימום.

דומה שזהו מצב שהאנושות נדחקת אליו במידה הולכת וגוברת עקב ההופעה של הבינות המלאכותיות החדשות שעושות את העבודה עבורנו. תומכי תיזת ההגברה של האנושי יאמרו שתפקיד האמן פשוט השתנה. במקום לצייר הוא יכתוב פרומפטים עבור המכונה. אנחנו עדיין אלה שמייצרים את ההברקה באמצעות  ניסוח פרומפט יצירתי. אלא שגם תהליכי יצירת הפרומפטים יכולים לעבור אוטומטיזציה. באיזה שלב האדם הופך להיות מיותר לחלוטין בלופ?

מקלוהן דיבר על כך שהאיברים הטכנולוגים שאנחנו רוכשים באים על חשבון התנוונות האיברים הישנים ששימשו אותנו – יכולות הניווט הטבעיות שלנו נפגעות כשאנחנו מסתמכים על שירותי מפות, והזכרון שלנו נפגע כשאנחנו מסתמכים על זכרונות ממוחשבים. בהמשך למחשבה זו ונוכח היכולת המרשימה של בינה מלאכותית לייצר יצירות ויזואליות מרהיבות, קשה שלא לתהות כמה אנשים יבחרו לעבור את ההכשרה הארוכה ומרובת השנים שדרושה כדי להפוך למאייר ברמה הגבוהה ביותר בעולם בו ניתן לייצר יצירות דומות במאמץ אפסי?

שאלה דומה מרחפת מעל שאלת עולם הכתיבה והמחשבה האנושית. לאורך שנים נבחנה אינטיליגנציה במידה רבה באמצעות היכולת להתנמק ולהתבטא בטקסט כתוב. אבל מה קורה כשבינה מלאכותית עושה את העבודה ברמה מעל הממוצע ואיך הדבר הזה ישפיע על המוטיבציה לכתיבה? (קחו בחשבון שכמו מתכנתים או אמנים, גם כותבים טובים צריכים להתחיל איפשהו. ולכן כתיבה טובה דורשת גם לא מעט כתיבה בינונית). ניתן לטעון שבעולם של בינה מלאכותית בעלת יכולות כתיבה מופלגות תפקידו של הסטודנט/חוקר יהיה להשתמש בכלים כמו ChatGPT כדי ליצור ערך מסדר גודל גבוה יותר. להיות המאסטר-עורך שמכונות עושות עבורו באופן אוטומטי עבודה כמו כתיבת הפסקאות. אלא בסופו של דבר גם כאן אנחנו נפגשים בחוקי האוטומציה של קאר. ככל שיקחו מכונות חלק גדל והולך בעיבוד ובניסוח של ידע ומידע, יעמדו יסודות הבית של הקוגניציה האנושית בסכנת כרסום. ככל שנסתמך יותר על ChatGPT שיכתוב עבורנו פסקאות רהוטות, כך נפספס את ההזדמנויות שלנו ללמוד לחבר פסקאות רהוטות יותר ואולי ג'נריות פחות. מנגד, אנחנו נתקלים בתחזית אחרת שבה בעולם של מכונות כותבות ורהוטות שסובלות מהזיות ופולטות עובדות מטעות יודר האדם לתפקיד מאמת עובדות וכעורך. כאן מדובר בהיפוך הטענה המסורתית שאוטומציה משחררת את האדם לבצע עבודות יצירתיות יותר.

סכנה נוספת בעולם המכונות הכותבות היא שהדינמיקה שייצרו מכונות כותבות תייבש את מעייני היצירתיות. כתיבה אינה רק פעולה שעניינה ייצור טקסט – מדובר בתהליך פנימי של זיקוק וריתוך של חלקים שונים של התודעה. האפשרויות המעניינות ופורצות הדרך שצצות בתהליך הכתיבה לא ניתנות לגילוי מבלי לצלול פנימה ולפגוש את האופק הלא ידוע שמתגלה רק באמצעות המסע בקרבי המילים, המשפטים והפסקאות. ככל שנשאיר למכונה את מלאכת הכתיבה אנחנו עשויים לפספס את ההזדמנות לגילוי עצמי וגילוי עולם שהכתיבה מזמנת לנו. העצוב הוא שאנחנו נעשה את זה על מנת לשוב אל מה שנכתב כבר במקום לגלות את מה שעשוי היה להתגלות במבט פנימה. עולם שבו המחשבה והידיעה עברו אוטומציה באמצעות מכונות המשכפלות את הדפוסים הקיימים ושבו בני אדם מתרכזים באימות עובדות בטקסטים שכתבו אלגוריתמים נשמע כמו דיסטופיה גרוטסקית ועצובה. עם זאת, אני משוכנע שהדבר לא יקרה ולו בגלל התאווה של האדם לחדש והלא צפוי.

אם רוצים לשוב לצד החיובי שבו בינות כותבות הן טכנולוגיה מעצימה לכותבים. יש המשווים את הופעת האלגוריתמים של הבינה המלאכותית והשפעתה על היוצרים להופעת הצילום והשפעתו על הציירים. במועד הופעת הצילום לא היה ניתן לדמיין שהוא יוביל לא רק לסגנונות חדשים בציור, לעולם יצירה חדש לחלוטין של צילום, וגם – כהמשכו הישיר – לאמנות הקולנוע ולעולם סדרות הטלויזיה שמגיע לשיאו רק כעת – יותר מ- 150 שנה לאחר המצאת הצילום. בוגוסט מציע תסריט מלהיב של האופן ש-ChatGPT יכול להוות מעין כלי נגינה לג'מים של אמני מילה: "דמיינו לעצמכם סינתיסייזר מוזר וטמא שהכפתורים שלו דוגמים מידע טקסטואלי, סגנון וסמנטיקה. המכשיר כזה מושך לא משום שהוא עונה תשובות טקסט, אלא משום שהוא מאפשר לנגן טקסט – את כל הטקסט, כמעט – כמו בכלי נגינה."

אז האם ChatGPT יעצים את הכותב, ישנמך אותו או יחליף אותו? ניקולאס קאר כותב על האופן שמכונת הכתיבה שינתה את הפרוזה של ניטשה והפכה אותה לכוחנית יותר. גם מעבד התמלילים שינה באופן דרמטי את מעשה הכתיבה – רובנו לא זוכרים מה זה לכתוב טקסט משמעותי בדף ועט. הטקסט הזה נכתב בצורה קלאסית פחות או יותר. לא עשיתי כאן חלילה אאוט-סורסינג מכונתי לפסקאות ומקטעים. אבל גם הוא מבוסס כבר על דו-שיח עם הבינה המלאכותית שסיפקה פרספקטיבות ותגובות על רעיונות שונים. בכל מה שנוגע ל-ChatGPT השאלות עדיין רבות מהתשובות אבל הפוטנצאיל הוא אדיר.

ואולי כל זה היה חלום? תסריט דפלציוני עבור ChatGPT

ייתכן כמובן שהטקסט הזה מבוסס כולו על טעות. במקום להתייחס ל-ChatGPT במונחים דרמטיים כאל מין חייזרי עם אינטילגנציה מסוג חדש ניתן להגדיר אותו בצורה פרוזאית יותר כלא יותר מצ'טבוט מתוחכם. חלק מהכותבים ברשת טוענים שמדובר בהייפ מוגזם  וההתרגשות סביב ChatGPT תחלוף כלעומת שהופיעה. יש הטוענים שChatGPT יסיים את דרכו כמו גוגל גלאס, מכוניות אוטונומיות או המטאברס – הבטחות גדולות שמבוששות להתממש. ההבדל העיקרי בעיני הוא שChatGPT כבר משמש מיליוני משתמשים, שהמגבלות לשמוש בו נראות זניחות, והאפליקציות מרובות ובעלות ביקוש חזק. בניגוד למכוניות אוטונומיות הוא לא תלוי ברגולציה שמגבילה את התפתחות התחום, בניגוד לגוגל גלאס ולמטאברס השימוש בו לא מתנגש במוסכמות חברתיות או דורש משאבי עתק.

בסופו של דבר, אחת השאלות העיקריות כרגע היא מה תקרת הזכוכית של ChatGPT ויכולותיו. ChatGPT כבר מסוגל לכתוב שירים ומאמרים, לשוחח ולתרגם בין שורה ארוכה של שפות, לסכם מאמרים, לקודד קוד ועוד. יש לו אינטיליגנציה ייחודית, שונה מהאנושית. צ'טגיפיט מעולה בשילובי סגנונות. הוא מסער רעיונות. והוא טוב מאוד בכתיבת נוסחים לטקסטים ג'נריים. אבל מעבר למגבלות עכשוויות שלו (כמו הנטיה להזיות, ולשקרים שמחייבת תשומת לב מתמדת ומגבילה את השימושים שלו) מכיוון שהוא מסתמך על החומרים הקיימים ברשת הוא טוב פחות בליצור רעיונות חדשים. בינתיים החיבורים של ChatGPT ג'נריים למדי. המקומות שבהם הוא מצליח להפתיע הם לרוב תוצאה של פרומפטים מחוכמים ומפתיעים.  במובנים רבים, כתוצאה מהאופן שבו הוא לומד ומייצר טקסט, מדובר בטכנולוגיה בעלת נטיות מובנות אל הממוצע. ניתן אם כן לטעון שהמכונה עצמה נוטה לבינוניות ורק שימוש אנושי מחוכם הוא המסוגל להוציא ממנה יצירתיות.

השאלה היא עד לאן ChatGPT ודומיו עוד יגיעו. כשמסתכלים על שורת ההצלחות של אינטיליגנציה מלאכותית להשיג עליונות בתחומים כמו שח, GO, Diplomacy ופוקר אי אפשר שלא לתהות לאן GPT יגיע בסופו של דבר. האם הוא ישאר ברמת הכותב הבינוני או שבגרסאות הבאות שלו הוא יבצע קפיצות נוספות שיהפכו אותו לכותב מצוין באמת, הטוב בעולם? על פניו הבדל אחד בין כתיבה לבין המשחקים שמניתי קודם הוא שכתיבה אינה מערכת חוקים סגורה אלא מתמודדת כל העת עם עולם משתנה, ולכן סימן השאלה.

כרגע, הדרך הכי טובה להבין יותר טוב את ChatGPT היכולות שלו והמגבלות שלו זה פשוט לעבוד איתו ולהתנסות איתו. החוויות שלי עם ChatGPT בשבועות האחרונים העלו אצלי שאלות מטרידות על עתיד הכתיבה, מקצוע הכתיבה, ועבודת ידע בכלל. הן גם הראו לי את המגבלות הנוכחיות של מודלים כמו ChatGPT והסיבות שבגללן הוא לא יכול לעשות את העבודה שלי, עדיין. יש רגעים של קסם שמתרחשים בתהליך הכתיבה שנראה שקשורים באופן עמוק לקיומה של תודעה וקשה לי לראות אותם קורים באופן אוטומטי גם בגרסאות הבאות של GPT. אני מתקשה להאמין שבינה מלאכותית אי פעם תהיה הסופרת האהובה עלי, אבל אני פתוח להיות מופתע. ובכל מקרה, מעשה הכתיבה נובע מדחף פנימי עמוק וגם קיומה של בינה מלאכותית כותבת לא תכבה את הדחף הזה, אני מאמין.

ולסיכום

נסיונות להעריך את השפעתה של טכנולוגיה חדשה ברגע הופעתה נידונו לטעויות מרהיבות. הטקסט הזה בוודאי אינו יוצא דופן. השימושים וההשפעות האמיתיות של ChatGPT יתגלו רק בחלוף הזמן, אם כי כמו במקרה של טכנולוגיות הדמיה בסגנון DALLE ו-Stable Diffusion שאנשים מדברים על שימושיהם המוקדמים לפני 3 חודשים כעל פרה-היסטוריה, יתכן שחלוף הזמן הזה יהיה זריז.

טכנולוגיות בינה מלאכותית בתחומי האמנות והמידע מציבים איום חמור ומיידי על סגמנטים מתרחבים מכח העבודה. כרגע לא ברור עדיין לאן התהליך הזה מוביל, ואיזה שינויים הוא יוביל בשוק העבודה, אבל נראה ששינויים מפליגים עומדים בפתח. זה לא הוגן וזה עשוי לפגוע באנשים רבים. הדיקלומים השגורים במקרים כאלה, על כך שאי אפשר להלחם בקדמה הטכנולוגית תקפים במידה מסוימת. הג'יני יצא מהבקבוק, ובכל מקרה ניסיון לאסור טכנולוגיות שיכולות להעשיר את התרבות והאמנות האנושית בצורות רבות נראה בלתי הוגן. ומצד שני, הטענה השגורה שהאדם במאה ה-21 יידרש להחליף מקצוע כל שנתיים כדי לשרוד, ולחיות חיים של לימוד בלתי פוסק היא בלתי הוגנת ובלתי ריאלית. בעולם עתידי היפותטי שבינה מלאכותית ייתרה בו את רובה המוחלט של העבודה הדבר המוסרי היחיד יהיה לחלק את פירות העבודה והקדמה הטכנולוגית שהאנושות יצרה לאורך באלפי שנה עם האוכלוסיה כולה. מה שנקרא Fully automated luxury communism. בעולם כזה בינה מלאכותית יכולה להיות מפתח חשוב לתיקון שורה של סוגיות כגון עוני, מעבר לכלכלת Degrowth, משבר האקלים וחשוב לא פחות – התפנות לפתרון טוב יותר לשאלת המשמעות האנושית בעולם שאחרי הופעת הבינה המלאכותית והעלמות העבודה.

הערות

* הכתיבה של הפוסט הזה התרחשה תוך כדי שיחה מתמדת עם ChatGPT שכללה מגוון שאלות שנוגעות לנושאי הפוסט. ChatGPT ענה לעניין ובהרחבה לכל אחת מהשאלות שלי וגם לבקשות ההבהרה שלי. למותר לציין שלו היה מדובר בבן שיחה אנושי הייתי מאפיין אותו כבן שיחה אדיב, אינטיליגנטי ורחב אופקים. החוויה של הכתיבה תוך כדי התייעצות עם ChatGPT הייתה מלווה בתחושה סוריאליסטית, הזויה. השנה היא 2022 ואני כותב את הפוסט החדש שלי על הבינה המלאכותית החדשה שהופיעה ברשת תוך כדי שאני מנהל איתה שיחות צפופות על עצמה ועל משמעות הופעתה למין האנושי.

** אני מודה לידידי עמית קגיאן ולמייסד קבוצת 'עליית המכונות' מתי מריאנסקי על שחלקו עמי מהתובנות והידע שלהם בנושאי למידת מכונה ובינה מלאכותית ובכך תרמו תרומה גדולה לכתיבת הפוסט הזה.

ChatGPT –הטיות טכנולוגיות רלבנטיות:

הטיה טמפורלית – ייצור טקסטים מיידית על פי דרישה.

הטיה אפיסטמולוגית – הזיות פוסט אמת.

מחסור (Scracity) – דמוקרטיזציה. ניסוח טקסטים זמין להמונים.