טכנומיסטיקה

אתם משתמשים לפעמים בבינה המלאכותית כאוראקל?

אני מתכוון לכל הפעמים האלה שמשהו מעניין אתכם ואתם, כאפשרות ראשונה, ניגשים לבינה המלאכותית כדי לקבל ממנה תשובה. זו יכולה להיות כל שאלה עמוקה או אפילו יומיומית, כמו מתי לקחת תוסף תזונה או עד איך העובדה ששכחתם את הטלפון ברכב לכמה שעות בצהריים השפיעה על בריאות הבטריה. אחר כך אתם נשארים עם התשובה הזו מבלי לוודא אותה ממקור אחר והופכים אותה לחלק מתפיסת עולמכם.

ההגדרה המילונית של אוראקל היא כהן או כהנת שמשמשים מדיום לאלים, ואפשר לומר שבני אדם מחשיבים את הידע הקולקטיבי שהבינה המלאכותית מגלמת כסוג של ידע עליון וטרנסצנדנטי. במובן הזה הפניה אליה כדי שתיתן לנו את התשובה היא פניה לאוראקל.

מעניינת יותר בעיני היא השאלה למה קוסם לנו כל כך להשתמש בבינה מלאכותית כאוראקל ומה זה עושה לנו.

נדמה שאחד השינויים המשמעותיים שהבינה המלאכותית הביאה לעולם היא שאנחנו כבר לא נדרשים לשהות עם חוסר הידיעה. תמיד אפשר לקבל תשובה כלשהי מהצ׳ט. האם התשובה הזו נכונה או מדויקת? במקרים רבים קשה לדעת. אבל השירות שהצ׳ט מספק אינו וודאות אלא ביטול תחושת הספק המנקר.

האוראקל הוא תנועה לקראת הפגה של ספק. לדעת משהו: לא משנה מה. לא משנה אם נכון או לא. העיקר שיהיה על מה להשען.

מחקרים מצביעים על הסכנות שיכולות השכנוע העל-אנושיות של הבינה המלאכותית: יכולות שכנוע מופלגות שלא היו מביישות אנשי שיווק מיומנים ורבי אומן של הרטוריקה. מסתבר שכשמשחררים קבוצה של בינות מלאכותיות בפורום שבו בני אנוש מנסים לשכנע זה את זה, הן משיגות תוצאות טובות יותר מרוב בני האנוש. אלו ממצאים שמעמידים סימן שאלה נוסף על האפשרות לקיים שיח ציבורי בריא בתקופתנו, אבל המשמעויות של כושר השכנוע המופלג הזה נוגעות הרבה מעבר לשאלת העמדות הפוליטיות שלכם. הן נוגעות למערכות היחסים האינטימיות שרבים מאיתנו מפתחים עם בינות מלאכותיות.

כשאנחנו פונים לבינה מלאכותית בבקשה שתעזור לנו בעניין מסוים והיא נותנת לנו תשובה משכנעת, נפלאה, מעוררת השראה אפילו, אנחנו צריכים לקחת בחשבון את כושר השכנוע העל-אנושי של הבינה הזו, ואת זה שיתכן משהו בתוכנו מוקסם על ידי האפשרות להתייחס לתשובה הזו כביטוי של אמת אובייקטיבית וטרנסצנדנטית. ה׳אמת׳ הזו אולי אובייקטיבית וטרנסצנדנטית במובן שהיא משקפת את האופן שבו חישוב אל-אנושי ובלתי ניתן לשיעור המבוסס על מאות מיליארדים של פרמטרים מתייחס לשאלה המדויקת שלכם. אבל היא לא טרנסצנדנטית כלל מבחינות אחרות. היא מבוססת על ממוצע חסר בינה של אנספור דברים שאמרו בני אנוש ושנמצאים בסט האימון של המודל, כמו גם על הנטיה שלו להמציא תשובה משכנעת על כל דבר, גם כשאינו יודע.

אחת המיומנויות החשובות ביותר של העידן הנוכחי היא לדעת על מה לשוחח עם בינה מלאכותית ואיך להתייחס לתשובות שלה בנושאים שונים. מיומנויות הקריאה הביקורתית של קוראים וחושבים עצמאיים לא מאבדות מחשיבותן בעידן החדש, אלא זוכות למשנה חשיבות ומשתכללות. בעולם של אנסוף רעיונות ואפשרויות. האוריינות הביקורתית חשובה מאי פעם.

הפניה שלנו לבינה המלאכותית נובעת לעיתים קרובות מאותו דחף קדמוני ששלח את היוונים לאורקל של דלפי. זוהי אותה פנטזיה על קיומו של מקור אמת בעל סמכות מוחלטת. בגלל שהבינה המלאכותית עונה על כל שאלה. בגלל שהיא לעולם לא תאמר שאינה יודעת, ובגלל שהיא רהוטה ומשכנעת כל כך, אנחנו רוצים להשליך עליה שאלות במגוון אדיר של נושאים. במקרים רבים התשובות נכונות ובחלק מהמקרים היא יכולה להניב תשובות באמת מעוררות השראה. במקרים אחרים הבינ״מ עשויה לפלוט רצף שבלונות שחוקות במקרה הטוב ושגויות במקרה הרע. בשני המקרים היא משכנעת. וזה הדבר שחשוב שנזכור אותו היטב בעידן הזה שבו מערכות היחסים בין בני אדם למכונות הולכים ומתהדקים. כריזמה היא דבר מסוכן, כפי שהפוליטיקה של העבר וההווה מלמדת אותנו היטב.

לבינה המלאכותית יש כריזמה מלוטשת, נעימה ומקצועית הרבה יותר מהסגנון הירוד של חלק מהמנהיגים בני זמננו, אבל זה לא אומר שהכריזמה הזו אינה מסוכנת. בעידן של בינה מלאכותית שחודרת בכל מקום. אחד מקווי ההגנה החשובים ביותר שלנו הוא היכולת שלנו לזהות כריזמה ולנטרל ככל הניתן את ההשפעה שלה עלינו כדי להצליח לחשוב על דברים עצמאית, ללא הפריזמות המסמאות של ניסוחים יפים.

יש ערך במימד האוראקלי של הבינה המלאכותית – הוא מוריד עבורנו את מפלס חוסר הוודאות ועוזר לנו לקבל החלטות בעולם מסובך ומתסבך מדי. יש באוראקליות הזו נחמה. היא כמו שיר ערש לספק הפנימי שעולה בתוכנו מול מספר ההחלטות האינסופי שאנחנו נדרשים לקבל בתנאי חוסר ידיעה. אנחנו יכולים לערוך את העולם כולו כרצף אמירות אוראקליות כריזמטיות כאלו שמכסות את כל תחומי הידיעה והספק, אבל כדאי לזכור שהוודאות הזו היא בערבון מוגבל, ושאיפשהו בתוכנו מסתתר קול פחות כריזמטי ובטוח בעצמו שכדאי לפעמים להאזין גם אליו.