טכנומיסטיקה

השיחה על כתיבה עם בינה מלאכותית רותחת ובשבועות אחרונים התרחשו מספר התפתחויות מכריעות, ביניהן ההכרזה של אנתרופיק שתכניס לתוך הטקסטים של קלוד ווטרמארק שיאפשר לזהות טקסט גנרטיבי והשילוב של כפתור לזיהוי אוטומטי של טקסטים גנרטיביים בפלטפורמת סאבסטאק. במקביל, מאמר הגותי פרי עטו של קלוד פורסם בכתב עת יוקרתי לפילוסופיה לאחר שעבר ביקורת עמיתים והעלה שאלות נוקבות על עתיד הכתיבה והמחקר בעידן הנוכחי.

הדיונים המעמיקים על בינה מלאכותית וכתיבה מעלים שאלות קיומיות אצל כל אדם כותב. מחנה אחד משמיע אזהרות מאובדן דרמטי של האותנטיות והיכולות הקוגניטיביות, וקורא להמנעות מוחלט מכל שימוש בבינה מלאכותית לצורך כתיבה, כל סוג של כתיבה – אפילו מייל לרכזת ההוראה של הפקולטה בבקשה לתקן טעות בטופס. המחנה האחר מזדעק על ציד מכשפות וטוען שויתור על היכולות המופלגות שבינה מלאכותית מעמידה לרשותם של כותבים הוא עיוורון עיקש ומטופש.

הבעיה בדיונים בעד ובעיקר נגד כתיבה עם בינה מלאכותית היא שהקטגוריה הזו של כתיבה עם בינה מלאכותית נשארת לרוב מונוליתית וללא התייחסות לכך שמדובר בשורה ארוכה של פרקטיקות שונות מאוד זו מזו.

קל להסכים עם הטענה שאם אתה מעתיק ומדביק טקסט שמודל שפה חולל בתגובה לפרומפט כלשהו שהקלדת לתוכו, המילים הללו לא באמת שלך, לא באמת מייצגות את מהלך המחשבה שלך, ולעיתים אפילו לא מובנות לך לגמרי.

העניין הוא שרוב האנשים שמשתמשים בבינה מלאכותית לא באמת משתמשים בה באופן הזה. בשנה האחרונה קיימתי מעל ל-25 ראיונות לצורך מחקר על שימוש בבינה מלאכותית בכתיבה, ובעוד שעלו שם שורה ארוכה של תהיות וחששות, כולל לגבי אותנטיות, סוכנות ושחיקה קוגניטיבית. דבר אחד שעלה שם הוא שכל אחד מהמרואינים השתמש בבינה מלאכותית בצורה שונה במסגרת הכתיבה. כשאנחנו מדברים על לכתוב ב/עם בינה מלאכותית, אנחנו לא מדברים על דבר אחד ספציפי. מדובר כאן באקולוגיה שלמה של פרקטיקות ודרכים שבהן בינה מלאכותית יכולה להשתלב בכתיבה, וכל אחת מהן מעלה שאלות שונות ודורשת התייחסות נפרדת.

להשתמש בבינה מלאכותית כדי לאתר מראי מקום, זה לא אותו דבר כמו להשתמש בבינה מלאכותית לסיעור רעיונות, שזה לא אותו דבר כמו לתת לה כמה רעיונות ולבקש ממנה לנסח את זה עבורך, ולא אותו דבר כמו להשתמש בה כדי שתעזור לך למצוא את המילה המושלמת שחסרה במשפט שניסחת, או לתפוס לך טעויות דקדוקיות (כשכותב בשפה זרה), או לבקש ממנה ביקורת חדה על טקסט שכתבת. כל דוגמה כזו מציגה התערבות שונה במהותה בתהליך הכתיבה, שהוא תהליך אינטלקטואלי מורכב שכולל (בפישוט גס) מחשבה על רעיון, פיתוח שלו, כתיבה שלו ועריכה שלו. כפי שהעירו אחרים, השאלה שאפשרלשאול לגבי כל מעורבות כזו של בינה מלאכותית בתהליך הכתיבה היא: איך היינו מתייחסים אם אדם אחרהיה עושה את ההתערבות הזו עבורנו. האם היינו מזדעזעים אם היינו מגלים שכותב מסוים פיתח רעיונות לטקסט תוך כדי שיחות עם בני אדם אחרים או שהטקסט שלו השתפר בעקבות פידבק שקיבל מבני אדם אחרים? כנראה שלא. לעומת זאת, אם היינו מגלים שהטקסט נכתב כולו על ידי אדם אחר והכותב רק ביצע בו עריכות מינוריות כנראה הינו מתייחסים לכך באופן שונה לחלוטין. ייתכן  שניתן לאמץ אמות מידה דומות ניתן גם לשימוש בבינה מלאכותית בתהליך הכתיבה.  

ולכן התנגדות קטגורית לכל שימוש בבינה מלאכותית בתהליך הכתיבה מרגישה כמו טהרנות אנטי-טכנולוגית שמובילה לתפיסה מגבילה של כתיבה כמלאכת יד זכה שבה יצירה היא מעשה הירואי המתרחש ללא כל רמז להיברידיות או תלות בגורם חיצוני. 

אלא שמצד שני גם אותם חוקרים שמבשרים לנו שכתיבה היא זה כבר מעשה פוסט-הומניסטי, ושכתיבה באמצעות מודלי שפה היא המשך טבעי של מהפכות טכנו-קוגניטיביות קודמות כמו  כתיבה במכונת כתיבה או מעבד תמלילים, נראים מיתממים.

המהפכה שהביאו מודלי שפה לכתיבה שונה מהותית ממהפכות שהביאו טכנולוגיות כתיבה קודמות כמו מכונת הכתיבה ומעבד התמלילים. אין צורך אפילו להסביר למה. האפשרויות שהכלי הזה פותח מסחררות ומבלבלות עבור כל כותב שנכנס בפרדס הזה – אבל התשובה לשאלה האם ואיזה מקום יש להם בכתיבה היא כנראה לא איסור מוחלט של השימוש בהם, וגם לא התמסרות משוללת ביקורת, אלא משהו אחר.

השאלה מה זה המשהו הזה היא אחת השאלות האינטלקטואליות המסקרנות של תקופתנו, והיא זוכה למענה אנספור פעמים מדי יום, כשמליונים מתנסים בכתיבה בעזרת בינה מלאכותית בכל מיני צורות –כנות, ולעיתים לא כנות, בצורות מדכאות ומרוקנות או מעוררות ומעצימות. חלק מהכותבים הללו נכווים. לעיתים עוברת תקופה עד שהם מבינים את הטעויות והנזקים שגרמו לעצמם ולטקסטים שכתבו בעקבות הסתמכות מוגזמת על בינה מלאכותית ואילו אחרים מוצאים את עצמם חשים לפתע אנרגטיות חדווה ודינאמיות מוגברת בתהליך יצירה סייבורגי והיברידי. אלו וגם אלו הם חלק מניסוי רב משתתפים.

אנחנו עוד לא יודעים איך יראו תוצאות הניסוי הזה, אבל אנחנו יודעים שהוא כבר משנה בצורה דרמטית את הקטגוריות שלנו ואת האופן שבו אנחנו חושבים ומתייחסים לכתיבה. אחד השינויים הפוטנציאלים שאני שם לב בעצמי הוא חשבון נפש שהוביל לעניין פוחת בחלק מהסוגות של הכתיבה האקדמית שהבינה המלאכותית משכפלת ומייצרת במהירות ובליטוש שאין לכותב אנושי דרך להתחרות אליהן, ועניין גדל בכתיבה שמבטאת משהו פנימי, צפוי פחות, ונטוע בנקודת המבט – כתיבה מסוג שמכונות נוטות אליה פחות. אולי באופן הזה ההופעה של קולות מכונה משוכפלים יכולה דווקא להוביל לרנסנס של קולות אנושיים.