מה מודל שפה בעצם עושה

בכל הרצאה שהעברנו בשנה האחרונה מישהו שאל את השאלה הזו, בדרך כלל בסוף, בשקט, אחרי שכולם יצאו. “אני משתמש בזה כל יום, אבל מה זה בעצם?”

זו שאלה טובה, וההסבר הנפוץ לה גרוע. אומרים “בינה מלאכותית”, שזה שם ולא הסבר, או “הוא חושב”, שזה פשוט לא נכון ומוביל לציפיות שגויות.

העיקרון: השלמת המילה הבאה

מודל שפה עושה דבר אחד: בהינתן טקסט, הוא מנחש מה המילה הסבירה הבאה. ואז שוב, ושוב, עד שנוצרת פסקה.

זה נשמע פשוט מדי ביחס למה שהוא מסוגל לעשות, ודווקא בזה העניין. כדי לנחש נכון את המילה הבאה במשפט “לפי סעיף 14 לחוק פיצויי פיטורים, עובד זכאי ל…” צריך להכיר את החוק. ההבנה לא הוכנסה למכונה כידע מסודר, היא נוצרה כתופעת לוואי של אימון על כמות עצומה של טקסט עם מטרה אחת: לנחש טוב יותר.

זו הסיבה שהוא מפתיע לטובה בדברים שנראים דורשי הבנה, ומפתיע לרעה בדברים שנראים טריוויאליים. הוא לא בנוי כמו אדם, הוא רק אומן על מה שאנשים כתבו.

שלוש השלכות מעשיות

הוא לא זוכר אתכם. כל שיחה מתחילה מאפס, אלא אם הכלי שאתם משתמשים בו מוסיף לו זיכרון במפורש. מה שסיפרתם לו אתמול לא קיים מבחינתו היום.

הוא לא מחפש. אם הכלי שלכם לא מחובר לאינטרנט, הוא לא הולך לשום מקום לבדוק. הוא מייצר תשובה מתוך מה שהצטבר אצלו באימון. זה גם מסביר למה תשובות על אירועים אחרונים לא אמינות.

הוא מושפע מאוד מהניסוח שלכם. אם התחלתם בטון מקצועי, ההמשך יהיה מקצועי. אם נתתם דוגמה, הוא ימשיך בסגנון הדוגמה. זה לא נימוס, זו בדיוק המכניקה של השלמה: מה שכתבתם הוא ההתחלה שהוא ממשיך.

כתוב הודעה לעובדים על שינוי בנוהל החופשות.

להלן פתיחה של הודעה פנימית בארגון שלנו:
"צוות יקר, אנחנו מעדכנים את נוהל החופשות. השינוי קטן, ואני רוצה
שתדעו למה עשינו אותו."
המשך את ההודעה באותו קול, שלוש פסקאות, בלי סופרלטיבים.

המשפט שכדאי לתת לצוות

כשמסבירים את זה לעובדים, ההסבר שעובד הכי טוב הוא זה:

זו מכונה שמשלימה טקסט טוב מאוד. היא לא מחפשת ולא בודקת. כשהיא יודעת, היא מצוינת. כשהיא לא יודעת, היא ממשיכה להשלים באותו ביטחון בדיוק.

המשפט הזה עושה שתי עבודות: הוא מוריד את הפחד (“זו לא ישות שמבינה אותי”), והוא מוריד את התמימות (“אז אי אפשר לסמוך עליה בעיניים עצומות”).