מה זה LLM? מודל שפה גדול בהסבר פשוט

הגדרה בשורה אחת

LLM (קיצור של Large Language Model, בעברית: מודל שפה גדול) הוא תוכנה שמנבאת מה המילה הבאה — ועושה את זה טוב כל כך שהתוצאה נראית כמו הבנה.

זה המנוע שמאחורי ChatGPT, ג'מיני, קלוד ודומיהם.

איך זה עובד

המודל אומן על כמות עצומה של טקסט, ובתהליך הזה למד דפוסים: אילו מילים באות אחרי אילו, באילו הקשרים, באיזה סגנון.

כשאתם שואלים שאלה, הוא לא מחפש תשובה במאגר. הוא מייצר את התשובה מילה אחר מילה, כשכל מילה נבחרת לפי מה שהכי סביר שיבוא אחרי מה שכבר נכתב.

זה נשמע כמו טריק, והתוצאה בכל זאת מרשימה — כי כדי לנבא טוב מה בא אחרי "בירת צרפת היא", צריך למעשה לדעת שהיא פריז.

ולמה זה בדיוק ההסבר לבעיה

אם הבנתם את המשפט הקודם, הבנתם גם למה מודל ממציא.

הוא מנבא את מה שסביר, לא את מה שנכון. אם שאלתם על חוק שלא קיים, הניסוח הכי סביר שיבוא אחרי השאלה הוא תשובה שנשמעת כמו ציטוט חוק — אז הוא ייצר אותה, בביטחון מלא.

התופעה הזו נקראת "הזיה", והיא לא תקלה. היא תוצאה ישירה של איך שהדבר עובד.

לכן הכלל: כל מספר, תאריך, סעיף חוק או מחיר שיוצא ממודל — דורש אימות. ההנחיה של גוגל אומרת את זה במפורש לגבי תוכן שמתפרסם.

דוגמה מהשטח

בביקורת שעשינו על האתר שלנו מצאנו 33 סטטיסטיקות בלי מקור — "97% מהצרכנים", "מחקרים מראים ש-84%" — בלי שאף אחד יכול היה להגיד מאיפה הן הגיעו.

חלקן אולי נכונות. זו לא הנקודה: טענה שאי אפשר לאתר את מקורה היא טענה שאי אפשר להגן עליה. פירטנו ב10 הטעויות שמצאנו.

למה זה משנה לעסק שלכם

כי זה קובע למה הכלי מתאים. משימות שבהן ניסוח הוא העיקר — טיוטות, סיכומים, ניסוח מחדש, רעיונות — הן בדיוק מה שמודל שפה עושה היטב.

וקובע למה הוא לא מתאים. כל מקום שבו נדרשת עובדה מדויקת, ללא אימות אנושי.

ההבחנה הזו שווה יותר מכל רשימת כלים. איך בוחרים את המשימה הנכונה פירטנו ב12 מקרי שימוש ב-AI.

מושגים קרובים

LLM מול AI. בינה מלאכותית היא תחום רחב; מודל שפה הוא סוג אחד בתוכו. כשאומרים היום "AI" בהקשר עסקי, בדרך כלל מתכוונים ל-LLM.

LLM מול צ'אטבוט. הצ'אטבוט הוא המוצר שאתם מדברים איתו; ה-LLM הוא המנוע שמתחתיו. צ'אטבוטים ישנים עבדו לפי תסריט קבוע, בלי מודל.

LLM מול RAG. RAG היא שיטה לחבר מודל למסמכים שלכם, כדי שיענה מתוכם ולא מהזיכרון. זו אחת הדרכים הטובות להפחית המצאות.

פרומפט הוא מה שאתם מקלידים. ככל שהוא מכיל יותר הקשר, התוצאה טובה יותר — ראו 20 פרומפטים לעסק.

שאלות נפוצות

המודל "יודע" דברים?

לא במובן שאנחנו מתכוונים אליו. הוא מייצר ניסוח סביר על סמך דפוסים שלמד. בפועל זה נראה כמו ידע ברוב המקרים, ונשבר בדיוק בקצוות — בנושאים נדירים, בעובדות ספציפיות ובכל מה שהשתנה לאחרונה.

אפשר לסמוך עליו?

על הניסוח — כן. על העובדות — רק אחרי בדיקה. זו ההבחנה היחידה שצריך לזכור, והיא גם מה שמבדיל בין שימוש מועיל לנזק.

למה הוא לפעמים טועה בעברית?

רוב החומר שעליו המודלים אומנו הוא באנגלית, ועברית היא שפה קטנה יחסית עם מורפולוגיה מורכבת. התוצאה משתפרת מאוד כשנותנים דוגמה לסגנון הרצוי במקום להסביר אותו במילים.

הוא לומד ממה שאני כותב לו?

תלוי בשירות ובהגדרות. ככלל זהירות: אל תכניסו לשם מידע מזהה על לקוחות או מסמכים רגישים, אלא אם בדקתם במפורש מה מדיניות השירות.

שורה תחתונה

LLM מנבא את המילה הבאה, ועושה את זה מצוין. הוא לא מאגר עובדות.

תשתמשו בו לניסוח, ותאמתו כל עובדה. עוד מונחים במילון, או ראו את פתרונות ה-AI שלנו.