LLM, טוקנים וחלון הקשר
מילון העבודה של מודלי שפה: טוקנים, Prompt, Context Window, Multimodal, Hallucination ו־RAG.
בסוף השיעור תוכלו
להבין איך מודל שפה מייצר תשובה
לדעת מה נכנס לחלון ההקשר
להבדיל בין ידע אימון למקור שסופק
להבין מתי RAG עוזר
LLM אינו מאגר תשובות
Large Language Model הוא מודל שנחשף לכמויות גדולות של טקסט ולמד דפוסים בשפה. הוא אינו שולף משפט מוכן ממגירה; הוא מייצר המשך בהתאם להוראות ולהקשר הזמין.
טוקן הוא יחידת טקסט שהמודל מעבד. מילה יכולה להיות טוקן אחד או כמה טוקנים, ולכן אורך שיחה נמדד אחרת מספירת מילים רגילה.
- Prompt — הקלט וההוראות
- Token — יחידת עיבוד
- Context window — המידע הזמין במהלך המשימה
- Output — התוצאה שנוצרה
הקשר, זיכרון ומקור
חלון הקשר הוא סביבת העבודה המיידית: השיחה, הקבצים והוראות המערכת שנכנסים לעיבוד. זיכרון מוצרי, אם קיים, הוא מנגנון נפרד ותלוי בהגדרות ובספק.
RAG — Retrieval-Augmented Generation — מחפש מקטעים רלוונטיים במקור מוגדר ומעביר אותם למודל לפני הניסוח. הוא משפר עיגון במידע, אך עדיין צריך לבדוק שהמקטע הנכון נמצא ושהמסקנה נאמנה לו.
- ציינו איזה מקור מחייב
- בקשו ציטוט או הפניה למיקום
- הפרידו בין עובדה, הסקה והמלצה
- אל תניחו שזיכרון נשמר בין מוצרים
מולטימודל והזיות
מודל Multimodal יכול לעבד יותר מסוג קלט אחד, למשל טקסט ותמונה, ולעיתים גם קול או וידאו. היכולת משתנה בין מוצרים, תוכניות וגרסאות.
הזיה היא פלט שנשמע סביר אך אינו מבוסס. היא אינה באג נדיר אלא סיכון מובנה בעבודה הסתברותית. במשימות חשובות מצרפים מקור, מגבילים את חופש הניסוח ומפעילים בדיקה אנושית.
- בדקו שמות, מספרים ותאריכים
- פתחו את המקור ולא רק את הציטוט
- בקשו מהמודל לסמן אי־ודאות
- אל תעבירו החלטה מקצועית לאחריות המודל
תרגול קצר עם תוצאה שאפשר לבדוק
המשימה
תנו לעוזר פסקה קצרה ולא רגישה ובקשו סיכום שמסתמך רק עליה.
לראות דוגמה לפתרון
סכם את הפסקה בשלוש נקודות. אם פרט אינו מופיע בה, כתוב שאין מידע.
איך בודקים?
השוו כל נקודה לפסקה. האם נוספו פרטים שלא ניתנו?
זמן התרגול נוסף לזמן הקריאה ותלוי בקצב שלכם. השתמשו בנתוני דוגמה שאינם רגישים.הבנתם את הרעיון. האם תוכלו לבצע אותו לבד?
דמיינו שקיבלתם עכשיו משימה אמיתית בנושא ״LLM, טוקנים וחלון הקשר״. האם ברור לכם מה לפתוח, מה לתת ל־AI ואיך לדעת שהתוצאה טובה?
באיזה כלי מתחילים?
מה כותבים או מעלים?
איך בודקים את התוצאה?
השיעור נתן לכם את המפה. הקורס נועד לעבור איתכם את הדרך בפועל, צעד אחר צעד.
הידע כאן פתוח. הקורס הופך אותו ליכולת.
לא צריך לקנות קורס כדי להבין את המושג. המסלול המלא מיועד למי שרוצה לראות אותי מבצע, לתרגל בעצמו ולקבל תהליך מסודר שאפשר לחזור עליו.
אפשר להמשיך בחינם לשיעור הבא. הקורס מיועד למי שלא רוצה להישאר רק עם ידע — אלא להשתמש בו בביטחון.
יכולות, מחירים ותנאים משתנים. המקורות הבאים הם נקודת התחלה רשמית או מקצועית; יש לבדוק את הגרסה העדכנית לפני החלטה.