סקירה מדעית על מודלי שפה בעברית, Dicta-LM 3.0, אתגרי טוקניזציה ומדדי Hebrew NLP - עם מדריך Benchmark מעשי לארגונים. ארגון ישראלי אינו יכול להניח שמודל שמצטיין באנגלית יבצע באותה רמה בעברית. עברית היא שפה עשירה מורפולוגית, לרוב ללא ניקוד, עם קיצורים, שמות מקומיים ומעבר תדיר בין עברית לאנגלית. לכן בחירת כלי AI בעברית צריכה להתבסס על משימות אמיתיות ולא על שיחה קצרה או דירוג כללי. המחקר הישראלי בשנים האחרונות מספק מודלים, מאגרי נתונים ומבחנים שמאפשרים לבנות הערכה רצינית יותר.
- משמעותדיוק, שלילה ומסקנה
- שפהמין, מספר ומונחים
- מקורהיצמדות וציטוט
- תפעולעלות, זמן ותיקון
משווים מודלים על אותו קלט, באותה רובריקה ובבדיקה עיוורת.
למה עברית היא מבחן נפרד למודל שפה
באנגלית, יחידות הטקסט שעליהן המודל עובד תואמות לעיתים קרובות מילים או חלקי מילים מוכרים. בעברית, אותיות שימוש כמו ו, ב, כ, ל ו-ה נצמדות למילה; נטיות מין ומספר משנות צורה; וטקסט ללא ניקוד יוצר עמימות. טוקנייזר שאינו מותאם לעברית עלול לפרק מילה ליותר יחידות, להאריך את הקלט ולבזבז חלון הקשר וחישוב.
האתגר אינו טכני בלבד. מסמך ישראלי משלב שמות גופים, ראשי תיבות, סכומים, תאריכים בפורמטים שונים ומונחים באנגלית. מודל יכול לכתוב עברית שוטפת ובכל זאת לטעות בהבנת תפקיד, בשלילת משפט או בקשר בין כינוי לאדם. לכן רהיטות אינה מדד מספיק. ההערכה צריכה לבדוק הבנה, דיוק, היצמדות למקור ויכולת להודות שאין מידע.
- מורפולוגיה עשירה והצמדת אותיות שימוש
- עברית ללא ניקוד ועמימות
- שילוב עברית-אנגלית וראשי תיבות
- פער אפשרי בין רהיטות להבנה
מה מלמדים DictaLM 2.0 ו-Dicta-LM 3.0
DictaLM 2.0 הוצג ב-2024 כמודל שהותאם לעברית על בסיס Mistral. החוקרים הרחיבו את אוצר הטוקנים והמשיכו אימון על קורפוס גדול בעברית ובאנגלית. לפי הדוח, השינוי בטוקניזציה שיפר את יעילות הייצוג של עברית. העבודה כללה גם חבילת Benchmark למשימות כמו שאלות ותשובות, סנטימנט, תרגום וסיכום.
בדוח הטכני של Dicta-LM 3.0, שפורסם בסוף 2025, מוצגת משפחת מודלים פתוחי-משקל בגדלים שונים - 24B, 12B ו-1.7B - שהותאמו לעברית ולאנגלית. החשיבות הארגונית אינה רק האפשרות לבחור מודל מקומי. משפחת גדלים מאפשרת לחשוב על איזון בין איכות, עלות, פרטיות, השהיה ותשתית. עם זאת, מודל פתוח אינו בהכרח בטוח או מתאים לייצור; הארגון עדיין אחראי לאבטחה, בדיקות, סינון ותחזוקה.
- אוצר טוקנים מותאם לעברית
- אימון דו-לשוני
- כמה גדלים ומסלולי פריסה
- צורך בבקרה גם במודל פתוח
Benchmarks עבריים: מה הם בודקים ומה הם מפספסים
HeQ הוא מאגר הבנת הנקרא בעברית הכולל 30,147 זוגות של שאלות ותשובות שנבנו מוויקיפדיה בעברית ומחדשות טכנולוגיה ישראליות. החוקרים הראו שגם מדדים מקובלים כמו Exact Match ו-F1 דורשים התאמה למאפייני עברית. HeSum כולל 10,000 זוגות של כתבה וסיכום מקצועי ומשמש להערכת סיכום מופשט בעברית.
מחקר LCHAIM בחן הסקה בהקשר ארוך בעברית והציג פער משמעותי בין ביצועי מודלים לבין ביצוע אנושי. Benchmarks כאלה חשובים כי הם חושפים יכולות שלא רואים בשיחה חופשית, אבל הם אינם משקפים בהכרח מסמך ביטוח, פנייה עירונית, מצגת הנהלה או תסריט שירות. ארגון צריך להשתמש במחקר כבסיס, ואז להוסיף Benchmark מקומי מהעבודה שלו.
- HeQ - הבנת הנקרא
- HeSum - סיכום מופשט
- LCHAIM - הסקה בהקשר ארוך
- Benchmark ארגוני - שפה ומשימות מקומיות
מתי מודל עברי ייעודי עדיף ומתי מודל כללי
מודל עברי ייעודי עשוי להיות אטרקטיבי כאשר עברית היא ליבת המוצר, נדרשת פריסה מבוקרת, יש נפח גדול או שהארגון רוצה להתאים מודל לתחום. מודל כללי מתקדם עשוי להציע יכולות רחבות יותר, שימוש בכלים, עבודה רב-מודאלית ותמיכה תפעולית. אין תשובה קבועה, ולעיתים הארכיטקטורה הנכונה משלבת מודל כללי למשימות מסוימות ומודל מקומי או קטן למשימות אחרות.
הבחירה חייבת לכלול יותר מאיכות הטקסט. בודקים היכן המידע מעובד, מה נשמר, כיצד מנוהלות הרשאות, מהי עלות ההפעלה, האם קיימת תמיכה, כמה מהר מתקבלת תשובה ומה קורה בעדכון גרסה. אם המודל מחובר למסמכים, נבדקת גם איכות האחזור בעברית: האם הוא מוצא הטיה, שם, תאריך או סעיף נכון לפני שהוא מנסח תשובה.
- איכות במשימה
- פרטיות ומיקום עיבוד
- עלות והשהיה
- אחזור, הרשאות ותחזוקה
הסכנה בהשוואה דרך תרגום לאנגלית
פתרון נפוץ הוא לתרגם את השאלה לאנגלית, להפעיל מודל ואז לתרגם חזרה. לעיתים זה משפר ביצוע, אך הוא עלול לשנות משמעות, למחוק הקשר ישראלי או לעוות מונח משפטי ומקצועי. הוא גם מוסיף שלב שבו יכולה להיווצר טעות ומקשה להבין על מה נשענה התשובה.
במשימות דו-לשוניות כדאי לבדוק שלושה מסלולים: עברית ישירה, תרגום מבוקר ואנגלית כאשר המקורות עצמם באנגלית. משווים לא רק סגנון אלא עובדות, שלילה, מספרים, שמות ומסקנה. כאשר הטקסט מיועד ללקוח או להחלטה, עורך אנושי בעל היכרות עם התחום ועם עברית מקצועית צריך לאשר את הגרסה הסופית.
- בדקו עברית ישירה מול מסלול תרגום
- שמרו מונחים ושמות מקוריים
- השוו מספרים ושלילה
- דרשו אישור מקצועי בתוצאה רגישה
סקירה מדעית: טוקניזציה ואימון בשפה דלת-משאבים
דוח DictaLM 2.0 מתאר את עברית כשפה דלת-משאבים ביחס לאנגלית, לא מפני שאין בה תוכן, אלא מפני שכמות ואיכות הנתונים הזמינים לאימון, כלי העיבוד וה-Benchmarks קטנות יותר. החוקרים הרחיבו את אוצר הטוקנים של מודל הבסיס בטוקנים עבריים והשתמשו ב-embedding distillation ובהמשך אימון על עברית ואנגלית. לפי תיאור המודל, השינוי הוריד את ממוצע הטוקנים למילה בעברית מ-5.78 ל-2.76.
יעילות טוקניזציה אינה זהה לאיכות תשובה, אך היא משפיעה על עלות ועל כמות הטקסט שניתן לייצג בחלון הקשר. מילה שמתפרקת ליחידות רבות צורכת מקום רב יותר ועלולה להיות קשה יותר ללמידה. עבור ארגון שעובד עם מסמכים ארוכים בעברית, המדד המעשי הוא לא רק מספר הטוקנים אלא כמה מהמסמך נשלף, האם נשמר סדר הסעיפים והאם התשובה מצביעה למקום הנכון.
- כיסוי נתונים בעברית
- יעילות טוקניזציה
- חלון הקשר אפקטיבי
- בדיקת אחזור במסמך
מה מוסיפה משפחת Dicta-LM 3.0
הדוח הטכני של Dicta-LM 3.0 מציג מודלים פתוחי-משקל בגדלים 24B, 12B ו-1.7B. משפחה כזו מאפשרת להעריך מסלולי פריסה שונים: מודל גדול למשימה מורכבת, מודל קטן למשימה תחומה או פריסה שבה לא שולחים כל קלט לשירות חיצוני. ההחלטה תלויה גם בחומרה, רישיון, תחזוקה, אבטחה ושכבת היישום שמקיפה את המודל.
Sovereign LLM הוא מושג שימושי כאשר הוא מתאר שליטה בשפה, במשקלים, בפריסה או בנתונים, אך אין לראות בו תו איכות אוטומטי. מודל מקומי עדיין יכול להזות, לשקף הטיה או להיכשל בהוראה. ארגון צריך להפריד בין ריבונות תפעולית לבין איכות במשימה, ולבדוק את שתיהן.
- גודל ואיכות
- פריסה ושליטה
- עלות והשהיה
- בטיחות ותחזוקה
מאגרי הערכה בעברית
HeQ כולל 30,147 זוגות שאלה-תשובה מוויקיפדיה עברית ומחדשות טכנולוגיה ישראליות. המחקר מדגיש שמדדי התאמה מדויקת ו-F1 רגילים עלולים לשפוט בצורה לא הוגנת תשובות בעברית בגלל וריאציות מורפולוגיות. HeSum מוסיף 10,000 זוגות של כתבות וסיכומים שנכתבו בידי אנשי מקצוע, ומאפשר לבדוק האם מודל מייצר סיכום מופשט ולא רק מעתיק משפטים.
LCHAIM מתמקד בהסקה על הקשר ארוך בעברית. המחקר דיווח על דיוק ממוצע של 52 אחוז לאחר fine-tuning של LongHero על מערכי הנתונים שנבחנו - 35 נקודות אחוז מתחת לביצוע אנושי. אין להעביר את המספר ישירות לכל מודל או משימה, אך הוא מדגים מדוע טקסט שוטף אינו ראיה להבנה עמוקה.
- שאלות ותשובות
- סיכום
- הסקה ארוכת-הקשר
- מדדים מותאמים לעברית
איך לבנות Benchmark ארגוני הוגן
בוחרים 20 עד 40 דוגמאות שמייצגות את העבודה: מייל, מסמך, סיכום, חילוץ סעיף, מענה ללקוח או מחקר. מסירים מידע רגיש או עובדים בסביבה מאושרת. לכל משימה מגדירים תשובת ייחוס או רובריקה לפני הרצת המודלים. הערכה עיוורת, שבה הבודק אינו יודע איזה מודל הפיק כל תוצר, מצמצמת הטיית מותג.
יש למדוד עברית בארבע שכבות: משמעות - האם התוכן נכון; שפה - האם המין, המספר, התחביר והמונחים מתאימים; מקור - האם הטענה נשענת על החומר; ותפעול - זמן, עלות, השהיה ושיעור תיקון. כאשר קלט כולל עברית ואנגלית, בודקים גם שימור שמות, קוד, מספרים וכיוון טקסט.
- דוגמאות אמיתיות ומנוטרלות
- רובריקה לפני הרצה
- הערכה עיוורת
- משמעות, שפה, מקור ותפעול
מגבלות המחקר והחלטה אחראית
Benchmarks מתיישנים כאשר מודלים משתנים, ולעיתים מודל מותאם למבחן מסוים בלי להשתפר בעבודה אחרת. גם השוואה בין דוחות אינה תמיד הוגנת אם הפרומפטים, טמפרטורה, גרסאות או מדדים שונים. לכן יש לתעד את תאריך הבדיקה, גרסת המודל, הגדרות ההרצה וחומרי המקור.
החלטה טובה אינה בהכרח לבחור מנצח אחד. אפשר להגדיר Portfolios: כלי ארגוני כללי לעובדים, מודל או שירות ייעודי למסמכים בעברית ומנגנון אנושי למשימות רגישות. אחת לרבעון או לאחר עדכון מהותי מריצים מחדש מדגם קבוע ובודקים אם האיכות, העלות או הסיכון השתנו.
- גרסה ותאריך
- הגדרות הרצה
- פורטפוליו מודלים
- בדיקה חוזרת
מדריך יישומי: כך מתחילים עם בחירת מודל AI בעברית
כדי להפוך את הקריאה לפעולה, בחרו יחידה אחת ומשימה אחת. תארו כיצד היא מתבצעת היום, מי מעורב, איזה מידע נדרש ומהי תוצאה טובה. לאחר מכן נסחו השערה קטנה: כיצד בחירת מודל AI בעברית עשוי לשפר זמן, איכות, בהירות או למידה. הימנעו מיעד כללי כמו “להשתמש יותר ב-AI”; יעד שימושי מתאר התנהגות ותוצר שאפשר לראות.
בשלב הבא מומלץ לבנות Benchmark עברי עיוור ממשימות הארגון ולהשוות משמעות, שפה, מקור, עלות ותפעול. השתמשו רק בכלי ובמידע שאושרו, הגדירו קריטריונים לפני הפעלת הכלי ושמרו גרסה של התהליך הקיים. התייחסו לניסיון הראשון כאל פיילוט ללמידה. אם התוצאה חלשה, בדקו אם הבעיה נבעה מהגדרת משימה, מקור, הרשאה, תדריך, יכולת הכלי או בקרת האדם — ולא רק אם הפרומפט היה ארוך מספיק.
- משימה אחת וקהל מוגדר
- קו בסיס של זמן ואיכות
- כלי ומידע מאושרים
- קריטריונים ותיעוד
תכנית עבודה ל-30 יום
בשבוע הראשון ממפים את המשימה, אוספים שתי דוגמאות ומגדירים כללי מידע. בשבוע השני מקיימים הדרכה ותרגול מונחה, ובונים תבנית ראשונה. בשבוע השלישי המשתתפים מפעילים את השיטה בעבודה ומתעדים תוצאה, תיקון ושאלה. בשבוע הרביעי משווים לקו הבסיס, משתפים לקחים ומחליטים אם לשפר, להרחיב או לעצור.
הקצב חשוב יותר מהיקף התוכן. עדיף ניסוי קטן עם משוב מאשר קורס רחב שאין אחריו יישום. מנהל הקבוצה צריך להקצות זמן, להסיר חסם ולהבהיר שאין להסתיר טעויות. שגריר AI או מומחה מלווה מרכז שאלות חוזרות והופך אותן לחומר למידה. כך הידע שנוצר בפיילוט הופך לנכס ארגוני.
- שבוע 1 — מיפוי וקו בסיס
- שבוע 2 — הדרכה ותבנית
- שבוע 3 — יישום ומשוב
- שבוע 4 — מדידה והחלטה
שאלות ביקורת לפני שמרחיבים
לפני הרחבה שאלו האם המשתמשים יודעים להסביר מתי להשתמש ומתי לא, האם הם פותחים מקורות, מהי עלות התיקון והאם התהליך עובד גם בקלט שאינו מושלם. בדקו מי מרוויח מהשינוי, מי נושא בעומס חדש ומה קורה כאשר הכלי אינו זמין. שאלות אלה מונעות מצב שבו הדגמה מוצלחת הופכת במהירות לסטנדרט לא יציב.
לבסוף, ודאו שקיימים בעלים, מדד וקצב עדכון. AI משתנה במהירות, אך ארגון אינו יכול לשנות נורמות מדי יום. בנו עקרונות יציבים, רשימת כלים מתעדכנת וספריית תרחישים שעוברת בדיקה. הרחיבו רק כאשר אפשר לשחזר את התהליך, להדריך עובד חדש ולהסביר את ההחלטה לגורם מקצועי או ניהולי.
- אפשר להסביר ולשחזר
- המקורות וההרשאות ברורים
- עלות התיקון סבירה
- קיימים בעלים ומנגנון עדכון
להמשיך מהידע ליכולת
מה לקחת מכאן?
- עברית דורשת הערכה נפרדת ולא הנחה על בסיס אנגלית
- Benchmarks מחקריים הם נקודת פתיחה ולא תחליף למשימות ארגוניות
- מודל עברי, כללי או משולב נבחרים לפי איכות, פרטיות, עלות ותפעול
- רהיטות אינה הוכחה להבנה - בודקים מקור, משמעות ודיוק
המקורות שעליהם נשענת הסקירה
- Shmidman et al. (2024), Adapting LLMs to Hebrew: DictaLM 2.0
- Shmidman et al. (2025), Dicta-LM 3.0 Technical Report
- Cohen et al. (2023), HeQ: A Large and Diverse Hebrew Reading Comprehension Benchmark
- Paz-Argaman et al. (2024), HeSum: Abstractive Text Summarization in Hebrew
- Malul et al. (2025), LCHAIM: Long Context Reasoning in Hebrew
- Ifergan et al. (2025), Cross-lingual Knowledge Representation in LLMs
המקורות נועדו להעמקה ואינם תחליף לייעוץ משפטי, מדעי או מקצועי המותאם לארגון.
רוצים להפוך את הידע לתכנית עבודה?
המכון הישראלי לבינה מלאכותית יבנה עבורכם הרצאת בינה מלאכותית, הרצאת AI, סדנה מעשית או סדרת 3–5 מפגשים שמותאמת לאנשים, לכלים ולמשימות בארגון.
לסדנת כלי AI מובילים בעברית