כשסוכני AI נכשלים (ומה לעשות)

דפוס כשל 1: עובדות מומצאות

המודל ממציא פרט שנראה ספציפי (מספר טופס, סף מס, פסק דין, ציטוט מתקנה) שנשמע סביר אבל פשוט לא קיים. זה דפוס הכשל הכי מסוכן כי הוא בלתי נראה. העובדה המומצאת משתלבת חלק בתוך פרוזה אחרת שנכונה.

דוגמאות קונקרטיות שהופיעו בפלט AI אמיתי אצל משתמשים ישראלים: מספרי טפסים של ביטוח לאומי מומצאים, מדרגות מס שגויות שהמודל טוען בביטחון, מספרי הצעות חוק מומצאים של הכנסת, ומספרי סעיפים מוזזים־ב־1 בציטוט חוקים ישראליים (המודל מחליף סעיף אמיתי במספר שלא קיים, בלי שום סימן של חוסר ודאות).

איך לתפוס: כל פעם שהסוכן מצטט מספר ספציפי, שם, תקנה או סף, תתייחסו לזה כאל לא־מאומת. פרוטוקול האימות בהמשך הפרק חל כאן.

דפוס כשל 2: cutoff אימון (נתונים מיושנים)

נתוני האימון של המודל נגמרים בנקודה מסוימת בעבר. לכל דבר שהשתנה מאז (חוקים, מחירים, תשואות קרנות, אירועים פוליטיים, השקות מוצרים), המודל או יצהיר בביטחון על הערך הישן או יתחמק בעמימות. נתונים רגולטוריים ישראליים משתנים כל הזמן. זו בעיה כמעט קבועה.

איך לתפוס: תשאלו את הסוכן ישירות ("מאיזו שנה אתה בטוח שהמספר הזה?"). אם הוא לא יכול לתת לכם שנה ספציפית עדכנית (2025 או 2026), הערך חשוד.

דפוס כשל 3: חסר ההקשר הספציפי שלכם

המודל נותן תשובה שנכונה בכלליות אבל שגויה למצב הספציפי שלכם. "שיעור פיצויי הפיטורים הסטנדרטי הוא..." נכון לרוב המקרים ולא נכון אם העובד תחת הסדר סעיף 14 לחוק פיצויי פיטורים (שמחליף תשלומי פיצויים בסוף יחסי עובד־מעביד בהפקדות שוטפות של המעסיק, ומשנה את החישוב לחלוטין). נכונות כללית עם שגיאה ספציפית היא אחת התופעות הכי נפוצות של AI.

איך לתפוס: תספרו לסוכן את הספציפיות של המצב שלכם במפורש, אפילו פרטים שאתם חושבים שלא רלוונטיים. ואז תשאלו "האם משהו במצב שלי משנה את התשובה הסטנדרטית?"

דפוס כשל 4: בלי מקורות

הסוכן מפיק תשובה בעלת סמכות עם אפס ציטוטים. אתם לא יכולים לאמת אותה. אתם לא יכולים להגן עליה אם יערערו עליה. זה בסדר למשימות בסיכון נמוך (ניסוח אימייל מזדמן) ומסוכן למשימות בסיכון גבוה (עמדת מס, טיעון משפטי, החלטה רפואית).

איך לתפוס: תשאלו "מה המקור שלך לזה?". אם הסוכן לא יכול להפנות לדף gov.il ספציפי, חוק, או מסמך סמכותי, תתייחסו לתשובה כנקודת התחלה למחקר שלכם, לא כתשובה גמורה.

דפוס כשל 5: פלט עברית מוזר או מעוות

פלט עברית שנשמע כמו תרגום, משתמש בסדר מילים יוצא דופן, או עושה שגיאות דקדוק בעברית (אי־הסכמת מין, צורות רבים שגויות, ניסוחים שמתורגמים מילולית מאנגלית). זה כשל בסגנון ובניסוח, לא כשל עובדתי, אבל הוא פוגע באמינות שלכם כשהפלט יוצא תחת השם שלכם.

איך לתפוס: תקראו את העברית בקול. עברית שנכתבה על ידי AI לרוב נשמעת "כמעט נכון". קורא עברית טבעי מזהה את זה בשניות. אם משהו נשמע לכם לא בסדר, תבקשו מהסוכן לנסח מחדש בעברית ישראלית טבעית, ואז תקראו שוב בקול.

הפרוטוקול לאימות לפני שסומכים

תריצו את הפרוטוקול הזה על כל פלט AI שאתם מתכננים לפעול לפיו:

1. תבדקו לפחות טענה אחת ספציפית. תבחרו מספר, תקנה, שם. תפתחו את המקור הראשי (gov.il, כל זכות, דף משרד רשמי). תאמתו שהטענה של הסוכן תואמת. אם לא, כל הפלט חשוד.
2. תבקשו מהסוכן לאתגר את עצמו. "מה הטענה הכי חלשה במה שזה עתה אמרת?" לעיתים קרובות הסוכן יזכיר בדיוק את הדבר שלא צריך לסמוך עליו.
3. תצליבו בין שתי פלטפורמות. אם Claude ו־ChatGPT מפיקים את אותה תשובה, הביטחון שלכם עולה מעט בלבד (מודלים חזיתיים חולקים נתוני אימון, ולכן הסכמה ביניהם היא ראיה חלשה). אימות מול מקור ראשי (gov.il, כל זכות, דפי משרדים רשמיים) הוא הראיה החזקה היחידה. אם הם לא מסכימים, תחפרו לעומק.
4. תקראו בקול (בעברית במיוחד). השמיעה תופסת ניסוחים שלא נשמעים טבעיים, מה שלא תמיד קופץ לעין כשקוראים בשקט.
5. תנו לאמון שלכם תאריך תפוגה. פלטי AI על "שיעורים נוכחיים", "השנה", "לאחרונה" מתיישנים מהר. אם הפלט בן יותר משבוע, תאמתו אותו שוב לפני שאתם מסתמכים עליו.

מתי להעביר לבן אדם

הכלל של "זה לא ייעוץ", במשפט אחד: אם טעות כאן תעלה לכם בכסף רציני, בצרות משפטיות, בהשלכות בריאותיות או בקנס רגולטורי, אל תסמכו על סוכן AI לבד. תרימו טלפון לאיש מקצוע מורשה.

טריגרים קונקרטיים להעברה:

• כל עמדת מס שאתם לא בטוחים בה ב־100 אחוז (גם סכומים קטנים מצטברים דרך קנסות וריבית) → רואה חשבון או יועץ מס
• מסמכים משפטיים שייחתמו על ידי צד כלשהו → עורך דין
• שאלות רפואיות מעבר לחיפוש מידע → רופא
• החלטות פנסיה והשקעות → יועץ פנסיוני מורשה
• כל דבר פלילי, שנוי במחלוקת או רגולטורי → איש מקצוע בתחום הספציפי

סוכני AI מצוינים בלהכין אתכם לשיחות האלה (לארגן את השאלה, לנסח מסמכים ראשונים, לסכם אופציות). הם לא תחליף לשיחות עצמן.

הטעות הנפוצה בפרק 5: לסמוך על תשובה ראשונה של AI כי היא נשמעת בטוחה. סוכני AI מאומנים להישמע בטוחים גם כשהם טועים. תבנו את הרגל האימות. זו המיומנות עם התשואה הגבוהה ביותר בכל הקורס הזה.