כשה-AI ממציא עדים: מה קרה בפועל
עורך דין שהגיש לבית משפט מסמכים משפטיים המבוססים על פלט של ChatGPT נתקל בתוצאה חמורה: המסמכים כללו עדויות ושמות של עדים שמעולם לא היו קיימים. בית המשפט גילה את הזיוף, והעורך דין ספג עונש משמעתי. מקרה זה אינו חד-פעמי, אלא חלק ממגמה שמתועדת בשנים האחרונות בבתי משפט ברחבי העולם.
מדוע מודלי שפה גדולים מייצרים מידע שגוי
מודלים כמו ChatGPT תוכננו לייצר טקסט שנשמע סביר ומשכנע, לא טקסט שהוא נכון בהכרח. התופעה מוכרת בשם הזיה (Hallucination): המודל ממלא פערים במידע עם ניחושים שנראים אמינים מבחינה לשונית אך חסרי כל ביסוס עובדתי. בהקשר משפטי, שם הדיוק הוא קריטי, התוצאות יכולות להיות הרסניות.
מניסיון R.A.S Group בהטמעת מערכות מבוססות AI בארגונים, הבעיה אינה ב-AI עצמו אלא בהיעדר שכבת בקרה ואימות בתהליך העבודה. כלי AI אינם תחליף לשיפוט מקצועי, אלא כלי עזר שחייב לפעול בתוך מסגרת מוגדרת של בדיקות נגדיות.
מה מבחין שימוש אחראי ב-AI משימוש רשלני
- אימות מקורות: כל פלט של מודל שפה חייב להיות מאומת מול מקורות ראשוניים, ללא יוצא מן הכלל.
- הגדרת תחום השימוש: AI מתאים לניסוח, לסיכום ולחיפוש דפוסים, לא להצגת עובדות משפטיות כמוצגות.
- אחריות מקצועית: השימוש בכלי AI אינו מעביר את האחריות לכלי. העורך דין, הרופא, המהנדס, הם שנושאים באחריות המלאה.
- הכשרה ותהליך: ארגונים שמאמצים AI ללא תהליכי הכשרה ונהלים ברורים חושפים את עצמם לסיכונים תפעוליים ומשפטיים.
ההשלכות הרגולטוריות והמוסדיות
בעקבות מקרים מסוג זה, בתי משפט ורגולטורים בתחומים שונים החלו לדרוש הצהרות מפורשות בדבר השימוש ב-AI בהכנת מסמכים מקצועיים. חלק מהמוסדות גיבשו נהלים ברורים שמחייבים אימות ידני של כל תוכן שנוצר בסיוע מודלי שפה.
עבור ארגונים שמטמיעים AI בתהליכים רגישים, כגון משפט, בריאות, פיננסים או תשתיות קריטיות, הגישה הנכונה היא בניית מערכת שבה ה-AI הוא שכבה אחת בתוך תהליך מבוקר, ולא נקודת הקצה. R.A.S Group בונה מערכות ליבה מותאמות שמשלבות כלי AI עם שכבות אימות, רישום פעולות וניהול הרשאות, כדי שהיתרונות של הטכנולוגיה לא יהפכו לחשיפה.