NextGen Banking
"אנו בדרך למערכות AI מורכבות ואמינות"
פרופ' יואב שוהם, מייסד ומנכ"ל משותף AI21 Labs על שיפור האמינות של AI: "יש מעבר משימוש במודל שפה כחזות הכל לשימוש במערכת AI מורכבת, שבה מודלי השפה חשובים, אבל הם לא בלעדיים"
"היכן עומד כיום AI בתחום הארגוני? אין ספק שבקרב צרכנים ChatGPT ודומיו מאוד נפוצים. זה לא המצב בתחום הארגוני, והסיבה לכך היא בעיה של מהימנות. כאשר אתה שואל את ChatGPT שאלה, באחוז גדול מהזמן יגיעו תשובות מופלאות, אבל לפעמים יתקבלו תשובות שהן שטות. זה בסדר אם מדובר בהגשה של שיעורי בית לא נכונים, אבל זה לא בסדר אם מדובר בהגשה של דו"חות כספיים או מתן דיאגנוזה רפואית". כך אמר פרופ' יואב שוהם, מייסד משותף ומנכ"ל משותף AI21 Labs.
לדבריו, "הבעיה חמורה יותר כאשר התהליך הוא יותר מקריאה אחת של מודל שפה. למשל, כאן מדובר על תרחיש טיפוסי של מה שנקרא RAG, או retrieval augmented generation. כשניגשים למאגר מידע, מחלצים ממנו מידע שהוא בתקווה רלבנטי – ועל בסיס זה נותנים תשובה. בכל אחד מהשלבים יש סיכוי לטעות. וכשמכפילים את הסיכויים האלה יש הידרדרות גדולה באמינות. זה נהיה עוד יותר גרוע כאשר מדברים על מערכות מבוססות AI, שעושות תהליכים מורכבים בארגון. וככל שמספר השלבים גדל, הדיוק הולך וקטן".
האם הבעיה פתירה? לפי שוהם, "יש מעבר משימוש במודל שפה כחזות הכל לשימוש במערכת AI מורכבת, שבה מודלי השפה חשובים, אבל הם לא חזות הכל. במודלים החדשים יש הרבה כלים: מסדי נתונים, מחשבון, API וגם מודלי שפה. לדבריו, "כיום כאשר מכניסים למערכות AI את ה־Input הנכון, יש דרישות רבות לתיאור המשימה, ואנו רוצים לבדוק כמה מהן נענו בצורה נכונה. אנו רואים כיצד אם עוטפים את מודל השפה במערכת AI יש קפיצה משמעותית של המידה שבה עוקבים באמת אחר ההוראות. מערכות פשוטות נהיות כמעט מושלמות. לשם אנו הולכים, למערכות AI מורכבות ואמינות שיאפשרו לארגונים להטמיע AI".
