ועידת לונדון
"סוכני AI אינם אמינים בביצוע משימות תכנות"
גיא פודחרני, מייסד ומנכ"ל Tessl, בוועידת Mind the Tech – London: "בתוך שנתיים 25% מהכשלים במוצרים יהיו תוצאה של קוד שנוצר AI. אנחנו ניצור קוד מהר יותר, אבל נעסוק כל הזמן בבחינה של הקוד הזה"
"סוכני AI אינם אמינים בביצוע משימות תכנות, אבל המוצר שאנחנו חושפים היום מאפשר להתמודד עם האתגר הזה באמצעות פיתוח שמאפשר להם להבין את כוונות המשתמש" – כך אמר גיא פודחרני, מייסד ומנכ"ל טסל (Tessl), בוועידת Mind the Tech – London של כלכליסט ובנק לאומי, שנערכת היום (ג').
"כשמדברים על בינה מלאכותית (AI), הרבה עוסקים באיך היא תשנה את העבודה כיום, תהפוך אותה ליעילה יותר ותגדיל את התפוקה", אמר פודחרני. "אבל ההזדמנות האמיתית היא מה קורה שהתרגלנו כבר למציאות של AI, איך סוחטים את המירב מהטכנולוגיה הזו. שם נמצא הפוטנציאל הגדול. בטסל, אנחנו שואלים את זה על פיתוח תוכנה: איך יראה פיתוח תוכנה ילידי ב-AI, כשיש הפנמה של היכולות של הטכנולוגיה? התשובה הטבעיות היא לחשוב על האבולוציה של AI ומערכות פיתוח קוד, החל מקופיילוט של מיקרוסופט שמלווה מפתח, למערכות מבוססות סוכני AI אוטונומיים. מדובר בסוכנים שיכולים לבצע בעצמם מטלות מלאות.
"התפיסה המקובלת היא שתכנות מבוסס סוכנים נמצא כאן כדי להישאר, וזה נכון. סוכנים הם אמיתיים אבל לא אמינים. הם מתפזרים לכל מיני כיוונים, לא תמיד יודעים מה הם עושים, הם הוזים, טוענים שיכולים לעשות דברים שהם לא יכולים, וממהרים להתחיל לכתוב קוד בלי להתעמק במה צריך ומה ניתן לבצע. לפי הערכות, בתוך שנתיים 25% מהכשלים במוצרים יהיו תוצאה של קוד שנוצר AI. אנחנו ניצור קוד מהר יותר, אבל נעסוק כל הזמן בבחינה של הקוד הזה.
"סוכני AI ישתפרו, אבל אנחנו לא מכינים אותם להצלחה. אנחנו נותנים להם פרומפט קצר ומצפים שיקראו את מהחשבות שלנו. יכול להיות שנבקש מהם מהם לבנות חנות, יש הרבה דרכים לבנות חנות. והם גם לא זוכרים את מה שעשו בעבר ולא שומרים על עקביות. בטסל אנחנו מבפקשים לפתור את זה באמצעות פיתוח מבוסס מפרטים. זה המוצר שלנו, שאנחנו משיקים היום בגרסת בטא. אנחנו רוצים לשנות את ההתנהגות של הסוכנים כך שהם יבינו את הכוונה לפני שהם מתחיילם לתכנת. המפרטים שלנו הן פשוטים וברורים לסוכנים, שקופים כלפי בני אדם ומייצרים מנגנוני הגנה נגד שגיאות נפוצות של סוכני AI.
"אנשים רוצים סיפוק מיידי, לא רוצים להכין מפרטים. וזה בסדר, אפשר לבקש מ-AI ליצור מפרט ואז לתכנת. ככה אם משהו משתבש אפשר לחזור לאחור, להבין מה קרה ולפתור בעיות מהר יותר. זה מאפשר לתפוס בצורה טובה את הכוונוות. בטווח הארוך המפרט מאפשר הזנקת קנה המידה של הפעילות והתכנות. הוא מספק הגדרות ארוכות טווח למה המוצר עושה, ומשנה את המיקוד מקוד למפרט וכוונות. הטכנולוגיה הזו מאפשרת לשמר סוכנים בכיוון הנכון באמצעות מתן ההקשר שהם זקוקים לו ומניעת סטייה שלהם מכוונות המשתמש".
