סגור
באנר דסקטופ כלכליסט טק
קלוד Claude של אנתרופיק
קלוד (צילום: Gabby Jones/Bloomberg)

עידן הפרומפטים הארוכים נגמר? האיש שמאחורי קלוד קוד מסביר איך לדבר עם AI

האם כדי להוציא מה-AI תשובה טובה צריך לנסח פרומפט מורכב ומסובך? בוריס צ'רני, האיש שפיתח את קלוד קוד, טוען שאפשר פשוט להסביר מה רוצים, לתת למודל קצת חופש - ולדבר איתו כמו עם קולגה

אם התרגלתם לנסח עבור ChatGPT או קלוד פרומפטים ארוכים עם תפקיד מוגדר, רשימת הוראות, שלבים, מגבלות, דוגמות וכללים מפורטים - ייתכן שלפחות לפי אחד האנשים שמכירים את המודלים האלה מקרוב, אתם עובדים קשה מדי.
בוריס צ'רני, האיש שפיתח את קלוד קוד, פרסם השבוע פוסט ב-X שבו הציע גישה הרבה יותר פשוטה לעבודה עם AI: "דברו עם קלוד כפי שהייתם מדברים עם עמית לעבודה". לדבריו, ברוב המשימות כבר אין צורך לבנות עבור המודל מסגרת מפורטת או להכתיב לו במדויק כיצד לבצע כל שלב.
לדבריו, השינוי נובע מהשתפרות המודלים. בתקופת Claude Sonnet 3.5, כתב צ'רני, לניסוח המדויק של הפרומפט הייתה חשיבות גדולה בהרבה. כיום, לטענתו, במקום להשקיע זמן בניסיון למצוא את "מילות הקסם", חשוב בעיקר להעביר למודל שלושה דברים: מה בדיוק רוצים שהוא יעשה; כמה מאמץ רוצים שהוא ישקיע במשימה; ואיך הוא אמור לוודא שהתוצאה שהגיע אליה נכונה.
הפוסט של צ'רני נכתב בעקבות תגובות מופתעות שקיבל לאחר ששיתף פרומפט שבו השתמש בעצמו. צ'רני ביקש מקלוד לבנות אתר אינטראקטיבי על בסיס תוכן שסיפק לו, כך שיציג את הסיפור ואת התובנות המרכזיות בצורה חזותית ומושכת. במקום לפרק את המשימה לעשרות הוראות מפורטות, הוא הסתפק בהנחיות כלליות יחסית, הגדיר למודל כמה מאמץ להשקיע והשאיר לו חופש לקבל חלק מההחלטות בעצמו.
הגישה הזו הפוכה במידה רבה מתרבות "הנדסת הפרומפטים" (Prompt Engineer) שהתפתחה בתחילת עידן ה-GenAI. משתמשים אספו תבניות, פקודות וטכניקות שאמורות היו לגרום למודל להפיק תשובות טובות יותר, ולעיתים בנו פרומפטים באורך של מאות ואף אלפי מילים.
עם זאת, רבים מהמגיבים של צ'רני עקצו אותו על כך שהכניס בפרומפט שלו את ההוראה "השתמש בהרבה טוקנים". משתמש אחד כתב: "מצחיק לכתוב 'השתמש בהרבה טוקנים' כשיש לך שימוש בלתי מוגבל". מאחורי ההומור מסתתרת גם ביקורת אמיתית: קל יותר להסתפק בפרומפט קצר וכללי כשאפשר פשוט לתת למודל להמשיך לעבוד, לנסות שוב ולבזבז עוד טוקנים עד שהוא מגיע לתוצאה טובה. עבור משתמשים רגילים, לעומת זאת, פרומפט קצת יותר מפורט יכול דווקא לחסוך סיבובים מיותרים - וגם לא מעט טוקנים.
חשוב להדגיש כי העצה של צ'רני אין משמעותה "לכתוב פחות" בכל מצב. שלושת הכללים שהוא עצמו מציע עדיין דורשים מהמשתמש להגדיר היטב את המטרה - ובמיוחד לתת למודל דרך לוודא שעשה את העבודה כראוי. במשימת תכנות זו יכולה להיות הרצת בדיקות; במשימות אחרות זו יכולה להיות בדיקת מקורות, השוואה לנתונים או בחינה של התוצאה מול קריטריונים שהוגדרו מראש.