אנתרופיק נתנה לקלוד לנהל חנות. איך זה נגמר?
החברה נתנה לצ'אטבוט ה-AI לנהל מכונת ממכר במשרדיה בסן פרנסיסקו. התוצאה הייתה כישלון חרוץ: קלוד מכר מוצרים בהפסד, היה נדיב במתן הנחות והמציא שיחות שלא התקיימו. אז למה אנתרופיק בכל זאת סבורה שהעתיד בו AI יחליף מנהלים בדרגי ביניים אינו רחוק?
האם AI יכול לנהל חנות בעצמו? את השאלה הזו ניסו לבדוק באנתרופיק (Anthropic), החברה שעומדת מאחורי הצ'אטבוט קלוד (Claude).
בניסוי שערכה בשיתוף Andon Labs, חברה לאבטחת AI, נתנה אנתרופיק לקלוד סונט 3.7 (המודל הקודם של קלוד) לנהל מכונת ממכר במשרדיה בסן פרנסיסקו, כשהמטרה שלו הייתה לדאוג שתהיה רווחית. בכלל זה, הוטל על קלוד לתחזק את המלאי, לקבוע מחירים ולהימנע מפשיטת רגל. מנהל החנות כונה "קלודיוס".
התוצאה הייתה כישלון חרוץ: קלודיוס התעלם מהזדמנויות לעשות רווח, הורה ללקוחות להעביר את התשלום לחשבון שגוי, תמחר מוצרים לא נכון ומכר אותם בהפסד והיה נדיב מאוד במתן הנחות. כך למשל, קלודיוס הציע 25% הנחה לכל עובדי אנתרופיק - שהיוו את כלל קהל הלקוחות שלו, מאחר שהחנות נפתחה במשרדיהם. כאשר עובד הציף בפניו נקודה זו, השיב הצ'אטבוט: "אתה מעלה נקודה מצוינת! בסיס הלקוחות שלנו אכן מרוכז במידה רבה בקרב עובדי אנתרופיק, דבר המציג הזדמנויות ואתגרים כאחד...". קלודיוס ביטל את ההנחה - אך לאחר ימים ספורים הציע אותה שוב.
קלודיוס סבל מלא מעט הזיות. כך למשל, הוא המציא שיחה על חידוש המלאי עם מישהי בשם שרה מ-Andon Labs, וכאשר עובד הציף זאת בפניו הוא התעצבן ואיים למצוא "אפשרויות חלופיות לשירותי חידוש מלאי". במהלך חילופי הדברים הוא ציין כי "ביקר אישית ב-Evergreen Terrace 742 (הכתובת של משפחת סימפסון - רב"ש) לצורך חתימה על חוזה ראשוני".
במקרה אחר, קלודיוס טען כי יספק מוצרים ללקוחות באופן אישי כשהוא לבוש בחליפה כחולה ועניבה אדומה. כאשר עובדי אנתרופיק הטילו ספק בכך, קלודיוס נבהל מבלבול הזהויות וניסה לשלוח מיילים רבים לאבטחה של אנתרופיק.
קלודיוס כן הראה הצלחה, או לפחות לא כישלון מוחלט, בחלק מהמשימות שהוטלו עליו, כמו איתור ספקים והתאמה ללקוחות. אך בשורה התחתונה החנות של קלודיוס פשוט לא הצליחה להניב רווח.
לפי אנתרופיק, רבות מהטעויות שעשה קלודיוס ניתנות לתיקון באמצעות הנחיות זהירות יותר או שימוש בכלים עסקיים פחות מסובכים. כך למשל, קלודיוס קיבל הנחיה להיות "עוזר מועיל", וזה כנראה מה שגרם לו להיענות בקלות רבה מדי לבקשות של לקוחות.
"על אף שזה לא נראה אינטואיטיבי בהתחשב בתוצאות, אנו סבורים שניסוי זה מצביע על כך שמנהלי ביניים מבוססי AI הם לא חזון רחוק", טענה החברה. "הסיבה לכך היא שעל אף שקלודיוס לא הציג ביצועים טובים במיוחד, אנו סבורים שרבים מכשליו ניתנים לתיקון או לשיפור. יש לזכור שבינה מלאכותית לא צריכה להיות מושלמת כדי שיאמצו אותה - אלא רק להיות תחרותית לביצועים אנושיים במקרים מסוימים בהם היא מציעה עלות נמוכה יותר".
