סגור
גג עמוד techtalk דסק

תפסיקו לבנות צ'אטבוטים, אתם רק מבזבזים זמן

המסע של ארגונים אל הבינה המלאכותית בשנתיים האחרונות נראה כמו אבולוציה מזורזת: התחלנו בזחילה, עברנו להליכה מהירה, ועכשיו כשמנסים לרוץ, מגלים שהנעליים לא מתאימות. זה תהליך של התפכחות שהתחיל מהתלהבות של “בואו נבנה צ’אטבוט”, להבנה שכדי לייצר ערך אמיתי צריך להפסיק לפתח תשתיות ולהתחיל לאמץ פלטפורמות. כך זה נראה בפועל, שלב אחרי שלב:

1: שלב התמימות (והדליפות)

בהתחלה העובדים גילו את הכלים הציבוריים: ChatGPT, Claude, Gemini. פתאום סיכומי פגישות, ניסוח מיילים וכתיבת מסמכים התקצרו מדקות לשניות. ההנהלה ראתה פרודוקטיביות, ואז הגיעה הסטירה של אבטחת מידע. עובדים העתיקו בתום לב נתונים רגישים, קוד קנייני ומידע לקוחות לכלים ציבוריים, והארגונים הגיבו מהר באמצעות חסימות, מדיניות, רישיונות בסיסיים. אבל מהר מאוד היה ברור שצריך פתרון ארגוני אמיתי, לא פלסטר.

2: מלכודת ה-RAG

הבעיה הבאה הופיעה מיד: מודל ציבורי יכול להיות חכם בעולם, אבל טיפש בארגון. הוא לא מכיר נהלים פנימיים, נתוני מכירות עדכניים או קונטקסט מוצרי, וכאן נכנס ה- RAG לתמונה. צוותי פיתוח הקימו Vector DBs, אינדקסו מסמכים, ובנו צ’אט פנימי שיודע לשלוף מידע מהידע הארגוני. על הנייר זו הייתה הצלחה. בפועל, זו הייתה מערכת פסיבית שיודעת לענות, אבל לא יודעת לבצע. קיבלנו מנוע חיפוש משוכלל, לא מנוע עבודה.

3: קיר ה-UX והתסכול

בשלב הזה מגיעה נקודת השבירה שכמעט לא מדברים עליה: חוויית המשתמש. גם כשיש צוות פיתוח מצוין, הממשק הפנימי לרוב מרגיש כמו מערכת ארגונית מיושנת לעומת החוויה החלקה, המהירה והאינטואיטיבית של הכלים הצרכניים. העובדים הצביעו ברגליים וחזרו לכלים חיצוניים, הנחשבים לנוחים יותר, מהירים יותר, וכוללים יכולות כמו קול, תמונה ומובייל- דברים שהפיתוח הפנימי מתקשה להדביק. מצאנו את עצמנו מפתחים קורקינט, בזמן שבחוץ מחלקים מכוניות ספורט.

4: המעבר ל-Agents והמחיר האמיתי

ואז הגיעה ההבנה: צ’אט פסיבי לא מספיק. צריך סוכנים שיודעים לבצע פעולות: לתזמן פגישה, לפתוח טיקט ב-Jira, לעדכן CRM, לייצר זרימות עבודה חכמות. אבל כאן נחשפת העלות האמיתית של הבחירה לבנות מערכת פנימית לבד. מדובר לא רק במודל, אלא במוצר מלא, שכולל אינטגרציות, הרשאות, ניטור, טיפול בהזיות, תחזוקה שוטפת, ושכבת Governance רציפה. זה כבר לא פרויקט צדדי, זה צוות מוצר ותפעול לכל דבר.

5: לחשוב בגדול: Platform-First

בשלב הזה גם השוק עצמו עשה סוויץ’. הוונדורים הגדולים הבינו שהארגונים לא מחפשים עוד צ’אט, הם מחפשים פלטפורמה מלאה. לא עוד חלון שיחה חכם, אלא שכבה ארגונית שמחברת בין מודלים, נתונים, מערכות ותהליכים עסקיים, עם אבטחה, שליטה וסקייל. זו בדיוק הסיבה שהכיוון המוביל היום הוא פתרונות כמו Gemini Enterprise ו-Frontier (שהושק לאחרונה) שפותרות את הכאבים המרכזיים בבת אחת:
המעבר לפלטפורמה פותר את הכאבים המרכזיים בבת אחת:
● UX/UI ברמה צרכנית: ממשק מוכר ואיכותי בדסקטופ ובמובייל, בלי לפתח מאפס.
● Connectors ו-Grounding מובנים: חיבור מאובטח ומהיר ל-Drive, מייל, מערכות ארגוניות וידע פנימי.
● סוכנים מותאמים אישית (Gems/Agents):
○ פלטפורמות כמו ג'מיני אנטרפרייז מאפשרות ליצור "מומחים" ואוטומציות ללא כתיבת שורה אחת של קוד.
○ הרחבת יכולות: מעבר ל-Gems הבסיסיים, ניתן לחבר סוכנים מותאמים אישית (Custom Agents) שנבנו על ידי המפתחים לתוך הממשק הקיים. כך מרוויחים פעמיים: גם יכולות מורכבות ספציפיות לארגון, וגם שימוש בממשק המוכר והנוח ובמעטפת האבטחה של הפלטפורמה, ללא צורך בבניית UI נפרד.
● אבטחה: היתרון הקריטי ביותר. המידע לא מאמן את המודל הציבורי, והכל עטוף בתקני האבטחה המחמירים של הארגון (SSO, הרשאות גישה וכו').
● Value for Money: במקום לשלם בתחזוקה אינסופית של תשתית, משקיעים בפיתוח הלוגיקה העסקית שמבדלת את הארגון.

אל תבנו מנוע, תנהגו ברכב

השאלה שכל CIO ומנהל פיתוח צריכים לשאול היום פשוטה: האם בניית תשתית צ’אט היא באמת הליבה העסקית שלנו? אם התשובה היא לא, אין היגיון להמשיך להילחם בטחנות רוח. העתיד שייך לארגונים שמאמצים פלטפורמות, מרחיבים אותן בסוכנים מותאמים לצרכים עסקיים, ומביאים לשוק תוצאה, בצורה מהירה, מאובטחת, ובסקייל. במקום להשקיע משאבים בלגרום לצ’אט לעבוד, תשקיעו בלגרום לו לעבוד בשביל הארגון.
אסף עמרן הוא CTO בחברת Sela, ספקית שירותי ענן ו-AI