"מערכות AI יכולות לטעות באופן משכנע, השיח חייב לעבור לאיכות הנתונים"
אין ארגון שלא משתמש ב-AI אבל כדי להפוך אותו לבעל ערך עסקי אמיתי, נדרש שינוי גישה: טיפול בנתונים של בסיסם המודלים עובדים, התייחסות לתשתיות המחשוב וגיבוש מדיניות שימוש סדורה
הבינה המלאכותית בעולם העסקי כבר אינה טרנד או כלי ניסיוני, אלא חלק בלתי נפרד מהאופן שבו ארגונים עובדים, מקבלים החלטות ומנהלים תהליכים. אלא שכדי לממש את הפוטנציאל האמיתי שלה, לא מספיק להטמיע עוד כלי או לאפשר לעובדים להשתמש בכלי כזה או אחר. השלב הבא מחייב שינוי תפיסתי: מעבר משימוש נקודתי ב-AI כגימיק או כמסייע אישי, לשילוב שלה כחלק אינטגרלי מתהליכי הליבה של הארגון. המשמעות היא עבודה עם נתונים איכותיים, יצירת מנגנוני בקרה, חיבור למערכות הארגוניות והגדרת כללי עבודה ברורים. רק כך ניתן לעבור מהתלהבות ראשונית ליצירת ערך עסקי אמיתי, כזה שאפשר לסמוך עליו גם בקבלת החלטות קריטיות.
לדברי טלאור ינאי, סמנכ"לית הכספים בדן אנד ברדסטריט, הפוקוס בנוגע לשימוש בבינה מלאכותית חייב להיות סביב הנתונים עצמם. "הסיכון במערכות AI הוא שהן עלולות לטעות באופן משכנע. מודלי שפה יודעים לנסח תשובות ברורות, בטוחות ורהוטות גם כאשר המידע שעליו הן מבוססות חלקי, מיושן או פשוט שגוי. כאשר אותה תשובה נשארת בגבולות מסמך או מצגת, הנזק מוגבל. כאשר היא הופכת להמלצה על מתן אשראי, על התקשרות עם ספק או על החלטה פיננסית, המשמעות כבר שונה לחלוטין.
זו הסיבה שהשיח סביב AI חייב לעבור מהמודל אל הדאטה. בסופו של דבר, רוב הארגונים יעבדו עם אותן טכנולוגיות. הפער ביניהם לא ייווצר משום שלאחד יש מודל מתקדם יותר, אלא משום שלאחד יש מידע עסקי איכותי יותר. מידע שיודע לזהות באופן חד משמעי את הישות העסקית, למפות קשרי בעלות, להצביע על אינדיקטורים של סיכון וציות, ולהציג את ההקשר המלא שבו מתקבלת ההחלטה. רק מידע כזה מאפשר לבינה מלאכותית לא רק לענות על שאלה, אלא גם להמליץ על פעולה שניתן לעמוד מאחוריה. לכן, השאלה שכל הנהלה צריכה לבחון היא על איזה דאטה המודל התבסס, האם הנתונים מאומתים, כיצד התקבלה החלטה מסוימת ואיזו בקרה הופעלה".
"ארגונים פחות מדברים על תשתיות"
יניב שכטר, מנכ"ל ומייסד partiri, העוסקת בתחום תשתיות המחשוב ולאחרונה השתתפו בתוכנית MamramLIFT (אינקובטור ליזמים משרתי מילואים) של BDO ועמותת בוגרי ממרם, מפנה את הזרקור באופן מתבקש למשאבי המחשוב. "אחד האתגרים שפחות מדברים עליהם באימוץ AI בארגונים הוא אתגר התשתיות, ובפרט ניהול משאבי מחשוב. ככל שמערכות AI הופכות מורכבות יותר, הן נדרשות לעבד כמויות גדולות יותר של מידע ולשמור הקשרים לאורך זמן. האתגר הוא שלא ניתן לחזות מראש את דרישות משאבי המחשוב של כל משימה, ולכן ארגונים רבים מתכננים את התשתיות שלהם לפי תרחישי קיצון. לדוגמה, מערכת AI עשויה להתחיל תהליך עבודה עם דרישות משאבי מחשוב מסוימות, אך להזדקק למשאבים נוספים בהתאם לכמות המידע ולמורכבות המשימה. כתוצאה מכך, ארגונים מקצים מראש יותר משאבים מהנדרש ברוב הזמן והעלות נשארת גבוהה. כדי להתמודד עם האתגר הזה, צריך לשנות את הדרך שבה מנהלים את משאבי המחשוב. במקום להקצות משאב קבוע לפי שרת, נכון להתייחס אליו בצורה דינמית שמוקצית לפי הצורך בזמן אמת ומשתחרר כשהמשימה מסתיימת. הגישה הזו מאפשרת לנצל טוב יותר את התשתיות הקיימות, להפחית עלויות ולהרחיב את השימוש ב-AI בארגון. בסופו של דבר, היכולת של ארגונים להפיק ערך אמיתי מבינה מלאכותית לא תיקבע רק לפי איכות המודלים, אלא גם לפי היכולת להפעיל אותם בצורה יעילה, גמישה וחסכונית".
"מדיניות לא יכולה להישאר כמסמך כללי"
עו"ד ורד זליכה, שותפה וראשת תחום סייבר ו- AI במשרד ליפא ושות' מסבירה כי "אחד הפערים שרואים בקרב ארגונים הוא אימוץ מדיניות של AI First, Governance Later - כלומר, אימוץ מהיר של כלים לפני שהארגון הגדיר אחריות, תהליכי אישור, כללי שימוש ובקרות. גישה כזו עלולה ליצור פער בין קצב האימוץ הטכנולוגי לבין היכולת להבין ולנהל את הסיכונים שנוצרים בפועל.
למעשה, ארגונים רבים ממהרים להתנסות בכלים חדשים, אך לא תמיד מגדירים מראש מהם הצרכים העסקיים, מי מוסמך לאשר שימוש, אילו סוגי מידע מותר להזין לכלי AI, ומהם מנגנוני הבקרה. לכן, לצד ההזדמנות העסקית המשמעותית, חשוב לבנות אסטרטגיה ומדיניות ארגונית שיסדירו את תהליכי הבחינה והקליטה בארגון לאימוץ כלי AI חדשים, כללי השימוש, חלוקת האחריות בארגון, ומנגנוני הבקרה. תהליך כזה צריך להיעשות בשיתוף צוותים חוצי-ארגון מהביזנס, הטכנולוגיה, אבטחת מידע, פרטיות וייעוץ משפטי. בניהול הסיכונים, חשוב להתייחס בין היתר, לסיכוני פרטיות, אבטחת מידע וציות לרגולציה; שימוש לא מבוקר של עובדים בכלים לא מאושרים ("Shadow AI"); סוגיות של קנין רוחני; הטיות; הזיות ואיכות התוצר; וכן אתגרי שקיפות, הסברתיות והיכולת להבין כיצד התקבלה החלטה".
לדבריה, "לארגונים מסוימים, גישה מדורגת וממוקדת עשויה להיות אפקטיבית יותר: לבחור תחילה מספר מקרי שימוש בעלי ערך עסקי ברור ולצידם כלי AI מותאמים, ורק לאחר שנבדקה התאמתם של הכלים לעומק – לבחון שילוב כלים נוספים. גישה כזו תאפשר ככל הנראה, להבין בצורה טובה יותר כיצד המידע מעובד, היכן הוא נשמר ומהם תנאי השימוש, ואף לצמצם סיכונים (לדוגמא: בחירת סביבה טכנולוגית מאובטחת, הערכה מבוססת לגבי דיוק ומהימנות הכלי, הגדרת בקרות מתאימות וכו')".
עוד מציינת עו"ד ורד זליכה כי "מדיניות ארגונית אפקטיבית לא יכולה להישאר מסמך כללי. היא צריכה להתחבר לתהליכי עבודה קיימים בארגון בתחומי רכש, ניהול סיכונים, אבטחת מידע, פרטיות, הדרכות עובדים ובקרת הנהלה. במסגרת זו יש לערוך מיפוי מקרי השימוש בארגון בכלי AI ולהבדיל בין שימושים שמשפיעים על לקוחות לבין שימושים פנימיים, לנהל מנגנון אישור ובחינה של כלים ויוזמות, להגדיר מדיניות שימוש ברורה וקונקרטית לכל מקרה, ובכלל זאת - מתי נדרשת מעורבות אנושית לקבלת החלטות, ומהם כללי השקיפות וההסתמכות המתאימים. ברמת המימשל התאגידי, נדרשת מעורבות של ההנהלה והדירקטוריון, לצד ליווי שוטף של הייעוץ המשפטי ובעלי התפקידים הרלוונטיים, בארגון וכן הכשרה סדורה של העובדים על מנת להבטיח יישום ואכיפה".
