"הסיכון והאינטרס יכולים להתקיים יחד": מה מסתתר מאחורי האמירות של בכירי ה-AI?
ראשי חברות ה-AI המובילות הזהירו לאחרונה מפני מירוץ מהיר מדי בפיתוח וביכולות של בינה מלאכותית. האם מדובר בקריאה אמיתית לשינוי או שמא תרגיל יחצ"ני שנועד לשרת מהלך עסקי?
גל ההתבטאויות האחרונות של בכירי ענף ה-AI תפס את ענף הטכנולוגיה לא מוכן. בזמן ששוק העבודה משתנה לחלוטין על רקע כניסה של כלי בינה מלאכותית, ארגונים נמצאים במירוץ הטמעה ובנייה מחודשת של תהליכי עבודה ואין אדם שלא מתייעץ עם הצ'אט, דווקא ראשי החברות המובילות בתחום, בחרו לחשב מסלול מחדש. על פי אותם פרסומים שהחלו בסוף השבוע ונמשכו גם לאורך השבוע הנוכחי, נדרש לבחון מחדש את קצב הפיתוח של ה-AI וזאת לנוכח אפשרות השימוש בו ייצר נזק גדול יותר ואף יוביל לנזק חסר תקדים לאנושות.
אלא שבמקביל עלו טענות אחרות, שלפיהן הדאגה שלכאורה משתמעת מדברי הבכירים לא בהכרח כנה במיוחד. למעשה, ולפי פרסומים, מדובר בצעד שנועד לספק הזדמנות לחברות "לרדת מהעץ" ומהערכות שווי מנופחות במיוחד. בדומה, יש מי שרואים בזה תרגיל יחצ"ני שנועד לשרת צרכים עסקיים כמו הנפקות או מהלכים אחרים. אז האם באמת מדובר בנקודת מפנה או רק בהצהרה אחת מני רבות שלא כדאי לייחס לה חשיבות?
לדברי יוסי הרשקו, סמנכ"ל הטכנולוגיות של קבוצת דן אנד ברדסטריט, מדובר בשילוב של שני הגורמים. "כולם מזהירים. מי מוכן לשלם על הזהירות. מה שמטריד אותי באזהרות ובהתפטרויות של חוקרים מתוך תעשיית הבינה המלאכותית אינו עצם הפחד, אלא האפשרות שגם מי שמזהה סכנה מאמין שאין לו ברירה אלא להמשיך. חברה לא רוצה להפסיד למתחרה, מדינה לא רוצה להישאר מאחור, ולכולם יש הסבר למה דווקא הם חייבים ללחוץ על הגז. אני לא חושב שזה רק תרגיל יחסי ציבור. אבל דאגה כנה יכולה להיות גם כלי שיווקי מצוין: 'בנינו משהו כל כך חזק שאפילו אנחנו מפחדים ממנו'. המסר הזה מעצים את המוצר, מציג את החברה כאחראית ומעניק לה השפעה על הכללים שעלולים לחסום את המתחרה הבא. הסיכון והאינטרס יכולים להתקיים יחד".
"אין עצירה של המירוץ"
4 צפייה בגלריה
טלי שם טוב, מנכ"לית CodeValue ויו"ר פורום ה-AI באיגוד ההייטק הישראלי
(צילום: שי אוקנין)
טלי שם טוב, מנכ"לית CodeValue ויו"ר פורום ה-AI באיגוד ההייטק הישראלי, רואה באמירות האחרונות הרבה מעבר לשינוי המסר השיווקי. "ההתבטאויות משקפות התבגרות של שוק שהבין שהקצב שבו היכולות הטכנולוגיות מתקדמות מתחיל לייצר פער מול הקצב שבו ארגונים, רגולטורים והחברה כולה מסוגלים להטמיע את השינוי. עם זאת, חשוב לדייק: אין כאן עצירה של מירוץ ה-AI. החברות הגדולות לא יוותרו על השקעות בתשתיות, במודלים וביישומים, וגם התחרות הגלובלית לא מאפשרת להן לעשות זאת. מה שסביר יותר שנראה הוא שינוי באופן שבו ההון והמאמץ הטכנולוגי מתחלקים: יותר משאבים יופנו לאבטחה, בדיקות, בקרה, אמינות והטמעה, ולא רק להגדלת היכולות של המודל עצמו. יש כאן גם משמעות כלכלית רחבה. בשנים האחרונות חלק גדול מהסיפור סביב AI התבסס על השקעות עצומות בתשתיות מחשוב ועל ההנחה שהמשך הגדלת המודלים יוביל בהכרח לקפיצות נוספות ביכולת. אם החברות יתחילו למדוד הצלחה גם לפי רמת הבטיחות והאמינות של המערכות, אנחנו עשויים לראות שינוי בסדרי העדיפויות של התעשייה, אבל לא בהכרח ירידה בהיקף ההשקעות. חלק מההשקעה פשוט יעבור לשכבות אחרות בשרשרת הערך".
לדבריה, "הנקודה החשובה ביותר בעיניי היא ההשלכה על חברות ההייטק שאינן בונות את מודלי היסוד. עבורן, האטה מסוימת בקצב פיתוח המודלים אפילו יכולה לייצר הזדמנות. היא נותנת לתעשייה זמן להתמקד בשאלה החשובה יותר מבחינה עסקית: איך הופכים את היכולות שכבר קיימות לעלייה אמיתית בפריון, לחיסכון בעלויות ולמוצרים טובים יותר".
"חדשנות וצמיחה לא יכולות להתקיים ללא בקרה"
ישראל גבירץ, שותף, פאהן קנה ניהול בקרה GT Israel, מצביע על כיוון אחר. "האמירה של סם אלטמן משקפת עיקרון בסיסי בעולם ניהול הסיכונים: חדשנות וצמיחה אינן יכולות להתקיים לאורך זמן ללא מנגנוני בקרה, פיקוח וניהול סיכונים מתאימים. אנו רואים זאת שוב ושוב בחברות עסקיות הפועלות בסביבה תחרותית, שבהן קצב צמיחה מהיר ללא תשתיות ניהול ובקרה מספקות מוביל לעיתים לכשלים תפעוליים, חשיפות רגולטוריות ואף לפגיעה במוניטין וביציבות העסקית. אותו היגיון חל גם על תחום הבינה המלאכותית. המרוץ לפיתוח מודלים חזקים ומתקדמים יותר אינו יכול לבוא על חשבון תהליכי הערכת סיכונים, ניטור שוטף ומנגנוני בטיחות. כאשר יכולות הטכנולוגיה מתפתחות מהר יותר ממערכות הפיקוח עליהן, גדל הסיכון לטעויות, לשימוש לרעה בטכנולוגיה ולהשלכות בלתי צפויות שעלולות לפגוע בציבור, בארגונים ובכלכלה כולה. לכן, שילוב של מומחי סיכונים, בקרה והערכה חיצונית בתהליך פיתוח מודלי AI אינו מהווה חסם לחדשנות אלא דווקא תנאי להצלחתה. פיתוח אחראי של בינה מלאכותית מחייב איזון בין הרצון להתקדם במהירות לבין הצורך לוודא שהמערכות מפותחות בסביבה מבוקרת, שקופה ובטוחה. בסופו של דבר, ניהול סיכונים אפקטיבי אינו מאט את החדשנות, אלא מאפשר לה להתקיים באופן בר-קיימא ולזכות באמון המשתמשים והרגולטורים כאחד".
"השקעה באמינות"
לדברי אמנון אבי גיא, מנכ"ל RoboTize מבית מיטווך, המשמעות של הדברים הוא שינוי באופי העבודה. "מה שאנחנו רואים הוא שינוי בשאלה שהתעשייה שואלת את עצמה: לא רק כמה מהר אפשר להגדיל את היכולות של המודלים, אלא האם קצב ההתקדמות מאפשר לבנות במקביל את שכבות הבקרה, האבטחה והאמינות הנדרשות כדי להפעיל אותם בעולם האמיתי. ההבחנה הזו קריטית. רובוט שפועל בסביבה פיזית לא יכול להסתמך רק על מודל שיודע לייצר תשובה טובה. הוא צריך להבין את הסביבה, לקבל החלטות בזמן אמת, להתמודד עם מצבים שלא נצפו מראש ולפעול באופן בטוח גם כשהוא טועה.
לכן אני צופה שההשפעה של השיח הנוכחי לא תהיה בהכרח פחות AI אלא AI שנכנס בצורה יותר מבוקרת למערכות שמקבלות החלטות ופועלות באופן עצמאי. יכול להיות שנראה פחות התמקדות במרדף אחרי כל שיפור קטן ביכולת של מודל ויותר השקעה בבדיקות, באמינות וביכולת של מערכות AI לעבוד לאורך זמן בלי לאבד שליטה. מבחינת התעשייה, זה אפילו יכול להיות חיובי. אם עד היום היתרון התחרותי היה במידה רבה מי בונה את המודל הגדול והחזק ביותר, השלב הבא עשוי להיות מי יודע להפוך יכולות AI למערכת שאפשר באמת לסמוך עליה. ברובוטיקה, זה ההבדל בין הדגמה מרשימה לבין מוצר שאפשר להכניס למפעל, למחסן או לסביבה אנושית ולהפעיל אותו יום אחרי יום".
