כשהבינה המלאכותית פוגשת את העולם האמיתי
האבולוציה של ה-AI הגיעה כעת לשלב המתקדם ביותר – Physical AI, בו קיימת אינטראקציה בין הבינה המלאכותית לבין העולם הפיזי עצמו. לצד הפוטנציאל האדיר יש גם אתגרים לא פשוטים שקשורים קודם כל לבטיחות. במציאות כזו, איך יוצרים אמון שיאפשר לנו לסמוך על הבינה המלאכותית בעולם הפיזי?
בעשור האחרון עברה הבינה המלאכותית כמה קפיצות דרך משמעותיות: תחילה Perception AI (בינה מלאכותית לתפיסה), שלימדה מערכות לזהות תמונות, דיבור וסביבה; לאחר מכן GenAI (בינה מלאכותית יוצרת), שהביאה יכולות יצירה, ניסוח וניתוח בקנה מידה חסר תקדים; ובהמשך Agentic AI - סוכני בינה מלאכותית שלא רק מספקים תשובות ותובנות, אלא גם פועלים ומבצעים משימות באופן עצמאי בעולם הדיגיטלי.
כעת אנו ניצבים בפני השלב הבא והמשמעותי מכולם: Physical AI – שבו קיימת אינטראקציה בין הבינה המלאכותית לבין העולם הפיזי עצמו.
בניגוד לשלבי ה-AI הקודמים, שפועלים בעולם התוכנה בלבד, Physical AI ניזון מדאטה שמגיע מהעולם האמיתי, באמצעות מגוון סנסורים שמנטרים סביבה פיזית - עצמים, תנועה, מהירות, מרחק, תאורה, מזג אוויר, ועוד - ופועל בעולם האמיתי עם השפעה ישירה על סביבתו. המשמעות היא פוטנציאל עצום לשינוי בדרך שבה העולם עובד, עם מכונות חכמות שיפעילו את הדברים בצורה יעילה יותר, חכמה יותר ואוטונומית יותר מכל מה שהכרנו עד היום. מצד שני, עליית המכונות מביאה איתה גם אחריות כבדה בהרבה: כל טעות כאן עלולה להיות עניין של חיים ומוות. אם בעולמות התוכנה טעויות ה-AI יבואו לידי ביטוי בפלט שגוי או חוויית משתמש בעייתית, בעולמות ה-Physical AI ההשלכות הפיזיות של טעויות ה-AI הן אקוטיות.
המקרה הבולט והמורכב ביותר של Physical AI הוא הרכב האוטונומי. כאן מתרחש מעבר משמעותי מרכב “מבוסס תוכנה”, הנשען על חוקים ותסריטים מוגדרים מראש, לרכב “מבוסס end-to-end AI” - מערכת לומדת שמקבלת החלטות בזמן אמת, בקצבים של אלפיות שנייה, בסביבה דינמית ובלתי צפויה. זהו שינוי שמערער את כל תפיסות הפיתוח, הבדיקה והאחריות המוכרות מעולם הרכב. בעצם, המעבר הזה לרכב מבוסס־AI אינו שינוי טכנולוגי נקודתי, אלא שינוי תפיסתי עמוק. המשמעות היא יכולות נסיעה אוטונומית מתקדמות בהרבה (רמה 3 ו4), אך גם אובדן הוודאות המוחלטת שאפיינה מערכות מבוססות תוכנה.
הרכב האוטונומי אינו הדוגמה היחידה ל-Physical AI. גם רובוטים תעשייתיים, רחפנים אוטונומיים, רובוטים "אנושיים", ומערכות פיזיות נוספות מקבלים היום החלטות עצמאיות בסביבות מורכבות הומות אדם, לעיתים בתנאים משתנים ובלתי צפויים. בכל המקרים הללו, המשותף הוא שילוב בין תפיסה, קבלת החלטות ופעולה בעולם האמיתי, והצורך להבטיח שה-AI פועל בצורה בטוחה ואמינה.
לפיכך, האתגר המרכזי הוא אמון. כיצד ניתן לסמוך על מערכת שמבוססת על מודלים סטטיסטיים ולמידה עמוקה כשאנו לא מבינים את אופן קבלת ההחלטות שלה? איך מוודאים שה-AI אינו נשען על “הזיות”, אינו מפספס תרחישי קצה, ואינו מקבל החלטות שגויות ברגעים הקריטיים ביותר? בעולם שבו רכב נוהג בעצמו, אמון אינו קונספט אמורפי, הוא תנאי רגולטורי, עסקי וציבורי בסיסי.
כאן מתברר שהשיטות המקובלות לבדיקת מערכות סיוע לנהג ADAS (רמה 2) פשוט אינן מספיקות. אי אפשר לבדוק Physical AI רק באמצעות מיליוני קילומטרים של נסיעה בפועל, וגם לא באמצעות בדיקות פונקציונליות קלאסיות. נדרש שילוב של בדיקה ואימות מבוססי נסיעות מהעולם האמיתי, עם תרחישים סינתטיים, בקנה מידה עצום - תרחישים המדמים מצבים מהעולם האמיתי שלא התרחשו בזמן הנסיעות בפועל - ובמתודולוגיות שמאפשרות מדידה כמותית של כיסוי בטיחותי. רק כך ניתן לזהות פערים, לסגור אותם, ולהוכיח שהמערכת עומדת בסטנדרטים הנדרשים, לא רק במצבים השכיחים, אלא גם באירועים החריגים והמסוכנים, גם אם ההסתברות שיתרחשו היא נמוכה ביותר. בפועל, בעולם של רכבים אוטונומיים, מספיקה טעות אחת משמעותית שיכולה לעלות בחיי אדם, כדי לפגוע באמון הציבור, גם המשתמשים וגם אלו שלא.
יצרניות רכב ששואפות להיכנס לעולם הרכב האוטונומי ולא ישכילו להטמיע בטיחות ואמון כחלק אינהרנטי מתהליך הפיתוח, יתקשו להגיע לפריסה רחבה, לקבל אישורים רגולטוריים ולזכות באמון הציבור. לעומתן, חברות שמטפלות בבטיחות בצורה שיטתית, מדידה, מוכחת וגלויה הן אלו שיובילו את השוק.
Physical AI, בתור השלב הטבעי הבא בהתפתחותה של הבינה המלאכותית, מהווה שינוי עמוק באופן שבו טכנולוגיה פוגשת את העולם שבו אנחנו חיים. בעולם שבו אלגוריתמים נוהגים, טסים ומפעילים מערכות קריטיות, האמון הוא המטבע החשוב ביותר, ומי שידע לבנות אותו, יוביל את העתיד.
רוג’ר אורדמן הוא סמנכ״ל שיווק, Foretellix
