חיסכון של מיליארדים: מטא מאיצה את המהלך להחליף בקרי תוכן אנושיים במודלי AI
נקודות עיקריות.כלכליסט AI
חברת מטא מאיצה את המעבר מניטור תוכן אנושי למערכות בינה מלאכותית יוצרת, במטרה להגיע לשיעור אוטומציה של כ-90% בסוגי תוכן מסוימים עד סוף השנה ולחסוך מיליארדי דולרים.
בעוד הנהלת החברה מדווחת כי מודלי השפה הגדולים מציגים ביצועים העולים על אלו של הבקרים האנושיים בשיעורי דיוק ואיתור הפרות חמורות, גורמים מתוך הארגון מתריעים על קצב פריסה מהיר מדי.
הביקורת הפנימית חושפת חששות מפני טעויות רבות באכיפה, חוסר במדדי הערכה מבוססים ומגמות של הסרת תכנים לגיטימיים, לצד השלכות תעסוקתיות נרחבות הכוללות פיטורי עובדי קבלן וביטול חוזים עתידיים.
המהלך מייצג שינוי אסטרטגי מהותי בתשתיות הבקרה של ענקית הטכנולוגיה, תוך הסתמכות גוברת על אלגוריתמים שאומנו על בסיס החלטותיהם ההיסטוריות של בקרי התוכן האנושיים שהם מחליפים כעת.
מטא מאיצה את המהלך להחליף בקרי תוכן אנושיים במודלי AI, ומתחילת השנה העבירה 50% מבקשות הבקרה שקודם לכן נעשו על ידי בני אדם למודלי שפה גדולים (LLMs) – כך לפי דיווח של הפייננשל טיימס. לדברי מקורות, היעד של מטא הוא שעד סוף השנה יותר מ-90% מהבקרות לסוגי תוכן מסוימים יתבצעו על ידי AI. השלמת המהלך צפויה לחסוך לענקית הטק מיליארדי דולרים בשנה.
מסורתית, תשתית ניטור התוכן של מטא משלבת בין עובדים אנושיים (לרוב מועסקים בשכר זעום על ידי חברות קבלן) למערכות אוטומטיות, כאשר ערעורי משתמשים על החלטות להסיר תכנים או לדחות בקשה להסרת תכנים נבחנים בדרך כלל על ידי בני אדם. ואולם, עתה עושה החברה שימוש הולך וגובר במודלי AI מתקדמים על מנת לבחון ערעורים על החלטות תוכן.
במרץ האחרון אמרה מטא שמבדקים שהיא עושה למערכות AI מתקדמות נראים "מבטיחים", ושהיא צופה את שילובן "לאורך השנים הקרובות". ואולם, עובדים בחברה אמרו לפייננשל טיימס שפריסת מערכות אלו מתרחשת בקצב מהיר יותר, כאשר הטכנולוגיה עדיין נוטה לטעויות וחסרה מנגנוני בקרה מספקים.
לדברי מטא, מבדקים פנימיים שביצעה העלו ש-LLMs מבצעים 13% פחות טעויות מבני אדם, ומזהים 10% יותר הפרות חמורות. "מטרת העבודה הזו היא לשפר את מאמצי האכיפה", נמסר מהחברה. "אנחנו פורסים מערכות AI מתקדמות אלו אחרי שאנחנו בטוחים שבאופן עקבי הן עובדות טוב יותר משיטות אכיפת התוכן הקיימות שלנו".
מנגד, עובד בחברה סיפר לפייננשל טיימס שמערכות ה-AI עושות טעויות רבות, כמו הסרה או הגבלת חשיפה של תכנים לא מזיקים. שני עובדים נוספים אמרו שמטא לא יצרה מדדים מבוססים דיים להערכת הביצועים של המערכות. עובד לשעבר אמר שהחברה האיצה את המעבר ל-AI אחרי שהשתמשה במידע על החלטות של בקרי תוכן אנושיים כדי לאמן את המודלים.
לדברי כמה מקורות, שילוב LLMs בהליכי בקרת התוכן בחברה כבר הוביל לפיטורי עובדים, בעיקר בקרב עובדי קבלן. מטא גם צפויה לבטל חוזי העסקה עתידיים עם חברות קבלן על רקע האצת ההליך.
