תוכן העניינים
מיליונים על AI אבל איפה התוצאה?
המירוץ לאימוץ AI הופך במהירות למירוץ אחר החזר ההשקעה
בחודשים האחרונים ארגונים ברחבי העולם משקיעים סכומי עתק בהטמעת כלי AI, ובמיוחד בכלים המבוססים על סוכנים אוטונומיים ומודלי שפה מתקדמים. אבל ככל שהשימוש גדל, מתברר פער משמעותי: ארגונים יודעים למדוד כמה AI הם צורכים, אך מתקשים להוכיח כמה ערך עסקי הוא מייצר.
אחת הדוגמאות הבולטות היא חברת Uber שהפכה את השימוש ב-AI לחלק מרכזי מעבודת המפתחים. החברה העניקה למהנדסים גישה ל-Claude Code ואף עודדה את השימוש בו באמצעות דירוג פנימי שעקב אחר היקף השימוש. התוצאה הייתה מפתיעה: בתוך ארבעה חודשים בלבד כל תקציב ה-AI לתכנות שתוכנן עבור 2026 כבר נוצל.
אלא שהנקודה המעניינת יותר הייתה אחרת: למרות היקף השימוש העצום, החברה לא הצליחה בשלב זה להצביע על קשר ברור בין צריכת ה-AI לבין שיפור במוצרים שהגיעו בפועל ללקוחות.
התופעה הזו קיבלה את הכינוי Tokenmaxxing: הגדלה משמעותית של צריכת טוקנים ומשאבי AI ללא הוכחה שהשימוש הנוסף מצדיק את העלות. זו כבר אינה רק בעיה של תקציב, זו בעיה של ניהול, ממשל ומדידת ערך.
הבעיה אינה בהכרח העובדים אלא הדרך שבה AI מנוהל
כשמודל יקר הוא ברירת המחדל, הארגון משלם גם כשאין בכך צורך
אחת המסקנות המרכזיות מההתנסות של חברות שונות היא שהעובדים אינם בהכרח המקור לבזבוז. לעיתים קרובות הארכיטקטורה והגדרות ברירת המחדל של כלי ה-AI הן שמכתיבות את העלויות.
כאשר מודל מתקדם ויקר נבחר אוטומטית, עובדים עלולים להשתמש בו גם למשימות פשוטות יחסית – החל מבדיקת טקסטים ועד משימות פיתוח שאינן דורשות מודל בעל יכולות מתקדמות.
בחברת Promova, למשל, התברר כי מודלי פרימיום הופעלו כברירת מחדל, עם רמת reasoning גבוהה וחלון הקשר רחב במיוחד. המשמעות הייתה שמשימות פשוטות יחסית, שלא דרשו את היכולות המתקדמות ביותר, צרכו משאבי AI יקרים ומשמעותיים ללא הצדקה ממשית.
הפתרון אינו בהכרח לאסור שימוש ב-AI אלא ללמד את העובדים להתאים את הכלי למשימה.
מודל מתקדם הוא כמו רכב חזק במיוחד: הוא מצוין כאשר באמת צריך את היכולות שלו, אבל אין סיבה להשתמש בו לכל נסיעה קצרה.
לכן, לצד מדיניות ארגונית, נדרשים גם מודעות, הכשרה והגדרה ברורה של מתי להשתמש באיזה מודל.
לחסוך ב-AI לא אומר להשתמש בפחות AI
המטרה אינה לצמצם שימוש אלא לוודא שכל שימוש מייצר ערך
התגובה האינסטינקטיבית לעלייה בעלויות היא להטיל מגבלות. אך זו עלולה להיות טעות.
צריכת AI גבוהה אינה בהכרח בזבוז. אם השקעה של 16 אלף דולר בטוקנים חוסכת לארגון 100 אלף דולר בעלויות עבודה או מקצרת פרויקט משמעותי, הרי שמדובר בהשקעה משתלמת.
לכן, השאלה הנכונה אינה כמה AI אנחנו צורכים? אלא מה אנחנו מקבלים תמורתו?
חברת Everlaw הצליחה להציג דוגמה מוחשית לכך. בפרויקט תשתיתי ב-Java שימוש בכלי AI עלה כ-3,500 דולר בטוקנים, אך קיצר את זמן הפיתוח מ-9.5 חודשי מהנדס ל-2.5 חודשים בלבד.
מצד שני, לא כל שימוש מצליח. באותו ארגון נעשה שימוש בסוכנים כדי להעביר קוד ממסגרת פיתוח אחת לאחרת, אך לאחר השקעה של אלפי דולרים התברר שהתוצאה אינה שימושית ונאלצו לזרוק אותה.
הדור הבא של ניהול AI: לתת למערכת לבחור את המודל
במקום שכל עובד יחליט, מנגנוני ניתוב חכמים יכולים להתאים את המודל למשימה
אחת ההתפתחויות המעניינות בתחום היא המעבר ממצב שבו העובד בוחר באופן ידני את המודל, למערכות שמסוגלות לנתח את המשימה ולהחליט בעצמן איזה מודל מתאים לה.
מערכות AI Routing בוחנות פרמטרים כמו אורך הבקשה, סוג המשימה, קבצים מצורפים, רמת המורכבות, עומק החשיבה הנדרש ואפילו היקף השינוי בקוד ומנתבות את המשימה למודל המתאים ביותר.
במקום לשלוח כל בקשה למודל היקר והחזק ביותר, ניתן להשתמש במודל חסכוני למשימות פשוטות ולהעביר רק משימות מורכבות למודלים מתקדמים. חברות כמו Databricks, AWS ו-Microsoft כבר מפתחות פתרונות בכיוון הזה.
היתרון אינו רק כלכלי, ניתוב חכם מאפשר לארגון ליצור מדיניות AI עקבית ומבוקרת תוך שמירה על שקיפות לגבי העלויות, הביצועים ואיכות התוצרים.
בעולם שבו סוכן AI אחד יכול להפעיל עשרות קריאות למודלים ללא אישור אנושי בכל שלב, יכולת כזו הופכת ממנגנון לחיסכון בעלויות לרכיב משמעותי של ממשל ובקרה על AI.
הבעיה האמיתית: רוב הארגונים עדיין לא יודעים לחשב ROI
אפשר למדוד טוקנים, עלויות ושימוש אבל האם אפשר למדוד ערך?
למרות ההתפתחות המהירה של כלי AI, רוב הארגונים עדיין מתקשים לענות על השאלה הפשוטה: האם ההשקעה ב-AI באמת משתלמת? ארגון יכול לדעת כמה עובדים משתמשים ב-AI, כמה טוקנים נצרכו וכמה כסף הוצא ועדיין לא לדעת האם העובדים מפתחים מהר יותר, פותרים יותר תקלות, משפרים את איכות הקוד או חוסכים שעות עבודה.
האתגר אף גדול יותר משום שהתוצרים של מודלי AI אינם דטרמיניסטיים. מודל יכול לספק תשובה מצוינת במשימה אחת ותשובה חלשה במשימה אחרת. בנוסף, המודלים עצמם משתנים ומתעדכנים באופן תדיר, ולכן מדד שנבנה עבור גרסה אחת אינו בהכרח מתאים לגרסה הבאה.
זו הסיבה שנדרש שילוב בין Telemetry (איסוף נתוני שימוש וביצועים), הערכת איכות, מדדי ביצוע ומשוב עסקי כדי לא רק למדוד את השימוש ב-AI לא להבין את הערך שהוא מייצר בפועל.
האם זמן הפיתוח התקצר? האם מספר הבאגים ירד? האם איכות השירות השתפרה? האם הצוות הצליח לבצע יותר עבודה ללא הגדלת כוח האדם? האם זמן הטיפול בלקוחות התקצר?
אלה המדדים שצריכים לעמוד במרכז השיח על AI.
מה צפוי לקרות עכשיו?
עלות ה-AI תהפוך מתקציב IT למדד עסקי שההנהלה תידרש לנהל. ככל שהשימוש ב-AI יגדל, כך גם ההוצאה עליו תהפוך לחלק משמעותי מתקציב הארגון, בדומה לעלויות כוח אדם ותשתיות.
אין נוסחה אחת שמתאימה לכולם, אבל העיקרון ברור: הצלחה ב-AI לא נמדדת בכמות השימוש, אלא בערך שהשימוש מייצר.
תובנות מומחי IPV Security
כדי להבטיח שהשימוש ב-AI בארגון מייצר ערך אמיתי, תוך שמירה על שליטה, אבטחה ועלויות, מומלץ להתמקד במספר עקרונות:
- הגדירו מטרות עסקיות לפני שמודדים שימוש ב-AI – אל תסתפקו במדדים כמו מספר משתמשים, מספר שאילתות או צריכת טוקנים. הגדירו מראש אילו תוצאות עסקיות ה-AI אמור לשפר.
- התאימו את המודל למשימה – לא כל משימה דורשת את המודל המתקדם והיקר ביותר. הגדירו מדיניות שימוש ונתבו משימות פשוטות למודלים חסכוניים יותר.
- יישמו ממשל ובקרה על השימוש ב-AI – הגדירו הרשאות, מגבלות תקציב, מודלים מאושרים, מדיניות שימוש ומנגנוני ניטור שיאפשרו לזהות חריגות ודפוסי שימוש בעייתיים.
- מדדו ROI ולא רק עלויות – בחנו האם השימוש ב-AI מקצר זמני עבודה, משפר איכות, מפחית תקלות, מגדיל תפוקה או משפר את השירות. רק כך ניתן להבחין בין שימוש יקר לבין השקעה משתלמת.
- הטמיעו ניטור ומשוב מתמשך – מודלים משתנים, דפוסי שימוש משתנים והעלויות משתנות. לכן, גם מדיניות ה-AI צריכה להתעדכן באופן שוטף בהתאם לנתונים בפועל.
לסיכום
המרוץ ל-AI כבר אינו מסתכם בשאלה מי משתמש בטכנולוגיה ומי נשאר מאחור. השאלה החשובה יותר היא מי יודע לנהל אותה נכון. ארגון יכול להוציא מיליונים AI להפעיל מאות עובדים עם כלי AI ולצרוך כמויות עצומות של טוקנים ועדיין לא לדעת אם ההשקעה משתלמת.
הארגונים שיפיקו את הערך האמיתי מהטכנולוגיה יהיו אלה שיחברו בין שימוש, עלות, אבטחה ותוצאה עסקית.
להתייעצות מקצועית עם מומחי הסייבר של t.077-4447130 IPV Securityשנים של ניסיון בהגנת סייבר, מבדקים וסקרי סיכונים וציות לרגולציות.
שאלות נפוצות
האם שימוש רב יותר ב-AI בהכרח מעיד שהארגון מתקדם יותר?
לא. היקף השימוש הוא מדד חשוב לאימוץ הטכנולוגיה, אך הוא אינו מעיד בהכרח על ערך עסקי. ארגון יכול לצרוך כמויות גדולות של AI מבלי לשפר את הפרודוקטיביות, לקצר זמני עבודה או להגדיל את איכות התוצרים.
איך אפשר לדעת אם ההשקעה ב-AI משתלמת?
יש להגדיר מדדים עסקיים לפני ההטמעה ולבחון את השינוי לאורך זמן. בין היתר ניתן למדוד חיסכון בשעות עבודה, קיצור זמני פיתוח, ירידה במספר תקלות, שיפור בשירות או הגדלת תפוקה ללא גידול מקביל במשאבים.
האם כדאי להגביל את כמות השימוש ב-AI כדי לחסוך בעלויות?
לא בהכרח. הגבלת שימוש גורפת עלולה למנוע שימושים שמייצרים ערך משמעותי. עדיף להבין אילו שימושים יקרים אכן משתלמים, ולנהל את השימוש באמצעות מודלים מתאימים, ניתוב חכם, תקציבים ובקרה.
מהו AI Routing ולמה הוא חשוב?
AI Routing הוא מנגנון שמנתב משימה למודל AI המתאים ביותר בהתאם למורכבות ולדרישות שלה. כך ניתן להשתמש במודלים יקרים רק כאשר יש בהם צורך, ולבצע משימות פשוטות באמצעות מודלים חסכוניים יותר.
האם מדידת ROI של AI היא פשוטה?
לא. מדובר באחד האתגרים המרכזיים בניהול AI ארגוני. קשה לבודד את ההשפעה של AI כאשר במקביל משתנים תהליכים, צוותים וכלים, והמודלים עצמם מתעדכנים. לכן חשוב להשתמש בשילוב של נתוני שימוש, מדדי איכות, Telemetry ומדדים עסקיים.