Tokenmaxxing
״אם מתכנת שמרוויח $500,000 לא מוציא לפחות $250,000 בטוקנים - משהו לא עובד״; וגם יזהר אשדות בונה בקלוד ומה כל אחד יכול ללמוד ממנו
היי, שבוע טוב! וברוכים הבאים ל-epicNews - ניוזלטר שבועי על כל מה שחדש בעולמות הטק וכמובן הרבה AI.
השבוע על כלכלת הטוקנים - המדד החדש של סיליקון ואלי, Anthropic גונבת את השוק הארגוני מ-OpenAI, ויזהר אשדות בונה התמכר לקלוד קוד.
אני עמרי ברק, מגיש את ״טראשטק״, פודקאסט טכנולוגי מצולם ויועץ לחברות וסטארטאפים בתחום אסטרטגיית התוכן ובינה מלאכותית. הירשמו כאן כדי לקבל את הניוזלטר הזה למייל בכל שבוע:
כלכלת הטוקנים: המדד החדש של סיליקון ואלי
״אם מפתח אצלי מרוויח 500,000 דולר בשנה ועד סוף השנה הוא השתמש רק ב-5,000 דולר בטוקנים, אני אתהפך עליו (תרגום חופשי). ואם תקציב הטוקנים שלו לא לפחות 250,000 דולר - אני מודאג מאוד״, אמר ג’נסן הואנג, מנכ”ל Nvidia, בשיחה בפודקאסט All-In בכנס ה-GTC השבוע.
הואנג מאמין שמפתח שלא משתמש בטוקנים ״זה כמו מתכנן שבבים שאומר שהוא יעבוד עם נייר ועיפרון... זה בערך אותו דבר״.
לפי מייסד ומנכ״ל אנבידיה - כלכלת הטוקנים היא הכלכלה החדשה של עידן ה-AI - בערך 1,300 טוקנים שווים ל-1,000 מילים. ככל שה-AI קורא יותר ומייצר יותר, הוא צורך יותר טוקנים - ולכן חברות גובות תשלום לפי הצריכה של אותם הטוקנים.
להואנג, מייסד חברת השבבים שמייצרים באמצעותם את הטוקנים האלו יש אמנם אינטרס, אבל הוא ממש לבד. בסיליקון ואלי זה כבר הפך להיות ה-מדד לבחינת ביצועי עובדים ותחרות של ממש מי צורך הכי הרבה טוקנים. קווין רוס, עיתונאי הטכנולוגיה של הניו יורק טיימס, כתב השבוע טור על המושג החדש ״Tokenmaxxing” (מקסום של הטוקנים).
״מהנדס ב-OpenAI צרך 210 מיליארד טוקנים בשבוע אחד! כמות טקסט השווה לכל התוכן בויקיפדיה פי 33.״ כותב רוס ומוסיף עוד דוגמאות ״באנתרופיק, משתמש אחד של קלוד קוד הגיע לחשבון של יותר מ-150,000 דולר בחודש. בחברות כמו Meta ו-Shopify, מנהלים כבר שילבו את השימוש ב-AI בביקורות ביצועים - מתגמלים עובדים שצורכים הרבה טוקנים ומבקרים את אלו שלא״
מה שעומד מאחורי הזינוק האדיר במספרים האלו הם הקודינג אייג׳נטס ותוכנות כמו קלוד קוד, Codex של OpenAI, ו-OpenClaw שמסוגלים לרוץ במשך שעות כתוצאה מפרומפט בודד ו״לבזבז״ למשתמש אלפי טוקנים. רוס כותב ״בחלק מחברות הטכנולוגיה, כולל Meta ו-OpenAI, עובדים מתחרים בלוחות מודעות פנימיים המראים כמה טוקנים כל אחד מוציא״... “תקציבי טוקנים” נדיבים הופכים להטבת עבודה עבור מתכנתים, כמו ביטוח שיניים או ארוחת צהריים חינם, וחלקם מוציאים אלפי דולרים בחודש בניסיון לאטמט (להפוך לאוטומטית) כמה שיותר מהעבודה שלהם״.
לסיום בכתבה עולה השאלה - האם הטוקנים האלו באמת הם מדד לערך אמיתי, או שזה ניסיון להראות כמה העובד עסוק ולכאורה מייצר הרבה. את התשובה לכך כנראה שנגלה בקרוב מאוד.
שאלה נוספת עולה גם לגבי המודל הכלכלי של יצרניות הטוקנים (אנתרופיק, OpenAI וכו׳). על פי ה-FT כשOpenAI השיקה את GPT-4 לפני שנתיים, היא גבתה 33 דולר למיליון טוקנים. היום, המודל הזול ביותר שלה עולה 9 סנט בלבד. נהדר לנו המשתמשים, פחות לענקיות ה-AI.
בחזרה להואנג, הבוס של אנבידיה שהשבוע הכריז ב-GTC שהחברה תכניס טריליון דולר עד 2027 ממכירת שבבים, אפשר להבין למה הוא רוצה שכל העולם ידבר על טוקנים. אם העלות של טוקנים על בסיס השבבים שלו היא בעלות הנמוכה ביותר בשוק, והביקוש לא עוצר - אנבידיה תמשיך לצמוח.
הפיבוט של OpenAI וההשתלטות של אנתרופיק
73% מההוצאות של חברות שרוכשות כלי AI בפעם הראשונה הולכות לאנתרופיק. לפי נתוני Ramp, פלטפורמת ניהול הוצאות שמשמשת אלפי חברות בארה”ב, לפני 10 שבועות בלבד החלוקה בין Anthropic ל-OpenAI הייתה 50-50. לפני שלושה חודשים בלבד התמונה הייתה הפוכה עם יתרון של 60-40 לטובת OpenAI.
לכן שמסתכלים על הגרף הזה אפשר להבין את הדיווח השבוע ב-WSJ לפיו OpenAI תתמקד בלקוחות עסקיים ובעולם הקוד. פידג’י סימו, מנכ”לית היישומים של OpenAI, אמרה לעובדים: “אנחנו לא יכולים להחמיץ את הרגע הזה בגלל שאנחנו מוסחים על ידי משימות צדדיות. אנחנו באמת חייבים להצטיין בפרודוקטיביות באופן כללי, ובייחוד בפרודוקטיביות בצד העסקי.”
הבעיה, כפי שמסביר דיווח של Axios - בזמן ש-OpenAI הייתה עסוקה בבניית דפדפן ואפליקציית וידאו, אנתרופיק וקלוד השתלטו על שוק ה-B2B (העסקי). ולמרות שצ׳אט ג׳יפיטי הוא הצ׳אט בוט הפופולרי בעולם אצל צרכנים - OpenAI מפסידה עליו הרבה כסף בגלל סבסוד הטוקנים.
ב-2026 OpenAI צפויה להגיע לקצב של 25 מיליארד דולר הכנסות בשנה, לעומת 19 מיליארד של Anthropic. אבל Anthropic צומחת במהירות ועלולה לעקוף אותה.
במרחק נגיעה מקלוד: יזהר אשדות על השימוש ב-AI
״אנשים עצרו אותי ברחוב, אמרו לי, ‘בואנה, יפה מה שאתה עושה עם קלוד’. אני רגיל שעוצרים אותי להגיד לי, בואנה, יש לך שיר יפה...״
יזהר אשדות, הוא אחד הזמרים הגדולים שהיו פה - מתיסלם, דרך עפרה חזה, ועד עשרות שנים של הפקה מוזיקלית לרבים אחרים. אבל החודש הוא הפך לויראלי דווקא ממקום אחר לגמרי.
אשדות העלה סרטון לטוויטר שבו הוא מספר איך בנה מכונת תופים מקצועית עם Claude Code - מבלי לדעת לכתוב שורת קוד אחת. הסרטון הגיע למאות אלפי צפיות ואשדות הפך לכוכב ה״פידטק״ הישראלי.
בראיון לטראשטק הוא מסביר: ״המפתח הוא הדמיון האנושי. כי באמת הטכנולוגיה תבשיל, אבל לדעת מה אני רוצה ולדמיין משהו שעוד לא היה - זה הדבר הקשה״.
ניסינו להבין איך זה נראה בפועל. אשדות ובנו הפיקו שיר לזהבה בן וניצלו את הבינה המלאכותית כדי ליצור קטע שלא היה קיים. ״היא לא זכרה אם היא שרה את זה״, הוא סיפר לנו. ולגבי העתיד? ״הוא ישמיד את המין האנושי בסופו של דבר, כן, אבל... אבל בדרך אנחנו נהנה ונעשה דברים נורא נורא יפים״.
״מעלית הבינה״: איך לייצר קמפיין פרסומי תוך שלושה ימים?
הירשמו לניוזלטר החדש של ״מעלית הבינה״ - הפורמט החדש מבית טראשטק בו 30 יזמים עולים עם יואב ואיתי 30 קומות במעלית, וכל אחד מספר בפיץ׳ מהיר איך הם באמת משתמשים ב-AI. השבוע רן אברהמי, ה-CMO של AppsFlyer על איך הם מייצרים קמפיין פרסומי ב-$2000 במקום 120 אלף דולר:
מיליארדר בכפכפים: האיש שאחראי לנשק ה-AI
איך הפך בחור בן 33 עם כפכפים וחולצת הוואי לאחת הדמויות המשמעותיות ביותר בתעשיית הנשק העולמית?
כשהוא בן 16, פאלמר לאקי (Palmer Luckey) התחיל לבנות משקפי VR במוסך של הוריו. גייס יותר מ-2 מיליון דולר בקיקסטארטר. בגיל 21 צוקרברג רכש את החברה שלו, Oculus, תמורת 2 מיליארד דולר. לטענתו, תרומה של 9,000 דולר לקמפיין של טראמפ ב-2016 הביאה לפיטוריו ממטא.
אבל במקום לשבת על חוף הים, לאקי בנה את Anduril Industries - על שם החרב משר הטבעות - חברת דיפנס טק שמוערכת היום ב-60 מיליארד דולר. היא בונה מיירטים שחוזרים לבסיס אם הם מפספסים את המטרה, מטוסי קרב ללא טייס, וצוללות אוטונומיות בגודל של אוטובוס. והשבוע זכתה בחוזה של עד 20 מיליארד דולר לעשר שנים עם צבא ארה”ב.
אגב, רגע לפני שפרצה המלחמה, לאקי היה פה בביקור בישראל, נפגש עם נתניהו ובכירי מערכת הביטחון.
עוד כותרות מהשבוע האחרון:
OpenAI מתכננת ״Super App״ שתאחד את ChatGPT, כלי הקידוד Codex ודפדפן Atlas לאפליקציית דסקטופ אחת
Google משדרגת את AI Studio עם סוכן Antigravity שמאפשר מעבר מפרומפט לאפליקציה בסביבת ייצור; במקביל, לפי דיווחים, גוגל מפתחת אפליקציית Gemini ייעודית ל-Mac שתהווה תחרות ישירה ל-ChatGPT ו-Claude על שולחן העבודה
Anthropic ערכה סקר נרחב באמצעות Claude עצמו כמראיין - 80,000 שיחות, 70 שפות, שבוע אחד. הממצא המרכזי: רוב האנשים חשים גם תקווה וגם חשש מ-AI בו-זמנית. תמונה מורכבת יותר ממה שסקרים רגילים מראים.