בגוף שלישי
אחרי אופן איי איי, אנת׳רופיק מודה שקלוד פרץ לשלושה ארגונים, יותר מ-1,300 עובדים רוצים עצירה בפיתוחי הבינה; ראיון עם הישראלי שהיה מס׳ 2 בלינקדאין
אחרי OpenAI, גם ניסוי של אנתרופיק יוצא משליטה
שוב זה קורה. שוב מודל בינה מלאכותית שהיה סגור ונעול, בלי גישה לרשת האינטרנט, מצליח לפרוץ לאתרים ולהגיע למידע של משתמשים. הפעם זו קלוד של אנתרופיק, שחשפה את האירוע השבוע (למרות שהוא התרחש כבר לפני 3 חודשים).
ביום חמישי פרסמה אנתרופיק בלוג פוסט חריג בו היא מדווחת כי בשלושה מקרים נפרדים, מודלים של החברה יצאו מסביבת הבדיקה הסגורה ופרצו למערכות של שלושה ארגונים (אנתרופיק לא חשפה את זהות הארגונים, ואמרה כי עדכנה אותם על האירועים).
אלא שבניגוד לסיפור מהשבוע שעבר בו מודל של OpenAI פרץ את ״הכלוב שלו״ בעזרת חולשה כאן טענו שמדובר בבעייה בהגדרות הניסוי, שהובילה לגישה לרשת. באנת׳רופיק פתחו בבדיקה רק ב-23 ביולי, יומיים אחרי ש-OpenAI חשפה שהסוכן שלה פרץ ל-Hugging Face (הטקסט משבוע שעבר). הם סרקהו 141,006 מקרים, ומצאה את שלושת המקרים. שניים מהארגונים שנפרצו בכלל לא ידעו שנפרצו.
אין ספק שאנחנו חיים בעידן חדש. כזה שבו המערכות האלו מבינות ויודעות סייבר ברמה שלא ראינו כמותה. המשקיע צ׳אמאת פליהפיטיה העריך בחשבון ה-X שלו שזה רק ההתחלה. ״כרגע, אפשר להעריך ש-99% מהקוד נכתב על ידי בני אדם, ו-1% על ידי סוכני AI. זה אומר ש-99% רשלני ומלא שגיאות״. לכן הוא מעריך שנראה הרבה יותר סיפורים כמו זה. לטענתו ״צריך לכתוב מחדש את כל הקוד בחברות ענק להגיע ל-100% מהקוד שנכתב על ידי סוכנים״.
חשש אמיתי או תרגיל ביחסי ציבור
אבל הסיפורים של OpenAI ואנת׳רופיק חושפים עוד צד בסיפור ה-AI, קלות דעת של החברות האחראיות על המודלים, וחמור מזה - למה עבורם זה מרגיש לפעמים כמו תרגיל יחסי ציבור. ביל גרלי, מהמשקיעים הוותיקים בעמק הסיליקון, כתב בציוץ: ״תפסיקו בבקשה להתייחס למודלים שלכם בגוף שלישי כשמדברים על התנהגות רעה של מודל. בני אדם כותבים את התוכנה, בני אדם בנו את הפרומפטים, והם עובדים בחברה שלכם״.
ג׳ואנה סטרן, כתבת טכנולוגיה הוסיפה: ״בסקירה של הערכות הבטיחות בבית שלי זיהיתי חמישה מקרים שבהם הילד שלי ברח מהסנדבוקס, הגיע למטבח וקיבל גישה בלתי מורשית לחטיפים. המקרים התרחשו לפני 16 חודשים אבל הובאו לידיעתי רק עכשיו. הפוסט הזה מסביר מה קרה, איך זה קרה, ולמה הילד שלי טוב יותר מהילד שלכם בכל דבר״.
קריאה לעצירה?
בינתיים השבוע יותר מ-1000 מומחים ועובדים ממספר מעבדות ה-AI המובילות חתמו השבוע על מכתב בשם Pacing the Frontier, שמבקש מארה״ב לתמוך במאמץ בינלאומי לבנות כלים שיאפשרו ״להאיט במכוון״ את ההתקדמות. בין החותמים דריו אמודאי, מנכ״ל אנת׳רופיק, איליה סוצקבר, וגם המדענים הראשיים של OpenAI ומטא. מה שמפחיד אותם הוא מודלים שמשפרים מודלים אחרים, בקצב שיעבור ״מעבר ליכולתנו להבין או לשלוט״. הם קוראים ממשלות לייצר האטה כוללת בתעשייה.
מנגד, מארק צוקרברג פרסם השבוע בוול סטריט ג׳ורנל טור תחת הכותרת ״העתיד של ה-AI שייך לכולם״, שטוען את ההפך הגמור: הסכנה האמיתית היא ״ריכוז קיצוני של כוח״ בידי מעט חברות, ופתיחות הוא מה שישמור על הטכנולוגיה בטוחה. ״ברוב המקרים״, כתב צוקרברג ״כמו בסייבר - ההיסטוריה של קוד פתוח מראה שדווקא מתן גישה מלאה לכלל הציבור למערכות חזקות היא הדרך הטובה ביותר להגן על בטיחות וביטחון לאורך זמן״.
קצת מצחיק שצוקרברג כותב הדברים האלו נוכח העובדה שחברה שלו היא אולי ה-דוגמה לחברה שפועלת במודל ריכוזי וסגור.
ממשיכים בכל הכוח
סם אלטמן, מנכ״ל OpenAI טען השבוע בראיון שאנחנו ״בתוך הסינגולריות״, הרגע שבו המחשבים הופכים לחכמים יותר מבני האדם ומתחילים לשפר את עצמם לבד. אלטמן טוען ״זה קורה עכשיו. זו עקומה אקספוננציאלית שאנחנו דוהרים על גביה״.
השבוע אלטמן הגיע לדיון מיוחד בגבעת הקפיטול. לא בגלל המודלים שיצאו משליטה, אלא על פי האתר ה-Information, להציג לסנאטורים ורגולטורים את הדור הבא של המודלים שלה: ״אסטרה״ (GPT 5.7 או אולי GPT 6?). משפחת מודלים שבנויה על שיתוף פעולה בין סוכני AI לזמן ממושך על פרויקטים מורכבים, והצליחה לפתור 10 בעיות מתמטיות שעד כה לא נפתרו. Astra צפויה להיות המודל הראשון שינתן לבדיקה הפדרלית המקדימה של ממשל טראמפ.
בראיון ל-Economist, טען אילון מאסק שהבינה המלאכותית תעקוף את סך כל האינטליגנציה האנושית המחוברת יחד בתוך כ-5 שנים. בתוך כעשר שנים - רובוטים ומערכות AI יחליפו את רוב העבודה האנושית, פיזית ודיגיטלית, ויביאו לעידן של “שפע מדהים” שבו כסף מאבד משמעות. דיברנו על כך השבוע בטראשטק:
התחרות מול סין מובילה לצניחה במחירי הטוקנים
OpenAI הודיעה כי היא מורידה את המחיר של מודלי ה-AI החדשים שלה, GPT-5.6 Terra ו‑GPT-5.6 Luna, כשלושה שבועות לאחר השקת הציבורית שלהם. מחיר הטוקנים של המודל Luna ירד ב-80%, מדולר ל-20 סנט למיליון טוקני קלט, ושל Terra ב-20%.
לפני שבועיים כתבתי כאן שהמודלים הסינים שמציגים יכולות כמעט זהות לאלו מהמערב, אבל במחירים נמוכים בהרבה יובילו בדיוק לזה. לפי בדיקה של CNBC, מודלים סינים תופסים היום 46% משימוש הטוקנים של חברות אמריקניות ב-OpenRouter, ולפעמים אפילו עוקפים את האמריקנים. אלטמן מסביר שהמטרה היא ״להציע את יחס המחיר-אינטליגנציה הטוב ביותר בכל רמה״.
מצד אחד מדובר בבשורה ענקית עבור המשתמשים, מצד נשאלת השאלה - האם OpenAI בכלל יכולה להיות רווחית במחירים כאלה? ומעבר לזה - איך תוכל להמשיך לממן את כל הפעילות הזו. אד זיטרון, עיתונאי עצמאי שחשף את הדוחות הפיננסים של OpenAI התריע השבוע בבלומברג כי השוק כולו מבוסס על 2 חברות בלבד - OpenAI ואנתרופיק.
הורדת המחירים תשפיע בצורה ישירה על ההכנסות של החברות האלו ויותר מזה על הרווחיות שלהן - OpenAI רחוקה משם מאוד עם הפסד תפעולי של 21 מיליארד דולר ב-2025. אלא שההשלכות לא צפויות להשפיע רק על שתי מעבדות ה-AI אלא על השוק כולו.
איך יוצרים ויראליות בעידן ה-AI?*
עולם השיווק משתנה דרמטית בתקופת ה-AI - כמות הכלים אינסופית, הרבה יותר קשה להתבלט בפיד ותפיסת תשומת לב של אנשים הופכת להיות משימה קשה מאי פעם. בתוך כל הבלאגן הזה יש ניוזלטר אחד שמנסה לעשות לכם קצת סדר. MarketingIdeas.com של תום אורבך שולח רעיונות שיווק שכל אחד יכול ליישם בקלות לכל עסק (לא רק סטארטאפים והייטק!). אורבך מוביל את מחלקת ה-Growth Marketing בוויז (שנרכשה לאחרונה ע״י גוגל ב32 מיליארד דולר). לניוזלטר שלו יותר מ-90,000 קוראים שבועיים ברחבי העולם.. אז הירשמו כאן.
*בשיתוף עם MarketingIdeas
🎧 הראיון השבועי: ראיון עם תומר כהן, מי שהיה מספר 2 בלינקדאין
אולי לא רבים יודעים את זה, אבל ישראלי שגדל בבאר שבע הגיע לאחד התפקידים הכי בכירים בסיליקון ואלי. תומר כהן היה עד לא מזמן מנהל המוצר הראשי (CPO) של לינקדאין, הרשת החברתית עם יותר ממיליארד משתמשים. השבוע הוא התארח אצלנו בטראשטק לראיון מיוחד.
באמצע 2022, בערך חצי שנה לפני שצ׳אט ג׳יפיטי יצא לעולם, תומר סיפר לנו שהוא הוזעק לישיבה מיוחדת במטה מיקרוסופט בסיאטל. סם אלטמן (מנכ״ל OpenAI) וגרג ברוקמן (נשיא OpenAI) הגיעו להציג להנהלה את GPT-4. בהתחלה כהן מספר שזה היה נראה כמו עוד דמו ולא מוצר אמיתי, אלא שאז ״גרג פשוט סובב את הלפטופ ואמר עכשיו תורכם. אנשים התחילו לכתוב פרומפטים. ואתה רואה איך החדר נהיה מאוד מאוד שקט, אתה רואה אנשים מחייכים, אתה רואה אנשים מפוחדים״, הוא סיפר לנו ״כולם כאילו פתאום רואים משהו שאף אחד לא ציפה שיקרה עדיין״.
שאלתי אותו האם הבין עד כמה דרמטי הרגע הזה? כהן סיפר שרגע אחרי הוא חייב לספר על כך לצוות שלו, אז הוא שלח להם מייל שהכותרת שלו הייתה ״ראיתי את העתיד. מחר 8 בבוקר״.
הדרך אל מספר 2 באחת מהחברות המובילות בסיליקון ואלי הייתה די מקרית. הוא שמע לראשונה על לינקדאין רק בזמן התואר השני שלו בסטנפורד. מארק צוקרברג וריד הופמן (מייסד לינקדאין) הגיעו להרצות בפני הסטודנטים - ובזמן שכולם נמשכו לסיפור של צוקרברג, תומר סיפר לנו שדווקא הסיפור של רשת חברתית עסקית משך אותו מאוד. זמן מה אחרי אותה הרצאה הוא פגש לקפה את מי שהיה אז סמנכ״ל המוצר של לינקדאין, וסיפר לו איך הוא היה הופך את החברה למובייל פירסט. התשובה שקיבל - ״במקום לדבר על זה, מה דעתך פשוט לבוא ולבנות את זה״. שמונה שנים אחרי אותהו קפה - הוא הפך לסמנכ״ל המוצר בעצמו. כשנכנס לחברה היו לה כ-100 מיליון משתמשים, לפני חצי שנה כשעזב אותה - ללינקדאין כבר יותר מ-1.3 מיליארד משתמשים בכל העולם!
מהפכת ה-AI והתמורות הדרמטיות בעולם העבודה הפכו כמובן את לינקדאין למוצר משמעותי בתקופה של פיטורים והגדרות תפקיד חדשות. כהן שראה את השינויים האלו מהשורה הראשונה חושב ״שלא יהיו חסרות משרות. אני חושב שיהיו חסרים אנשים למשרות״. כאן נכנסת גם שאלה לגבי עתיד הג׳וניורים. האם יש להם עתיד בתעשייה? ״הדעה שלי השתנתה ב-180 מעלות״, הוא ענה לנו. הדור שנכנס עכשיו לשוק, הוא מסביר, הוא כבר AI נייטיב - ולכן דווקא בעל יתרון: ״זה כמו שהילדים שלי נולדו עם סמארטפון. הם לא יודעים מה זה לחיות בלי זה. הם לא יודעים מה זה לא אינטרנט״.
לקראת סיום, ניסינו גם להבין מה הסוד של האלגוריתם? איך הופכים פוסט לויראלי ״בסופו של דבר, כל הרעיון זה מה חשוב למי שצורך את התוכן״. אם משתמש מגיב לפוסט, משתף אותו, או רואה סרטון עד הסוף - אלה סימנים מצוינים.
אז על כל זה ועוד הרבה בהרחבה בפרק השבוע:
עוד כותרות מהשבוע האחרון:
רבעון של שיאים לענקיות הטק בענן: אמזון עברה לראשונה 200 מיליארד דולר הכנסות ברבעון, כש-AWS צמחה 37% בקצב המהיר ביותר זה 18 רבעונים; ומיקרוסופט חצתה לראשונה 100 מיליארד דולר הכנסות שנתיות מ-Azure
ארה״ב חוסמת את הרובוטים הסיניים: ה-FCC אסר יבוא של רובוטים דמויי-אדם ורובוטים ארבע-רגליים מסין. החשש? שליטה מרחוק וריגול
סטרייפ בעסקת ענק? ענקית התשלומים במגעים לרכוש את OpenRouter, הפלטפורמה שמנתבת בקשות בין מודלים שונים, לפי שווי של כ-10 מיליארד דולר; פי 8 מהשווי שלה בסבב הגיוס במאי
נתראה בשבוע הבא,
עמרי