With Great Power
מודל הבינה המלאכותית החזק שאנחנו לא נקבל אליו גישה; ומה מגלה התחקיר על סם אלטמן?
היי, שבוע טוב! וברוכים הבאים ל-epicNews - ניוזלטר שבועי על כל מה שחדש בעולמות הטק וכמובן הרבה AI.
השבוע על מודל ה-AI שאנתרופיק מסרבת לשחרר לציבור; וגם - תחקיר ענק על סאם אלטמן מעלה את השאלה: האם אפשר לסמוך על אחד האנשים הכי משפיעים בעולם?
אני עמרי ברק, מגיש את ״טראשטק״, פודקאסט טכנולוגי מצולם ויועץ לחברות וסטארטאפים בתחום אסטרטגיית התוכן ובינה מלאכותית. הירשמו כאן כדי לקבל את הניוזלטר הזה למייל בכל שבוע:
קלוד Mythos - המודל שאף אחד לא יקבל גישה אליו
בתעשייה שבה כל חברה מתחרה מי ישחרר את המודל הבא ראשון, אנתרופיק עשתה משהו הפוך לגמרי - על פיה הדיווחים היא בנתה את המודל החזק ביותר שלה, ואז החליטה לא לשחרר אותו לציבור.
הסיפור התחיל בדליפה. בסוף מרץ, חוקר ישראלי, בשם רועי פז, מחברת LayerX,
גילה שאנתרופיק השאירו אלפי קבצים שלא פורסמו על מודל חדש בשם קלוד Mythos - ״קפיצת מדרגה״ בביצועים ויכולות סייבר המציבות סכנה משמעותית - חזק יותר מכל מודל שהחברה שחררה עד היום.
שבוע אחרי הדליפה, אנתרופיק יצאה עם ההכרזה הרשמית, על פי החברה Mytho Preview זיהה אלפי חולשות zero-day (חולשות שלא ידעו על קיומן) במערכות הפעלה פופולריות, בדפדפנים ובתוכנות קריטיות. הוא מצא באג שהסתתר 27 שנה ב-OpenBSD - מערכת שנחשבת לאחת המאובטחות בעולם ועוד ועוד.. אנתרופיק טענה שהם לא אימנו את Mythos ספציפית לסייבר - היכולות פשוט צצו מתוך ההתפתחות הכללית של המודל.
דאריו אמודיי, מנכ״ל אנתרופיק הסביר ״הסכנות כאן ברורות, אבל אם נעשה את זה נכון - יש כאן הזדמנות אמיתית ליצור אינטרנט ועולם בטוחים הרבה יותר ממה שהיו לנו לפני הופעת יכולות הסייבר המונעות על ידי בינה מלאכותית”. ולכן במקום לשחרר אותו לציבור הרחב, אנתרופיק הודיעה על Project Glasswing: קואליציה טכנולוגית הכוללת 40 שותפים בהם ענקיות הטק: AWS, אפל, גוגל, מיקרוסופט, אנבידיה, סיסקו, קראודסטרייק ועוד. המטרה: להשתמש ב-Mythos כדי למצוא ולתקן חולשות בתוכנות קריטיות ברחבי העולם, לפני שיכולות דומות יגיעו לידיים הלא נכונות.
החשש הזה הוביל לירידות בשווקים בוול סטריט ובמקביל, שר האוצר האמריקני סקוט בסנט, ויו״ר הפד ג׳ארום פאוול זימנו את מנכ״לי ששת הבנקים הגדולים בארה״ב לפגישה דחופה על מנת להזהיר מפני הסיכונים. ממשלת הודו ותעשיית ה-IT שלה גם פתחו בבדיקה. OpenAI, שלא רצתה להישאר מאחור, דיווחה שהיא מפתחת מודל סייבר משלה שייצא לקבוצה קטנה של שותפים.
כך או כך, אנתרופיק הודיעה בשבוע האחרון כי הגיעה ל-30 מיליארד דולר ARR ובכך עברה את OpenAI שעמדה על 25 מיליארד. גם בשוק הפרטי הביקוש למניות של יצרנית קלוד עבר את זו של צ׳אט ג׳יפיטי ושווי החברה עומד על 863 מיליארד, בעוד של OpenAI על 846 בלבד.
״הבעיה עם OpenAI היא סם אלטמן בעצמו״
האם אפשר לסמוך על אחד האנשים הכי משפיעים בעולם הטכנולוגיה? כך תוהה תחקיר מקיף שהתפרסם השבוע בניו יורקר על סאם אלטמן, האיש מאחורי OpenAI. התחקיר כולל מעל 100 ראיונות, מזכרים ומסמכים סודיים שלא נחשפו מעולם, ומציג תמונה די מטרידה על האדם שאחראי לחברת ה-AI הגדולה בעולם.
אז מה יש בתחקיר? לראשונה נחשף הסיפור מאחורי פיטוריו הזמניים של אלטמן בנובמבר 2023. מתברר כי באותה תקופה, אילייה סוצקבר, המייסד השותף שמאז פוטר, כתב לדירקטוריון 70 עמודי הודעות סלאק ומסמכים כשהמסר המרכזי: אלטמן פשוט שיקר להם מספר פעמים כולל לגבי נושאי הבטיחות של החברה. “כל אדם שעובד על טכנולוגיה כזו שמשנה את פני העולם, נושא על כתפיו נטל כבד ולוקח על עצמו אחריות חסרת תקדים” כתב אז סוצקבר לחברי הדירקטוריון והוסיף ״אני לא חושב שסם צריך להיות האיש עם האצבע על הכפתור״. גם דאריו אמודאי, שהיום מנהל את אנתרופיק (המתחרים הכי גדולים) והיה סגן נשיא בענייני מחקר בחברה אמר אז כי: ״הבעיה של OpenAI היא אלטמן.״
ואכן נושא הבטיחות של הבינה המלאכותית, מה שגם מוגדר AI Alignment הוא עניין מרכזי. ב-2023 OpenAI הודיעה שתקצה 20% מכוח המחשוב שלה לצוות ה-Superalignment - הצוות שאמור לוודא שה-AI בטוח. בפועל? לפי ארבעה אנשים שעבדו עם הצוות, הוקצו בין 1% ל-2% בלבד - על השרתים הישנים והגרועים ביותר. הצוות פורק ב-2024 לפני שהשלים את המשימה שלו.
בסיפור אחר מוזכר איך בישיבת דירקטוריון בדצמבר 2022, אלטמן טען שפיצ’רים שנויים במחלוקת ב-GPT-4 אושרו על ידי פאנל בטיחות. כשחברת דירקטוריון ביקשה תיעוד, התברר שהם לא אושרו כלל.
ויש גם סיפורים מהעבר. אלטמן ידוע בסיליקון ואלי כמי שניצל את המעמד שלו כדי להשקיע אישית בחברות הכי טובות, תוך חסימת משקיעים חיצוניים. מוזכר איך כבר בסטארטאפ הראשון שלו עובדים בכירים ביקשו להדיחו מתפקיד המנכ״ל. איך בתקופה בה היה נשיא האקסלרטור YC עלו טענות נגדו ובעיות אמינות מה שבסוף הוביל לכך שנדחק החוצה.
באופן כללי, התחקיר לא מציג ״אקדח מעשן״ אחד ספציפי נגד אלטמן, אבל כן תמונה מאוד בעייתית לגבי אחד האנשים הכי משפיעים בעולם הטכנולוגיה ואולי בעולם כולו שהחלטות שהוא מקבל עלולות לייצר אימפקט משמעותית על כולנו.
בכיר במיקרוסופט אמר בראיון לתחקיר: יש ״סיכוי קטן אבל אמיתי״ שאלטמן ״ייזכר כברני מיידוף או סאם בנקמן-פריד - רמאי ברמה היסטורית״.
והתגובה של אלטמן? מספר ימים אחרי התחקיר משטרת סן פרנסיסקו עצרה אדם שזרק בקבוק מולטוב על ביתו של מנכ״ל OpenAI השבוע. והיום אלטמן מתייחס לכך ולתחקיר לראשונה בבלוג פוסט שפרסם באתר שלו כתב כי לא הבין את ההשפעה שיש למילים. אלטמן הוסיף כי הוא ״לא גאה בכך שהוא לא התנהל טוב בקונפליקט מול הדירקטוריון מה שהוביל לבלאגן ולפגיעה ב-OpenAI.״ מדבר על הצורך בדמוקרטיזציה של AI ועל כך שצריך ״להוריד את הטון״.
הצרות של OpenAI: באתר ה-Information דיווח כי דווקא בשנה שצפויה הנפקה - אלטמן הדיח את שרה פרייר, סמנכ״לית הכספים של החברה. על פי הדיווח פרייר שאלה שאלות קשות, ואף אמרה כי החברה לא מוכנה להנפקה.
אם נהנת, אשמח אם תשתפו עם חבר.ה
״מעלית הבינה״: הכירו את ראלף - הסוכן שסוגר לכם את הפינה
הירשמו לניוזלטר החדש של ״מעלית הבינה״ - הפורמט החדש מבית טראשטק בו 30 יזמים עולים עם יואב ואיתי 30 קומות במעלית, וכל אחד מספר בפיץ׳ מהיר איך הם באמת משתמשים ב-AI. השבוע הכירו את ראלף: הסוכן שישים סוף לכל העבודה הסיזיפית ויסגור לכם את כל מה שצריך - ובמקביל! עם הילה שמואל התותחית שלא מפסיקה לבנות:
עוד כותרות מהשבוע האחרון:
איך הפך אשטון קוצ׳ר 30 מיליון דולר ל-1.3 מיליארד? השבוע דלף מסמך פנימי של OpenAI שחושף את ה-Cap Table (טבלת המשקיעים) המלא של החברה ועל פיו הקרן של קוצ׳ר הייתה בין המשקיעים הראשונים שעשו כבר פי 17 על הכסף; מי עוד ברשימה?
תחרות חדשה לאנבידיה? מנכ״ל אמזון אנדי ג׳סי חשף כי החברה שוקלת להרחיב את פעילות מכירת השבבים שלה ולמכור גם לחברות חיצוניות. הפעילות כבר מייצרת מעל 20 מיליארד דולר בשנה ועשויה להגיע ל־50 מיליארד
משימת ארטמיס הושלמה בהצלחה! המשימה המאוישת הראשונה לירח מאז אפולו ב-1972 הסתיימה לפנות בוקר לאחר שארבעה אסטרונאוטים הגיעו לצד האפל של הירח - המרחק הגדול ביותר שעברו אסטרונאטים אי פעם - מה שמשמש חזרה גנרלית לנחיתה על הירח בעוד כשנתיים
