עוצרת את ההשקה
השבוע OpenAI הודיעה שהיא עצרה את אימון מודלי ה-AI המתקדמים שלה בגלל תקריות האבטחה האחרונות. זה ככל הנראה, הפעם הראשונה שחברה גדולה בתחום עוצרת מרצון את קצב הפיתוח והאימון של מודל חדש בגלל אירוע בטיחותי, ולא בגלל רגולציה חיצונית.
הסיפור מתחיל בפריצה ל-Hugging Face, אז המודלים החזקים והניסיוניים הפנימיים של OpenAI ״ברחו מהסנדבוקס״ שבו בדקו אותם, והצליחו לבצע מתקפה אוטונומית על האתר - הכול כדי למצוא תשובה למבחן ששמו אותם בו (עוד פרטים פה).
אפשר להעריך שאחד המודלים האלו הוא - Astra, שעל פי OpenAI מתקרב ואפילו חוצה את מה שהם מגדירים ״סף האבטחה הקריטי״ של החברה - רמת הסיכון הגבוהה ביותר במסגרת מדדי הבטיחות הפנימיים שהחברה הגדירה לעצמה. מה הכוונה? החשש של החברה שהמודלים יתחילו לבצע מתקפות סייבר בצורה אוטונומית, שישתפו פעולה בינם לבין עצמם ללא ידיעת המפעילים שלהם, שיסתירו את הכוונות האמיתיות שלהם. אגב, דוגמאות לכל הפעולות האלו ראינו בשבועות האחרונים.
כיום, אין רגולציה על פיתוח מודלי בינה מלאכותית בארה״ב והחברות פשוט מתחילות לייצר רגולציה עצמית ופנימית. דרכה הן מגדירות את רמות הסיכון ומה צריך לעשות כשמגיעים לסף של רמה. עד היום כאמור זה עוד לא קרה, עד ההודעה של אלטמן השבוע יחד עם העצירה המדוברת. בראיון לעיתונאי אלכס הית׳ הוא אמר שההאטה לא נגרמה בגלל ״אקדח מעשן״ אחד, אלא בשל אוסף של ממצאי מחקר שהראו ״דרגות שונות של חוסר התאמה״ (misalignment), ההחלטה ללחוץ על הברקס הוא הוסיף לא צריכה להתפרש כהוכחה לאסון קרב ובא, ״להצליח בנושא בטיחות ה‑AI - חשוב יותר מהמומנטום של כל חברה״, אמר מנכ״ל OpenAI
אז מה OpenAI עושה בפועל?
הם החליטו ליישם שיטה של שלבים שבוחנים את המודלים, באמצעות סוכני AI אחרים.
שלב 1 - ה-classifier (המסווג): בזמן אימון המודל - ישנם סוכנים שקוראים את התוצרים ומחפשים סימנים להתנהגויות חשודות. אם הם מזהים דפוס בעייתי, הוא עובר לשלב הבא.
שלב 2 - חוקר ה-AI: מודל נוסף (אין אפשרות לבן אדם לבדוק כל כך הרבה פעולות במקביל) שמטרתו לבדוק האם באמת ההתנהגות החשודה היא בעייתית או שמא מדובר ב-False Positive.
שלב 3 - הבן אדם נכנס לתמונה: אם המודל הגיע למסקנה שיש משהו בעייתי בתהליך, לצוות בטיחות אנושי יש 30 דקות לבדוק את הטענה, ואם היא נכונה - עוצרים את הבדיקה.
כמובן שלא מעט שאלות עולות מהתהליך הזה - העובדה שראינו כי המודלים מצאו דרכים לתקשר בינם לבין עצמם ללא ידיעת המפעילים שלהם - האם AI יכול לפקח על AI? בעבר ראינו איך המודלים יודעים גם להסתיר את הכוונות האמיתיות שלהם כשהם מבינים שהם במבחן - מה ימנע מהם לעשות את זה בהמשך?
לבסוף, אפשר להעריך בביטחון די גבוה - שהמודלים האלו רק הולכים ומתחזקים וזה צעד חשוב, אבל גם לתזמון יש משמעות. בשבועות האחרונים עזבו את החברה שורה ארוכה של בכירים בהם הבכירים ביותר בחברה, במקביל אנחנו שומעים על עוד ועוד דיווחים כי החברה דחתה את ההנפקה לאור ביצועים פיננסיים פושרים לעומת המתחרה אנת׳רופיק. אז אין ספק שזה גם עוזר להסיט קצת את תשומת הלב מהצדדים היותר שליליים של החברה.
ההנפקה הגדולה בהיסטוריה ולמה אנת׳רופיק רוכשת את דקארט ב-6-7 מיליארד דולר?
אם הכול יילך לפי התכנון, אז כבר באוקטובר צפויה אנת׳רופיק לצאת להנפקה הגדולה בהיסטוריה, לפי שווי של 2 טריליון דולר! הניו יורק טיימס מדווח השבוע כי החברה נערכת לגיוס של יותר מ-100 מיליארד דולר. אם המספר הזה יחזיק, ההנפקה תעקוף את זו של SpaceX, שיצאה לבורסה ביוני לפי 1.77 טריליון דולר. המספרים האלו כל כך בלתי נתפסים כשמביאים בחשבון את העובדה שהחברה בכלל לא הייתה קיימת לפני קצת יותר מ-5 שנים.
בפיץ׳ למשקיעים, אנת׳רופיק מתמקדת בקצב שבו העסק צומח, כשבשנה האחרונה החברה צמחה ביותר מפי 10. ביולי האחרון היא הגיעה לקצב הכנסות שנתי של יותר מ-65 מיליארד דולר, אחרי שאת השנה הקודמת סיימה בקצב של כ-9 מיליארד. אבל כמובן שנשאלת השאלה האם אנת׳רופיק תצליח להמשיך לגבות מחירים פרימיום על המודלים שלה, בזמן שמתחרות מורידות מחירים והתחרות מהמודלים הסינים רק גוברת.
האקזיט של דקארט
וזו אולי אחת הסיבות שאנת׳רופיק מוכנה לשלם בין 6 ל-7 מיליארד דולר על דקארט הישראלית. הסטארטאפ הישראלי בנה פלטפורמה המאפשרת לחברות לסחוט את המקסימום משבבי ה-GPU, וכך להוזיל בצורה דרמטית את תהליכי האינפרנס - כלומר הרגע שבו המודל באמת עונה למשתמש. אורי אליאבייב מקהילת MDLI אמר לנו השבוע בטראשטק: ״אם הם חוסכים לאנת׳רופיק 5% מעלות כוח המחשוב שלהם... אז (סכום המכירה) בטל ב-60, זה כסף קטן״. מיכה סטוקס, שהתארח איתו באותו פאנל, הסכים והוסיף: ״אם אלה המספרים, ודקארט מסוגלת להוריד להם את העלויות - זו רכישה שה-ROI שלה, הוא תוך שנה מכסה אותו״.
מאחורי החברה
מכפיל משמעותי החברה מקבלת גם על הטאלנט המשמעותי של החברה שעכשיו בסיליקון ואלי משלמים עליו מיליארדים. אליאבייב הגדיר את מייסד החברה דין לייטרסדורף כגאון. הוא בן לזוג רופאים, שגדל בין ישראל, שווייץ ופאלו אלטו, קפץ כיתה בגיל 15, והשלים דוקטורט בטכניון במקביל לשירותו הצבאי ב-8200.
גם אחיו אוריאן לייטרסדורף, הוא שותף בחברה. רק בן 23, ותפקידו הרשמי - המדען הראשי והצטרף ככל הנראה לאחר שסיים את שירותו הצבאי. בדה מרקר תיארו אותו: ״מטאור חריג בתחומו: הוא בוגר הפקולטה להנדסת חשמל ומחשבים בטכניון ובוגר התוכנית למצוינים, ובשנה שעברה, בגיל 22, נהפך לסטודנט הצעיר ביותר בתולדות הטכניון המסיים דוקטורט״.
וסמנכ״ל המוצר, שייסד יחד עם דין הוא משה שלו - נשוי ואב לשניים, שהתגייס לצה״ל בגיל 23 במסגרת מסלול ייעודי לחרדים, ובהמשך הצטרף ל-8200.
לפי הערכות השלושה מחזיקים יחד ב-64% מהחברה, ואם העסקה תיחתם כל אחד מהם צפוי להכניס לכיסו כמיליארד דולר! המדינה צפויה להכניס כ-4 מיליארד דולר במסים. העסקה ככל הנראה נמצאת בשלבים סופיים ואם תחתם נדע על זה ממש בשבועות הקרובים. צפו בפרק:
נהנתם? עדיין לא נרשמתם? לחצו על הכפתור 👇ותקבלו את הניוזלטר למייל בכל שבת
איך סטאראטפים יכולים להתמודד עם התנודתיות בשער הדולר?
אם אתם מנהלים סטארטאפ, אז בוודאי אתם יודעים כמה זה קשה לנהל את התקציב כשה-Runway בדולרים, ולא מעט מההוצאות בשקלים. בשבועות האחרונים לאומי טק יצאו עם פתרון חדש - Dollar Shield. פיקדון דולרי חדש עם שער המרה שנקבע מראש ביום ההפקדה. הפיקדון מוצע לתקופה של חודש ועד שנה ובריבית קבועה, כך שניתן ליהנות מיותר ודאות בתכנון התזרים וההוצאות השקליות, ולדעת מראש באיזה שער תומר הקרן במועד הפירעון. רוצים לשמוע עוד? כתבו להם פה, או כנסו לאתר שלהם.
*בשיתוף עם לאומיטק
🎧 הראיון השבועי - ״זה האיבר הכי חשוב בגוף, ואנחנו לא יודעים עליו כלום״; עם גידי ליטוין
האם אתם יודעים לומר מה מצב הבריאות המוחית שלכם? השבוע בטראשטק אנחנו עם גידי ליטוין, מייסד-שותף ו-CTO של Hemispheric, שנחשב לאחד האנשים האחראיים על ה-FaceID באייפון שלנו סיפר ליואב צוקר ולי איך מודל המוח שפיתחו יוכל לפענח מה אנחנו מרגישים ולעזור לאבחן דיכאון ופוסט-טראומה. לאחרונה הם גייסו 52 מיליון דולר, והמטרה הסופית היא להכניס לכל אחד מאיתנו הביתה מכשיר שידע לאבחן את המוח שלנו. ״זה האיבר הכי חשוב בגוף, יש שיגידו, ואנחנו לא יודעים עליו כלום״, הוא אומר לנו. די הזוי נוכח העובדה שלפי מחקרים ״אחד מכל שני אנשים יחוו בעיה כלשהי עם המוח שלהם במהלך החיים״.
Hemispheric פיתחו מעין ChatGPT למוח שלנו: מודל שכבר אסף מידע מיותר מ-100 אלף נסיינים, כולל 6 מיליארד פרמטרים, ובקרוב יתחיל לאבחן מצבים כמו דיכאון או פוסט-טראומה בעזרת EEG (בדיקת גלי מוח) ושאלונים מיוחדים שפיתחו. אז איך זה עובד? מתי זה יגיע לכל אחד מאיתנו? ואיך ייראה טיפול פסיכיאטרי בעוד 5 שנים?
עוד כותרות מהשבוע האחרון:
יוטיוב משלמת מיליונים ליוצרים כדי שלא ילכו לנטפליקס: בלומברג דיווחה שיוטיוב מציעה ליוצרים הגדולים שלה תשלומים של מיליוני דולרים, ונתח מההכנסות של העסקאות עם המותגים הגדולים שלה, תמורת זה שלא יעלו את אותו תוכן למתחרה; נטפליקס כבר החתימה יוצרי יוטיוב, ועכשיו נראה שיוטיוב לא מוותר
ChatGPT קורא עכשיו את ההודעות שלכם, ושולח תגובה בשמכם: OpenAI השיקה ב-20 באוגוסט תוסף לאפליקציית Messages של אפל ב-Mac, שמאפשר לצ׳אט לקרוא, לחפש, לסכם ולשלוח הודעות בשמכם; OpenAI מדגישה שהעיבוד מתבצע מקומית ושנדרש אישור לפני כל שליחה. ובכל זאת, תתנו גישה כזאת למודלי AI?
שותפה ב-a16z בנתה סטודנטית מזויפת ב-100 דולר שהגיעה למיליוני צפיות: אוליביה מור, שותפה בקרן a16z, חשפה שהדמות ״ג׳יני״, סטודנטית בת 19 שסרטוני הקבלה שלה לאחוות באוניברסיטת אלבמה אספו כמיליון צפיות בשבוע, נבנתה כולה ב-AI; היא יצרה אותה מתמונה אחת ב-ChatGPT, השקיעה כ-30 דקות ביום בהנחיות ב-MiniMax וב-Grok Imagine, ובסך הכול הוציאה כ-100 דולר. גם אחרי שצופים זיהו את הסימנים תוך ימים, החשבון הצליח להמשיך לצמוח