מניפסט ה-AI של צוקרברג
ביום שני השבוע פרסם מארק צוקרברג מניפסט בן 6,500 מילים על העתיד של הבינה המלאכותית - ״העתיד שייך לכולם״. צוקרברג מפרט איך לדעתו ״סופר-אינטליגנציה אישית״ - שמטא מפתחת - תשנה את העולם.
לכל אחד יהיה סוכן אישי סופר-חכם שמכיר את המטרות שלו, עובד בשבילו 24/7 ונמצא איתו בכל מכשיר, כולל המשקפיים. צוקרברג מביא דוגמאות מהבית: הבת שלו אוהבת לאפות, אז הסוכן מתכנן לה מתכונים לסופי השבוע ומזמין את המצרכים. הבת בת ה-8 כבר מקודדת את הרעיונות שלה ומפיקה בערב אחד וידאו שלוקח לו חודשים.
מעל הכל הוא מדגיש את החשיבות שהבינה המלאכותית תהיה נגישה לכל וממש לא רק בידיהן של חברות בודדות (OpenAI ואנת׳רופיק?). ״האם היא תרוכז ותוגבל למוסדות ספורים, או שתהיה כלי שמעצים כל אדם?״ וממשיך: ״הרעיון שבינה מלאכותית מסוכנת כל כך עד שהדרך היחידה לבטיחות היא ריכוז קיצוני של כוח - בעייתי מעצם טבעו״, הוא כותב. ״היסטורית, התקווה שכוח אבסולוטי ידאג לאנושות אם רק יהיה נאור מספיק לא הובילה לתוצאות בטוחות או חיוביות״.
צוקרברג מנסה לצייר עתיד ורוד ומלא שפע לבינה המלאכותית, בזמן שבארה״ב נשמעות לא מעט ביקורת וחרדה.
הוא דחה את החששות של מחוקקים בוושינגטון וגורמים בעמק הסיליקון, שלפיהן בינה מלאכותית תביא לאבטלה בשוק העבודה. להפך - הוא מתאר עתיד שבו יהיו ״יותר חברות, עם פחות עובדים בכל חברה״. לדבריו, הטכנולוגיה תאפשר לאנשים להיות יזמיים יותר, וכל אדם יקבל ״מורה ויועץ אישי עם דוקטורט בכל נושא״ שיעזור לו להתקדם.
״אנשים גם כל הזמן ממציאים רעיונות חדשים שעושים את החיים שלנו טובים יותר, ועבודות חדשות שמממשות את הרעיונות האלה״, כתב. ״בעתיד הקרוב יהיו עבודות חדשות שלא נפוצות היום״.
וכך למשל הוא מתאר את העתיד לעולם החינוך:
״לכל אחד יהיה מורה ומאמן אישי עם דוקטורט בכל תחום ועם סבלנות אינסופית שיעזרו לך ללמוד כל מה שתרצה. תלמידים יקבלו עזרה נוספת בתחומים שבהם הם מתקשים - עזרה שכיום זמינה רק למי שהוריהם יכולים לשלם״.
בתוך המסמך מסתתרות גם לא מעט ״דרישות״ שיוכלו מאוד לעזור לחברה שלו בצד העסקי, למשל:
האצה בבנייה ואישור של חוות שרתים. מה שיאפשר למטא להגדיל מאוד את עסקי ה-AI בענן שלה.
שמירה על הגבלות יצוא של שבבים מתקדמים. מטא אמנם תומכת בקוד פתוח, אבל הגבלה כזו תיתן לה יתרון אל מול המתחרות הסיניות שאין להן גישה לשבבים.
הקלה בדרישות ובהגבלות על נתונים (דאטה) לאימון. זה כמובן משרת ישירות את מטא מול תביעות של יוצרים, עיתונים וגורמים אחרים שתובעים על שימוש בחומרים שלהם ללא רשות.
לגיטימציה לזיקוק - שימוש בפלט של מודלים אחרים כדי לאמן את המודלים שלה בעצמה.
ומעל הכל לא מעט תהיות - האם האיש שעומד מאחורי הרשת החברתית שהיא אחת הסיבות המרכזיות לכך שיש היום כל כך הרבה חרדה סביב ההשפעה החברתית של AI, יהיה המציל החברתי לעידן ה-AI?
הסערה סביב התגמול הכפול של מנכ״לי מאנדיי
כמה את/ה מרוויח/ה? זו כנראה השאלה האחרונה שתסכימו לענות עליה. כי באמת שאין נושא שאנחנו פחות אוהבים לדבר עליו מאשר השכר שלנו. שאול אמסטרדמסקי עשה על זה לאחרונה סדרה בכאן 11, ״התלוש של המדינה״, שבה אנשים חשפו כמה הם מרוויחים וניסה להציף את השאלה - האם שקיפות יכולה למשל לסגור פערי שכר.
בשבוע האחרון היה זה השכר (או יותר נכון התגמול) של מנכ״לי מאנדיי שהיה במרכז הדיון של הטק הישראלי. עמרי זרחוביץ׳ מדה מרקר חשף שרגע אחרי שהחברה פיטרה 620 עובדים, הבורד של החברה אישרו למנכ״לים שלה הכפלה של התגמול שלהם ל-14 מיליון דולר, כל אחד, עד 2029. לפי החברה, מדיניות התגמול לא עודכנה מ–2021, והתגמול הנוכחי נמצא באחוזון נמוך בהשוואה לחברות דומות.
השבוע מאנדיי פרסמה את הדוחות הרבעוניים שלה - ההכנסות צמחו ב-22% ברבעון השני, והחברה צופה להכניס השנה 1.46 מיליארד דולר. הישג מרשים לכל הדעות. אבל מאנדיי נמצאת בתקופה מורכבת - החברה הפכה להיות אחת הדוגמאות לקריסה של מניות התוכנה בעידן ה-AI - בשנה האחרונה המניה איבדה 50% מערכה והיא נסחרת בשווי ששווה למחיר ההנפקה שלה - 3.7 מיליארד דולר.
וכאן נשאלת השאלה - האם בזמן שהמניה מדשדשת, שריח הפיטורים עוד באוויר? אבל מעבר לזה יש פה בעיני עניין מיתוגי. איזה מסר זה מעביר לעובדים בתוך החברה ואפילו לעובדים עתידיים?
אני חושב שמגיע למנכ״לים של סטארטאפים (במיוחד כאלו שהצליחו) להרוויח, מגיע למי שבנה חברה של מיליארדים תגמול שמשקף את העבודה הקשה והדרך. אבל יש גם עניין של טיימינג. כשעובד חדש מגיע לעבוד בחברת טק הוא יודע שהתגמול שלו יבוא לידי ביטוי לא רק בשכר אלא גם באופציות ובמניות. אבל כשעובדים רואים את מחיר המניה שמדשדשת ומצד אחד מבינים שהם לא בהכרח יהנו מהתגמול הזה, בזמן שהמנהלים שלהם כן - אז יש פה בעיה מיתוגית קשה.
השבוע דיברנו על זה בהרחבה בטראשטק יחד עם עמרי זרחוביץ׳ מדה מרקר - צפו בפרק:
המלחמה בפוסטים שנכתבו ב-AI
כל מי שגולל ברשתות החברתיות בתקופה האחרונה, ובמיוחד בלינקדאין, בטח מצא את עצמו תוהה מול הרבה פוסטים - ״האם זה נכתב על ידי אדם או בינה מלאכותית?״ - שאלה שכנראה תרדוף אותנו למשך שארית חיינו.
״הדפוס ברור״, ״השאלה האמיתית היא לא... אלא...״, ״הנה מה שזה לימד אותי על...״ ועוד ועוד. עידן חדש של AI Slop.
לאחרונה בלינקדאין השיקו כפתור חדש שמאפשר לסמן פוסטים שנראים כאילו נכתבו ב-AI - ״נראה כמו AI Slop” ולפי מנהל המוצר הראשי של הרשת החברתית שכך יהיה אפשר לאמן את מודלי הזיהוי ויקטינו את החשיפה של הפוסטים שיסומנו. לפי נתונים של חברת Pangram יותר מ-40% מהפוסטים הארוכים בלינקדאין נכתבים כולם בבינה מלאכותית. אותה Pangram השיקה כלי שיודע לזהות מתי טקסט נכתב על ידי צ׳אטבוט - מדביקים פנימה בלוק של טקסט, והכלי מחזיר אחוז שמראה כמה ממנו הופק על ידי בוט וכמה נכתב על ידי אדם.
האיחוד האירופי לקחת את הרגולציה שלב אחד קדימה - החל מה-2 באוגוסט נכנס לתוקפו סעיף 50 בחוק ה-AI האירופי ועל פיו כל תוכן שנוצר או שונה משמעותית בעזרת בינה מלאכותית - טקסט, תמונה, וידאו או אודיו - חייב לכלול סימון AI. בנוסף, צ׳אטבוט חייב להבהיר שהוא לא בן אדם, וכל תוצר דיפפייק חייב להיות מוצהר שהוא כזה. בעקבות כך הודיעה השבוע אנת׳רופיק שהיא תחל להטמיע סימן מים בלתי נראה בכל מה שקלוד מייצר - טקסט, קוד וקבצים. סימון שלפי החברה אמור לשרוד גם כשמעתיקים את התוכן החוצה מהפלטפורמה. זה יתחיל בכל מודל שיושק באיחוד האירופי, ובהמשך זה יורחב לכל מוצרי קלוד בעולם.
גם באפליקציית הסטרימינג, ספוטיפיי מבינים שה-AI Slop עלול לפגוע בהם - ושם החלו לאתר ולמחוק פרופילים של אמנים שנוצרו בבינה מלאכותית. “המאזינים הבהירו לנו שהם לא אוהבים לראות אומנים שמתחזים להיות אנושים, רק לגלות אחר כך שזה בכלל AI”, מסרה החברה בהצהרה.
זיהוי תוצרי בינה מלאכותית יהפוך להיות רק קשה יותר ככל שהמודלים משתפרים, אבל בינתיים - אם נעזרתם ב-AI לכתוב טקסט? עשו טובה ועברו עליו רגע לפני.
🎧 הראיון השבועי - בן ה-22 שעומד מאחורי מעבדת ה-AI הישראלית; עם גלעד לוי
בגיל 8 הוא החליט שהוא הולך לטכניון. בגיל 15 כבר התחיל שם תואר. והיום כשהוא בן 22 הוא מקים מעבדת ה-AI כחול-לבן.
גלעד לוי, מייסד ומנכ״ל Manifold הוא דמות קצת שונה בהייטק הישראלי. בזמן שכולם מדברים על כך שהסינגולריות מעבר לפינה, שהבינה המלאכותית תיכף חכמה יותר מהאנושות כולה ושה-AI הזה כבר מפתח את עצמו - הוא דווקא טוען שזה ממש לא המצב: ״כל חוקר AI שמבין איך המכונה הזו עובדת יודע שהיא מאוד מרשימה. אבל AGI זה לא. אנחנו לא קרובים... עם הארכיטקטורה הזו אנחנו לא נגיע לשם״, הוא אומר לנו בראיון לטראשטק.
עכשיו הוא רוצה להקים מעבדת AI בישראל, אבל לא כזו שמושקעים בה מיליארדים: ״אתה לא צריך לגייס מיליארד דולר, אלא אם כן אתה רוצה להתחרות עם OpenAI בשוק שלה והשוק שלה הפסדי״. צפו בראיון המלא
עוד כותרות מהשבוע האחרון:
אנת׳רופיק בדרך לרכישת ענק בישראל? מעבדת ה-AI במגעים לרכוש את Decart בכ-6 מיליארד דולר, הרכישה הגדולה בתולדותיה; פי 1.5 מהשווי שבו גייסה החברה במאי
לאחר ששורה של בכירים עזבו את OpenAI וענקית הבינה המלאכותית ״גונבת״ בכיר מ-Wiz: דאלי רג׳יץ׳, נשיא ומנהל התפעול של שנרכשה בידי גוגל ב-32 מיליארד דולר, מונה לסמנכ״ל ההכנסות של מעבדת ה-AI
OpenAI עצרה חלק מהשימושים הפנימיים במודל החדש Astra בשל חשש שהוא קרוב או הגיע ליכולת ״קריטית״ - מסוגל לבצע מתקפות סייבר אוטונומיות נגד מערכות מאובטחות, גם בלי הנחיות מפורטות