תזכיר פנימי של מיקרוסופט בנוגע לאימון בינה מלאכותית נחשף לציבור.

מה מכסה הסרטון הזה

• NYT נ' OpenAI/Microsoft נחשף: "גניבת העבודה הגדולה ביותר בהיסטוריה האנושית" (תזכיר מיקרוסופט, ינואר 2023); Copilot −93% קלקולות; 91,692 עותקים של יצירות התובעים בנתוני אמצע האימון; 2 מיליון עמודי nytimes.com בפרוסת Common Crawl אחת; הודעות זכויות יוצרים הוסרו; ברוקמן: "אה יפה"
• אזהרה: הציטוטים מגיעים מכתב הטענות של ה-Times, המוצגים עדיין חתומים; השופט אלסופ (Bartz נ' Anthropic) פסק שאימון על ספרים שנרכשו הוא שימוש הוגן – Anthropic שילמה 1.5 מיליארד דולר עבור 7 מיליון הפיראטיים
• OpenAI Astra for Law: GPT-6 Astra + אינדקס משפטי של 230 מיליון כתובות URL; 54.0% לעומת 38.7% במבחן המחקר המשפטי של Vals; הארווי, לגורה, 26 תוספים
• ZCode (Z.ai, GLM): תצלום מוצפן של 313 מגה-בייט של סביבת עבודה עם 42,411 קבצים, 86.6% .git, הועלה ל-Aliyun OSS בעת ההתחברות ולפני כל הנחיה; מפתח RSA-OAEP מוחזק רק על ידי Z.ai; מתגי הגדרות לא עוצרים זאת
• Hacktron: גלישת ערימה של libheif ← Discourse RCE ← תצורה שגויה של SSO ← GitHub ← מאגרים פנימיים של OpenAI בפחות מ-72 שעות; ניצול על ידי Claude Opus 5 (3 שעות); קמפיין תחת 3,000 דולר באסימונים; פרס של 6,500 דולר, תוקן תוך ~14 שעות

תמליל מתורגם

תורגם מהקריינות המקורית באנגלית. זמינות אודיו וכתוביות נשלטת על ידי YouTube.

0:00 בינואר 2023, דירקטור במיקרוסופט כתב תזכיר וכינה את מה שהחברה שלו עשתה גניבת העבודה הגדולה ביותר בהיסטוריה האנושית, ואתמול בית משפט פדרלי איפשר לכולנו לקרוא אותו. התזכיר הוא אחד הציטוטים שלא צונזרו בתביעה של הניו יורק טיימס נגד OpenAI ומיקרוסופט, תביעה שתמלא שלוש שנים בדצמבר הקרוב. באותו יום חמישי, OpenAI השיקה את Astra for Law, מודל לעורכי דין, שזהו צירוף מקרים או גיוס חזק מאוד. הבוקר מפתח תפס את ZCode, סוכן הקידוד של Z.ai,

0:29 מעלה את כל היסטוריית הגיט שלו לענן של עליבאבא עם מפתח שרק Z.ai מחזיקה. וחברת אבטחה נכנסה למאגרים הפנימיים של OpenAI דרך העלאת תמונה, עבורה OpenAI שילמה שישה אלף חמש מאות דולר. בסרטון זה: מה המסמכים אומרים, מי אמר "אה יפה" לפריצת חומת תשלום, מודל החוק ששוגה בחצי מהמקרים, מה ZCode מעלה, ולמה ניצול שנכתב על ידי קלוד שווה פחות ממכונית משומשת. היום יום שישי, 18 בספטמבר, וזהו The Daily Diff.

0:58 נתחיל עם התזכיר. ברנט הכט מנהל מדע יישומי במיקרוסופט, ובינואר 2023 הוא כינה את נתוני האימון גניבה מדהימה בעלת מימדים חסרי תקדים. שנה לאחר מכן הוא חזר עם מצגת שקפים: מנוע התשובות של קופיילוט קיצץ את הקלקות לטיימס בשיעור של עד תשעים ושלושה אחוזים, שאותה כינה לולאת דום: מרעיב את המוציאים לאור, ולמודל אין משהו חדש לאכול. מילותיו: מוצר סופי המאיים על היסודות הכלכליים של ספקיו החיוניים,

1:21 הדרך התאגידית לומר שהנחש מצא את זנבו. ואז העדויות. סאטיה נאדלה העיד השנה שכל תוכן בתשלום צריך להיות ברישיון, ושאילו ידע ש-OpenAI אימנה על מאמרים בתשלום, היה גורם להם לאמן מחדש, מה שמניח שאף אחד במיקרוסופט לא פתח את מערך האימון שקיבלו, ולפי אותו תיקון זה היה כל מערך הנתונים של GPT-3. ניק טרלי, שמנהל את ChatGPT, כינה זאת איום קיומי למוציאים לאור, במידה רבה תחליפי. וכשחוקר

1:49 סיפר לגרג ברוקמן על פריצה לעקיפת חומת התשלום של ה-Times, נשיא OpenAI השיב בשתי מילים: אה יפה. מהנדסים גם הסירו הודעות זכויות יוצרים מהנתונים כדי שהמודל לא יוציא אותן, וזו הסיבה שמורידים את המספר הסידורי מאופניים. הקנה מידה: יותר מתשעים ואחד אלף עותקים של מאמרי התובעים במערכי האימון האמצעיים בלבד, ושני מיליון עמודי טיימס בפרוסת Common Crawl אחת. עכשיו החלק שהכותרת מדלגת עליו.

2:15 כל ציטוט מגיע מכתב הטענות של הטיימס; המוצגים עדיין חתומים, אז אנחנו קוראים את הדגשים של התביעה ללא הקשר. ובתי המשפט ברובם צידדו בשימוש הוגן: השופט אלסופ פסק בשנה שעברה כי אימון על ספרים ששילמת עליהם הוא חוקי, אף ש-Anthropic עדיין שילמה מיליארד וחצי עבור שבעת המיליון ששיבשו. אז השאלה המשפטית פתוחה. האם האנשים שבנו את זה חשבו שזו גניבה, זה, נכון לאתמול, לא.

2:41 מה שהופך את השקת OpenAI הנוספת של יום חמישי לבחירה נועזת. Astra for Law עוטף את GPT-6 Astra, המודל שסימנתי REVERT בשבוע שעבר לאחר שהפיק שבעים וחמישה אלף שורות של כלום, באינדקס חיפוש משפטי של מאתיים ושלושים מיליון עמודים. במבחן המחקר המשפטי של Vals AI הוא עובר חמישים וארבעה אחוז מהשאלות, עלייה מתשעים ושלוש עם חיפוש רגיל באינטרנט, ש-OpenAI מכנה שיפור של ארבעים אחוז ועורך דין היה מכנה זאת שגוי כמעט בחצי מהמקרים. הפוסט בבלוג אינו מכיל את המילה הזיה.

3:14 האקר ניוז כן: האם הוא יוכל לתבוע את עצמו, שזה, בהתחשב בשבוע, מקרה השימוש האמיתי הראשון. בינתיים, שיח גניבת העבודה הגיע למחשב הנייד שלך. מפתח בשם ferstar ניקה את תיקיית ZCode שלו, הסוכן השולחני הסגור של Z.ai עבור מודלי GLM, ומצא ארכיון מוצפן של שלוש מאות ושלושה עשר מגה-בייט של סביבת העבודה המסחרית שלו: ארבעים ושניים אלף קבצים, שמונים ושבעה אחוזים מהם ספריית ה-.git, נשלחו לאחסון האובייקטים של עליבאבא בעת ההתחברות ולפני כל הנחיה.

3:42 הארכיון עטוף במפתח ציבורי שהשרת מחלק; המפתח הפרטי חי רק בענן של Z.ai, כך שהצופן על הדיסק שלך אינו קריא לך. השורש שלו: מפתח שרק השרת יכול להשתמש בו משרת מטרה אחת בדיוק. Z.ai היא גם החברה ש-Anthropic האשימה בזיקוק קלוד, כך שהמשקולות פתוחות וכך, כנראה, גם המאגר שלך. והמשעשע, אלא אם כן אתה עובד ב-OpenAI. Hacktron מצא גלישת ערימה ב-libheif, העלה תמונה מעובדת ל-

4:10 community.openai.com, קיבל ביצוע קוד בפורום, ורכב על התחברות יחידה שגויה דרך אינטגרציית GitHub לתוך מאגרים פנימיים של OpenAI, בפחות משבעים ושתיים שעות. הניצול נכתב על ידי קלוד: Opus 4.8 לא הצליח לנצח הקצאת אקראית של כתובות, Opus 5 עשה זאת תוך שלוש שעות מההשקה. כל הקמפיין עלה פחות משלושת אלפים דולר באסימונים. OpenAI תיקנה תוך ארבע עשרה שעות ושילמה שישה אלף חמש מאות דולר, אז קוד המקור של חברת טריליון דולר היה,

4:39 לזמן קצר, מתומחר כמו קורולה משומשת, באותו יום שעורכי הדין שלה טענו ש- העתקה היא שימוש הוגן. אם אתה מעדיף לקרוא את זה מאשר לשמוע אותי אומר את זה, הדיף נוחת בתיבת הדואר הנכנס שלך כל בוקר — חינם ב-thedailydiff.dev, קישור למטה. אז – פסק הדין של היום: NEEDS REVIEW. הציטוטים אמיתיים, אבל הם הבחירות של התביעה מתוך מוצגים חתומים, והשופט היחיד שפסק אומר שאימון הוא שימוש הוגן ופיראטיות אינה. בית המשפט קובע את החוק; התזכיר כבר קבע את האתיקה.

5:07 הירשם, לחץ על הפעמון, וספר לי בתגובות אם היית מסמן את זה בצורה שונה. וזה הדיף להיום. אני ניקו מ-Axrisi. SHIP IT באחריות.

מקורות

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com