Plafoanele de cheltuieli AWS îți pot șterge proiectul

Ce acoperă acest videoclip

• Ce poate proteja, de fapt, un plafon de cheltuieli cloud?
• Cum oprește AWS, de fapt, cheltuielile unui proiect?
• Cine primește noile limite de cheltuieli AWS?
• Ce limitează Google și ce continuă să factureze?
• Cât de mic este noul model open-weight al Germaniei?

Transcrierea tradusă

Tradus din narațiunea originală în engleză. Audio-ul și subtitrările disponibile sunt controlate de YouTube.

Ce poate proteja, de fapt, un plafon de cheltuieli cloud?

0:00 Un plafon de cheltuieli înseamnă că proiectul tău secundar este în siguranță. Noua limită a AWS îl poate întrerupe, iar dacă îl lași întrerupt, poate șterge în cele din urmă datele. În acest videoclip, ce oprește factura? Care este șiretlicul? Cine primește, de fapt, aceste limite? Există o numărătoare inversă în documentația AWS. O vom urma până la butonul de ștergere. Este duminică, patru octombrie, și acesta este The Daily Diff.

0:20 Sâmbătă, Simon Willison a cerut plafoane de cheltuieli implicite, pe măsură ce agenții fac implementarea software-ului mai ușoară. Germania a lansat Kolibri, în timp ce administratorii Cosmic au tras o linie în jurul contribuțiilor AI. Argumentul lui Willison este dureros de familiar. Un email de avertizare sosește la miezul nopții, serviciul continuă să cheltuiască, și te trezești ca sponsor involuntar al propriei tale bucle infinite. AWS a introdus limitele de cheltuieli pentru proiecte în experiența sa simplificată pentru dezvoltatori în

Cum oprește AWS, de fapt, cheltuielile unui proiect?

0:44 septembrie. Când utilizarea atinge limita, AWS întrerupe proiectul și oprește resursele sale. Datele tale sunt inițial păstrate. Aceasta este o schimbare reală în contractul de produs. Clientul poate autoriza cloud-ul să întrerupă experimentul. O alertă de cheltuieli lasă decizia la latitudinea celui care își citește inbox-ul. Un agent de codificare poate provisiona resurse în timp ce tu iei cina. Factura aparține proprietarului contului, care a devenit cumva atât departamentul de inginerie, cât și departamentul de finanțe.

1:09 Lansarea este limitată și ai nevoie de un plan plătit pentru a seta o limită.

Cine primește noile limite de cheltuieli AWS?

1:13 Aceasta aparține noii experiențe de proiect. Verifică disponibilitatea înainte de a presupune că contul tău existent are aceleași controale. Plafonul se aplică taxelor înainte de impozitare și exclude creditele. Minimul este de douăzeci de dolari sau estimarea conservatoare a cheltuielilor AWS, oricare este mai mare. Resursele deja în funcțiune pot împinge acel minim în sus. Acest lucru contează pentru un sandbox neglijat, plin de mașini scumpe. Poate va trebui să le oprești înainte de a seta o limită mai mică.

1:36 Sfatul financiar al cloud-ului începe cu oprirea computerului. AWS oferă, de asemenea, controale timpurii opționale. Cu aproximativ o săptămână înainte de limita prezisă, poate bloca noi resurse. Instanțele tale existente rămân în funcțiune, în timp ce un grup de scalare automată își poate pierde permisiunea de a se extinde. Alte opțiuni întrerup resursele inactive, apoi principalii factori de cost pe măsură ce prognoza se apropie. Un endpoint SageMaker cu zero apeluri timp de două săptămâni se califică drept inactiv. Demo-ul tău uitat primește în sfârșit un interviu de ieșire.

2:03 Willison dorește plafoane stricte activate implicit, cu cheltuieli nelimitate ca o alegere explicită. Aceasta este propunerea sa. Documentația AWS descrie controalele pe care le configurezi, cu acces limitat în timpul acestei lansări. Google și-a anunțat propriile plafoane de cheltuieli în iulie.

Ce limitează Google și ce continuă să factureze?

2:17 În previzualizarea publică, acestea vizează un singur serviciu într-un singur proiect, iar Google spune că plafoanele AI se declanșează în câteva minute de la atingerea pragului. Serviciile enumerate includ Gemini și Cloud Run. Alte servicii rămân neafectate. Angajamentele contractuale fixe continuă să factureze, astfel încât întreruperea utilizării noi lasă în continuare orice angajamente pe care le-ai semnat deja pe factură. Pentru o afacere, o închidere neașteptată poate fi, de asemenea, costisitoare. AWS încadrează explicit aceste limite în jurul experimentelor și sandbox-urilor,

2:43 utilizarea în producție depinzând de acceptabilitatea unei întreruperi de resurse. Concluzia mea pentru dezvoltatori este simplă. Pune agenții experimentali într-un proiect separat, verifică ce costuri acoperă limita și testează procesul de recuperare. Bariera de protecție are nevoie de un proprietar care observă când se declanșează.

Cât de mic este noul model open-weight al Germaniei?

2:57 Între timp, Aleph Alpha a lansat Kolibri, un model open-weight pentru germană și engleză. Animația de lansare spune: pasăre mică, aripi rapide. Ponderile sunt disponibile sub Apache 2.0. Chubby a numit-o o lansare surprinzător de puternică din Germania. Partea utilă este controlul implementării. O companie poate deține ponderile și poate rula documentele sale prin infrastructura pe care o deține. Aproximativ trei miliarde și jumătate de parametri lucrează pe fiecare token, dar modelul complet are șaptezeci și opt de miliarde.

3:22 Ponderile sale publicate ocupă aproximativ șaptezeci și opt de gigabytes, deci pasărea mică are totuși nevoie de o cușcă mare. Tejas Kumar a testat independent tokenizatorul său pe constituția Germaniei. A folosit cu aproximativ cincisprezece procente mai puține tokenuri decât tokenizatorul OpenAI în germană. Pe traducerea în engleză, au fost practic egale. Aceasta este o măsurătoare restrânsă, utilă, a eficienței textului german. El spune că nu a rulat modelul în sine. Păstrează această distincție atunci când o diagramă de lansare prietenoasă încearcă să devină departamentul tău

3:46 de achiziții. Și compositorul Cosmic al System76 cere acum

Ce anume respinge COSMIC în cererile de pull?

3:50 contribuitorilor să certifice că cererea lor de pull nu conține conținut generat de modele lingvistice. Șablonul include explicit cod, comentarii și descrieri. Contribuitorii promit, de asemenea, că înțeleg și au testat modificarea. Repository-ul Flatpak are o excepție pentru propria sursă de aplicații și manifest. Citește șablonul real înainte de a trata întregul proiect ca pe o singură regulă. Mașina poate produce o altă corecție în câteva secunde. Cineva trebuie totuși să o citească.

4:14 Astăzi, cloud-ul impune limite pe experiment, iar administratorii impun limite pe coada de revizuire. Înapoi la acel proiect AWS întrerupt. Mărirea limitei de cheltuieli o poate reactiva, iar unele resurse ar putea avea nevoie de reporniri manuale. Recuperarea este o procedură pe care ar trebui să o înțelegi înainte ca un agent să cheltuiască alocația. Numărătoarea inversă este de nouăzeci de zile.

Când devine pauza o pierdere permanentă de date?

4:31 AWS spune că, dacă nu iei nicio măsură în acest interval de timp după ce proiectul este întrerupt, șterge permanent datele proiectului. Pune o copie de rezervă în afara zonei de impact a acelui proiect. O factură oprită și o copie de rezervă păstrată sunt două sarcini separate. Vreau plafonul și vreau un plan de recuperare. Prototipul meu abandonat de weekend ar trebui să se retragă cu demnitate. Dacă preferi să citești asta decât să mă auzi spunând-o, diff-ul ajunge în inbox-ul tău în fiecare dimineață, gratuit la thedailydiff.dev, link mai jos.

Care este verdictul meu despre noile controale de cheltuieli?

4:55 Deci, verdictul de astăzi, NEEDS REVIEW. Salut limitele de cheltuieli impuse. Aș verifica disponibilitatea, costurile acoperite și recuperarea înainte de a încredința unui agent contul. Un ceas de ștergere de nouăzeci de zile merită un avertisment foarte vizibil. Și acesta este diff-ul pentru astăzi. Sunt Niko de la Axrisi. Fuzionare cu responsabilitate.

Surse

1. Willisonsimonwillison.net
2. AWS launchaws.amazon.com
3. AWS exact rulesdocs.aws.amazon.com
4. Googlecloud.google.com
5. Kolibrihuggingface.co
6. Tokenizer testtej.as
7. COSMICgithub.com
8. Flatpak exceptiongithub.com
9. HNnews.ycombinator.com