AWS-bestedingsperke kan jou projek uitvee

Wat hierdie video dek

• 'n Wolk-bestedingsperk: wat kan dit eintlik beskerm?
• Hoe stop AWS eintlik 'n projek se besteding?
• Wie kry AWS se nuwe bestedingslimiete?
• Wat beperk Google, en wat hou aan faktureer?
• Hoe klein is Duitsland se nuwe oopgewig-model?

Vertaalde transkripsie

Vertaal uit die oorspronklike Engelse vertelling. Beskikbare klank en onderskrifte word deur YouTube beheer.

'n Wolk-bestedingsperk: wat kan dit eintlik beskerm?

0:00 'n Bestedingsperk beteken jou syprojek is veilig. AWS se nuwe limiet kan dit onderbreek, en as dit onderbreek bly, kan dit uiteindelik die data uitwis. In hierdie video, wat stop die rekening? Wat is die vangplek? Wie kry eintlik hierdie limiete? Daar is 'n aftelling in AWS se dokumentasie. Ons sal dit volg tot by die uitvee-knoppie. Dis Sondag, die vierde Oktober, en dit is The Daily Diff.

0:20 Saterdag het Simon Willison gevra vir verstekbestedingsperke soos agente dit doen die ontplooiing van sagteware makliker maak. Duitsland het Kolibri vrygestel, terwyl Cosmic se instandhouers 'n streep getrek het rondom KI bydraes. Willison se argument is pynlik bekend. 'n Waarskuwings-e-pos kom om middernag aan, die diens hou aan bestee, en jy word wakker as die onwillige borg van jou eie oneindige lus. AWS het projekbestedingslimiete in sy vereenvoudigde bou-ervaring in

Hoe stop AWS eintlik 'n projek se besteding?

0:44 September bekendgestel. Wanneer gebruik die limiet bereik, onderbreek AWS die projek en stop sy hulpbronne. Jou data word aanvanklik bewaar. Dit is 'n werklike verandering in die produkkontrak. Die kliënt kan die wolk magtig om die eksperiment te onderbreek. 'n Bestedingswaarskuwing laat die besluit by wie ook al hul inkassie lees. 'n Koderingsagent kan hulpbronne voorsien terwyl jy aandete maak. Die rekening behoort aan die rekeninghouer, wat op een of ander manier beide die ingenieursdepartement en die finansiële departement geword het.

1:09 Die bekendstelling is beperk, en jy benodig 'n betaalde plan om 'n limiet te stel.

Wie kry AWS se nuwe bestedingslimiete?

1:13 Dit behoort tot die nuwe projekervaring. Kontroleer beskikbaarheid voordat jy aanneem dat jou bestaande rekening dieselfde beheermaatreëls het. Die plafon is van toepassing op heffings voor belasting en sluit krediete uit. Die minimum is twintig dollar of AWS se konserwatiewe bestedingsraming, wat ook al hoër is. Reeds lopende hulpbronne kan daardie minimum opstoot. Dit maak saak vir 'n verwaarloosde sandbox vol duur masjiene. Jy moet dit dalk stop voordat jy 'n kleiner limiet stel.

1:36 Die wolk se finansiële advies begin deur die rekenaar af te skakel. AWS bied ook opsionele vroeë beheermaatreëls aan. Ongeveer 'n week voor die voorspelde limiet, kan dit nuwe hulpbronne blokkeer. Jou bestaande instansies bly loop, terwyl 'n outoskalingsgroep dalk toestemming om uit te brei verloor. Ander opsies onderbreek ledige hulpbronne, en dan topkoste-drywers soos die voorspelling nader kom nader. 'n SageMaker-eindpunt met nul oproepe vir twee weke kwalifiseer as ledig. Jou vergete demo ontvang uiteindelik 'n uittree-onderhoud.

2:03 Willison wil harde plafonne by verstek aangeskakel hê, met onbeperkte besteding as 'n eksplisiete keuse. Dit is sy voorstel. AWS se dokumentasie beskryf beheermaatreëls wat jy opstel, met beperkte toegang gedurende hierdie bekendstelling. Google het in Julie sy eie bestedingsperke aangekondig.

Wat beperk Google, en wat hou aan faktureer?

2:17 In openbare voorskou, teiken hulle een diens binne een projek, en Google sê KI-perke word binne minute nadat die drempel bereik is, geaktiveer. Die gelyste dienste sluit Gemini en Cloud Run in. Ander dienste bly onaangetas. Vaste kontraktuele verpligtinge hou aan faktureer, so die onderbreking van nuwe gebruik laat steeds enige verpligtinge wat jy reeds onderteken het, op die faktuur staan. Vir 'n besigheid kan 'n onverwagte sluiting ook duur wees. AWS raam hierdie limiete eksplisiet rondom eksperimente en sandboxes,

2:43 met produksiegebruik afhanklik van of 'n hulpbrononderbreking aanvaarbaar is. My ontwikkelaarsafhaal is eenvoudig. Plaas eksperimentele agente in 'n aparte projek, kontroleer watter heffings die limiet dek, en toets jou herstelproses. Die vangrail benodig 'n eienaar wat opmerk wanneer dit afgaan.

Hoe klein is Duitsland se nuwe oopgewig-model?

2:57 Intussen het Aleph Alpha Kolibri vrygestel, 'n oopgewigmodel vir Duits en Engels. Die bekendstellingsanimasie sê klein voël, vinnige vlerke. Die gewigte is beskikbaar onder Apache twee punt nul. Chubby het dit 'n verrassend sterk vrystelling van Duitsland genoem. Die nuttige deel is ontplooiingsbeheer. 'n Maatskappy kan die gewigte hou en sy dokumente deur infrastruktuur wat dit besit, laat loop. Ongeveer drie en 'n half miljard parameters werk op elke token, maar die volle model het agt-en-sewentig miljard.

3:22 Die gepubliseerde gewigte beslaan ongeveer agt-en-sewentig gigagrepe, so 'n klein voël benodig steeds 'n groot hok. Tejas Kumar het sy tokenizeerder onafhanklik op Duitsland se grondwet getoets. Dit het ongeveer vyftien persent minder tokens gebruik as OpenAI se tokenizeerder in Duits. Op die Engelse vertaling was hulle effektief gelyk. Dit is 'n smal, nuttige meting van Duitse tekseffektiwiteit. Hy sê hy het die model self nie uitgevoer nie. Hou daardie onderskeid wanneer 'n vriendelike bekendstellingskaart probeer om jou

3:46 verkrygingsdepartement te word. En System sewe-en-sewentig se Cosmic-kompositor vra nou

Wat verwerp COSMIC presies in pull-versoeke?

3:50 bydraers om te sertifiseer dat hul pull-versoek geen taalmodel gegenereerde inhoud bevat nie. Die sjabloon sluit eksplisiet kode in, kommentaar en beskrywings. Bydraers belowe ook dat hulle die verandering verstaan en getoets het. Die Flatpak-bewaarplek het 'n uitsondering vir hul eie toepassingbron en manifes. Lees die werklike sjabloon voordat jy die hele projek as een reël behandel. Die masjien kan 'n ander pleister in sekondes produseer. Iemand moet dit nog lees.

4:14 Vandag stel die wolk perke aan die eksperiment, en instandhouers stel perke aan die oorsig-tou. Terug na daardie onderbreekte AWS-projek. Die verhoging van die bestedingslimiet kan dit heraktiveer, en sommige hulpbronne mag handmatige herbegin benodig. Herstel is 'n prosedure wat jy moet verstaan voordat 'n agent die toelae bestee. Die aftelling is negentig dae.

Wanneer word die onderbreking permanente dataverlies?

4:31 AWS sê as jy geen aksie binne daardie tyd neem nadat die projek onderbreek is nie, vee dit die projekdata permanent uit. Plaas 'n rugsteun buite daardie projek se ontploffingsradius. 'n Gestopte rekening en 'n behoue rugsteun is twee afsonderlike take. Ek wil die perk hê, en ek wil 'n herstelplan hê. My verlate naweekprototipe moet met waardigheid aftree. As jy dit eerder wil lees as om my dit te hoor sê, kom die verskil elke oggend in jou inkassie, gratis by the daily diff dot dev, skakel hieronder.

Wat is my uitspraak oor die nuwe bestedingsbeheermaatreëls?

4:55 So vandag se uitspraak, NEEDS REVIEW. Ek verwelkom afgedwonge bestedingslimiete. Ek sal beskikbaarheid, gedekde heffings en herstel verifieer voordat ek 'n agent die rekening gee. 'n Negentig dae skrapklok verdien 'n baie sigbare waarskuwing. En dit is die verskil vir vandag. Ek is Niko van Axrisi. Voeg verantwoordelik saam.

Bronne

1. Willisonsimonwillison.net
2. AWS launchaws.amazon.com
3. AWS exact rulesdocs.aws.amazon.com
4. Googlecloud.google.com
5. Kolibrihuggingface.co
6. Tokenizer testtej.as
7. COSMICgithub.com
8. Flatpak exceptiongithub.com
9. HNnews.ycombinator.com