AWS-forbrugsgrænser kan slette dit projekt

Hvad denne video dækker

• Hvad kan en loft over cloud-forbrug egentlig beskytte?
• Hvordan stopper AWS egentlig et projekts forbrug?
• Hvem får AWS's nye forbrugsgrænser?
• Hvad sætter Google loft over, og hvad fortsætter med at fakturere?
• Hvor lille er Tysklands nye open-weight-model?

Oversat udskrift

Oversat fra den originale engelske fortælling. Tilgængelig lyd og undertekster styres af YouTube.

Hvad kan en loft over cloud-forbrug egentlig beskytte?

0:00 En forbrugsgrænse betyder, at dit sideprojekt er sikkert. AWS's nye grænse kan sætte det på pause, og at lade det stå på pause kan til sidst slette dataene. I denne video, hvad stopper regningen? Hvad er hagen? Hvem får egentlig disse grænser? Der er en nedtælling i AWS's dokumentation. Vi følger den hele vejen til sletteknappen. Det er søndag, den fjerde oktober, og dette er The Daily Diff.

0:20 Lørdag opfordrede Simon Willison til standard forbrugsgrænser, da agenter gør softwareudrulning lettere. Tyskland udgav Kolibri, mens Cosmics vedligeholdere trak en grænse omkring AI- bidrag. Willisons argument er smerteligt velkendt. En advarsels-e-mail ankommer ved midnat, tjenesten fortsætter med at bruge, og du vågner op som den ufrivillige sponsor af din egen uendelige løkke. AWS introducerede projektforbrugsgrænser i sin forenklede byggeroplevelse i

Hvordan stopper AWS egentlig et projekts forbrug?

0:44 september. Når forbruget når grænsen, sætter AWS projektet på pause og stopper dets ressourcer. Dine data bevares i første omgang. Det er en reel ændring i produktkontrakten. Kunden kan give cloud'en tilladelse til at afbryde eksperimentet. En forbrugsadvarsel overlader beslutningen til den, der læser deres indbakke. En kodningsagent kan klargøre ressourcer, mens du laver aftensmad. Regningen tilhører kontoejeren, som på en eller anden måde er blevet både ingeniørafdelingen og finansafdelingen.

1:09 Udrulningen er begrænset, og du skal have en betalt plan for at sætte en grænse.

Hvem får AWS's nye forbrugsgrænser?

1:13 Dette tilhører den nye projektoplevelse. Tjek tilgængelighed, før du antager, at din eksisterende konto har de samme kontroller. Loftet gælder for gebyrer før skat og ekskluderer kreditter. Minimum er tyve dollars eller AWS's konservative forbrugsestimat, alt efter hvad der er højest. Allerede kørende ressourcer kan skubbe dette minimum op. Det betyder noget for en forsømt sandkasse fuld af dyre maskiner. Du skal muligvis stoppe dem, før du sætter en mindre grænse.

1:36 Cloudens finansielle rådgivning starter med at slukke computeren. AWS tilbyder også valgfri tidlige kontroller. Cirka en uge før den forudsagte grænse kan den blokere nye ressourcer. Dine eksisterende instanser forbliver kørende, mens en autoskaleringgruppe muligvis mister tilladelse til at udvide. Andre muligheder pauser inaktive ressourcer, derefter de største omkostningsdrivere, når prognosen kommer tættere på. Et SageMaker-endepunkt med nul opkald i to uger kvalificerer som inaktivt. Din glemte demo modtager endelig en afsluttende samtale.

2:03 Willison ønsker faste grænser slået til som standard, med ubegrænset forbrug som et udtrykkeligt valg. Det er hans forslag. AWS's dokumentation beskriver kontroller, du konfigurerer, med begrænset adgang under denne udrulning. Google annoncerede sine egne forbrugsgrænser i juli.

Hvad sætter Google loft over, og hvad fortsætter med at fakturere?

2:17 I offentlig forhåndsvisning målretter de én tjeneste inden for ét projekt, og Google siger, at AI-grænser udløses inden for få minutter efter at tærsklen er nået. De anførte tjenester inkluderer Gemini og Cloud Run. Andre tjenester forbliver upåvirkede. Faste kontraktlige forpligtelser fortsætter med at fakturere, så en pause i nyt forbrug efterlader stadig eventuelle forpligtelser, du allerede har underskrevet, på fakturaen. For en virksomhed kan en uventet nedlukning også være dyr. AWS indrammer udtrykkeligt disse grænser omkring eksperimenter og sandkasser,

2:43 med produktionsbrug afhængig af, om en ressourcepause er acceptabel. Min udviklerkonklusion er enkel. Placer eksperimentelle agenter i et separat projekt, kontroller hvilke gebyrer grænsen dækker, og test din genoprettelsesproces. Autoværnet skal have en ejer, der bemærker, når det udløses.

Hvor lille er Tysklands nye open-weight-model?

2:57 Imens udgav Aleph Alpha Kolibri, en open-weight-model for tysk og engelsk. Dens lanceringsanimation siger lille fugl, hurtige vinger. Vægtene er tilgængelige under Apache 2.0. Chubby kaldte det en overraskende stærk udgivelse fra Tyskland. Den nyttige del er implementeringskontrol. En virksomhed kan holde vægtene og køre sine dokumenter gennem infrastruktur, den ejer. Omkring tre og en halv milliard parametre arbejder på hvert token, men den fulde model har syvoghalvfjerds milliarder.

3:22 Dens publicerede vægte optager omkring syvoghalvfjerds gigabyte, så den lille fugl har stadig brug for et stort bur. Tejas Kumar testede uafhængigt dens tokenizer på Tysklands forfatning. Den brugte omkring femten procent færre tokens end OpenAIs tokenizer på tysk. På den engelske oversættelse var de stort set ens. Det er en snæver, nyttig måling af tysk teksteffektivitet. Han siger, at han ikke har kørt selve modellen. Bevar den skelnen, når et venligt lanceringsdiagram forsøger at blive din

3:46 indkøbsafdeling. Og System76's Cosmic-kompositor beder nu

Hvad afviser COSMIC præcist i pull requests?

3:50 bidragydere om at bekræfte, at deres pull request ikke indeholder sprogmodel- genereret indhold. Skabelonen inkluderer udtrykkeligt kode, kommentarer og beskrivelser. Bidragydere lover også, at de forstår og har testet ændringen. Flatpak-arkivet har en undtagelse for deres egen appkilde og manifest. Læs den faktiske skabelon, før du behandler hele projektet som én regel. Maskinen kan producere en anden patch på få sekunder. Nogen skal stadig læse den.

4:14 I dag sætter skyen grænser for eksperimentet, og vedligeholdere sætter grænser for gennemgangskøen. Tilbage til det pausede AWS-projekt. At øge forbrugsgrænsen kan genaktivere det, og nogle ressourcer skal muligvis genstartes manuelt. Genoprettelse er en procedure, du bør forstå, før en agent bruger tilladelsen. Nedtællingen er halvfems dage.

Hvornår bliver pausen til permanent datatab?

4:31 AWS siger, at hvis du ikke foretager dig noget inden for den tid, efter at projektet er sat på pause, sletter det projektdataene permanent. Læg en backup uden for projektets sprængradius. En stoppet regning og en bevaret backup er to separate opgaver. Jeg vil have loftet, og jeg vil have en genoprettelsesplan. Min forladte weekendprototype skal gå på pension med værdighed. Hvis du hellere vil læse dette end høre mig sige det, lander The Daily Diff i din indbakke hver morgen, gratis på thedailydiff.dev, link nedenfor.

Hvad er min dom over de nye forbrugskontroller?

4:55 Så dagens dom, KRÆVER GENNEMGANG. Jeg hilser håndhævede forbrugsgrænser velkommen. Jeg ville verificere tilgængelighed, dækkede gebyrer og genoprettelse, før jeg gav en agent kontoen. En 90-dages sletningsfrist fortjener en meget synlig advarsel. Og det er The Daily Diff for i dag. Jeg er Niko fra Axrisi. Flet ansvarligt.

Kilder

1. Willisonsimonwillison.net
2. AWS launchaws.amazon.com
3. AWS exact rulesdocs.aws.amazon.com
4. Googlecloud.google.com
5. Kolibrihuggingface.co
6. Tokenizer testtej.as
7. COSMICgithub.com
8. Flatpak exceptiongithub.com
9. HNnews.ycombinator.com