Таваните за разходи в AWS могат да изтрият проекта ви

Какво обхваща този видеоклип

• Какво всъщност може да защити един таван за разходи в облак?
• Как AWS всъщност спира разходите на проекта?
• Кой получава новите лимити за разходи на AWS?
• Какво ограничава Google и какво продължава да таксува?
• Колко малък е новият модел с отворено тегло на Германия?

Преведен препис

Преведено от оригиналния английски разказ. Наличните аудио и субтитри се контролират от YouTube.

Какво всъщност може да защити един таван за разходи в облак?

0:00 Таванът на разходите означава, че вашият страничен проект е в безопасност. Новият лимит на AWS може да го постави на пауза, а оставянето му на пауза в крайна сметка може да изтрие данните. В това видео, какво спира сметката? Къде е уловката? Кой всъщност получава тези лимити? Има отброяване в документацията на AWS. Ще го проследим до бутона за изтриване. Неделя, четвърти октомври е, и това е The Daily Diff.

0:20 В събота, Саймън Уилисън призова за тавани на разходите по подразбиране, тъй като агентите правят внедряването на софтуер по-лесно. Германия пусна Kolibri, докато поддържащите COSMIC очертаха граница около AI приносите. Аргументът на Уилисън е болезнено познат. Имейл за предупреждение пристига в полунощ, услугата продължава да харчи, и се събуждате като неволен спонсор на собствената си безкрайна примка. AWS представи лимити за разходи по проекти в опростеното си изживяване за строители през

Как AWS всъщност спира разходите на проекта?

0:44 септември. Когато потреблението достигне лимита, AWS поставя проекта на пауза и спира неговите ресурси. Данните ви първоначално се запазват. Това е реална промяна в продуктовия договор. Клиентът може да разреши на облака да прекъсне експеримента. Предупреждение за разходи оставя решението на този, който чете входящата си поща. Агент за кодиране може да осигурява ресурси, докато приготвяте вечеря. Сметката принадлежи на собственика на акаунта, който по някакъв начин е станал едновременно инженерен отдел и финансов отдел.

1:09 Внедряването е ограничено и ви е необходим платен план, за да зададете лимит.

Кой получава новите лимити за разходи на AWS?

1:13 Това принадлежи към новото изживяване на проекта. Проверете наличността, преди да приемете, че съществуващият ви акаунт има същите контроли. Таванът се отнася за такси преди данъци и изключва кредити. Минимумът е двадесет долара или консервативната оценка на разходите на AWS, което от двете е по-високо. Вече работещи ресурси могат да увеличат този минимум. Това е от значение за пренебрегната пясъчник, пълен със скъпи машини. Може да се наложи да ги спрете, преди да зададете по-малък лимит.

1:36 Финансовият съвет на облака започва с изключване на компютъра. AWS също предлага опционални ранни контроли. Около седмица преди предвидения лимит, той може да блокира нови ресурси. Вашите съществуващи инстанции продължават да работят, докато групата за автомащабиране може да загуби разрешение за разширяване. Други опции поставят на пауза неактивни ресурси, след което спират основните фактори за разходи, когато прогнозата става по-близка. Крайна точка на SageMaker с нула повиквания за две седмици се квалифицира като неактивна. Вашата забравена демонстрация най-накрая получава интервю за напускане.

2:03 Уилисън иска твърди тавани, включени по подразбиране, с неограничени разходи като изричен избор. Това е неговото предложение. Документацията на AWS описва контроли, които конфигурирате, с ограничен достъп по време на това внедряване. Google обяви свои собствени тавани за разходи през юли.

Какво ограничава Google и какво продължава да таксува?

2:17 В публичен предварителен преглед те целят една услуга в един проект, и Google казва, че таваните за AI се задействат в рамките на минути след достигане на прага. Изброените услуги включват Gemini и Cloud Run. Други услуги остават незасегнати. Фиксираните договорни ангажименти продължават да фактурират, така че поставянето на пауза на новото потребление все още оставя всички ангажименти, които вече сте подписали, да стоят на фактурата. За един бизнес неочакваното спиране също може да бъде скъпо. AWS изрично формулира тези лимити около експерименти и пясъчници,

2:43 като използването в продукция зависи от това дали пауза на ресурсите е приемлива. Моят извод за разработчици е прост. Поставете експерименталните агенти в отделен проект, проверете кои такси покрива лимитът и тествайте процеса си за възстановяване. Защитната преграда се нуждае от собственик, който забелязва, когато се задейства.

Колко малък е новият модел с отворено тегло на Германия?

2:57 Междувременно, Aleph Alpha пусна Kolibri, модел с отворено тегло за немски и английски. Анимацията на стартирането му казва малка птица, бързи крила. Теглата са достъпни под Apache 2.0. Chubby го нарече изненадващо силно издание от Германия. Полезната част е контролът върху внедряването. Една компания може да държи теглата и да прекарва документите си през инфраструктура, която притежава. Около три и половина милиарда параметри работят върху всеки токен, но пълният модел има седемдесет и осем милиарда.

3:22 Публикуваните му тегла заемат около седемдесет и осем гигабайта, така че малката птица все още се нуждае от голяма клетка. Tejas Kumar независимо тества токенизатора му върху конституцията на Германия. Използва около петнадесет процента по-малко токени от токенизатора на OpenAI на немски. При английския превод те бяха ефективно равни. Това е тясно, полезно измерване на ефективността на немския текст. Той казва, че не е стартирал самия модел. Запазете това разграничение, когато приятелска диаграма за стартиране се опита да стане вашият

3:46 отдел за обществени поръчки. И композиторът Cosmic на System76 вече пита

Какво точно отхвърля COSMIC в заявките за изтегляне?

3:50 съавторите да удостоверят, че тяхната заявка за изтегляне не съдържа езиков модел генерирано съдържание. Шаблонът изрично включва код, коментари и описания. Съавторите също така обещават, че разбират и са тествали промяната. Хранилището Flatpak има изключение за техния собствен източник на приложение и манифест. Прочетете действителния шаблон, преди да третирате целия проект като едно правило. Машината може да произведе друг пач за секунди. Някой все още трябва да го прочете.

4:14 Днес облакът поставя ограничения върху експеримента, а поддържащите поставят ограничения върху опашката за преглед. Обратно към този спрян проект на AWS. Увеличаването на лимита за разходи може да го реактивира, а някои ресурси може да се нуждаят от ръчно рестартиране. Възстановяването е процедура, която трябва да разберете, преди агент да изразходва квотата. Отброяването е деветдесет дни.

Кога паузата се превръща в окончателна загуба на данни?

4:31 AWS казва, че ако не предприемете никакво действие в рамките на това време, след като проектът е поставен на пауза, той окончателно изтрива данните от проекта. Поставете резервно копие извън обхвата на този проект. Спряна сметка и запазено резервно копие са две отделни задачи. Искам тавана и искам план за възстановяване. Моят изоставен прототип от уикенда трябва да се пенсионира достойно. Ако предпочитате да прочетете това, отколкото да ме чуете да го казвам, diff-ът пристига във входящата ви кутия всяка сутрин, безплатно на thedailydiff.dev, връзка по-долу.

Каква е моята присъда за новите контроли на разходите?

4:55 И така, днешната присъда, НЕОБХОДИМ Е ПРЕГЛЕД. Приветствам наложените лимити за разходи. Бих проверил наличността, покритите такси и възстановяването, преди да предам на агент акаунта. Деветдесетдневният часовник за изтриване заслужава много видимо предупреждение. И това е diff-ът за днес. Аз съм Нико от Axrisi. Обединявайте отговорно.

Източници

1. Willisonsimonwillison.net
2. AWS launchaws.amazon.com
3. AWS exact rulesdocs.aws.amazon.com
4. Googlecloud.google.com
5. Kolibrihuggingface.co
6. Tokenizer testtej.as
7. COSMICgithub.com
8. Flatpak exceptiongithub.com
9. HNnews.ycombinator.com