Ліміти витрат AWS можуть видалити ваш проєкт

Що охоплює це відео

• Що насправді може захистити ліміт хмарних витрат?
• Як AWS насправді зупиняє витрати проєкту?
• Хто отримує нові ліміти витрат AWS?
• Що обмежує Google, а що продовжує стягувати плату?
• Наскільки мала нова модель з відкритою вагою Німеччини?

Перекладена стенограма

Перекладено з оригінальної англійської розповіді. Доступне аудіо та субтитри контролюються YouTube.

Що насправді може захистити ліміт хмарних витрат?

0:00 Ліміт витрат означає, що ваш бічний проєкт у безпеці. Новий ліміт AWS може призупинити його, і залишення його в паузі може зрештою стерти дані. У цьому відео, що зупиняє рахунок? У чому підступ? Хто насправді отримує ці ліміти? В документації AWS є зворотний відлік. Ми будемо слідувати йому аж до кнопки видалення. Сьогодні неділя, четверте жовтня, і це The Daily Diff.

0:20 У суботу Саймон Віллісон закликав до встановлення лімітів витрат за замовчуванням, оскільки агенти роблять розгортання програмного забезпечення простішим. Німеччина випустила Kolibri, тоді як розробники Cosmic провели межу щодо внесків ШІ. Аргумент Віллісона болісно знайомий. Попереджувальний лист приходить опівночі, сервіс продовжує витрачати кошти, і ви прокидаєтесь як мимовільний спонсор власного нескінченного циклу. AWS представила ліміти витрат на проєкти у своєму спрощеному досвіді розробника у

Як AWS насправді зупиняє витрати проєкту?

0:44 вересні. Коли використання досягає ліміту, AWS призупиняє проєкт та зупиняє його ресурси. Ваші дані спочатку зберігаються. Це справжня зміна в контракті на продукт. Клієнт може дозволити хмарі перервати експеримент. Повідомлення про витрати залишає рішення за тим, хто читає свою поштову скриньку. Агент для кодування може надавати ресурси, поки ви готуєте вечерю. Рахунок належить власнику облікового запису, який якимось чином став і інженерним відділом, і фінансовим відділом.

1:09 Розгортання обмежене, і вам потрібен платний план, щоб встановити ліміт.

Хто отримує нові ліміти витрат AWS?

1:13 Це належить до нового досвіду проєкту. Перевірте наявність, перш ніж припускати, що ваш існуючий обліковий запис має ті ж самі елементи керування. Стеля застосовується до платежів до оподаткування та виключає кредити. Мінімум становить двадцять доларів або консервативна оцінка витрат AWS, залежно від того, що більше. Вже запущені ресурси можуть підняти цей мінімум. Це важливо для занедбаної "пісочниці" з дорогими машинами. Можливо, вам доведеться зупинити їх, перш ніж встановлювати менший ліміт.

1:36 Фінансові поради хмари починаються з вимкнення комп'ютера. AWS також пропонує додаткові ранні засоби контролю. Приблизно за тиждень до прогнозованого ліміту він може заблокувати нові ресурси. Ваші існуючі екземпляри продовжують працювати, тоді як група автомасштабування може втратити дозвіл на розширення. Інші параметри призупиняють неактивні ресурси, а потім призупиняють основні чинники витрат, коли прогноз стає ближчим. Кінцева точка SageMaker з нульовими викликами протягом двох тижнів кваліфікується як неактивна. Ваше забуте демо нарешті отримує вихідне інтерв'ю.

2:03 Віллісон хоче, щоб жорсткі обмеження були увімкнені за замовчуванням, а необмежені витрати були явним вибором. Це його пропозиція. Документація AWS описує елементи керування, які ви налаштовуєте, з обмеженим доступом під час цього розгортання. Google оголосив про власні ліміти витрат у липні.

Що обмежує Google, а що продовжує стягувати плату?

2:17 У публічному попередньому перегляді вони націлені на одну послугу всередині одного проєкту, і Google стверджує, що ліміти ШІ спрацьовують протягом декількох хвилин після досягнення порогу. Перелік послуг включає Gemini та Cloud Run. Інші послуги залишаються без змін. Фіксовані договірні зобов'язання продовжують виставляти рахунки, тому призупинення нового використання все ще залишає будь-які зобов'язання, які ви вже підписали, в рахунку-фактурі. Для бізнесу несподіване відключення також може бути дорогим. AWS чітко формулює ці ліміти навколо експериментів та "пісочниць",

2:43 при цьому виробниче використання залежить від того, чи прийнятне призупинення ресурсу. Моя порада розробникам проста. Помістіть експериментальних агентів в окремий проєкт, перевірте, які витрати покриває ліміт, і протестуйте процес відновлення. Обмежувач потребує власника, який помітить, коли він спрацює.

Наскільки мала нова модель з відкритою вагою Німеччини?

2:57 Тим часом, Aleph Alpha випустила Kolibri, модель з відкритою вагою для німецької та англійської. Її стартова анімація говорить: маленька пташка, швидкі крила. Ваги доступні під ліцензією Apache 2.0. Chubby назвав це напрочуд сильним релізом з Німеччини. Корисна частина – це контроль розгортання. Компанія може зберігати ваги та пропускати свої документи через інфраструктуру, якою вона володіє. Близько трьох з половиною мільярдів параметрів працюють над кожним токеном, але повна модель має сімдесят вісім мільярдів.

3:22 Опубліковані ваги займають близько сімдесяти восьми гігабайт, тож маленькій пташці все ще потрібна велика клітка. Теджас Кумар самостійно протестував її токенізатор на конституції Німеччини. Він використав приблизно на п'ятнадцять відсотків менше токенів, ніж токенізатор OpenAI німецькою. В англійському перекладі вони були практично рівні. Це вузьке, корисне вимірювання ефективності німецького тексту. Він каже, що саму модель не запускав. Зберігайте це розрізнення, коли доброзичливий стартовий графік намагається стати вашим

3:46 відділом закупівель. І композитор Cosmic від System76 тепер просить

Що саме COSMIC відхиляє в запитах на злиття?

3:50 учасників засвідчити, що їхній запит на злиття не містить згенерованого моделлю мови контенту. Шаблон явно включає код, коментарі та описи. Учасники також обіцяють, що вони розуміють та протестували зміни. Репозиторій Flatpak має виняток для власного джерела додатків та маніфесту. Прочитайте фактичний шаблон, перш ніж розглядати весь проєкт як одне правило. Машина може створити ще один патч за секунди. Хтось все одно має його прочитати.

4:14 Сьогодні хмара встановлює обмеження на експеримент, а розробники встановлюють обмеження на чергу огляду. Повернімося до того призупиненого проєкту AWS. Збільшення ліміту витрат може його повторно активувати, і деяким ресурсам може знадобитися ручний перезапуск. Відновлення – це процедура, яку ви повинні розуміти, перш ніж агент витратить дозволену суму. Зворотний відлік – дев'яносто днів.

Коли пауза стає постійною втратою даних?

4:31 AWS каже, що якщо ви не вживете жодних дій протягом цього часу після призупинення проєкту, він остаточно видаляє дані проєкту. Зробіть резервну копію за межами зони ураження цього проєкту. Зупинений рахунок та збережена резервна копія – це дві окремі роботи. Я хочу ліміт, і я хочу план відновлення. Мій покинутий прототип вихідного дня має піти на пенсію з гідністю. Якщо ви волієте прочитати це, а не чути, як я це кажу, то "diff" надходить на вашу поштову скриньку щоранку, безкоштовно на the daily diff dot dev, посилання нижче.

Який мій вердикт щодо нових механізмів контролю витрат?

4:55 Отже, сьогоднішній вердикт: NEEDS REVIEW. Я вітаю примусові ліміти витрат. Я б перевірив наявність, покриті платежі та відновлення, перш ніж передавати агенту обліковий запис. Дев'яностоденний відлік до видалення заслуговує на дуже помітне попередження. І це весь "diff" на сьогодні. Я Ніко з Axrisi. Відповідально зливайте.

Джерела

1. Willisonsimonwillison.net
2. AWS launchaws.amazon.com
3. AWS exact rulesdocs.aws.amazon.com
4. Googlecloud.google.com
5. Kolibrihuggingface.co
6. Tokenizer testtej.as
7. COSMICgithub.com
8. Flatpak exceptiongithub.com
9. HNnews.ycombinator.com