Ліміты выдаткаў AWS могуць выдаліць ваш праект

Што ахоплівае гэта відэа

• Што насамрэч можа абараніць ліміт выдаткаў у воблаку?
• Як AWS насамрэч спыняе выдаткі праекта?
• Хто атрымлівае новыя ліміты выдаткаў AWS?
• Што абмяжоўвае Google, і што працягвае выстаўляць рахункі?
• Наколькі малая новая нямецкая мадэль з адкрытай вагой?

Перакладзеная стэнаграма

Перакладзена з арыгінальнай англійскай агучкі. Даступнае аўдыя і субтытры кантралююцца YouTube.

Што насамрэч можа абараніць ліміт выдаткаў у воблаку?

0:00 Ліміт выдаткаў азначае, што ваш бакавы праект у бяспецы. Новы ліміт AWS можа прыпыніць яго, і пакіданне яго ў прыпыненым стане можа ў канчатковым выніку сцерці даныя. У гэтым відэа, што спыняе рахунак? У чым падвох? Хто насамрэч атрымлівае гэтыя ліміты? У дакументацыі AWS ёсць адлік часу. Мы будзем сачыць за ім аж да кнопкі выдалення. Нядзеля, чацвёртае кастрычніка, і гэта The Daily Diff.

0:20 У суботу Сайман Уілісан заклікаў да дэфолтных лімітаў выдаткаў, бо агенты робяць разгортванне праграмнага забеспячэння прасцейшым. Германія выпусціла Kolibri, а суправаджальнікі Cosmic правялі мяжу вакол унёскаў AI. Аргумент Уілісана балюча знаёмы. Папераджальны ліст прыходзіць апоўначы, служба працягвае выдаткоўваць, і вы прачынаецеся як міжвольны спонсар уласнага бясконцага цыклу. AWS увяла ліміты выдаткаў на праект у сваім спрошчаным вопыце будаўніка ў

Як AWS насамрэч спыняе выдаткі праекта?

0:44 верасні. Калі выкарыстанне дасягае ліміту, AWS прыпыняе праект і спыняе яго рэсурсы. Вашы даныя першапачаткова захоўваюцца. Гэта сапраўдная змена ў кантракце прадукту. Кліент можа дазволіць воблаку перапыніць эксперымент. Папярэджанне аб выдатках пакідае рашэнне за тым, хто чытае сваю скрыню. Агент кадавання можа прадастаўляць рэсурсы, пакуль вы рыхтуеце вячэру. Рахунак належыць уладальніку ўліковага запісу, які нейкім чынам стаў адначасова інжынерным аддзелам і фінансавым аддзелам.

1:09 Выхад абмежаваны, і вам патрэбен платны план для ўстаноўкі ліміту.

Хто атрымлівае новыя ліміты выдаткаў AWS?

1:13 Гэта адносіцца да новага вопыту праекта. Праверце наяўнасць, перш чым меркаваць, што ваш існуючы ўліковы запіс мае тыя ж элементы кіравання. Столь прымяняецца да плацяжоў да падаткаў і выключае крэдыты. Мінімум складае дваццаць долараў або кансерватыўная ацэнка выдаткаў AWS, у залежнасці ад таго, што вышэй. Ужо запушчаныя рэсурсы могуць падняць гэты мінімум. Гэта важна для закінутай пясочніцы, поўнай дарагіх машын. Вам, магчыма, прыйдзецца спыніць іх, перш чым усталяваць меншы ліміт.

1:36 Фінансавая парада воблака пачынаецца з выключэння камп'ютара. AWS таксама прапануе дадатковыя раннія кантролі. Прыкладна за тыдзень да прагназуемага ліміту ён можа блакаваць новыя рэсурсы. Вашы існуючыя інстансы працягваюць працаваць, у той час як група аўтаматычнага маштабавання можа страціць дазвол на пашырэнне. Іншыя варыянты прыпыняюць неактыўныя рэсурсы, затым асноўныя драйверы выдаткаў па меры набліжэння прагнозу. Endpoint SageMaker з нулявымі выклікамі на працягу двух тыдняў кваліфікуецца як неактыўны. Ваша забытая дэма нарэшце атрымлівае выхаднае інтэрв'ю.

2:03 Уілісан хоча, каб жорсткія ліміты былі ўключаны па змаўчанні, з неабмежаванымі выдаткамі як відавочны выбар. Гэта яго прапанова. Дакументацыя AWS апісвае кантролі, якія вы наладжваеце, з абмежаваным доступам падчас гэтага выхаду. Google абвясціў аб сваіх лімітах выдаткаў у ліпені.

Што абмяжоўвае Google, і што працягвае выстаўляць рахункі?

2:17 У публічнай папярэдняй версіі яны арыентаваны на адзін сэрвіс унутры аднаго праекта, і Google кажа, што ліміты AI спрацоўваюць на працягу некалькіх хвілін пасля дасягнення парога. Сярод пералічаных сэрвісаў — Gemini і Cloud Run. Іншыя сэрвісы застаюцца некранутымі. Фіксаваныя кантрактныя абавязацельствы працягваюць выстаўляць рахункі, таму прыпыненне новага выкарыстання ўсё роўна пакідае любыя абавязацельствы, якія вы ўжо падпісалі, у рахунку-фактуры. Для бізнесу нечаканае закрыццё таксама можа быць дарагім. AWS відавочна фармулюе гэтыя ліміты вакол эксперыментаў і пясочніц,

2:43 прычым выкарыстанне ў вытворчасці залежыць ад таго, ці прымальна прыпыненне рэсурсаў. Мой вынік для распрацоўшчыка просты. Змясціце эксперыментальныя агенты ў асобны праект, праверце, якія плацяжы пакрывае ліміт, і праверце працэс аднаўлення. Ахоўнік мае патрэбу ў ўладальніку, які заўважае, калі ён спрацоўвае.

Наколькі малая новая нямецкая мадэль з адкрытай вагой?

2:57 Тым часам Aleph Alpha выпусціла Kolibri, адкрытую мадэль для нямецкай і англійскай моў. Яе анімацыя запуску кажа: "маленькая птушка, хуткія крылы". Вагі даступныя пад ліцэнзіяй Apache 2.0. Chubby назваў гэта на дзіва моцным рэлізам з Германіі. Карысная частка - кантроль разгортвання. Кампанія можа захоўваць вагі і прапускаць свае дакументы праз інфраструктуру, якой яна валодае. Каля трох з паловай мільярдаў параметраў працуюць над кожным токенам, але поўная мадэль мае семдзесят восем мільярдаў.

3:22 Яе апублікаваныя вагі займаюць каля семдзесяці васьмі гігабайт, так што маленькай птушцы ўсё яшчэ патрэбна вялікая клетка. Техас Кумар незалежна пратэставаў яе такенайзер на канстытуцыі Германіі. Ён выкарыстаў прыкладна на пятнаццаць працэнтаў менш токенаў, чым такенайзер OpenAI на нямецкай мове. На англійскім перакладзе яны былі фактычна роўныя. Гэта вузкае, карыснае вымярэнне эфектыўнасці нямецкага тэксту. Ён кажа, што не запускаў саму мадэль. Захоўвайце гэтае адрозненне, калі прыязны графік запуску спрабуе стаць вашым

3:46 аддзелам закупак. І кампазітар Cosmic ад System76 цяпер просіць

Што менавіта COSMIC адхіляе ў запытах на сцягванне?

3:50 удзельнікаў пацвердзіць, што іх запыт на сцягванне не ўтрымлівае змесціва, згенераванага моўнай мадэллю. Шаблон відавочна ўключае код, каментарыі і апісанні. Удзельнікі таксама абяцаюць, што яны разумеюць і пратэставалі змены. Рэпазітар Flatpak мае выключэнне для іх уласнага крыніцы прыкладання і маніфеста. Прачытайце фактычны шаблон, перш чым разглядаць увесь праект як адно правіла. Машына можа стварыць іншы патч за лічаныя секунды. Нехта ўсё роўна павінен яго прачытаць.

4:14 Сёння воблака ставіць ліміты на эксперымент, а суправаджальнікі ставяць ліміты на чаргу агляду. Вернемся да таго прыпыненага праекта AWS. Павелічэнне ліміту выдаткаў можа зноў актываваць яго, і некаторыя рэсурсы могуць запатрабаваць ручных перазапускаў. Аднаўленне - гэта працэдура, якую вы павінны разумець, перш чым агент выдаткаў дазвол. Адлік часу складае дзевяноста дзён.

Калі прыпыненне становіцца пастаяннай стратай даных?

4:31 AWS кажа, што калі вы не зробіце ніякіх дзеянняў на працягу гэтага часу пасля прыпынення праекта, ён назаўсёды выдаляе даныя праекта. Зрабіце рэзервовую копію за межамі радыусу паражэння гэтага праекта. Спынены рахунак і захаваная рэзервовая копія - гэта дзве асобныя задачы. Я хачу ліміт, і я хачу план аднаўлення. Мой закінуты прататып выходных павінен выйсці на пенсію з годнасцю. Калі вы аддаеце перавагу прачытаць гэта, а не чуць ад мяне, "the diff" трапляе ў вашу скрыню кожную раніцу, бясплатна на thedailydiff.dev, спасылка ніжэй.

Які мой вердыкт па новых кантролях выдаткаў?

4:55 Такім чынам, сённяшні вердыкт: NEEDS REVIEW. Я вітаю прымусовыя ліміты выдаткаў. Я б праверыў наяўнасць, пакрытыя плацяжы і аднаўленне, перш чым перадаць агенту уліковы запіс. 90-дзённы адлік да выдалення заслугоўвае вельмі бачнага папярэджання. І гэта ўсё на сёння. Я Ніко з Axrisi. Аб'ядноўвайце адказна.

Крыніцы

1. Willisonsimonwillison.net
2. AWS launchaws.amazon.com
3. AWS exact rulesdocs.aws.amazon.com
4. Googlecloud.google.com
5. Kolibrihuggingface.co
6. Tokenizer testtej.as
7. COSMICgithub.com
8. Flatpak exceptiongithub.com
9. HNnews.ycombinator.com