Os límites de gasto de AWS poden eliminar o teu proxecto

Que abrangue este vídeo

• Que pode protexer realmente un límite de gasto na nube?
• Como detén AWS o gasto dun proxecto?
• Quen obtén os novos límites de gasto de AWS?
• Que limita Google e que segue facturando?
• Cuan pequeno é o novo modelo de código aberto de Alemaña?

Transcrición traducida

Traducido da narración orixinal en inglés. O audio e os subtítulos dispoñibles son controlados por YouTube.

Que pode protexer realmente un límite de gasto na nube?

0:00 Un límite de gasto significa que o teu proxecto secundario está seguro. O novo límite de AWS pode poñelo en pausa e deixalo en pausa pode acabar borrando os datos. Neste vídeo, que detén a factura? Cal é o problema? Quen recibe realmente estes límites? Hai unha conta atrás na documentación de AWS. Seguiremola ata o botón de eliminar. É domingo, catro de outubro, e isto é The Daily Diff.

0:20 O sábado, Simon Willison pediu límites de gasto predeterminados xa que os axentes fan que o despregamento de software sexa máis sinxelo. Alemaña lanzou Kolibri, mentres que os mantedores de Cosmic trazaron unha liña arredor das contribucións de IA. O argumento de Willison é dolorosamente familiar. Chega un correo electrónico de advertencia á medianoite, o servizo segue gastando, e espertas como o patrocinador involuntario do teu propio ciclo infinito. AWS introduciu límites de gasto de proxectos na súa experiencia simplificada de creador en

Como detén AWS o gasto dun proxecto?

0:44 setembro. Cando o uso chega ao límite, AWS pon en pausa o proxecto e detén os seus recursos. Os teus datos consérvanse inicialmente. Ese é un cambio real no contrato do produto. O cliente pode autorizar á nube a interromper o experimento. Unha alerta de gasto deixa a decisión en quen estea lendo a súa caixa de entrada. Un axente de codificación pode aprovisionar recursos mentres fas a cea. A factura pertence ao propietario da conta, que dalgunha maneira se converteu tanto no departamento de enxeñaría como no departamento de finanzas.

1:09 O despregamento é limitado e necesitas un plan de pago para establecer un límite.

Quen obtén os novos límites de gasto de AWS?

1:13 Isto pertence á nova experiencia do proxecto. Comproba a dispoñibilidade antes de asumir que a túa conta existente ten os mesmos controis. O teito aplícase aos cargos antes de impostos e exclúe os créditos. O mínimo é de vinte dólares ou a estimación de gasto conservadora de AWS, o que sexa maior. Os recursos xa en execución poden aumentar ese mínimo. Iso importa para unha caixa de area descoidada chea de máquinas caras. Podes ter que detelos antes de establecer un límite menor.

1:36 O consello financeiro da nube comeza por apagar o ordenador. AWS tamén ofrece controis anticipados opcionais. Aproximadamente unha semana antes do límite previsto, pode bloquear novos recursos. As túas instancias existentes seguen funcionando, mentres que un grupo de autoescalado pode perder o permiso para expandirse. Outras opcións poñen en pausa os recursos inactivos e, a continuación, os principais factores de custo a medida que a previsión se achega máis. Un punto final de SageMaker con cero chamadas durante dúas semanas cualifica como inactivo. A túa demostración esquecida finalmente recibe unha entrevista de saída.

2:03 Willison quere límites estritos activados por defecto, co gasto ilimitado como unha elección explícita. Esa é a súa proposta. A documentación de AWS describe os controis que configuras, con acceso limitado durante este despregamento. Google anunciou os seus propios límites de gasto en xullo.

Que limita Google e que segue facturando?

2:17 Na vista previa pública, diríxense a un servizo dentro dun proxecto, e Google di que os límites de IA se activan aos poucos minutos de alcanzar o limiar. Os servizos listados inclúen Gemini e Cloud Run. Outros servizos permanecen sen cambios. Os compromisos contractuais fixos seguen facturando, polo que a pausa do novo uso aínda deixa calquera compromiso que xa asinaches na factura. Para un negocio, un peche inesperado tamén pode ser caro. AWS enmarca explicitamente estes límites arredor de experimentos e caixas de area,

2:43 co uso en produción dependendo de se unha pausa de recursos é aceptable. A miña conclusión para desenvolvedores é sinxela. Coloca os axentes experimentais nun proxecto separado, verifica que cargos cubre o límite e proba o teu proceso de recuperación. A barreira de protección necesita un propietario que se dea conta cando se activa.

Cuan pequeno é o novo modelo de código aberto de Alemaña?

2:57 Mentres tanto, Aleph Alpha lanzou Kolibri, un modelo de código aberto para alemán e inglés. A súa animación de lanzamento di paxariño, ás rápidas. Os pesos están dispoñibles baixo Apache 2.0. Chubby chamouno un lanzamento sorprendentemente forte de Alemaña. A parte útil é o control do despregamento. Unha empresa pode manter os pesos e executar os seus documentos a través da infraestrutura que posúe. Uns tres mil cincocentos millóns de parámetros traballan en cada token, pero o modelo completo ten setenta e oito mil millóns.

3:22 Os seus pesos publicados ocupan uns setenta e oito gigabytes, polo que o paxariño aínda necesita unha gaiola grande. Tejas Kumar probou de forma independente o seu tokenizador na constitución de Alemaña. Usou aproximadamente un quince por cento menos de tokens que o tokenizador de OpenAI en alemán. Na tradución ao inglés, estaban practicamente empatados. Esa é unha medida estreita e útil da eficiencia do texto alemán. Di que non executou o modelo en si. Mantén esa distinción cando un gráfico de lanzamento amigable tenta converterse no teu

3:46 departamento de compras. E o compositor Cosmic de System76 agora pide aos

Que rexeita exactamente COSMIC nas solicitudes de extracción?

3:50 contribuíntes que certifiquen que a súa solicitude de extracción non contén contido xerado por modelos de linguaxe. O modelo inclúe explicitamente código, comentarios e descricións. Os contribuíntes tamén prometen que entenden e probaron o cambio. O repositorio Flatpak ten unha excepción para a súa propia fonte de aplicacións e manifesto. Le o modelo real antes de tratar todo o proxecto como unha soa regra. A máquina pode producir outro parche en segundos. Alguén aínda ten que lelo.

4:14 Hoxe a nube pon límites ao experimento, e os mantedores poñen límites á cola de revisión. Volvamos a ese proxecto de AWS en pausa. Aumentar o límite de gasto pode reactivalo, e algúns recursos poden necesitar reinicios manuais. A recuperación é un procedemento que debes comprender antes de que un axente gaste a asignación. A conta atrás é de noventa días.

Cando a pausa se converte en perda permanente de datos?

4:31 AWS di que se non tomas ningunha medida nese tempo despois de que o proxecto estea en pausa, elimina permanentemente os datos do proxecto. Coloca unha copia de seguridade fóra do radio de explosión dese proxecto. Unha factura detida e unha copia de seguridade conservada son dous traballos separados. Quero o límite e quero un plan de recuperación. O meu prototipo de fin de semana abandonado debería retirarse con dignidade. Se prefires ler isto que escoitarme dicilo, The Daily Diff chega á túa caixa de entrada cada mañá, gratis en thedailydiff.dev, ligazón debaixo.

Cal é o meu veredicto sobre os novos controis de gasto?

4:55 Así que o veredicto de hoxe, NEEDS REVIEW. Doulle a benvida aos límites de gasto forzados. Verificaría a dispoñibilidade, os cargos cubertos e a recuperación antes de entregarlle unha axente a conta. Un reloxo de eliminación de noventa días merece unha advertencia moi visible. E iso é The Daily Diff por hoxe. Son Niko de Axrisi. Fusiona con responsabilidade.

Fontes

1. Willisonsimonwillison.net
2. AWS launchaws.amazon.com
3. AWS exact rulesdocs.aws.amazon.com
4. Googlecloud.google.com
5. Kolibrihuggingface.co
6. Tokenizer testtej.as
7. COSMICgithub.com
8. Flatpak exceptiongithub.com
9. HNnews.ycombinator.com