Batas Pembelanjaan AWS Dapat Menghapus Proyek Anda

Isi video ini

• Apa sebenarnya yang dapat dilindungi oleh batas pengeluaran cloud?
• Bagaimana AWS benar-benar menghentikan pengeluaran proyek?
• Siapa yang mendapatkan batas pengeluaran baru AWS?
• Apa yang dibatasi Google, dan apa yang terus menagih?
• Seberapa kecil model open-weight baru Jerman?

Transkrip terjemahan

Diterjemahkan dari narasi asli bahasa Inggris. Audio dan teks tersedia yang dikontrol oleh YouTube.

Apa sebenarnya yang dapat dilindungi oleh batas pengeluaran cloud?

0:00 Batas pengeluaran berarti proyek sampingan Anda aman. Batas baru AWS dapat menjedanya, dan membiarkannya dijeda pada akhirnya dapat menghapus data. Dalam video ini, apa yang menghentikan tagihan? Apa kekurangannya? Siapa sebenarnya yang mendapatkan batas ini? Ada hitungan mundur dalam dokumentasi AWS. Kami akan mengikutinya sampai ke tombol hapus. Ini hari Minggu, empat Oktober, dan ini adalah The Daily Diff.

0:20 Pada hari Sabtu, Simon Willison menyerukan batas pengeluaran default karena agen membuat penerapan perangkat lunak menjadi lebih mudah. Jerman merilis Kolibri, sementara pengelola Cosmic menarik garis di sekitar kontribusi AI. Argumen Willison sangat familiar. Email peringatan tiba di tengah malam, layanan terus menghabiskan uang, dan Anda terbangun sebagai sponsor tanpa sengaja dari lingkaran tak terbatas Anda sendiri. AWS memperkenalkan batas pengeluaran proyek dalam pengalaman pembangunannya yang disederhanakan pada

Bagaimana AWS benar-benar menghentikan pengeluaran proyek?

0:44 bulan September. Ketika penggunaan mencapai batas, AWS menjeda proyek dan menghentikan sumber dayanya. Data Anda awalnya disimpan. Itu adalah perubahan nyata dalam kontrak produk. Pelanggan dapat mengizinkan cloud untuk menginterupsi eksperimen. Peringatan pengeluaran menyerahkan keputusan kepada siapa pun yang membaca kotak masuk mereka. Agen pengkodean dapat menyediakan sumber daya saat Anda sedang makan malam. Tagihan milik pemilik akun, yang entah bagaimana telah menjadi departemen teknik dan departemen keuangan.

1:09 Peluncurannya terbatas, dan Anda memerlukan paket berbayar untuk menetapkan batas.

Siapa yang mendapatkan batas pengeluaran baru AWS?

1:13 Ini milik pengalaman proyek baru. Periksa ketersediaan sebelum menganggap akun Anda yang ada memiliki kontrol yang sama. Batas berlaku untuk biaya sebelum pajak dan tidak termasuk kredit. Minimum adalah dua puluh dolar atau perkiraan pengeluaran konservatif AWS, mana pun yang lebih tinggi. Sumber daya yang sudah berjalan dapat meningkatkan minimum itu. Itu penting untuk sandbox yang terbengkalai penuh dengan mesin mahal. Anda mungkin harus menghentikannya sebelum menetapkan batas yang lebih kecil.

1:36 Saran keuangan cloud dimulai dengan mematikan komputer. AWS juga menawarkan kontrol awal opsional. Sekitar seminggu sebelum batas yang diprediksi, ia dapat memblokir sumber daya baru. Instans Anda yang ada tetap berjalan, sementara grup penskalaan otomatis mungkin kehilangan izin untuk memperluas. Opsi lain menjeda sumber daya yang tidak aktif, lalu penggerak biaya teratas saat perkiraan semakin dekat. Titik akhir SageMaker dengan nol panggilan selama dua minggu memenuhi syarat sebagai tidak aktif. Demo Anda yang terlupakan akhirnya menerima wawancara keluar.

2:03 Willison menginginkan batas keras diaktifkan secara default, dengan pengeluaran tak terbatas sebagai pilihan eksplisit. Itu adalah usulannya. Dokumentasi AWS menjelaskan kontrol yang Anda konfigurasikan, dengan akses terbatas selama peluncuran ini. Google mengumumkan batas pengeluarannya sendiri pada bulan Juli.

Apa yang dibatasi Google, dan apa yang terus menagih?

2:17 Dalam pratinjau publik, mereka menargetkan satu layanan di dalam satu proyek, dan Google mengatakan batas AI memicu dalam beberapa menit setelah mencapai ambang batas. Layanan yang terdaftar termasuk Gemini dan Cloud Run. Layanan lain tetap tidak terpengaruh. Komitmen kontrak tetap terus menagih, jadi menjeda penggunaan baru masih meninggalkan komitmen apa pun yang telah Anda tandatangani tercantum di faktur. Untuk bisnis, penutupan tak terduga juga bisa mahal. AWS secara eksplisit membingkai batas ini di sekitar eksperimen dan sandbox,

2:43 dengan penggunaan produksi tergantung pada apakah jeda sumber daya dapat diterima. Pesan penting pengembang saya sederhana. Tempatkan agen eksperimental dalam proyek terpisah, periksa biaya apa yang tercakup dalam batas, dan uji proses pemulihan Anda. Penjaga membutuhkan pemilik yang memperhatikan saat itu diaktifkan.

Seberapa kecil model open-weight baru Jerman?

2:57 Sementara itu, Aleph Alpha merilis Kolibri, sebuah model open weight untuk bahasa Jerman dan Inggris. Animasi peluncurannya mengatakan burung kecil, sayap cepat. Bobot tersedia di bawah Apache 2.0. Chubby menyebutnya rilis yang sangat kuat dari Jerman. Bagian yang berguna adalah kontrol penyebaran. Perusahaan dapat menahan bobot dan menjalankan dokumennya melalui infrastruktur yang dimilikinya. Sekitar tiga setengah miliar parameter bekerja pada setiap token, tetapi model lengkap memiliki tujuh puluh delapan miliar.

3:22 Bobot yang diterbitkan menempati sekitar tujuh puluh delapan gigabyte, jadi burung kecil masih membutuhkan kandang besar. Tejas Kumar secara independen menguji tokenizernya pada konstitusi Jerman. Ini menggunakan sekitar lima belas persen lebih sedikit token daripada tokenizer OpenAI dalam bahasa Jerman. Pada terjemahan bahasa Inggris, mereka secara efektif terikat. Itu adalah pengukuran efisiensi teks Jerman yang sempit dan berguna. Dia mengatakan dia belum menjalankan model itu sendiri. Pertahankan perbedaan itu ketika bagan peluncuran yang ramah mencoba menjadi

3:46 departemen pengadaan Anda. Dan komposer Cosmic dari System76 sekarang meminta

Apa sebenarnya yang ditolak COSMIC dalam permintaan tarik?

3:50 kontributor untuk menyatakan bahwa permintaan tarik mereka tidak mengandung konten yang dihasilkan model bahasa. Template secara eksplisit mencakup kode, komentar, dan deskripsi. Kontributor juga berjanji mereka memahami dan menguji perubahan tersebut. Repositori Flatpak memiliki pengecualian untuk sumber aplikasi dan manifes mereka sendiri. Baca template yang sebenarnya sebelum memperlakukan seluruh proyek sebagai satu aturan. Mesin dapat menghasilkan patch lain dalam hitungan detik. Seseorang masih harus membacanya.

4:14 Hari ini cloud membatasi eksperimen, dan pengelola membatasi antrean tinjauan. Kembali ke proyek AWS yang dijeda itu. Meningkatkan batas pengeluaran dapat mengaktifkannya kembali, dan beberapa sumber daya mungkin memerlukan restart manual. Pemulihan adalah prosedur yang harus Anda pahami sebelum agen menghabiskan tunjangan. Hitungan mundur adalah sembilan puluh hari.

Kapan jeda menjadi kehilangan data permanen?

4:31 AWS mengatakan jika Anda tidak mengambil tindakan dalam waktu itu setelah proyek dijeda, itu akan menghapus data proyek secara permanen. Tempatkan cadangan di luar radius ledakan proyek itu. Tagihan yang dihentikan dan cadangan yang disimpan adalah dua pekerjaan terpisah. Saya ingin batasnya, dan saya ingin rencana pemulihan. Prototipe akhir pekan saya yang terbengkalai harus pensiun dengan bermartabat. Jika Anda lebih suka membaca ini daripada mendengar saya mengatakannya, diff mendarat di kotak masuk Anda setiap pagi, gratis di thedailydiff.dev, tautan di bawah.

Apa putusan saya tentang kontrol pengeluaran baru?

4:55 Jadi putusan hari ini, NEEDS REVIEW. Saya menyambut baik batas pengeluaran yang ditegakkan. Saya akan memverifikasi ketersediaan, biaya yang ditanggung, dan pemulihan sebelum menyerahkan agen akun tersebut. Jam penghapusan sembilan puluh hari layak mendapatkan peringatan yang sangat terlihat. Dan itu adalah perbedaan untuk hari ini. Saya Niko dari Axrisi. Gabungkan dengan bertanggung jawab.

Sumber

1. Willisonsimonwillison.net
2. AWS launchaws.amazon.com
3. AWS exact rulesdocs.aws.amazon.com
4. Googlecloud.google.com
5. Kolibrihuggingface.co
6. Tokenizer testtej.as
7. COSMICgithub.com
8. Flatpak exceptiongithub.com
9. HNnews.ycombinator.com