ขีดจำกัดการใช้จ่าย AWS สามารถลบโปรเจกต์ของคุณได้

วิดีโอนี้ครอบคลุมอะไรบ้าง

• ขีดจำกัดการใช้จ่ายบนคลาวด์สามารถปกป้องอะไรได้บ้าง?
• AWS หยุดการใช้จ่ายของโปรเจกต์อย่างไร?
• ใครบ้างที่ได้รับขีดจำกัดการใช้จ่ายใหม่ของ AWS?
• Google จำกัดอะไร และอะไรยังคงเรียกเก็บเงินอยู่?
• โมเดล open-weight ใหม่ของเยอรมนีมีขนาดเล็กแค่ไหน?

บทถอดเสียงที่แปลแล้ว

แปลจากการบรรยายภาษาอังกฤษต้นฉบับ เสียงและคำบรรยายที่มีให้จะควบคุมโดย YouTube

ขีดจำกัดการใช้จ่ายบนคลาวด์สามารถปกป้องอะไรได้บ้าง?

0:00 ขีดจำกัดการใช้จ่ายหมายถึงโปรเจกต์เสริมของคุณปลอดภัย ขีดจำกัดใหม่ของ AWS สามารถหยุดชั่วคราวได้ และการปล่อยให้หยุดชั่วคราวสามารถลบ ข้อมูลได้ในที่สุด ในวิดีโอนี้ อะไรที่หยุดการเรียกเก็บเงิน? อะไรคือข้อเสีย? ใครบ้างที่ได้รับขีดจำกัดเหล่านี้? มีการนับถอยหลังในเอกสารของ AWS เราจะติดตามไปจนถึงปุ่มลบ วันนี้คือวันอาทิตย์ที่ 4 ตุลาคม และนี่คือ The Daily Diff

0:20 เมื่อวันเสาร์ที่ผ่านมา Simon Willison เรียกร้องให้มีขีดจำกัดการใช้จ่ายเริ่มต้น เนื่องจากเอเจนต์ทำให้ การปรับใช้ซอฟต์แวร์ง่ายขึ้น เยอรมนีได้เปิดตัว Kolibri ในขณะที่ผู้ดูแล Cosmic ได้กำหนดขอบเขตเกี่ยวกับ AI การมีส่วนร่วม ข้อโต้แย้งของ Willison คุ้นเคยกันดี อีเมลเตือนภัยมาถึงตอนเที่ยงคืน บริการยังคงใช้จ่าย และคุณตื่นขึ้นมาในฐานะผู้สนับสนุนวงวนไม่มีที่สิ้นสุดของคุณเองโดยไม่ตั้งใจ AWS ได้เปิดตัวขีดจำกัดการใช้จ่ายโปรเจกต์ในประสบการณ์ผู้สร้างที่เรียบง่ายขึ้นใน

AWS หยุดการใช้จ่ายของโปรเจกต์อย่างไร?

0:44 เดือนกันยายน เมื่อการใช้งานถึงขีดจำกัด AWS จะหยุดโปรเจกต์ชั่วคราวและหยุด ทรัพยากรของคุณ ข้อมูลของคุณจะถูกเก็บรักษาไว้ในเบื้องต้น นั่นคือการเปลี่ยนแปลงที่แท้จริงในสัญญาผลิตภัณฑ์ ลูกค้าสามารถอนุญาตให้คลาวด์ขัดจังหวะการทดลองได้ การแจ้งเตือนการใช้จ่ายจะทิ้งการตัดสินใจไว้กับใครก็ตามที่อ่านกล่องจดหมายของพวกเขา เอเจนต์การเขียนโค้ดสามารถจัดสรรทรัพยากรได้ในขณะที่คุณกำลังทำอาหารเย็น บิลเป็นของเจ้าของบัญชี ผู้ซึ่งกลายเป็นทั้ง แผนกวิศวกรรมและแผนกการเงิน

1:09 การเปิดตัวมีจำกัด และคุณต้องมีแผนชำระเงินเพื่อกำหนดขีดจำกัด

ใครบ้างที่ได้รับขีดจำกัดการใช้จ่ายใหม่ของ AWS?

1:13 นี่เป็นส่วนหนึ่งของประสบการณ์โปรเจกต์ใหม่ ตรวจสอบความพร้อมใช้งานก่อนที่จะสันนิษฐานว่าบัญชีปัจจุบันของคุณมีการควบคุมแบบเดียวกัน เพดานใช้กับค่าใช้จ่ายก่อนหักภาษีและไม่รวมเครดิต ขั้นต่ำคือ 20 ดอลลาร์ หรือประมาณการใช้จ่ายแบบอนุรักษ์นิยมของ AWS แล้วแต่จำนวนใดจะสูงกว่า ทรัพยากรที่กำลังทำงานอยู่สามารถผลักดันให้ขั้นต่ำสูงขึ้นได้ นั่นมีความสำคัญสำหรับ Sandbox ที่ถูกทิ้งร้างซึ่งเต็มไปด้วยเครื่องจักรที่มีราคาแพง คุณอาจต้องหยุดเครื่องเหล่านั้นก่อนที่จะกำหนดขีดจำกัดที่เล็กกว่า

1:36 คำแนะนำทางการเงินของคลาวด์เริ่มต้นด้วยการปิดคอมพิวเตอร์ AWS ยังเสนอการควบคุมล่วงหน้าเพิ่มเติมอีกด้วย ประมาณหนึ่งสัปดาห์ก่อนถึงขีดจำกัดที่คาดการณ์ไว้ สามารถบล็อกทรัพยากรใหม่ได้ อินสแตนซ์ที่มีอยู่ของคุณยังคงทำงานอยู่ ในขณะที่กลุ่มปรับขนาดอัตโนมัติอาจสูญเสีย สิทธิ์ในการขยาย ตัวเลือกอื่นๆ จะหยุดทรัพยากรที่ไม่มีการใช้งานชั่วคราว จากนั้นจึงจำกัดตัวขับเคลื่อนค่าใช้จ่ายสูงสุดเมื่อการคาดการณ์ใกล้เข้ามา SageMaker endpoint ที่ไม่มีการเรียกใช้งานเป็นเวลาสองสัปดาห์จัดเป็นทรัพยากรที่ไม่มีการใช้งาน การสาธิตที่คุณลืมในที่สุดก็ได้รับการสัมภาษณ์ออก

2:03 Willison ต้องการให้มีขีดจำกัดสูงสุดที่เปิดใช้งานโดยค่าเริ่มต้น โดยมีตัวเลือกการใช้จ่ายแบบไม่จำกัดเป็น ทางเลือกที่ชัดเจน นั่นคือข้อเสนอของเขา เอกสารของ AWS อธิบายการควบคุมที่คุณกำหนดค่า โดยมีข้อจำกัดในการเข้าถึงระหว่างการเปิดตัวนี้ Google ได้ประกาศขีดจำกัดการใช้จ่ายของตนเองในเดือนกรกฎาคม

Google จำกัดอะไร และอะไรยังคงเรียกเก็บเงินอยู่?

2:17 ในการแสดงตัวอย่างสาธารณะ เป้าหมายคือบริการเดียวภายในโปรเจกต์เดียว และ Google กล่าวว่าขีดจำกัด AI จะทำงานภายในไม่กี่นาทีหลังจากถึงเกณฑ์ บริการที่ระบุไว้รวมถึง Gemini และ Cloud Run บริการอื่นๆ ยังคงไม่ได้รับผลกระทบ ข้อผูกพันตามสัญญาคงที่ยังคงเรียกเก็บเงิน ดังนั้นการหยุดการใช้งานใหม่ยังคงทิ้งไว้ ข้อผูกพันใดๆ ที่คุณได้ลงนามไปแล้วจะยังคงปรากฏในใบแจ้งหนี้ สำหรับธุรกิจ การปิดตัวที่ไม่คาดคิดอาจมีค่าใช้จ่ายสูงเช่นกัน AWS กำหนดขีดจำกัดเหล่านี้ไว้อย่างชัดเจนสำหรับการทดลองและ Sandbox

2:43 โดยการใช้งานในการผลิตขึ้นอยู่กับว่าการหยุดทรัพยากรชั่วคราวเป็นที่ยอมรับได้หรือไม่ บทสรุปของนักพัฒนาของฉันนั้นเรียบง่าย ใส่เอเจนต์ทดลองในโปรเจกต์แยกต่างหาก ตรวจสอบว่าขีดจำกัดครอบคลุมค่าใช้จ่ายใดบ้าง และทดสอบกระบวนการกู้คืนของคุณ ระบบป้องกันภัยต้องมีเจ้าของที่สังเกตเห็นเมื่อมันทำงาน

โมเดล open-weight ใหม่ของเยอรมนีมีขนาดเล็กแค่ไหน?

2:57 ในขณะเดียวกัน Aleph Alpha ได้เปิดตัว Kolibri ซึ่งเป็นโมเดล open-weight สำหรับภาษาเยอรมันและ ภาษาอังกฤษ แอนิเมชันเปิดตัวกล่าวว่า นกตัวเล็ก ปีกเร็ว น้ำหนักมีให้ใช้งานภายใต้ Apache 2.0 Chubby เรียกมันว่าการเปิดตัวที่แข็งแกร่งอย่างน่าประหลาดใจจากเยอรมนี ส่วนที่มีประโยชน์คือการควบคุมการปรับใช้ บริษัทสามารถถือน้ำหนักและเรียกใช้เอกสารผ่านโครงสร้างพื้นฐานที่ เป็นเจ้าของ พารามิเตอร์ประมาณสามพันห้าร้อยล้านพารามิเตอร์ทำงานบนแต่ละโทเค็น แต่โมเดลเต็มมีเจ็ดหมื่นแปดพันล้าน

3:22 น้ำหนักที่เผยแพร่ใช้พื้นที่ประมาณเจ็ดสิบแปดกิกะไบต์ ดังนั้นนกตัวเล็กยังคงต้องการกรงใหญ่ Tejas Kumar ได้ทดสอบ tokenizer ของมันกับรัฐธรรมนูญของเยอรมนีด้วยตนเอง มันใช้โทเค็นน้อยกว่า tokenizer ของ OpenAI ในภาษาเยอรมันประมาณสิบห้าเปอร์เซ็นต์ ในการแปลภาษาอังกฤษ พวกมันมีประสิทธิภาพใกล้เคียงกัน นั่นเป็นการวัดประสิทธิภาพข้อความภาษาเยอรมันที่แคบและมีประโยชน์ เขาบอกว่าเขายังไม่ได้รันโมเดลเอง โปรดรักษาสิ่งนี้เมื่อแผนภูมิเปิดตัวที่เป็นมิตรพยายามที่จะกลายเป็นแผนกจัดซื้อจัดจ้างของคุณ

3:46 และ Cosmic compositor ของ System76 ตอนนี้ขอให้

COSMIC ปฏิเสธอะไรใน pull request อย่างชัดเจน?

3:50 ผู้ร่วมสนับสนุนรับรองว่า pull request ของพวกเขาไม่มีเนื้อหาที่สร้างโดยโมเดลภาษา เทมเพลตรวมโค้ด ความคิดเห็นและคำอธิบายไว้อย่างชัดเจน ผู้ร่วมสนับสนุนยังสัญญาว่าพวกเขาเข้าใจและทดสอบการเปลี่ยนแปลงแล้ว พื้นที่เก็บข้อมูล Flatpak มีข้อยกเว้นสำหรับแหล่งที่มาของแอปและ Manifest ของพวกเขาเอง อ่านเทมเพลตจริงก่อนที่จะถือว่าโปรเจกต์ทั้งหมดเป็นกฎเดียว เครื่องจักรสามารถสร้างแพตช์อื่นได้ในไม่กี่วินาที ใครบางคนยังคงต้องอ่านมัน

4:14 วันนี้คลาวด์กำหนดขีดจำกัดในการ การทดลอง และผู้ดูแลกำหนดขีดจำกัดใน คิวการตรวจสอบ กลับไปที่โปรเจกต์ AWS ที่หยุดชั่วคราว การเพิ่มขีดจำกัดการใช้จ่ายสามารถเปิดใช้งานอีกครั้งได้ และทรัพยากรบางอย่างอาจต้อง การรีสตาร์ทด้วยตนเอง การกู้คืนเป็นขั้นตอนที่คุณควรทำความเข้าใจก่อนที่เอเจนต์จะ ใช้เงิน การนับถอยหลังคือเก้าสิบวัน

การหยุดชั่วคราวจะกลายเป็นการสูญเสียข้อมูลอย่างถาวรเมื่อใด?

4:31 AWS กล่าวว่าหากคุณไม่ดำเนินการใดๆ ภายในเวลานั้นหลังจากโปรเจกต์ถูกหยุดชั่วคราว ระบบจะลบข้อมูลโปรเจกต์อย่างถาวร สำรองข้อมูลไว้นอกรัศมีของโปรเจกต์นั้น บิลที่หยุดและข้อมูลสำรองที่เก็บรักษาไว้เป็นสองงานที่แยกจากกัน ฉันต้องการขีดจำกัด และฉันต้องการแผนการกู้คืน ต้นแบบวันหยุดสุดสัปดาห์ที่ถูกทิ้งร้างของฉันควรเกษียณอย่างมีเกียรติ หากคุณต้องการอ่านสิ่งนี้มากกว่าฟังฉันพูด The Daily Diff จะส่งไปที่กล่องจดหมายของคุณ ทุกเช้า ฟรีที่ thedailydiff.dev ลิงก์ด้านล่าง

คำตัดสินของฉันเกี่ยวกับการควบคุมการใช้จ่ายใหม่คืออะไร?

4:55 ดังนั้นคำตัดสินของวันนี้คือ NEEDS REVIEW. ฉันยินดีกับขีดจำกัดการใช้จ่ายที่บังคับใช้ ฉันจะตรวจสอบความพร้อมใช้งาน ค่าใช้จ่ายที่ครอบคลุม และการกู้คืนก่อนที่จะมอบบัญชีให้กับเอเจนต์ นาฬิกาลบข้อมูล 90 วันสมควรได้รับคำเตือนที่ชัดเจนมาก และนั่นคือ The Daily Diff สำหรับวันนี้ ฉันชื่อ Niko จาก Axrisi รวมอย่างมีความรับผิดชอบ

แหล่งที่มา

1. Willisonsimonwillison.net
2. AWS launchaws.amazon.com
3. AWS exact rulesdocs.aws.amazon.com
4. Googlecloud.google.com
5. Kolibrihuggingface.co
6. Tokenizer testtej.as
7. COSMICgithub.com
8. Flatpak exceptiongithub.com
9. HNnews.ycombinator.com