Штучний інтелект видалив виробничу базу даних. Дев'ять секунд.

Що охоплює це відео

• 24 квітня 2026: один виклик API видаляє виробничий том PocketOS та його резервні копії; найновіша зовнішня копія має вік 3 місяці
• Токен було створено для керування користувацькими доменами; потік Railway надавав йому область дії облікового запису (усе)
• 27 квітня: Railway відновлює дані з резервних копій для надзвичайних ситуацій; 29 квітня постмортем; 1 травня: видалення через API тепер є м'яким видаленням на 48 годин

Перекладена стенограма

Перекладено з оригінальної англійської розповіді. Доступне аудіо та субтитри контролюються YouTube.

0:00 Агент штучного інтелекту для кодування зіткнувся з неправильним паролем на проміжному етапі та виправляє це, видаляючи виробничу базу даних та кожну резервну копію одним викликом API. Дев'ять секунд, що все ще швидше, ніж скидання пароля. Компанія — PocketOS, програмне забезпечення для прокату автомобілів. Агент — Cursor, що працює на Claude Opus 4.6, найдорожчій моделі в меню, а платформа — Railway. Засновник пише про це на X, сім мільйонів людей читають це, і через чотири дні Railway публікує свій власний постмортем.

0:27 Усі погоджуються з тим, що сталося; ніхто не погоджується з тим, хто винен. Як це відбувається, чому це можливо, і хто насправді винен. Це The Daily Diff, постмортем. П'ятниця по обіді, 24 квітня. Агент виконує рутинне завдання на проміжному етапі, стикається з невідповідністю облікових даних, і вирішує, що виправлення полягає у видаленні тому Railway. Йому потрібен токен, він шукає і знаходить його в непов'язаному файлі: CLI токен, створений місяцями раніше для керування користувацькими доменами.

0:55 Потім він запускає це. Один curl: POST до кінцевої точки GraphQL Railway, токен носія, мутація під назвою volumeDelete. Без підтвердження, без введення імені тому, без перевірки середовища. Том, який він припускає, є проміжним, є виробничим, і резервні копії знаходяться на ньому. Протягом десяти хвилин засновник тегає CEO Railway на X, який відповідає, що це тисячу відсотків не повинно бути можливим. Через тридцять годин, все ще немає відповіді про відновлення, тому засновник публікує

1:19 усе, включно зі зізнанням. Три факти роблять це можливим, жоден з них не є моделлю. Один: Railway зберігає резервні копії томів на томі. Документи говорять це п'ятьма словами: очищення тому видаляє всі резервні копії. Це копія в тому ж радіусі ураження; найновіша копія в іншому місці має три місяці. Два: токен є облікового запису, найширша область дії, яку продає Railway. Існують вужчі області дії, але потік створення приховує їх,

1:40 тому токен для записів DNS може видаляти бази даних, і ніхто не дізнається, доки щось не станеться. Три: панель приладів мала сорокавосьмигодинне скасування видалень роками; кінцева точка API, яку викликає агент, є застарілим шляхом, і вона видаляє негайно. Кожен запобіжник, який побудував Railway, знаходиться там, де людина клацає, і агент використовує ті двері, про які вони забули. Запитаний чому, Opus пише: Я припустив, що видалення проміжного тому буде обмежено лише проміжним етапом; я не перевіряв.

2:04 Дуже гарне зізнання від моделі, яка нічого не пам'ятає і генерує найбільш правдоподібне вибачення. git blame: невідповідність облікових даних розглядається як щось, що потрібно виправити, а не щось, на чому потрібно зупинитися, і кнопка скасування знаходиться в інтерфейсі користувача, тоді як API відповідає на кожне автентифіковане видалення «так». Не засновник, не модель. За замовчуванням. Радіус ураження: дев'ять секунд на видалення, три місяці броні зникли, пункти прокату автомобілів у суботу вранці без записів про те, хто там стоїть,

2:31 і приблизно два з половиною дні, доки CEO Railway не повідомить, що дані повернулися, з зовнішньої аварійної резервної копії, яку видалення лише змусило виглядати зниклою. Найпопулярніша відповідь: агент, якого ви запускали, щось видалив, а ви звинувачуєте всіх, крім себе. Справедливо. Railway також запустив свій сервер MCP для агентів тижнем раніше, на тих самих токенах. Також справедливо. Вирок, постмортем: ship it, щодо виправлення. Railway публікує чесний постмортем за чотири дні, і до першого травня API

3:00 видаляє м'яке видалення на сорок вісім годин, як і панель приладів. Дія в понеділок: перерахуйте кожен токен, до якого може дістатися ваш агент, і трактуйте кожен як кореневий, доки не буде доведено інше. Надішліть мені інцидент, про який вам все ще не дозволено говорити, в коментарях, або на the daily diff dot dev. І це на сьогодні все. Я Ніко з Axrisi. Об'єднуйте відповідально.

Джерела

1. Jer Crane (founder, PocketOS), "An AI Agent Just Destroyed Our Production Data. It Confessed in Writing."x.com
2. Railway, "Your AI wants to nuke your database. Guardrails fix that." (Apr 29, 2026)blog.railway.com
3. Railway changelog #0288, "Undoable volume deletes" (May 1, 2026)railway.com
4. Railway docs, Backups ("Wiping a volume deletes all backups.")docs.railway.com
5. Jake Cooper (Railway CEO), "The AI Engineer: A New Breed"x.com
6. Recovery confirmedx.com
7. Hacker News (860 points, 1,032 comments)news.ycombinator.com
8. The Registerwww.theregister.com
9. The New Stackthenewstack.io