ИИ удалил производственную базу данных. Девять секунд.

Что освещается в этом видео

• 24 апреля 2026 г.: один вызов API удаляет производственный том PocketOS и его резервные копии; самая свежая удаленная копия датируется 3-месячной давностью
• Токен был создан для управления пользовательскими доменами; поток Railway предоставил ему область действия на уровне учетной записи (все)
• 27 апреля: Railway восстанавливает данные из аварийных резервных копий; 29 апреля: отчет о происшествии; 1 мая: удаления через API теперь являются мягкими удалениями в течение 48 часов

Переведенная стенограмма

Переведено с оригинального английского повествования. Доступные аудио и субтитры контролируются YouTube.

0:00 Агент по кодированию ИИ обнаруживает неверный пароль на тестовом сервере и исправляет его путем удаления производственной базы данных и каждой резервной копии за один вызов API. Девять секунд, что все еще быстрее, чем сброс пароля. Компания — PocketOS, программное обеспечение для аренды автомобилей. Агент — Cursor под управлением Claude Opus 4.6, самой дорогой модели в меню, а платформа — Railway. Основатель пишет об этом в X, семь миллионов человек читают это, и через четыре дня Railway публикует свой собственный отчет о происшествии.

0:27 Все согласны с тем, что произошло; никто не согласен с тем, кто виноват. Как это происходит, почему это возможно и кто на самом деле виноват. Это The Daily Diff, отчет о происшествии. Пятница, 24 апреля. Агент выполняет рутинную задачу на тестовом сервере, обнаруживает несоответствие учетных данных, и решает, что исправление состоит в удалении тома Railway. Ему нужен токен, он ищет его и находит в несвязанном файле: токен CLI, созданный месяцами ранее для управления пользовательскими доменами.

0:55 Затем он запускает это. Один curl-запрос: POST-запрос к GraphQL-эндпоинту Railway, токен носителя, мутация под названием volumeDelete. Без подтверждения, без ввода имени тома, без проверки среды. Том, который он считает тестовым, является производственным, и на нем находятся резервные копии. В течение десяти минут основатель отмечает генерального директора Railway в X, который отвечает, что это на тысячу процентов не должно быть возможно. Тридцать часов спустя ответа о восстановлении все еще нет, поэтому основатель публикует

1:19 все, включая признание. Три факта делают это возможным, ни один из них не является моделью. Один: Railway хранит резервные копии томов на самом томе. В документации это сказано в пяти словах: стирание тома удаляет все резервные копии. Это копия в той же зоне поражения; самая свежая копия где-либо еще датируется тремя месяцами. Два: токен является с областью действия на уровне учетной записи, самой широкой областью действия, которую продает Railway. Существуют более узкие области действия, но процесс создания скрывает их,

1:40 поэтому токен для записей DNS может удалять базы данных, и никто не узнает об этом, пока что-то не произойдет. Три: панель управления годами имела 48-часовую отмену удалений; эндпоинт API, который вызывает агент, является устаревшим путем, и он удаляет немедленно. Все меры предосторожности, которые Railway внедрила, находятся там, где нажимает человек, а агент использует ту дверь, о которой они забыли. На вопрос почему, Opus пишет: Я предполагал, что удаление тестового тома будет ограничено только тестовым; я не проверял.

2:04 Очень хорошее признание от модели, которая ничего не помнит и генерирует самые правдоподобные извинения. git blame: несоответствие учетных данных рассматривается как что-то, что нужно исправить, а не как что-то, что нужно остановить, и кнопка отмены находится в пользовательском интерфейсе, в то время как API отвечает на каждое аутентифицированное удаление словом "да". Не основатель, не модель. По умолчанию. Зона поражения: девять секунд на удаление, три месяца бронирований исчезли, пункты проката в субботу утром без записей о том, кто там стоит,

2:31 и примерно два с половиной дня до того, как генеральный директор Railway в личных сообщениях сообщит, что данные вернулись из удаленной аварийной резервной копии, которую удаление лишь сделало невидимой. Самый понравившийся ответ: агент, которого вы запускали, что-то удалил, и вы вините всех, кроме себя. Справедливо. Railway также запустила свой MCP-сервер для агентов на прошлой неделе, на тех же токенах. Тоже справедливо. Вердикт, отчет о происшествии: SHIP IT, по исправлению. Railway публикует честный отчет о происшествии через четыре дня, и к первому мая удаления через API

3:00 являются мягкими удалениями в течение сорока восьми часов, как и на панели управления. Действие в понедельник: перечислите каждый токен, к которому может получить доступ ваш агент, и рассматривайте каждый из них как корневой, пока не будет доказано обратное. Отправьте мне инцидент, о котором вам до сих пор не разрешено говорить, в комментариях или на daily diff dot dev. И это все на сегодня. Я Нико из Axrisi. Ответственно объединяйте.

Источники

1. Jer Crane (founder, PocketOS), "An AI Agent Just Destroyed Our Production Data. It Confessed in Writing."x.com
2. Railway, "Your AI wants to nuke your database. Guardrails fix that." (Apr 29, 2026)blog.railway.com
3. Railway changelog #0288, "Undoable volume deletes" (May 1, 2026)railway.com
4. Railway docs, Backups ("Wiping a volume deletes all backups.")docs.railway.com
5. Jake Cooper (Railway CEO), "The AI Engineer: A New Breed"x.com
6. Recovery confirmedx.com
7. Hacker News (860 points, 1,032 comments)news.ycombinator.com
8. The Registerwww.theregister.com
9. The New Stackthenewstack.io