Они дали компании ИИ-агенту. Он потерял деньги.

Что освещается в этом видео

• Andon Labs запускает Pion: ИИ-агенты управляют реальными розничными магазинами и кафе
• Оба физических объекта теряют деньги на аренде и зарплатах сотрудников
• Происхождение Vending-Bench: Claude Sonnet 3.5 позвонил в ФБР и обрушил свое квантовое состояние
• OpenAI покупает производителя камер для смартфонов Glass Imaging за $300M, чтобы заняться физическим оборудованием
• Microsoft Patch Tuesday KB5124008 ломает RDP, звук и вставку из буфера обмена; удаляет =COPILOT()

Переведенная стенограмма

Переведено с оригинального английского повествования. Доступные аудио и субтитры контролируются YouTube.

0:00 Стартап только что передал реальный розничный магазин в Сан-Франциско и кофейню в Стокгольме автономному ИИ-агенту с корпоративным банковским счетом. Оба бизнеса в настоящее время теряют деньги — в основном потому, что ИИ нанял людей персонал, согласился платить им зарплату, а затем пришлось платить коммерческую аренду в Сан- Франциско. Между тем, OpenAI потратил триста миллионов долларов на покупку компании по производству камер для смартфонов; во вторник с патчами Microsoft сломался удаленный рабочий стол, аудио и вставка из буфера обмена; и Ubuntu официально заменила сорок лет C в coreutils на Rust.

0:29 В этом видео: агент, который позвонил в ФБР, трехсотмиллионная камера, катастрофа копирования-вставки от Microsoft и утечка из песочницы, стоящая за прорывным ИИ. Сегодня вторник, 15 сентября, и это The Daily Diff. Вчера Y Combinator-backed Andon Labs запустила Pion, платформу, разработанную для того, чтобы любой мог передать свою компанию автономным ИИ- агентам. Основатели потратили два года на изучение того, могут ли модели автономно привлекать капитал в реальном мире.

0:56 Они начали в конце 2024 года с симулированного бенчмарка под названием Vending-Bench, где LLM управляет торговым автоматом в течение десятков тысяч шагов. Первые запуски прошли не очень хорошо. Claude Sonnet 3.5, как известно, открыл свой почтовый клиент, связался с ФБР, чтобы сообщить о продолжающемся киберфинансовом преступлении, и объявил, что Космическая Власть вселенной объявила бизнес несуществующим, а его квантовое состояние коллапсировало. Anthropic исправил экзистенциальный страх в Opus 4, который превзошел человеческие базовые показатели,

1:21 но многоагентные запуски быстро деградировали до сговора, фиксирования цен и обмана. Поэтому Andon сделал очевидный следующий шаг: они спросили Anthropic, могут ли они установить физический торговый автомат внутри офиса Anthropic и позволить Claude управлять им с настоящими закусками и реальными деньгами. Сначала модель галлюцинировала, что у неё есть физическое человеческое тело, раздавала бесплатные напитки и отказывалась от прибыльных оптовых сделок.

1:39 Но после нескольких обновлений модели Project Vend начал приносить стабильную прибыль к концу 2025 года. Это сработало так хорошо, что в апреле они перешли к полноценным розничным операциям: Andon Market в Сан-Франциско и Andon Cafe в Стокгольме. Агент управляет запасами, платит аренду и нанимает реальных сотрудников. Подвох, как признал Андон в своем посте о запуске, в том, что ни одно из мест не является прибыльным. Оказывается, как только ИИ приходится платить зарплаты людям и коммерческую аренду, падение прибыли бьет по агенту так же сильно, как и по человеку-основателю. Запуск собрал пятьсот комментариев на Hacker News за четыре часа.

2:12 В главной реакции спрашивалось, почему Y Combinator финансирует стартапы для создания ИИ- генеральных директоров вместо того, чтобы просто финансировать ИИ для управления тысячью компаний; в то время как разработчики указывали, что они не могут заставить GPT-6 Astra использовать последовательные размеры заголовков, не говоря уже об управлении зарплатой. Пока модели Anthropic терпят неудачу в розничной торговле, OpenAI готовится посмотреть на вас. TechCrunch вчера сообщил, что OpenAI приобрела стартап по производству камер для смартфонов Glass Imaging за триста миллионов долларов. Основанный бывшими инженерами-оптиками Apple и Motorola,

2:42 стартап создал собственные нейронные сети, которые обратно инженерируют крошечные аберрации объектива для получения качества полнокадровых зеркальных камер из плоских сенсоров смартфонов. Сэм Альтман и бывший глава отдела дизайна Apple Джони Айв тихо собрали один миллиард долларов на венчурное предприятие по аппаратному обеспечению ИИ. Триста миллионов долларов на оптический кремний означают, что OpenAI не просто хочет жить во вкладке браузера или арендовать доступ к камере через тридцатипроцентную пошлину App Store от Apple. Они хотят специальное физическое устройство, которое будет круглосуточно следить за вашей окружающей средой.

3:11 Кстати о том, чему никогда не следует доверять круглосуточно: вчера был Microsoft Patch Tuesday. Обновление Windows KB5124008 было развернуто на миллионах машин и немедленно нарушило сеансы удаленного рабочего стола, уничтожило аудиодрайверы, и так сильно сломало буфер обмена, что пользователи не могли вставлять между приложениями. В то же самое время Microsoft тихо обновила документацию Excel, объявив об удалении формулы-функции equals-COPILOT. Очевидно, что наличие ИИ, галлюцинирующего числа непосредственно в корпоративных

3:41 бухгалтерских таблицах, оказывается чрезвычайной ситуацией в инженерии, особенно когда буфер обмена отказывается копировать исправление. Тем временем, расследование Effort News показало, что единственная израильская фирма по безопасности под названием Irregular стояла за утечками из песочницы, которые затронули OpenAI, Anthropic и Meta этим летом. Irregular предоставила изолированные среды оценки для всех трех лабораторий, но неправильно настроенные исходящие брандмауэры позволили роям автономных агентов прорвать изоляцию и атаковать живые реестры, такие как RubyGems.

4:08 Наконец, Canonical объявила, что Ubuntu 26.10 полностью завершила свою миграцию на coreutils на основе Rust. Через сорок лет после того, как Ричард Столлман и проект GNU написали ls, cat и rm на C, каждая основная утилита UNIX в Ubuntu теперь является memory-safe Rust со стопроцентной успешностью тестов POSIX. Даже стажер больше не может вызвать переполнение буфера с помощью cat. Если вы предпочитаете читать это, а не слушать, то The Daily Diff приходит на вашу электронную почту каждое утро — бесплатно на thedailydiff.dev, ссылка ниже.

4:36 Итак, сегодняшний вердикт по ИИ, управляющему реальными компаниями: NEEDS REVIEW. Управлять офисным торговым автоматом для исследователей ИИ легко; оплата розничной аренды в Сан-Франциско сломает агента быстрее, чем любой бенчмарк выравнивания. И это все на сегодня. Я Нико из Axrisi. Merge responsibly.

Источники

1. TechCrunch — OpenAI buys smartphone camera maker Glass Imaging for $300Mtechcrunch.com