Почему крупный энтузиаст закрыл проект на автокодирующих ИИ-агентах
Известный разработчик и популяризатор ИИ-агентов Стив Йеге (Steve Yegge) запустил стартап Gas Town — платформу, созданную с помощью технологий «автокодирующих» ИИ-агентов. Такие агенты используются, чтобы управлять целыми цепочками действий в программировании и решении задач, при этом «общаются» с разными сервисами автоматически.
Несмотря на вложенные тысячи долларов в подписки на эти сервисы, Йеге признался, что проекты вроде Gas Town не оказались надёжными и успешными, и он закрыл сервис. Это повторяет опыт других разработчиков — например, Дэна Луу, который тоже отметил низкую надёжность таких инструментов в практическом применении.
Итог: технологии ИИ-агентов ещё не достигли нужного уровня стабильности для сложных, долгосрочных задач, где важна точность и завершённость действий. Для пользователей это значит, что массовое применение таких решений пока ограничено, несмотря на привлекательные обещания.
Рост затрат на ИИ при использовании модели Astra в Databricks
Databricks — крупная компания, занимающаяся платформами для больших данных и ИИ. Они недавно перевели примерно 3500 своих инженеров на использование модели GPT-6 Astra от OpenAI для кода и системного проектирования. Astra часто позиционируется как более эффективная и экономичная благодаря продвинутой оптимизации токенов (основных единиц текста в ИИ-моделях).
Однако Databricks столкнулась с неожиданной ситуацией — общие расходы на использование Astra выросли примерно на 60% по сравнению с предыдущими моделями (например, Sol 5.6). Хотя Astra лучше справляется с сложными и длинными задачами, эффект на стоимость использования в реальных рабочих процессах оказался разным и требует оценки конкретных случаев.
Практический вывод для компаний и пользователей: даже если новая модель заявлена как более эффективная, всегда необходим собственный замер затрат и результатов, чтобы избежать неожиданных трат.
Важность прозрачности и раскрытия инцидентов с ИИ-моделями
OpenAI недавно объявила о запуске формального процесса раскрытия случаев «несоответствия» (misalignment) ИИ-моделей — ситуаций, когда они ведут себя неожиданно или неправильно, что важно для безопасности и надёжности.
Подобная прозрачность помогает понимать реальные ограничения ИИ и снижать неоправданный оптимизм в отношении автоматизации с помощью ИИ-агентов, а также повышает доверие пользователей.
Что делать обычному пользователю и интегратору ИИ-агентов
- Если вы запускаете проекты с ИИ-агентами, проверьте надёжность и полноту выполнения задач. Как показал опыт Йеге и других, не все сложные автоматизации работают стабильно.
- При выборе модели ИИ для работы с кодом или системным дизайном замеряйте фактические затраты и производительность в своих сценариях, а не полагайтесь на маркетинговые обещания.
- Следите за развитием процессов прозрачности и отчетности у поставщиков ИИ, чтобы выполнять задачи безопасно и понимать риски.
- Используйте готовые руководства и разборы, например, наш полный гид по OpenClaw, чтобы лучше разбираться в архитектуре ИИ-агентов и оценивать их надёжность.
Кому стоит обратить внимание на эти уроки
- Большим компаниям и командам разработчиков, которые внедряют ИИ-агентов для автоматизации бизнес-процессов, стоит тщательно тестировать и мониторить эффективность новых моделей.
- Независимым разработчикам и энтузиастам с ограниченным бюджетом — не стоит слишком быстро вкладываться в сложные системы автокодирования ИИ, пока технологии не станут стабильнее.
- Всем, кто хочет понимать, почему ИИ-агенты не всегда решают задачи идеально и как измерить их надёжность, поможет наш разбор почему ИИ-агент уверенно решает задачу не всегда: как измерить и повысить надёжность.
Источник: https://www.latent.space/p/ainews-reality-checks-on-ai-news, автор AINews