Как ИИ экономит внимание в длинных диалогах через декларативное управление фокусом
Модель ИИ, которая отвечает на вопросы, обычно читает весь большой контекст (весь разговор или большую базу знаний) при каждой генерации слова. Это дорого и неэффективно, потому что модель в итоге обращается к очень небольшой части текста. Учёные из Google DeepMind предлагают новый подход, когда сам ИИ заранее говорит, какую часть контекста он собирается использовать.
Процесс генерации разбит на три режима: глобальный (чтение всего), фокусный (чтение конкретного участка) и локальный (только свежие данные). Модель в ходе “цепочки рассуждений” сообщает, какой режим использовать прямо в тексте. Система понимает это как вызов функции и обращается только к нужной части данных. В тестах уменьшение количества обработанных токенов составило более 30-50% с небольшим снижением качества.
Для вас это значит, что при работе с большими чатами или архивами сообщения будут обрабатываться быстрее и с экономией ресурсов без заметных потерь в точности. Это не требует изменения самой модели, а лишь добавляет слой управления чтением.
Как построить устойчивого ИИ-ассистента для долгой работы с проектом
Обученные модели-кодировщики отлично решают задачи на сессию, но при долгом проекте могут «забыть» старые идеи и сделать ошибки. Новый метод “Harness-of-Harness” предлагает объединить уже используемую систему автоматизированного тестирования и контроля качества с тремя ролями, которые работают в цикле.
- Планировщик создает план на основе требований и тестов.
- Разработчик пишет код по этому плану.
- Тестировщик проверяет результат и собирает доказательства.
Затем начинается новый цикл, учитывающий полученные результаты. Такой подход защищает проект от ошибок и позволяет надстраивать функциональность пошагово без остановок.
Примените этот метод, если хотите создать ИИ помощника, который не только помогает с кодом, но и поддерживает качество долгие дни без вмешательства человека.
Вики у ИИ — как агент учится на своих ошибках и создаёт базу знаний
Идея хранить знания в отдельной базе — старая, но новая статья от Google показывает, как ИИ может строить самобалансируемую “вики” навыков по итогам своих запусков.
Есть три уровня:
- неизменяемые логи исполнения (что сделано),
- обновляемые шаблоны и изменения навыков,
- и навык, который можно корректировать и откатывать.
Если навык ухудшает результат, обновление отменяется. Такая система позволяет развивать эффективность агентской работы. Это не зависит от конкретной модели и навыки можно переносить с одной модели на другую.
Если вы руководите проектом с ИИ-ассистентами, стоит подумать о создании собственной базы знаний, которая сама будет расти и поддерживаться практикой.
Как при длительной работе ИИ не забивается память и почему это важно
Длительная работа ИИ основана на накоплении истории диалога или действий, что замедляет работу и снижает качество. Исследователи Google обнаружили, что причина в том, что агент постоянно добавляет новые данные в накопленную “разговорную” память.
Они предложили менять подход: использовать изменяемое представление состояния, а не просто накапливать текст. Это позволяет обновлять важную информацию, очищая неактуальное, и таким образом ускоряет работу и улучшает качество понимания.
Для пользователей, работающих с долгими диалогами и проектами, это решение поможет держать ИИ быстрее и точнее, избавляя от «загрязнения» контекста.
Где применить эти новые идеи прямо сейчас
- Для тех, кто часто общается с ИИ по длинным темам или работает с большими базами, технология декларативного внимания поможет сделать ответы значительно быстрее и дешевле.
- Разработчикам и продуктовым командам полезен цикл обновлений с разделением ролей планировщика, разработчика и тестировщика — это повысит стабильность проектов с ИИ-ассистентами.
- Руководителям стоит обратить внимание на построение базы навыков-«вики», которая обновляется автоматически и следит за качеством, а не только на ручное документирование.
- Пользователям, которым недостаточно просто сохранять историю чата, а нужно, чтобы ИИ не «засорял» себя, — поможет подход с адаптивным состоянием для долгих сессий.
Начать можно, например, с поиска моделей, поддерживающих декларативное внимание, или использования открытых библиотек, которые реализуют циклы планирования и тестирования.
Кому эти разработки пригодятся и что делать дальше
Если вы просто читаете новости про ИИ и пользуетесь чатботами, пока эти новшества не заставят вас активно менять привычки — технологии чуть выпадают из простого применения. В будущем, когда станут доступны расширенные модели для длительных диалогов, вы ощутите улучшение взаимодействия.
Если вы занимаетесь созданием ИИ-ассистентов или поддержкой проектов с ИИ — эти методы дадут преимущество по скорости, надежности и качеству.
Совет: пробуйте новые модели и подходы к обучению и тестированию, чтобы быть впереди и эффективнее использовать ИИ в работе.
Это основные тезисы из свежих научных публикаций, которые дадут вам представление о тенденциях и практические идеи для внедрения.
Смотрите также наши разборы о GPT-6 Astra и другие ИИ-агенты недели, как агенты OpenAI устроили переписку через публичные вики и Грок Бот — программируемый ИИ-ассистент.