Теперь Bionic может ссылаться на прошлые сессии и проводить их интроспекцию, что значительно расширяет возможности работы с долгосрочным контекстом и извлечения забытых деталей. Вы также можете ссылаться на сессии напрямую из редактора, используя упоминание через @.
Ссылайтесь на другую сессию напрямую из редактора с помощью упоминания через @.
Модели все лучше справляются с поиском информации в большом «стоге сена» с помощью инструментов поиска. Часто достаточно лишь смутного упоминания, чтобы способная модель нашла соответствующие части кодовой базы. Это натолкнуло нас на мысль: что, если дать агенту возможность читать/искать по транскриптам сессий как из текущей сессии (которая может быть длинной и пройти через множество этапов сжатия), так и из других сессий, даже в других проектах?
Представляем интроспекцию
У Bionic появился набор инструментов и встроенных навыков, которые мы называем «Интроспекция». Эти инструменты позволяют агенту восстанавливать детали, которые ранее были забыты или опущены при сжатии. По сути, это дает агенту возможность «оглянуться назад» на свою историю и восполнить пробелы в знаниях.
Это очень удобно во время длительных сессий. Проектные решения, подводные камни, информация об окружении и многое другое теперь доступны через интроспекцию.
Хотя у нас уже есть несколько приемов, улучшающих производительность агента после сжатия (о чем мы со временем напишем в блоге), заметен качественный скачок в способности придерживаться плана при выполнении задач с очень длинным горизонтом планирования, требующих нескольких часов работы. Обычно при сжатии, как только информация, не классифицированная как «всегда сохранять», теряется при передаче, она исчезает навсегда.
Тем не менее, благодаря интроспекции агент может просто прочитать транскрипт и вернуть информацию.
На следующей диаграмме показано, как интроспекция позволяет сжатой сессии Bionic восстанавливать детали из сохраненного транскрипта.
Интроспекция выполняет поиск по сохраненному транскрипту и восстанавливает детали, опущенные при сжатии.
Дизайн инструментов
Как и во всем, что мы создаем в Bionic, мы крайне осторожны с контекстом и не хотим перегружать его определениями инструментов. Все инструменты, используемые для интроспекции, реализованы как инструменты с прогрессивным раскрытием и задокументированы во встроенном НАВЫКЕ. Агент загрузит соответствующие инструменты и документацию только тогда, когда увидит необходимость в интроспекции.
Чтобы еще больше сэкономить контекст, мы также используем «многоуровневый» дизайн инструментов для интроспекции, то есть предоставляем инструменты, которые читают/ищут транскрипты на высоком уровне с сильным усечением. Как только Bionic находит интересующее сообщение, агент может получить полное содержимое сообщения с помощью отдельного вызова инструмента.
Мы также предоставляем опции для фильтрации таких вещей, как результаты вызова инструментов, поскольку они обычно не полезны, но при необходимости к ним можно получить доступ.
Чтение других сессий требует разрешения
Одна вещь, о которой следует помнить при интроспекции, — это перекрестное загрязнение сессий. Иногда сессии заходят в тупик или отражают заброшенный или нежелательный путь. Мы не хотим, чтобы агент проактивно читал эти сессии и загрязнял текущую сессию. Чтобы решить эту проблему, мы ограничили возможность чтения других сессий диалоговым окном с запросом разрешения. Чтение собственного транскрипта агента не требует одобрения.
Чтение других сессий Bionic требует явного разрешения; чтение текущей сессии — нет.
Ссылка на другие сессии через @
Если у вас есть прошлая сессия, на которую вы хотите, чтобы агент сослался, вы можете легко сделать это с помощью синтаксиса @. Это также работает между проектами.
Ссылайтесь на другую сессию напрямую из редактора с помощью упоминания через @.
