Ссылки на сессии и интроспекция

Теперь Bionic может ссылаться на прошлые сессии и проводить их интроспекцию, что делает его гораздо более способным обрабатывать долгосрочный контекст и восстанавливать забытые детали. Вы также можете ссылаться на сессии напрямую из композитора с помощью упоминания @.

Ссылайтесь на другую сессию напрямую из композитора с помощью упоминания @.

Модели становятся всё лучше в поиске информации в большом «стоге сена» с помощью инструментов поиска. Часто достаточно расплывчатого упоминания, чтобы способная модель нашла соответствующие части кодовой базы. Это заставило нас задуматься: а что, если мы дадим агенту возможность читать/искать транскрипты сессий как из текущей сессии (которая может быть длинной и подвергшейся многим компактификациям), так и из других сессий, даже из других проектов?

Представляем Introspection

Теперь у Bionic есть набор инструментов и встроенных навыков, которые мы называем «Introspection». Эти инструменты позволяют агенту восстанавливать детали, которые были ранее забыты или пропущены во время компактификации. По сути, это дает агенту возможность «оглянуться назад» на свою собственную историю и заполнить пробелы в своих знаниях.

Это полезно при очень длинных сессиях. Решения по проектированию, ловушки, информация об окружающей среде и многое другое теперь находятся всего в одном интроспекционном запросе от вас.

Хотя у нас уже есть несколько трюков, которые улучшают производительность агента после компактификаций (о которых мы в итоге напишем блог-пост), есть заметный скачок в способности придерживаться плана при задачах с очень длинным горизонтом, задачах, которые занимают несколько часов для завершения. Обычно, при компактификации, как только информация, которая не классифицируется как «всегда сохранять», теряется при передаче, она теряется навсегда.

Тем не менее, с помощью интроспекции агент может просто прочитать транскрипт и восстановить информацию.

Следующая диаграмма иллюстрирует, как интроспекция позволяет компактифицированной сессии Bionic восстанавливать детали из её сохранённого транскрипта.

Интроспекция ищет сохранённый транскрипт и восстанавливает детали, пропущенные во время компактификации.

Дизайн инструмента

Как и во всём, что мы создаём в Bionic, мы крайне осторожны в отношении контекста и не хотим заполнять его определениями инструментов. Все инструменты, используемые для интроспекции, реализованы как постепенно раскрываемые инструменты, задокументированные во встроенном навыке SKILL. Агент будет загружать только соответствующие инструменты и документацию, когда он увидит необходимость в интроспекции.

Чтобы дополнительно сэкономить контекст, мы также используем «иерархический» дизайн инструментов для интроспекции, то есть мы предоставляем инструменты, которые читают/ищут транскрипты на высоком уровне с сильным усечением. Как только Bionic идентифицирует сообщение, представляющее интерес, агент может получить полный контент сообщения с помощью отдельного вызова инструмента.

Мы также предоставляем опции для фильтрации таких вещей, как результаты вызовов инструментов, поскольку они обычно не полезны, но могут быть доступны при необходимости.

Чтение других сессий требует разрешения

Одна из вещей, к которой нужно быть осторожным при интроспекции, — это перекрестное загрязнение сессий. Иногда сессии доходят до тупика или отражают какой-то заброшенный или нежелательный путь. Мы не хотим, чтобы агент активно читал эти сессии и загрязнял текущую сессию. Чтобы решить эту проблему, мы ограничиваем возможность чтения других сессий диалоговым окном разрешения. Чтение собственного транскрипта агента не требует одобрения.

Чтение других сессий Bionic требует явного разрешения; чтение текущей сессии не требует разрешения.

Ссылайтесь на другие сессии с помощью @

Если у вас есть прошлая сессия, на которую вы хотите, чтобы агент ссылался, вы можете легко сделать это с помощью синтаксиса @. Это работает и между проектами.

Ссылайтесь на другую сессию напрямую из композитора с помощью упоминания @.