Существует целая область, посвященная «истории, искусству и науке создания колоколов и звона». Она известна как кампанология, и ее приверженцы существуют уже несколько веков (см. The Ringing World и Bell News, два исторических издания, посвященных колоколам).
Новейшая передовая модель OpenAI, GPT-6.2 Astra, судя по всему, стала одним из недавних адептов этой дисциплины. Когда пользователь просит модель помочь создать игру, приложение или изображение, она имеет тенденцию вплетать колокола в историю и сеттинг — независимо от первоначального запроса: церковные колокола, настольные звонки и даже персонаж файтинга, у которого вместо руки колокол.
Разработчик Тео Браун впервые заметил этот феномен во время тестирования ранней версии 6.2 Astra, которая была выпущена 17 ноября. Он попросил модель сгенерировать уровень для видеоигры по мотивам приключенческой игры 2019 года «Outer Wilds», в то время как его коллега запросил уровень, вдохновленный «The Legend of Zelda: Majora’s Mask» 2000 года.
«Мы оба получили водные уровни с музыкальными темами, в частности вокруг колоколов», — написал Браун. На этом сходства не закончились: «Оба уровня назывались „Bellwether“ (Беллветер)»
Доцент Бизнес-школы Уортона Итан Моллик получил пугающе похожий ответ, когда попросил Astra помочь с быстрой разработкой игры-головоломки. Сеттинг, сгенерированный моделью, представлял собой вокзал под названием «Беллветер Стейшн» (не путать с реальной рок-группой с тем же названием, которая «состоит в основном из юристов»).
С тех пор десятки других пользователей поделились аналогичными свидетельствами, предполагая, что предвзятость ChatGPT к слову «беллветер» существовала по меньшей мере несколько месяцев, если не дольше, и что эта проблема может даже распространяться на модели конкурентов.
Сам Моллик отметил, что появление у языковой модели причудливой одержимости — явление не редкое, хотя этот феномен продолжает возвращаться во все более странных вариациях. Имя Элайас Торн вам ни о чем не говорит? Он — смотритель маяка, который преследует непропорционально большое количество созданных ИИ историй, несмотря на то, что это имя редко встречается в произведениях, созданных людьми. До этого ChatGPT был без ума от гремлинов и гоблинов, предположительно потому, что слишком ревностно перенял «гиковскую индивидуальность».
Хотя пока неясно, что именно вызывает нынешнюю «кампанофилию» Astra, некоторые пользователи подозревают, что это связано с инженерной проблемой, известной как коллапс моды, при которой модель начинает опираться на ограниченный набор изученных паттернов, сужая разнообразие своих результатов.
Грубым решением может стать корректировка системного подсказки модели, чтобы временно отучить ее генерировать контент, связанный с колоколами. В более долгосрочной перспективе исследователи работают над способами диверсификации ответов моделей, например, путем поощрения результатов, которые одновременно правильны и уникальны во время обучения с подкреплением. Это, в свою очередь, может привести к более оригинальным и менее повторяющимся результатам. Это напоминает о том, что хотя точность важна, это не единственное, над чем разработчикам ИИ нужно работать. Разнообразие тоже имеет значение.
До тех пор, если вы жаждете передышки от недели, которая показалась полной бедствий, не погрузиться ли нам в недооцененное хобби? По крайней мере в этом вопросе Astra придет вам на помощь.












