Добро пожаловать в «Поведение моделей» (Model Behavior) — нашу серию интервью с авторами и создателями, работающими на передовой искусственного интеллекта. В предыдущих выпусках мы беседовали с писателем Джорджем Сондерсом и музыкальным продюсером Риком Рубином об ИИ и творческом процессе. Сегодня мы общаемся с британским предпринимателем и технологическим писателем Азимом Ажаром, который возглавляет Exponential View — исследовательскую и медиакомпанию, изучающую то, как новые технологии меняют бизнес и общество.
Азим Ажар задает насущные вопросы нашей экспоненциальной эпохи — и пытается найти на них ответы. Делает ли нас ИИ глупее? Ждет ли нас неизбежный взрыв пузыря? И совсем недавно — в статье для New York Times на этой неделе — если этого не произойдет, то кто в итоге заплатит за этот бум?
Азим руководит исследовательской группой Exponential View, состоящей примерно из 10 человек, базирующихся в Лондоне, с самым разным бэкграундом: от астрофизики до консалтинга. Они выпускают подкаст и два еженедельных выпуска рассылки почти для 170 000 подписчиков на Substack. Недавно команда также запустила AI Investment Brief by Exponential View — отдельную еженедельную рассылку для профессиональных инвесторов, а также публикует другие ключевые проекты, включая The State of the AI Economy, ежегодный отчет, в котором используется их собственная методология для оценки «экономики генеративного ИИ снизу вверх». Управляющий директор Мария Гаврилов рассказала нам, что доходы от подписок являются крупнейшим источником финансирования Exponential View и что эта группа «является ИИ-нативной на практике, а не только на словах. Команда создала собственную исследовательскую инфраструктуру… ИИ-агенты выполняют большую часть нашей работы по мониторингу, сбору данных и предпродакшну».
Азим неоднократно публично заявлял о своих опасениях по поводу того, как ИИ влияет на познание, творчество и чтение, даже несмотря на то, что он и его команда создают собственный набор инструментов и агентов. По его словам, их инструменты созданы для обеспечения точности, хотя они также помогли команде быстро освещать крупные события, такие как IPO Anthropic на этой неделе (подробнее об этом от Азима ниже). В сегодняшнем выпуске «Поведения моделей» мы спрашиваем его о том, какую роль ИИ играет в его процессе письма, об агентах, которых он создал (некоторые из них смоделированы по образу и подобию реальных людей из его жизни), а также просим подробнее рассказать об инструментах, которые его команда использует для исследований, написания текстов и отслеживания собственного хода мысли.
Сколько Exponential View тратит на ИИ-инструменты каждый месяц?
Вероятно, около 10 000 долларов в месяц. У большинства людей есть парочка профессиональных аккаунтов, так что это примерно по 400 баксов в месяц [на каждого]. Я бы сказал, что примерно 75% — это расходы на токены, а 25% — это подписки разного типа.
Вы также постоянно создаете новые инструменты — к чему мы еще вернемся, — но есть ли что-то на вашем «кладбище инструментов»?
Это действительно интересно, потому что у [ИИ-инструментов] очень короткий период полураспада. Раньше у нас была библиотека промптов. Если вы хотели посмотреть промпты, которые другие люди использовали для решения задач, вы могли обратиться к этой библиотеке, но мы просто больше ее не обновляем. Модели стали достаточно хороши, чтобы вы могли выражаться слегка бессвязно, и они все равно дадут вам то, что нужно. Другой пример: я создал инструмент, который позволял нам добавлять водяные знаки на наши графики. Теперь это можно сделать с помощью однострочного промпта в Claude или ChatGPT, так что мы больше им не пользуемся.
Я также создал инструмент, который работал как суперумный тезаурус. Вы подбираете слово, и этот инструмент позволяет ввести абзац, объяснить суть слова, а затем подобрать множество синонимов и узнать, в чем именно они не являются точными синонимами написанного вами слова. Ведь, как знает любой хороший писатель, иногда вы ищете именно то самое слово, обозначающее «усталость», а «усталый» (tired), «изможденный» (fatigued), «выжатый как лимон» (knackered), «убитый» (cream crackered) — все они означают немного разное. Когда вы сталкиваетесь с таким моментом писательского блока, это может быть очень полезно. На самом деле я обнаружил, что в процессе этого вы прерываете собственный мыслительный процесс прямо во время письма.
Так что мы также многое узнали о том, как пишется текст с помощью продвинутого ИИ. И прежде чем перейти к нашим реальным инструментам, я просто объясню, что пишу от руки перьевой ручкой.
Перьевой ручкой! Какую ручку вы предпочитаете?
Она называется Kolo. Ее можно купить на Таймс-сквер. Напротив отеля The Ned есть магазин мороженого, где продают алкогольное мороженое, а в двух шагах от него находится прекрасный магазин канцтоваров, где они продаются. Алкогольное мороженое тоже весьма неплохое.
Одно из тех изменений, которые определенно произошли за последний год, заключается в том, что сейчас я очень много пишу перьевой ручкой. Я вынужден это делать, потому что модели становятся все лучше и лучше, и в каком-то смысле они начинают предугадывать ход ваших мыслей, если вы обращаетесь к ним слишком рано.
Какая часть ваших текстов создается с помощью ручки и бумаги?
Все начинается с ручки и бумаги, если только я много не путешествую — в таком случае все начнется с надиктованной голосовой заметки для Otter. Но начинается все именно так. Это никогда не начинается в Google Docs, Microsoft Word или где-либо еще.
Азим проводит видеоэкскурсию по редакционной системе команды Prism и «Мозгу» (The Brain).
Prism, редакторская система ИИ-исследований вашей команды, — это главный инструмент, о котором мне хотелось бы услышать. Вы провели для нас полезную видеоэкскурсию. Не могли бы вы также описать ее и рассказать, какую проблему она решает?
Prism — это система редакторских исследований для Exponential View. Ее задача — помогать автору в процессе написания текста. Поскольку мы являемся исследовательским центром, мы должны быть последовательны из недели в неделю. А если мы непоследовательны, то должны делать это осознанно. Если я действительно увлекаюсь, скажем, самоуправляемыми автомобилями или препаратами для лечения ожирения (GLP-1), а затем пишу материал с их жесткой критикой, мне необходимо четко заявить, что моя точка зрения изменилась.
Что делает Prism? Она берет все, что вы или я можем прочитать за неделю или за день, создает из этого базу данных и индексирует все подряд. Я говорю обо всем: твитах, научных статьях, моих заметках из новостных статей. Все это хранится там. Любой участник команды может видеть, что читают другие, и делать запросы по всей этой базе. Вы можете задать такие вопросы: что вообще происходило в других странах, помимо США, в сфере строительства дата-центров? Если вы зайдете в Perplexity или Google News, вы получите очень нефильтрованный взгляд на мир. Вы получите абсолютно все. Если же вы обратитесь к Prism, вы получите взгляд моей команды на этот вопрос за последние четыре года, и это очень важно, потому что мы постоянно работаем вместе. Мы формируем схожие способы мышления, а также очень разные подходы к взаимной критике, и Prism старается объединить все это воедино.
Это похоже на редакционную планерку, на которые я ходил 30 лет назад в The Economist, где все авторы сидят в одной комнате и люди читали как похожие, так и разные материалы. У них есть общие и разные мнения, и вы спорите, отстаивая свою точку зрения. Это действительно полезный инструмент для нас, и он встроен в ChatGPT и Claude каждого сотрудника. Что бы вы ни делали, вы можете спросить: «Хм, а что мы говорили о теме X?» — и система выдаст это, а также все имеющиеся у нас доказательства в поддержку этой темы и то, как наши взгляды на нее менялись за последние несколько лет.
Если система строится на том, что ваша команда предпочитает читать и уже написала за прошедшие годы, не опасаетесь ли вы, что она может превратиться в замкнутый информационный пузырь?
Это определенно риск. Как команда мы довольно разнородны, поэтому смотрим на мир немного по-разному. Это первый важный момент. Но во-вторых, в систему попадает много материалов из источников, которые мы сами не просматриваем. Есть несколько автоматизированных фидов. Хороший пример — академические исследования: многое из того, что находится в открытом доступе в [[open-access archive for scholarly articles]] arXiv и на подобных площадках, проникает внутрь. Другой пример — социальные сети. Один из моих агентов читает для меня Twitter и просматривает всевозможные вещи немного случайным, безумным, странствующим образом, привнося что-то новое. Лента «Для вас» довольно мощная и сильно меняется изо дня в день и в течение дня. Материалы, которые поступают в 4 часа утра по моему времени (что, полагаю, соответствует 8 часам вечера по времени Сан-Франциско), сильно отличаются от всего, что я мог бы увидеть сам.
И еще один момент носит культурный характер: каждого члена команды поощряют читать за пределами своей предметной области. Вы увидите материалы из The New York Review of Books или The New Yorker, которые читает команда. Мы делаем это потому, что, возвращаясь к вашему тезису, если авторы полагаются только на технологии — на ChatGPT или Claude, — вы обнаружите, что сглаживаете все те шероховатости, которые на самом деле создают необходимый для хорошего письма творческий конфликт.
Агент, которого я использую чаще всего, называется R. Cukier и создан по образу моего друга Кенна Кукьера (Kenn Cukier), старшего редактора The Economist. Он славится своей способностью очень точно выстраивать аргументацию... Я мог бы позвонить Кенну напрямую, но у него есть семья, личная жизнь, работа.
Мария Гаврилов, ваш управляющий директор, рассказала нам, что Prism сократила работу по сборке вашего воскресного выпуска — еженедельного дайджеста новостей об ИИ и не только — примерно с трех дней до одного. Как это работает?
Раньше нам приходилось добавлять множество материалов в закладки или сохранять их в Obsidian, а затем разбираться со всем этим в течение дня или двух и пытаться собрать воедино.
Теперь, скажем, я вижу что-то интересное в X. Я могу поручить одному из моих агентов, агенту RMA1, найти и проанализировать дискуссию вокруг этой темы, и она попадает в Prism.
Я нечасто сижу за столом. Я много путешествую, но у меня бывает много четырех- или пятиминутных пауз, когда я жду открытия выхода на посадку или чего-то подобного, и я могу зайти в X, посмотреть то, что кажется мне интересным, и отправить это в Prism через RMA.
Каждый день другие агенты2 просматривают то, что отобрала команда, и говорят нам: «Вот основные темы, которые сейчас развиваются». Некоторые из этих агентов очень простые. Они действуют по принципу: «Мы будем смотреть только на чипы». Другие гораздо более тонкие. Они ищут пересекающиеся темы, которые противоречат одному из наших давних убеждений. Они обрабатывают сотни материалов, которые показались (или не показались) команде интересными, и это дает нам фору, когда в четверг или пятницу мы собираем новостную рассылку. Мы можем пройтись по материалам и сказать: «О, это напоминает мне. Да, это происходило».
Одна из вещей, с которыми, на мой взгляд, действительно хорошие авторы умеют справляться — это поиск общих нитей между разрозненными сигналами. В FT есть парень по имени Джанан Ганеш (Janan Ganesh), который очень силен в такого рода культурной критике, и ИИ никогда не будет в этом особенно хорош. Но ИИ может делать довольно много подобной работы очень дешево. В итоге вы получаете вдохновение, которое само по себе бессвязно и которое вы никогда бы не смогли опубликовать, но как человек вы можете сказать: «О да, это навевает определенные мысли. Вот это я и хочу использовать».
И последний момент: поскольку все уже зарегистрировано и записано, не нужно копаться в истории браузера с вопросом: «Где же я это видел?». Мы уже все это видели и собрали воедино. Это действительно сократило время и, на мой взгляд, повысило качество.
Нам все еще приходится сталкиваться с новыми проблемами, одна из которых заключается в том, что теперь мы ничего не забываем, поэтому принимать редакционные решения в четверг или пятницу гораздо сложнее, чем когда вы руководствуетесь лишь тем, что у вас на уме в данный момент.
Некоторые из созданных вами агентов — ваши альтер-эго — смоделированы на основе реальных людей, верно?
Верно, у нас их довольно много. Цель создания такого персонажа в том, чтобы мы могли наделить его знаниями конкретного эксперта. В одном случае это Рэй Далио (Ray Dalio), крупный специалист по хедж-фондам с особым складом мышления. Идея в том, что когда вы пытаетесь сориентироваться в какой-то сфере, вы можете представить себе званый ужин с людьми, у которых совершенно, абсолютно разные взгляды на мир — например, с Рэем Далио или с Анни Эрно (Annie Ernaux), лауреатом Нобелевской премии по литературе. Вы смешиваете все это в попытке увидеть, какие связи возникают. Я обнаружил, что это скорее средство последней инстанции от писательского блока, чем что-либо еще.
Агент, которого я использую чаще всего, называется R. Cukier и создан по образу моего друга Кенна Кукьера, старшего редактора The Economist. Он славится своей способностью очень точно выстраивать аргументацию. Я часто обращаюсь к R. Cukier — хотя мог бы позвонить Кенну напрямую, но у него семья, жизнь, работа, — поэтому я обращаюсь к R. Cukier и спрашиваю: «Где аргументация дает трещину? Где мы уходим в сторону?». Этот агент особенно полезен, потому что он создан для выполнения одной задачи. У него очень четкий промпт. Примерно в одном случае из трех от него удается получить что-то полезное, но это делается настолько легко, что вы просто пользуетесь этим.
Что твой друг думает об этом?
О, он в восторге. Я всегда получаю сердечки и смайлики с объятиями.
Очень сложно превратить сгенерированный ИИ текст в настоящий человеческий текст. Это почти так же, как если бы вы взяли все ингредиенты для торта, испекли плохой торт, который только выглядит как торт, а теперь пытаетесь сделать из него хороший торт, но уже не можете извлечь обратно яйца, муку и сахар.
Насколько вы обеспокоены тем, что искусственный стиль ИИ просачивается в ваши тексты?
Меня это очень, очень беспокоит. В голове словно завелся червь: я постоянно использую слова вроде «чистый», «брутальный» и «разборчивый», которые раньше почти не употреблял. Иногда я не могу выбросить их из головы, потому что читаю слишком много материалов, созданных ИИ. Вся информация, которую я изучаю, проходит предварительную обработку агентами, прежде чем я приступаю к чтению. В каждом взаимодействии с ChatGPT, если я ищу рекомендацию по бытовой химии, он обязательно вставит туда слова «брутальный» и «несущий».
Меня это очень беспокоит в контексте моего письма. Но дело даже не в самом письме, а в мышлении, ведь письмо и мышление тесно связаны. Я замечаю, что теперь осознанно подхожу к тому, когда я думаю в процессе этого диалога с ИИ, а когда останавливаюсь, беру ручку и бумагу и всё выключаю. Это соотношение важно, и на это уходит довольно много времени. Если вы писатель, нужно быть очень осторожным, потому что эти инструменты создают всё более гладкую прозу, от которой потом очень трудно избавиться.
Приведу пример. Иногда, когда мы делаем макеты — я имею в виду не рассылки, а тестирование новых продуктов — мы раньше использовали текст-заполнитель «lorem ipsum dolor». Теперь так не делают. Вы просто используете текст, сгенерированный ИИ, смотрите на него, и превратить этот текст в настоящий человеческий текст очень сложно. Это почти как если бы они взяли все ингредиенты для торта и испекли плохой торт, который выглядит как торт, а теперь вы пытаетесь превратить его в хороший, но не можете вытащить из него яйца, муку и сахар. Это то, что мы поняли за последний год или около того. И если вы пишете в одиночку, вопрос в том, как найти дисциплину, самосознание и самоконтроль, чтобы не скатиться по наклонной плоскости.
Писатели, которые освоили свое ремесло до появления этих инструментов, и писатели, которые растут вместе с ними, могут относиться к работе совершенно по-разному. Что вы об этом думаете?
Я не так много читал работ очень молодых авторов. Есть несколько человек, за которыми я следил и наблюдал на Substack, например, Руксандра Тесло, которая пишет о биологии, но она, очевидно, писала еще до того, как эти технологии стали популярны, поэтому я не могу это прокомментировать.
Что я могу сказать о письме, так это то, что когда вы пишете о чем-то, чего нет в обучающих данных, вы привносите в мир нечто новое. Эти связи новы, и идеи новы. И я обнаружил, что даже на концептуальном уровне меня тянет назад груз всех идей, содержащихся в обучающих данных. В них нет ничего нового. Там полно старого материала, потому что нас еще не проиндексировали. Завтрашняя рассылка еще не попала в ChatGPT. Это довольно сложная задача, особенно в областях, где вы, возможно, не являетесь экспертом. Я эксперт в одной узкой области, и я отчетливо вижу, что LLM ведет меня в мир, в котором моих идей не существует, а ведь в этом и заключается смысл моих идей. Именно поэтому мои идеи выходят в мир.
Как писатель, вы должны быть очень осторожны, говоря: «Это исследовательский инструмент, который мне помогает. О, смотрите, я смог найти 75 тематических исследований по X или Y вместо трех в поиске Google». Но затем вы должны очень внимательно подумать, не повлияют ли статистические закономерности этих исследований на то, как вы на них реагируете и куда движется ваш аргумент. Я думаю, это довольно сложно.
Ранее вы описывали письмо как «фрактал», где слова являются последним слоем поверх основы из цели, структуры и аргументации. Как вы считаете, где в этих слоях можно использовать ИИ?
Он очень полезен в структуре. Структура — это критически важная часть того типа письма, которым занимаюсь я. Как писатель, вы увлекаетесь, думаете, что едете из Нью-Йорка в Майами, а оказываетесь в Нэшвилле, и думаете: «Эй, как это произошло?». Поэтому я часто делаю так: пишу черновик, затем ввожу его и прошу Claude сказать мне, в чем, по его мнению, заключается «золотая нить» произведения. Если его «золотая нить» не совпадает с моей, значит, я сбился с пути. Можно попросить и другие варианты, например, в каком месте структуры я свернул не туда? Он предложит варианты, и некоторые из них могут быть очень хорошими. Sonnet 5 раньше очень хорошо с этим справлялся. А некоторые из них вы не захотите принимать, потому что вы — писатель, и если вы хотите сделать крюк до Нэшвилла, вы его сделаете, и читатель отправится вместе с вами. Это ваше право как писателя. Любой, кто написал книгу, знает, что неправильная структура — это самое болезненное в любой переработке. И когда дело доходит до цели — которая в некотором смысле и есть «золотая нить» — они снова могут быть очень полезны, потому что вы можете вести диалог: «То, что я говорю, имеет смысл?». Вы можете не согласиться с ними, но это эквивалент разговора, который вы провели бы со своим редактором.
Что касается самих слов, я очень сомневаюсь. Что-то теряется. Когда у меня получается неудачный оборот речи, я иногда использую промпт: «Посмотри на этот текст, найди самые уродливые, тяжеловесные фразы и выдели их». Я смотрю на них, говорю: «Да, верно», и переписываю их сам.
И последнее, что я считаю действительно ценным, в зависимости от того, что вы пишете: моя работа, как правило, основана на исследованиях. В моей новой книге, где есть большая глава на 7000 слов, я беру каждый абзац или пару абзацев, содержащих аргументированное утверждение, и отдаю их на «red-teaming» ИИ. Под этим я подразумеваю: атаковать аргумент, найти академические исследования, которые ему противоречат, найти исследования, которые его подтверждают. Это финальный тест. Я, очевидно, уже проделал большую часть этой работы в своих исследованиях, но это укрепляет качество мышления для моего стиля письма, который находится где-то между мейнстримом и научно-ориентированным подходом.
Думаю, некоторые люди могут прочитать это и подумать, что вы выхолащиваете человеческий творческий процесс из письма во имя продуктивности.
Это не сделало меня более продуктивным! Я по-прежнему трачу на работу и письмо столько же времени, сколько и раньше.
Дело в качестве. Многие источники для моей новой книги на французском языке, а я не владею французским достаточно хорошо, чтобы разобраться в них самостоятельно. Поэтому мне нужен перевод, чтобы помочь мне в этом разобраться. В противном случае мне пришлось бы полагаться на чужие цитаты, переведенные в английской книге об этом, а это уже не работа с первоисточником.
Но я покажу вам кое-что другое. [Азим поднимает черновик главы.] Это пять страниц бумаги, склеенных скотчем, исписанных четырехцветной шариковой ручкой. Пока я работал над главой, у меня накопилась целая стопка распечатанных и рукописных страниц. Все, что я сделал, — это добавил новые инструменты в свой писательский арсенал. Я почти уверен, что Джеймс Джойс не пользовался стикерами Post-it. Если бы он был жив, он бы даже мог отказаться использовать стикеры Post-it, и это его право как писателя — решать, какими инструментами он хочет пользоваться. Я просто добавил в арсенал несколько дополнительных инструментов. Но то, что вам по-прежнему необходимо делать, — это по-настоящему понимать, о чем именно вы говорите.
Могу я привести один пример? В моей новой книге есть небольшой фрагмент о событиях 1840-х или 1850-х годов. Я прочитал множество второстепенных книг на эту тему, и в них все более-менее сходились в том, что именно произошло. Читая их, я понял, что вкралась математическая ошибка. Речь шла о большом количестве людей, делавших что-то, и если умножить количество людей на количество дней, в течение которых они должны были это делать, они просто не могли совершить то, что им приписывали. Математика не сходилась, но этого никто не заметил. Все они просто копировали друг друга, как это принято у авторов научно-популярной литературы.
Поэтому с помощью моих агентов я смог углубиться в поиски, дойти до академических статей, до JSTOR — библиотеки академических журналов, содержащей десятки тысяч рецензируемых публикаций, — и пойти еще дальше, пока наконец мы не нашли правительственные документы 1850-х годов на языке, которого я не знал. Я смог взять их и сказать: «Хорошо, теперь я уверен, что эта цифра верна, и я не собираюсь давать моим читателям, которые уделили мне свое время, неточную информацию». Пять лет назад мы с вами пошли бы в Википедию, поскольку речь идет о небольшом фрагменте в абзаце большой главы в еще более крупной книге, и просто использовали бы Википедию в качестве источника. Семнадцать тысяч человек — вот вам цифра, поехали дальше. Теперь, потратив столько же времени, я гораздо сильнее уверен в истории, которую рассказываю, и в том, что предлагаю своим читателям.
Для того, чем занимаюсь я — нехудожественной, исследовательской литературы, — это невероятно полезно. В художественной литературе или поэзии может быть другой взгляд, верно?
Вы создали очень строгую систему отслеживания фактов и того, как взгляды Exponential View менялись со временем. Не могли бы вы рассказать мне о «Мозге» (The Brain)?
У нас есть новое программное обеспечение, созданное одним из членов команды, которое мы называем The Brain3. Оно анализирует все, что мы написали, на предмет содержащихся там убеждений. Убеждением может быть, например, следующее: «Мы считаем, что влияние ИИ на рабочие места займет 10 лет, а не два года». Это пример убеждения. Программа свяжет его с другими нашими материалами на ту же тему, и в результате формируется нечто, что мы знаем на интуитивном уровне — то, что мы думаем по этому поводу, но еще нигде не сформулировали прямо.
Эти убеждения затем могут превратиться в то, что мы называем редакционной позицией (house view). Редакционная позиция — это просто ответ на вопрос: что Exponential View думает по этому вопросу прямо сейчас? Поскольку мы именно так подходим к подаче наших исследований. Когда у вас есть редакционная позиция, вы всегда можете сверять с ней все, что пишете, и проверять, согласуется ли это с ней или противоречит. Не страшно, если есть расхождения. Писателю очень полезно знать: «О, я отклонился от того, что мы говорили раньше». Я сделал это намеренно, теперь я знаю об этом и могу соответствующим образом скорректировать текст, сказав читателям: «Обычно мы говорим не так, но...»
Часть этого я уснул 30 лет назад в The Economist, где действительно есть редакционная позиция, но она формируется институционально благодаря 80 людям, которые каждую неделю сидят в кабинете редактора. Когда я думаю о тех, кто читает Exponential View... мы люди, и мы имеем право быть немного непоследовательными в своих убеждениях. Такова природа вещей. Но я также никогда не хочу попадать в ловушку погони за сиюминутными яркими мемами. Мы попадаем в эту ловушку, когда она расходится с тем миром, который мы строили для наших читателей последние 10 лет. Так что редакционные позиции очень ценны для меня, особенно по тем темам, к которым я мог не обращаться целый год, когда мне нужно задать себе вопрос: «Что я вообще думаю об этом?» — и я могу вернуться к истокам.












