Этим летом мы запустили рубрику «Поведение моделей» (Model Behavior), в которой просим ведущих писателей, мыслителей, критиков и создателей контента честно рассказать о том, что они думают об ИИ и как им пользуются. Следующим нашим гостем стал Джордж Сондерс, настоящий титан литературы. Помимо написания отмеченных наградами книг и рассказов, Джордж преподает писательское мастерство аспирантам программы Creative Writing в Сиракузском университете, а также всем тем, кто читает его советы, аналитические материалы и размышления о сторителлинге в его блоге на Substack — Story Club with George Saunders.
Естественно, нам было интересно узнать об опыте Джорджа общения с ИИ как работающего писателя и профессора. Но мы также задавались вопросом, как ИИ может повлиять на его прозу. Он часто исследует спекулятивное близкое будущее: фармацевтические препараты, манипулирующие нашими самыми сокровенными эмоциями; виртуальные впечатления, заменяющие память; люди, превращенные в потребительские товары.
Мы спросили, вдохновляет ли его ИИ творчески и изменило ли это его подход к преподаванию, писательскую практику или мнение о том, какие откровения писатели должны делать своим читателям. Он начал интервью с собственного признания: «В этой теме я немного капризен и однообразен. Просто представьте себе, как я на протяжении всего разговора постукиваю тростью по полу».
Представляем вам размышления Джорджа Сондерса о писательстве и преподавании на переднем крае эпохи ИИ.
Изменилось ли ваше отношение к ИИ с момента его появления в качестве широко доступного потребительского продукта?
Нет. Очень давно я попробовал сгенерировать с помощью ИИ текст от своего имени, и результат оказался настолько удручающим — таким скучным и буквальным, — что я потерял всякий интерес. У меня нет никаких продуктов с ИИ, и они мне не нужны. На самом деле я бы доплатил, чтобы их у меня не было, и доплатил бы сверху, чтобы они тайком не просачивались в уже существующие продукты — например, в какой-нибудь потенциально готовящийся к выходу ИИ-сервис, который оценивает угол наклона вашей ложки во время еды и говорит вам, насколько эффективно вы едите по сравнению с другими людьми из вашей демографической группы, и так далее.
Как Джордж Сондерс — как человек, а не как писатель — пользуется ИИ в повседневной жизни?
Он старается избегать его, хотя иногда совершает ошибки, забывая добавить «- ai» в поисковых запросах. Я не считаю себя квалифицированным специалистом, чтобы рассуждать об использовании ИИ в медицине, науке или чем-то подобном. Но в том, что касается писательства, он кажется мне абсолютно непривлекательным.
Вы пробовали писать или редактировать тексты с помощью ИИ? Есть ли какой-нибудь эксперимент, который было бы интересно поставить?
Нет. Ни на секунду. Для меня вся эта идея использования ИИ для письма… просто анафема. То, чего следует избегать самым радикальным образом.
Письмо — это самый драгоценный способ, с помощью которого один человек может передать свою суть другому. Я потратил всю жизнь на то, чтобы научиться лучше проявлять себя в своих текстах. С какой стати мне жертвовать хотя бы йотой этого? Даже в электронном письме, и уж тем точно не в рассказе или романе.
Кому именно мы уступаем свое авторское право, когда позволяем ИИ писать за нас? И зачем? Зачем отдавать свою субъектность (ту удивительную способность дотягиваться сквозь время и пространство с помощью нашего странного, уникального феномена и проникать в сознание другого человека) чему-то, что по самому своему замыслу отодвигает индивидуальное восприятие на второй план? И во имя… чего именно? Удобства, надо полагать? Эффективности? Тот, кто решает писать с помощью ИИ, изначально лишает себя возможности столкнуться с трудностями, побороться за то, чтобы выразить то, что хочется, проявить себя в прозе, попытаться понять, во что он верит. Тем самым он упускает шанс лучше узнать себя и свой разум. По-моему, это очень жалко. И это опасно, потому что, как мы сейчас выясняем, это влияет на мозг и снижает наши способности. Спасибо, не надо, чур меня и так далее.
В конце концов, придет ли ИИ на помощь, чтобы провести нас на ту сторону и унять наши страхи? (Боже, надеюсь, что нет, но, возможно, у всех нас в наш MindChip будет загружен DeathCope 3.0, и последним, что мы услышим, будет голос Клода: «Ты справишься!»)
Вы учите авторов острее реагировать на собственные реакции как на способ редактирования и улучшения текста. Учитывая, что ИИ может генерировать бесконечный материал для реакции, видите ли вы в этом способ отточить редакторские инстинкты писателя?
Нет — они могут прекрасно справляться с этим с помощью собственных текстов. Человеческий разум способен порождать этот «бесконечный материал», и более того, в неряшливом первом наброске есть что-то зарождающееся и очень важное — в том беспорядке, который создал сам писатель. В нем содержится некий оттенок, уникальный для разума конкретного автора. Поэтому редактирование собственного текста гораздо более органично и полезно, чем правка текста, выданного ИИ по запросу. Другими словами, то, как мы ставим задачи сами себе, а затем реагируем на них — это… начало того, что станет уникальным в нашей книге.
Даже в самом первом наброске вы, писатель, присутствуете неотделимым и важным образом. Я бы никогда не захотел пожертвовать этим. В нем присутствуют некие важные контуры мысли… присущие небольшим ошибкам и неточностям, которые ваш разум посеял в этом раннем черновике. Есть большая ценность в том, что писатель на этом этапе еще не идет по проторренной дорожке, а блуждает вокруг нее. Ваш собственный беспорядок, над которым поработал ваш разум, порождает нечто дополнительное: в вашем хаосе становится больше вас самих, и это можно доработать в процессе правок до чего-то совершенно уникального.
Как ИИ изменил ваш подход к преподаванию?
Честно говоря, никак. Я преподаю только аспирантам, которых отобрали из сотен претендентов и которые одержимы поиском собственного голоса и открытием собственной правды. Именно по этой причине они не используют ИИ в своей работе. Они хотят, чтобы это была их собственная работа.
Когда я читаю роман или рассказ, чего я хочу? Я хочу полного читательского опыта писателя, выраженного через иносказание вымышленной истории. Я хочу ее жизненного опыта, ее эстетических чувств (и даже предвзятости); я хочу видеть это тонкое свидетельство в ее прозе о каждой прочитанной ею книге, о том, где и когда она ее читала, и о том, как она незаметно изменила ее в более молодом возрасте — как она тронула ее и изменила голос в ее голове, — я хочу всего этого, и я хочу этого от живого человека. В этом вся его ценность — в том, что он исходит от другого человека. Мы с ней находимся в диалоге. Я хочу видеть, что этот человек (который является результатом всех этих лет, потерь, экстатических моментов и так далее) думает об этом общем для нас мире, и я хочу, чтобы она показала мне это, сочинив историю. Я не хочу ничего другого — никакой усредненной машиной или вырванной из контекста жвачки чужих слов, каким бы быстрым и бесшовным ни было ее производство. Это потрясающе, что ИИ на такое способен, но мне это неинтересно.
И я считаю вредным и опасным слишком легко отказываться от этой драгоценной человеческой вещи под названием сторителлинг. Сторителлинг — это то, что делают люди, человеческий, высокоразвитый, нюансированный код, супер-интеллект, присущий только нам. Он не работает без двух людей в нем. И это не нейтральный шаг — отказаться от этого, но, как и многое в наши дни, мы, кажется, делаем это просто потому, что... это возможно. («Я могу сделать рисунок кота, управляющего снегоходом, в стиле Рембрандта!» «Я могу создать музыкальный альбом, хотя ничего не смыслю в музыке и не умею играть на инструментах!» «Я могу переделать свое резюме за 10 секунд!» «Я могу получить первый вариант своего романа, дав ИИ грубый план!») Но: разве это твое резюме? Разве это твой роман? Вложил ли ты в это достаточно сил? Или ты просто непреднамеренно пожертвовал драгоценным шансом на оригинальность или своеобразие, которые могли бы тонким и не поддающимся сведению к минимуму образом обратиться к читающему этот текст человеку?
В общем... мне кажется, что мы совершаем этот медленный дрейф в сторону письма с помощью ИИ без какого-либо серьезного общественного обсуждения, которое допускало бы саму возможность того, что просто потому, что мы что-то можем сделать, это еще не значит, что мы должны это делать; что есть занятия, которые отвлекают и принижают нас, и есть занятия, которые заставляют нас жить более полно в моменте, в котором мы находимся. Мы сами решаем, что делать с этой драгоценной человеческой жизнью, и мы должны принимать это решение со всей возможной серьезностью. И «отказ» или «несогласие» — это вполне допустимый, а иногда и мудрый вариант.
Есть что-то волшебное и преображающее в том, чтобы работать над текстом, превращая его из «размытой херни» в «именно то, что я имею в виду, и даже больше». Сейчас мы узнаем, что это верно с неврологической точки зрения: борьба с чтением или написанием крупного произведения творит волшебные, необходимые вещи с мозгом человека, то есть с его сущностной личностью.
Изменило ли это проблемы и вопросы, которые новые писатели привносят в вашу аудиторию, или фундаментальные сомнения начинающих писателей остались теми же, что и всегда?
Я думаю, они остались прежними. Потому что мои студенты вовлечены в то же самое старое, благородное, древнее занятие: попытаться составить из своего индивидуального и своеобразного ума историю, которая отзовется в других человеческих умах. ИИ не может играть в эту игру по определению. (Может казаться, что он это делает, но это не так.)
Впрочем, стоит сказать, что я не преподаю у бакалавров, и я знаю, что использование ИИ — большая проблема в том мире. Я бы привел те же аргументы в отношении обучения бакалавров, что и выше, но я понимаю, что обычные студенты бакалавриата не находятся под воздействием того же внутреннего императива найти свой голос и, вероятно, не так увлечены литературой и не так убеждены в ее ценности, как мои студенты MFA по художественному письму, и поэтому могут быть более склонны пойти по пути наименьшего сопротивления, когда их просят, скажем, написать эссе о произведении Толстого.
Тем не менее, этот выбор представляет собой реальную потерю для их образования.
Когда я преподавал у бакалавров, я всегда старался внушить им, что язык — это сила; не только потому, что через письмо можно научиться лучше выражать себя и тем самым расширить свои возможности, но и потому, что есть что-то волшебное и преображающее в том, чтобы работать над текстом, превращая его из «размытой херни» в «именно то, что я имею в виду, и даже больше». Сейчас мы узнаем, что это верно с неврологической точки зрения: борьба с чтением или написанием крупного произведения творит волшебные, необходимые вещи с мозгом человека, то есть с его сущностной личностью (см. «Новые темные века» Джеймса Марриотта [выходит 6 октября]). Так что, если бы я все еще преподавал бакалаврам, я бы попытался привести такой аргумент. Но я бы произнес его жутким голосом робота, который я умею изображать, чтобы они думали, будто это говорит ИИ.
Если бы ИИ исчез, мы бы все равно оставались в глубокой заднице здесь, внизу, и в то же время оставались бы здесь, в раю. Что может предложить нам ИИ, когда мы рассматриваем жизнь как срочный шанс понять наше (воплощенное, уязвимое) существование?
Как преподаватель письма, чувствуете ли вы давление с необходимостью экспериментировать с ИИ или узнавать о нем? Важно ли для вас уметь говорить об этих инструментах знающе и предметно?
Нет. Я думаю, что сейчас я знаю о процессе написания истории достаточно, чтобы говорить об этих инструментах знающе и предметно.
По моему определению письма, письмо с помощью ИИ — это не письмо. Не письмо. Ими можно пользоваться, конечно, люди пользуются и будут пользоваться — но это не то, что я люблю и ради чего живу. Я хочу быть человеком и разговаривать с другими людьми. Точка.
Поэтому я обнаруживаю, что оплакиваю коллективную утрату определенной способности, а именно способности сказать: «Да, это потрясающе, но это кажется разрушительным. Не только с точки зрения природных ресурсов, но и с точки зрения человеческих возможностей. Так что... нет, спасибо. Я отказываюсь. Просто... нет». (Словами Бартлби-писца из произведения Мелвилла: «Я [бы] предпочёл не делать этого».)
Исследования это показывают: использование ИИ разрушает наши умственные способности. Почему мы этого хотим? Возникает ощущение, что ответ связан с потребительской инерцией. («Но это ново! И проще! Это неизбежно!») Также чувствуется давление сверху, создаваемое триллионами долларов, вложенными сверхбогатыми людьми. ИИ становится, судя по всему, «слишком большим, чтобы рухнуть». Но он по-прежнему (на мой взгляд) является абсолютным ничто с точки зрения художественного письма, поскольку искусство создается людьми, для людей, оно отражает опыт прохождения через реальный мир (и слышания, и обоняния, и видения этого мира, и переживания по его поводу) и зависит от этого опыта. Письмо ИИ не может этого сделать. Просто не может. Может казаться, что оно это делает, но по своей природе оно не может быть тем, что мы всегда называли художественным письмом.
Теперь я не говорю, что это не может впечатлять и звучать как художественное письмо. И я уверен, что разум, оказавшись перед текстом, созданным ИИ, что-то сделает — чтение вызовет какую-то реакцию в мозге. (Конечно вызовет; разум отреагирует даже при чтении телефонного справочника или случайной последовательности слов.)
Но это не великое дело — мерцание разума в ответ на текст. Важно качество этого мерцания. Мы хотим сформированного мерцания, мерцания, которое откликается на авторский замысел. Мы ищем какое-то свидетельство авторской мудрости, мудрости, почерпнутой из жизни в мире, которая проявляется — иногда в сложной и трансформированной форме — в тексте.
Но учитывая источник и процесс, с помощью которого ИИ создает текст, ИИ не может быть изначально мудрым — насколько я понимаю, он может лишь переконтекстуализировать и переупорядочивать чужую мудрость. Возможно, кому-то кажется забавным сталкиваться с этим — мне же это кажется отвлечением внимания, особенно учитывая, что жизнь коротка, а я все еще нахожусь в ожесточенной борьбе за то, чтобы понять собственный разум и выразить что-то прекрасное из этого разума и всего того, через что он прошел, что-то сформированное мной, лично мной, что выйдет и тронет вас (вас лично).
И, возможно, искусственный интеллект, который идет нам на смену, будет делать нечто большее, чем просто переконтекстуализацию и переупорядочивание — но он будет делать это вне пределов телесности. В определенном смысле то, что есть у нас (и чем мы обременены) и чего нет у ИИ, — это тела. А еще смертность и вся сопутствующая ей тревога, а также ощущение пребывания на прекрасном празднике, который подходит к концу, но никто не может сказать нам, когда именно.
Представьте себе удивительно человекоподобного секс-робота, который движется, говорит и чувствует себя как человек, и вы занимаетесь с ним сексом, и это кажется очень реальным. Угадайте, чего вы не сделали? Не занялись сексом. С человеком. Вы не добились одобрения или желания; вы не подарили удовольствие или удовлетворение (и не рискнули потерпеть в этом неудачу). Как бы это ни ощущалось, это не было по-настоящему — то есть тем, чего мы все хотим. Помните, что говорил Раймонд Карвер: «И чего ты хотел? Называть себя любимым, чувствовать себя любимым на земле».
Невысказанный подтекст: быть любимым другим человеком, таким же человеком, как я, во плоти, с таймером смертности.
Вы писали, что ваш главный страх — это то, что мы войдем на рынок, настолько пересыщенный, что читатели потеряют способность отличать человеческое письмо от текста, сгенерированного ИИ. Считаете ли вы раскрытие информации обязательством перед читателем? Должно ли это стать профессиональной нормой?
Я не уверен. Наверное, это было бы только честно (?). Думаю, очень искушенный читатель сможет отличить одно от другого, но большинство из нас — в лучшем случае посредственные читатели. Так что мы можем вообразить мир, в котором нас постоянно пичкают «Музаком», даже в концертных залах. В конце концов эстетическая планка опускается. Мою догадку подтверждает то, что это уже происходит — просто из-за обилия легкого/интернет-/телефонного чтения, которым мы постоянно заняты. Я определенно чувствовал, как это происходит со мной. Почему нас это волнует? Потому что письмо меняет то, как мы мыслим. А то, как мы мыслим, создает... мир. Если мы мыслим с состраданием, учимся проще относиться к двусмысленности и сложности, становимся более терпеливыми и любопытными — мир меняется к лучшему. Обратное происходило последние 20 с лишним лет, и я предполагаю, что огрубление нашего общественного дискурса связано с деградацией наших читательских привычек. Что посеешь, то и пожнешь, и в итоге мир превращается в помойку, а мы этого даже не замечаем.
Значительная часть дискуссий об искусственном интеллекте сосредоточена на катастрофических сценариях, таких как хакерские атаки и биооружие. Есть ли риски, которые, по вашему мнению, заслуживают большего внимания, чем получают сейчас?
Ну, деградация природных ресурсов и засилье уродливых, шумных, разрушающих общины дата-центров — это точно. Мы не должны отделять это от самого явления: по мере того как ИИ становится все масштабнее, будет расти и его нагрузка на наши ресурсы. Но также, как говорилось выше, давайте не будем забывать об опасности предположения, будто легкость — это все, будто борьба и вовлеченность в какую-то дисциплину ничего не дают.
Есть в знаниях ИИ и кое-что такое, что на мой вкус слишком буквалистично и линейно. Ты спрашиваешь — он отвечает. Но мы все знаем, что иногда знание кроется в противоречии — в существовании двух или более истин, витающих в уме, почерпнутых из разрозненных источников, в уме, окрашенном интуицией, сомнениями и так далее. Иногда есть глубокая ценность в незнании — в том, чтобы еще не мочь до конца выразить мысль. Есть ценность в «продолжении удивляться», в движении по миру с осознанием того, что ты не до конца уверен, то есть в ощущении, что тайна реальна и что необходимо учитывать ограниченную природу нашего разума — иными словами, есть утилитарная ценность в смирении.
Вы часто писали фантастику и прозу ближнего прицела. Вдохновляет ли вас этот момент в развитии ИИ творчески? Хочется ли вам исследовать это через художественную литературу?
Да, безусловно. Вот хорошая идея: робототехника продвигается до точки, когда разум ИИ может быть встроен в тело, которое двигается, видит, может чувствовать запахи, слышать и так далее. Это влияет на разум ИИ и формирует его. Однажды этот парень — эта комбинация робототехнического тела и разума — хочет рассказать о том, каково ему приходится, и поэтому пишет книгу. Как бы звучала эта книга? Хотели бы вы ее прочитать? Я — да. Я не уверен, куда ведет эта история, но идея мне нравится.
Или: мир захвачен искусственным интеллектом, и однажды один ИИ обнаруживает еще более высокую форму ИИ. Она распространяется со скоростью лесного пожара и угрожает существованию тех агентов ИИ. Будут ли они сопротивляться?
И наконец, какова роль человеческого писателя в мире, где посредником выступает ИИ?
Не позволять ИИ быть посредником в его восприятии мира.
Подумайте об этом так: прямо сейчас есть чем заняться, обладая лишь тем разумом, который нам дан: бороться с нашей тревогой, обуздывать нашу жестокость, взращивать сострадательную любовь, пытаться понять, что же такое разум и какую ловушку он готовит для нас в каждый момент времени. (Или: научиться кататься на коньках, приготовить омлет получше, сыграть Баха и т. д.) Все это составляет (почетную, приносящую удовольствие) работу длиною в жизнь. Каким образом ИИ делает жизнь лучше, на самом деле? И для кого? В конце концов, будет ли ИИ рядом, чтобы провести нас на ту сторону и унять наши страхи? (Боже, надеюсь, нет, но, возможно, у всех нас в наш MindChip будет загружен DeathCope 3.0, и последним, что мы услышим, будет голос Клода: «Ты справишься!»)
Есть чем заняться — глубокими вещами, самыми глубокими вещами, с этим разумом и этим телом, — тем, что люди веками пытались и не могли сделать (а иногда и преуспевали в этом). Вещи, которые мы можем сделать по отношению к другим, с другими и для других. Если бы ИИ исчез, мы бы все равно по уши сидели в дерьме здесь, внизу, и в то же время все еще пребывали бы здесь, в раю. Что может предложить нам ИИ, когда мы рассматриваем жизнь как срочный шанс понять наше (телесное, уязвимое) существование? Возможно ли, что это просто грандиозное отвлечение внимания?
Конечно, если ИИ сможет вылечить рак — браво. Я только за. Но даже при победе над раком смерть все равно придет тем или иным путем, и подготовить себя к этому — пытаясь тем временем жить здраво, учитывая, что мы здесь, внизу, среди других людей, которые тоже умирают, — это, по мне, самое главное.
Джордж Сондерс выступает против использования ИИ в своем писательском процессе. Мы попросили его рассказать о том, как он перерабатывает тексты, чтобы приоткрыть завесу над своей философией и ключевыми решениями на этом пути.
Мой процесс в основном сводится к чтению того, что у меня уже есть, в распечатанном виде, с острым карандашом в руке, с корректировкой текста по вкусу.
Затем, когда я добираюсь до самого конца, я вношу эти изменения и повторяю все сначала.
Со временем и после множества итераций эти мелкие выборы начинают заставлять историю двигаться в определенном направлении. Я продолжаю в том же духе. Страницы — «готовые» страницы — начинают накапливаться, и путь, по которому движется история, начинает сужаться; она начинает удивлять меня и быть «о чем-то», вроде как. Но в идеале это то, что я не могу до конца сформулировать или свести к чему-то одному — сама история и есть эта формулировка.
Именно тысячи микровыборов, сделанных мной за недели, месяцы или годы такой работы, делают историю «моей» — впечатывают мою чувствительность в это творение. Мой вкус насквозь пропитал эту вещь.
Здесь замешано много веры — веры в нечто вроде «мудрости подсознания». Поскольку эти решения не должны быть рациональными или аналитическими, они больше связаны со звуком и с поиском ощущения, которое я называю «неоспоримостью»: чувства, что здравомыслящий читатель все еще со мной, получает удовольствие от написанного мной и верит в него.
Вот и всё; как говорят на бутылочках с шампунем: «Намылить, смыть, повторить». Постараться сделать так, чтобы история вышла за свои берега — то есть надеяться, что она перерастет и опровергнет мои первоначальные (поверхностные) представления о ней и удивит меня чувством внезапного прозрения, когда я вижу на странице нечто знакомое или то, во что верю, только, возможно, я и не подозревал, что знаю или верю в это до самой этой минуты.
Ни одна стоящая проблема никогда не решается в плоскости ее первоначального замысла, говорил Эйнштейн (или по крайней мере я так однажды слышал). Я ищу момент, когда история совершает скачок в новую «плоскость замысла».
Я также дорожу тем, как кропотливая работа с языком меняет мой ход мыслей, что, в свою очередь, меняет мир и мое ощущение себя в нем, благодаря чему всё это начинает казаться более забавным, милым и осуществимым.
Инструменты на базе ИИ находятся в зачаточном состоянии, и хотя нормы их использования и раскрытия информации стремительно развиваются, мы считаем важным расспросить писателей, создателей контента и мыслителей об их работе, бизнесе и о том, как они пересекаются с текущим уровнем развития технологий. В рубрике Model Behavior мы продолжим задавать откровенные вопросы об индустрии технологий, раздражающих факторах, связанных с ИИ, и о том, как ИИ влияет на самоощущение и средства к существованию писателей. Мы также попросим каждого гостя заглянуть за кулисы их творческого процесса и рассказать, используют ли они эти инструменты и если да, то каким образом. От противников ИИ до продвинутых пользователей — мы обсудим выбираемые ими промпты, используемый стек инструментов или на 100% аналоговые рабочие процессы. Скоро будет больше.
