Научно-фантастическая книжка про искусственный интеллект
Я написал научно‑фантастическую книжку про искусственный интеллект. Исследования для неё начались несколько лет назад, идея зрела ещё раньше. Первый черновик был готов к середине одного из этапов работы. После неудачных попыток предложить рукопись агентам я аккуратно разобрал тот черновик и собрал заново к следующему лету, затем снова прошёл через раунды предложений (тоже безуспешно). Немного спустя одна крупная компания выпустила публичную версию чат‑бота на основе больших языковых моделей. С тех пор прошло несколько лет и общественная реакция на ИИ стала похожа на панель из того комикса Оутмила: многим людям он уже порядком надоел — хочется заплатить, лишь бы все прекратили говорить об этом и перестали навязывать свои технологии повсюду. На этом фоне я всё же планирую выпустить книгу. Как раз в тот момент, когда кажется, что всё вокруг только и думают о том, как вставить ИИ во всё, что движется.
Я поставил себе цель: издать книгу самостоятельно после ещё одного цикла правок и документировать процесс в блоге. Думаю, это займет шесть–девять месяцев, посмотрим, насколько оптимистично это предположение. Возможно, в финале попробую краудфандинговую кампанию. В последнем витке я буду пересматривать книгу сцена за сценой и писать о идеях и приёмах, использованных при её построении. Книга должна оставаться продуктом времени до появления массовых LLM. Плохо поддаваться влиянию текущих событий и вертеться, как флюгер, — не лучшая идея. Но наша новая LLM‑реальность даёт повод для размышлений: насколько она изменила (а) моё восприятие самой книги и (б) моё представление об ИИ и его влиянии на общество?
Я буду вестись как дневник прогресса в рабочем документе — отчасти из желания быть открытым, отчасти — из пост‑LLM импульса показать, как человечество борется и спотыкается в творческом процессе. Те, кто меня знает, знают: мне трудно оценить ценность собственной работы. Книга имеет множество дефектов, но я ею невероятно горжусь — и это случается со мною почти никогда. Я чувствую удивительную, почти Датнинг‑Крюгеровскую уверенность в ней. Я очень постарался соединить идеи с ритмом повествования, сделать текст увлекательным. Возможно, ваше представление об увлекательности отличается, но думаю, что определённая категория любителей научной фантастики (то есть люди, похожие на меня) оценят книгу. Я собираюсь поддаться этому ощущению, пока мозг не начал сомневаться.
Подпишитесь на рассылку, если вам интересны технические тонкости художественного письма и самостоятельной публикации (это довольно запутанный процесс) и вы хотите следить за моим прогрессом. Может быть, вам особенно по душе научная фантастика. Может быть, вам интересны идеи о том, как технологии и общество переплетаются между собой. Возможно, вы пытаетесь понять, что реально происходит с ИИ. Вам могут быть близки вопросы о сознании и интеллектах коллективного типа (несмотря на скучающие протесты некоторых исследователей ИИ, что темы вроде AGI — пустая трата сил). Я отмечу посты, связанные с научной фантастикой, если вы захотите избегать других материалов.
В моей основной работе сейчас — анализ влияния ИИ на трудовую сферу. В этом смысле писать научную фантастику для меня — всё равно что бежать по городу в фесе и с боа: одновременно и смущающе, и освобождающе. Но так меня учили: в один из последних курсов по политологии в Шеффилде Майк Кенни каждую неделю сочетал социальную теорию с научной фантастикой. Там я впервые прочёл, возможно, мою любимую книгу — «Изгнанные» Урсулы Ле Гуин. Воображение и реальность оказывают взаимное влияние, и этот процесс сложен и непредсказуем. Научная фантастика часто скользит по краю этих вопросов: ИИ как рай, который освободит нас от всей земной рутины, или ИИ как пылающие красными глазами ад, где наша единственная надежда — стать питомцами машины. Мне хотелось углубиться в этот хаос.
Книга построена на двух сюжетных линиях, которые постепенно сливаются в одну. Первая линия исследует, насколько неразрешимой была бы задача воссоздать что‑то столь же сложное, как человеческий разум. Это противоположность «Матрице» и другим упрощённым представлениям о загрузке сознания через кабель или сканер — тем историям, где «загрузил мозг — продолжай сюжет». Я сделал из процесса саму основу сюжета. Я вовсе не нейроучёный, но в художественном произведении можно взять научные представления как склад картин в роскошном дворце: представить, что ты ночью врываешься с фонариком, режешь ножом картины из рам и уносишь их. Первая сюжетная линия показывает, как могла бы выглядеть загрузка мозга, если серьёзно относиться к его сложности. Это естественно ложится в формат «проснулся в комнате», что само по себе сложная задача для дебютного автора, но я попытался сделать её увлекательной. Появляется и та самая страшная «C‑слово», но, надеюсь, в несколько новом ракурсе.
Вторая линия — дерзкий, динамичный сюжет, основанный на проблемах авторского права и интеллектуальной собственности. Идея в том, что ИИ радикально изменит наше отношение к языку. Сейчас мы наблюдаем всплески конфликтов по этой теме с появлением больших языковых моделей: смесь удивления, хаоса и юридической неопределённости. Научная фантастика склонна уходить в крайности — авторитаризм, уничтожение языка и так далее — и примеры таких подходов есть в современной прозе. Но если отталкиваться от реального положения вещей — от политического, правового и финансового болота, в котором мы находимся сейчас — к чему это может привести? Вторая линия — мысленный эксперимент об одной из возможных точек прибытия. Результат содержит достаточно тьмы, но я пытался ввести и другие нюансы. В итоге в книге оказалось немало и «зловещего робота». Похоже, избежать этого непросто — и не потому, что неудачные агентские отклики заставили меня идти в эту сторону; это не жалобный крик отвергнутого возлюбленного. Я просто принял некоторые творческие решения, которые привели к таким образам.
Для самиздата есть свои плюсы. Книга, возможно, нишевая и вряд ли была бы сверхкоммерческой в традиционном смысле. Я много работал над тем, чтобы сюжет хорошо «подскакивал», но при этом отдал приоритет идеям — ради этого я писал в первую очередь. Я хотел бросить себе вызов и сделать так, чтобы идеи и сюжет взаимодействовали, а не одно служило лишь фоном для другого. У самиздата есть также уровень контроля, который будет трудно получить иначе — включая то, о чём я хочу писать в блоге в ближайшие месяцы. Контроль, да; слава, богатство и лавры — меньше. Так уж и будет.
Оставайтесь на связи, если интересны научная фантастика и мои другие заметки. Вот темы и материалы, о которых я, возможно, буду писать в ходе работы и после:
- Прогнозирование versus мыслительные эксперименты в научной фантастике. Я работаю над сценариями влияния ИИ на труд и видел больше тридцати отчётов на эту тему — большинство из них появились совсем недавно. Ле Гуин в своём кратком вступлении к «Левой руке тьмы» делает веский аргумент: писателю не его задача предсказывать будущее; задача романиста — выдумывать. Но роль жанра в формировании нашего восприятия настоящего и будущего — интересный и запутанный вопрос.
- Творчество. Многие утверждают, что ИИ не может быть творческим так, как человек. Формулировка «как человек» вероятно верна, но полностью списать творчество ИИ нельзя. Между тем, есть пересечения в способах генерации идей у людей и машин. Частая ремарка: «ИИ не может выйти за пределы своего обучения так, как можем мы». Правда ли это? Я написал короткий рассказ в той же тональности, где исследую эту границу. Вопрос заключается не столько в противопоставлении «мозг против машины», сколько в том, как социальные и институциональные структуры используют и эксплуатируют творчество.
- Интеллект. ИИ порождает странные представления о нём — например, идея сингулярности, что как только ИИ превзойдёт людей, начнётся экспоненциальный рост, и мы окажемся для него чем‑то вроде муравьёв. Но у нас уже есть системы, «умнее» отдельного человека — это коллекции людей и их организации. Кто, по‑вашему, построил Лондон или самолёт? Почему они не дали начало безудержному экспоненциальному росту? Положительные обратные связи есть, но они стабилизировались — о чём это может говорить в контексте интеллекта?
- Сознание. Практически нет смысла долго обсуждать его в отрыве от того, что можно рационально анализировать. Можно очертить поле, вокруг которого ещё можно говорить осмысленно, но сам феномен остаётся неуловимым — и всё равно я, вероятно, буду возвращаться к этой теме.
Наконец, я взял на себя обязательство не употреблять алкоголь до тех пор, пока книга не будет выпущена. Очень хочу пива, и эта мера меня мотивирует. Надеюсь, это продлится не несколько лет.