Творческий потенциал больших языковых моделей и наследие Ады Лавлейс
Если я ещё раз увижу статью, наперёд строящую догадки о «творческом потенциале» больших языковых моделей, то, кажется, сдамся интернету и выполню своё обещание стать биологом, изучающим креветок. У меня есть теория о том, как мы сюда попали, и она связана с историческим недопониманием.
Существует привычный рассказ, звучащий так: Ада Лавлейс, математик и писательница, широко почитается как первая программистка за её работу над теоретическим «аналитическим двигателем» Чарльза Бэббиджа. Точные детали её вклада менее известны широкой публике, но если вы когда-либо сталкивались с её словами, то, скорее всего, это цитата: «Аналитический двигатель вовсе не претендует на то, чтобы что‑то порождать. Он может делать всё, что мы знаем, как приказать ему выполнить. Он может следовать анализу; но у него нет силы предвидеть какие‑либо аналитические отношения или истины».
Этот отрывок знаменито цитирует Алан Тьюринг в своей статье, где он рассматривает вопрос: «Могут ли машины думать?» Тьюринг не согласен с Лавлейс и предлагает собственный критерий того, можно ли считать компьютеры мыслящими, — знаменитую «имитационную игру». В ней судье в слепом испытании предлагается определить, общается ли он с компьютером или человеком. Способность обмануть судью, по его словам, могла бы считаться свидетельством человеческой когнитивной способности, в противовес «возражению Лавлейс» против искусственного интеллекта.
Интересный факт на полях: игра, предложенная Тьюрингом, основана на застольной игре, в которой судья должен определить по тексту, пишет ли за закрытой дверью мужчина или женщина. И ещё одна ремарка: многие писали о гендеризации социальных роботов (которая повторяет типичные стереотипы — тревожно, учитывая, что женщины часто недостаточно представлены в разработке технологий), особенно о персональных помощниках вроде Siri, которые принято представлять в женском образе.
«Возражение Лавлейс» было одним из нескольких возражений, которые Тьюринг ставил под сомнение. Внимательный читатель может заметить, что происходит здесь: Тьюринг подменяет «порождение» понятием «удивление» — значительно более низким критерием, который легче опровергнуть, чем то, что изначально имела в виду Лавлейс. Теперь «успех» оценивается по реакции судьи, а не по тому, что машина действительно делает. Это не было тщательным прочтением, и не претендовало на диалог. Тем не менее из‑за цитирования их имена остаются связанными в современных дискуссиях о вычислительном творчестве.
Мы восприняли идею Тьюринга и раздули её. Так называемый тест Тьюринга бесчисленное число раз использовали как псевдоэталон в развитии ИИ, особенно языковых моделей. Годами вручали приз Лёбнера программам, которые могли обмануть судей, заставив их поверить, что они имеют дело с человеком. «Пройти тест Тьюринга» стало кратким обозначением странных, кажущихся сознательными выходов популярных языковых моделей — от терапевтического чат‑бота ELIZA Джозефа Вайценбаума до более поздних образцов вроде больших языковых моделей.
Даже капча функционирует как своего рода тест Тьюринга, предлагая человеку интерпретировать что‑то, что, теоретически, не под силу роботу. Понятно, почему такая интерпретация теста Тьюринга захватила воображение общества. Это игривая и неоспоримо изящная идея; её может понять и применить кто угодно. Она также созвучна нашей глубокой истории спекуляций о искусственном сознании, часто принимающем форму нашего собственного.
К настоящему времени для многих недостатки тьюринговского подхода очевидны. Современные поколения больших языковых моделей сделали бы многие старые испытания вовсе неактуальными, а несмотря на громкие истории о «психозе ИИ», подавляющее большинство людей согласны с тем, что ChatGPT сознанием не обладает. Компьютерные учёные торопятся подчеркнуть, что Тьюринг никогда не рассматривал тест как серьёзный бенчмарк, поскольку он смешивает подлинное сознание с имитацией сознания.
То, что это — его популярное наследие, довольно несправедливо по отношению к Тьюрингу, который не мог предвидеть, как его идеи будут вырваны из исходного контекста. Тьюринг понимал, что определять, что значит «думать», — сложное дело. Он не намеревался решать «трудную проблему сознания», а лишь показать, что можно обойти традиционные возражения против разумных машин, подменив одно понятие другим.
И он не был исключительно бесстрастным логиком, как многие полагают. В другом месте он проявляет явный интерес к эмоциональным и эстетическим измерениям интеллекта, воображая тест, в котором участник должен 1) написать сонет и 2) описать рассуждения, приведшие к нему, чтобы продемонстрировать интеллект. Он рассматривал сонеты как высшую форму литературного мастерства, стандарт, который, вероятно, не смогло бы достичь множество людей (я, в числе прочих, не исключение — мой профессор как‑то сказал, что я «просто не до конца понимаю форму», и он был прав), но, иронично, большая языковая модель, по мнению многих читателей в слепом тесте, могла бы с этим справиться.
И Лавлейс несправедливо запомнили сквозь призму цитат Тьюринга. Далеко не скептик, Лавлейс предвидела, что вычислительный потенциал «аналитического двигателя» когда‑то приведёт к новым, неожиданным результатам, хотя она и опасалась «преувеличенных идей», которые часто сопровождают технологические спекуляции.
Глава Меган Уорд «Викторианские вымыслы вычислительного творчества» рассматривает работу Лавлейс под другим углом, помещая её в контекст викторианского дискурса об оригинальности и творчестве. Я во многом опираюсь на её анализ. В викторианскую эпоху царили механические метафоры — что ещё лучше описывало тревогу и восторг индустриальной революции? В центре обсуждений стояло слово «происхождение», которое, в эпоху, когда традиционные ремёсла вытеснялись автоматизацией, требовало переосмысления.
Как бы точно ни воспроизводили машины предметы, им приписывали неспособность к «происхождению». Машины сами по себе не могли ничего породить, но Лавлейс, в духе многих современников, утверждала, что в сочетании с человеческим разумом возможности машины могут дать нечто вроде симбиотического творчества. Машины справлялись со сложностью и комбинированием, тогда как человек мог решить, что стоит преследовать: «распределяя и комбинируя истины и формулы анализа… отношения и природа многих предметов в той науке неизбежно оказываются выброшенными в новые света и глубже исследованы». Результатом становилось творчество или оригинальность, которые, как пишет Уорд, выходят за узкие релятивистские атрибуты вроде эксцентричности или удивления, расширяя понятие творчества в коллаборативный процесс.
Если определение творчества у Тьюринга — это зеркало, то у Лавлейс — сеть. К лучшему или худшему, полвека медиа, рассказывавшие явным и негласным образом истории о тьюринговских тестах (вспомните «Мечтают ли андроиды об электроовцах», «Её», «Из машины» — и список можно продолжать), приучили нас представлять интеллект именно так; что мы — отчётливо человеческий образ интеллекта.
Я вижу здесь две опасности. Первая — то, что Эрик Бриньольфссон называет «тюринговой ловушкой», когда чрезмерный фокус на человекоподобном ИИ вреден, потому что приглашает к замене людей. Экономисты труда, вероятно, согласятся — даже в оптимистичном сценарии, где большие языковые модели имеют лишь ограничимое значение на рабочем месте, «стажёры‑ИИ» могут не угрожать устоявшимся профессионалам, но делают неопределённым время обучения для учеников, и многие опасаются недостатка будущих обученных кадров.
Вторая — закон Гудхарта: «когда мера становится целью, она перестаёт быть хорошей мерой». В данном случае я считаю, что, возможно успешно преследуя критерий, подобный тесту Тьюринга, мы ограничиваем своё воображение. Может быть, если бы Тьюринг увековечил слова Лавлейс иначе, мы оптимизировали бы под что‑то иное, а не под столь успешную имитацию беглости.
Язык — лишь один из аспектов интеллекта, хотя и мощный. Мы, похоже, придаём ему слишком большое значение в ущерб другим типам интеллекта, например распределённому интеллекту осьминогов, где часть «ума» находится в каждом щупальце; сетевому интеллекту слизевиков, который напоминал проекты городского планирования; системному интеллекту сосудистых систем в клетках и в цепочках поставок.
Или, может быть, более творческое мышление о творчестве ничего бы не изменило; возможно, мы всё равно оказались бы здесь. Может статься, окажется, что «коллаборативное творчество» Лавлейс столь же ловко ловит нас в капкан, как и тьюринговская модель. Например, трудно не провести параллель между предложением Лавлейс и нынешними призывами к «человеку в петле». «Обучение с подкреплением на основе человеческой обратной связи», главный способ тренировки современных больших языковых моделей, означает, что со временем тонкая грань между усилением работника и обучением его замены стирается. Это проблема, от которой сейчас не видно лёгкого выхода.
Есть ещё одно странное доказательство машинного «происхождения», которое мне кажется убедительным, если вы готовы открыть разум к тому, что такое творчество или интеллект: генеративно‑состязательные сети (GAN) — класс машинного обучения, изначально доминировавший в генерации изображений. GAN состоят из двух частей: генератора и дискриминатора. Генератор начинает с шума и пытается создать узнаваемое изображение, а дискриминатор, обученный на реальных изображениях, пытается определить фальшивку. По мере противоборства генератор становится лучше в создании правдоподобных изображений (обманывая искусственного судью — некий обратный тест Тьюринга?).
Интересно становится, когда две части разъединяют, и генератору позволяют творить без дискриминатора, не подстраивая его под человеческое понимание. Результатом бывает своего рода машинный «сон», где видимое — более чистое проявление латентного пространства, созданного во время обучения генератора, или непрозрачная «внутренность» того, как компьютер «думает» на своих условиях (если захотеть антропоморфизировать).
Как и в любом творчестве, ценность этого определяет зритель. Полезны ли GAN? Вряд ли — их в значительной степени заменили диффузионные модели вроде тех, что стоят за DALL‑E и Midjourney. Делают ли они интересное искусство? По крайней мере один художник так счёл. И, разумеется, как бы ни были загадочны или чужды нам латентные пространства, они по‑прежнему сформированы сознательными решениями людей, которые тренировали нейросети, и даже «чисто машинные» выходы можно связать с человеческими входными данными.
Но размышления о них — полезное упражнение воображения; хорошая отправная точка, если вы пытаетесь определить, что машина может делать особенно хорошо, а что засеяно человеческим сотрудничеством. Мне бы хотелось спросить у Лавлейс, что бы она обо всём этом подумала.
Мег Шрайбер (MBA) окончила Калифорнийский университет в Беркли со степенью по литературе и затем Университет Кембриджа, где писала диссертацию на тему ИИ и творчества. Её первая статья «Смерть автора, рождение медиа: сотрудничество, контроль и творчество в машинно‑генерируемом тексте» скоро выйдет в академическом журнале. Мег также занимается живописью.