Краткая история искусственных интеллектов, или борьба за язык. Расшифровка лекции Йожи Столет

В случае с нейросетями, которые пока развиваются, пребывают в становлении, мы еще не знаем, о чем именно говорим. Эта технология находится в экспериментальном состоянии – так же, как когда-то находились в экспериментальном состоянии сети, ставшие мощным бустом новых коммуникаций, бывшие полными новых надежд и новых страхов. Теперь же наш интернет похож на привычную, скучную реальность – он давно фрагментируется, в нем появились свои правила, начала утрачиваться анонимность. Со временем, как я предполагаю, нейросети тоже начнут преображаться, вполне допустимо, не в лучшую сторону. Может быть, они и сейчас находятся не в лучшем состоянии, но пока заметны развилки, по которым может пойти их развитие. Очевидно, будут продолжаться попытки «оседлать» технологическую стихию, в том числе с помощью гуманитарных наук. Ведь гуманитарная мысль не отличается мужественностью и призвана выражать беспокойство перед новым – философы исторически проявляли осторожность. 

Эпистемологические чудовища и софисты
Поэтому, чтобы начать анализ, чем же все-таки является ИИ, я предлагаю ознакомиться с рядом мнений представителей гуманитарной мысли, которые отвечают за очеловечивание технологии. Я выбрала заявления, которые показались мне наиболее симптоматичными. 

Поль Б. Пресьядо, испанский философ, неклассический, радикальный во многих отношениях, написал колонку «Прекратить кормить зверя по имени ChatGPT». Пресьядо распознает в ИИ некое эпистемологическое чудовище, нечто нечеловеческое, что очевидно вызывает страх. И что беспокоит Пресьядо? Его беспокоит язык: язык сходит с рельсов, мутирует, он перестает быть приветствием, криком, подарком, обещанием, сигналом тревоги – язык становится шумом, оказывается захвачен, захвачен коммерчески и политически. Притом язык здесь можно понимать в самом широком смысле, потому что искусственный интеллект использует не только естественный язык, речь или письмо, но и визуальный, аудиальный язык, в котором производится бесконечное производство образов, звуков. И монополия на эти языки теперь принадлежит компаниям, которые владеют ими, словно нашими собственными, как считает Пресьядо. Язык, по его мнению, утрачивает свойство различать – Пресьядо пугает, что он перестает различать правду и ложь. 

Подобное разделение очень традиционно для философии. И эта ситуация заставляет вспомнить о ситуации V века до н.э. – когда язык также становится коммерческим и политически захваченным софистами. У них нет родины, они не принадлежат полису, пишут речи на заказ и торгуют знаниями о том, как овладеть техникой языка. По сути, когда мы заказываем текст ChatGPT или другой нейросети, мы тоже обращаемся к некоему аналогу подобного мастера, который создает какую-то речь, как писали ее риторы и софисты. Здесь обнаруживается та же проблема: заказанные речи начинают занимать другое отношение к истине, позволяя заказчику говорить чужими словами от своего лица. Прямо как у Аристофана в комедии «Облака»: правдивая речь и кривая (софистическая) речь начинают соревноваться, и выигрывает вторая, безразличная к истине, не нуждающаяся в ней. 

Язык становится безответственным, коллективным, отделенным от личности – это начинает пугать философов. И что они делают? Распоясавшийся, коммерческий, продающийся, можно сказать, проституированный язык они начинают «привязывать», разрабатывая логический инструментарий. Так, Платон постоянно призывает софистов как участников диалога, чтобы показать, в какие противоречия они впадают, какой подлог совершают ради убеждения. Аристотель в трактате «О софистических опровержениях» показывает, как слово теряет свой контекст, когда превращается в предмет торговли и предмет убеждения. Силлогизм становится жестом, который «привязывает» слово к самому себе, тем самым останавливая машину генеративной речи. 

Другое важное для меня мнение произвела Катерина Колозова, философ-материалистка, которая написала колонку о том, кто контролирует нарратив и историю. Она различает, чем является мышление, и указывает, почему искусственный интеллект все же не является интеллектом. Ее разделение проходит на уровне способности создавать причинно-следственные связи. ИИ основан на статистике, на вероятностной проекции языковых паттернов – вещи одновременно риторической и научной, безответственной к совершаемому высказыванию. Колозова указывает, какие ограничения дают такие моделей: Grok – консервативная система, ChatGPT высокомерный, как либерал, Google подвержен культурным предрассудкам, но склонен исправляться. Она (вполне по-аристотелевски) предлагает остановить речь, поставить на стоп-кран поток, помыслив само мышление как причинно-следственную связь, которую нужно сделать рациональной, силлогистической моделью, где каждое слово связано друг с другом и несет друг за друга ответственность. И субъект за свои слова, соответственно, тоже.

Три модели интеллекта
Продолжая линию Колозовой, которая выделила причинно-следственное и вероятностное мышление, я бы хотела предложить три модели того, что можно было бы назвать разумом или интеллектом. 

Прежде всего стоит спросить, какой эффект мы испытываем от встречи с тем, что называем разумом или интеллектом? Это эффект речи, но речи особого свойства. Такая речь не опирается на врожденную способность говорить, наоборот, она предстает как научение, техника, основанная на умении собирать из слов некий трансформер, составлять речевой паттерн. Эти способы составления речи образуют разные типы умов. Так, уже у Софокла слово νοῦς, «нус» – «ум» или «интеллект» – используется 38 раз и представляет ум как субстанцию изменчивую и ненадежную. Ум можно не иметь, он есть не у всякого действия, он может покинуть героя, его отсутствие ослепляет, его может отнять бог. 

Первый среди этих разных типов умов – прагматический. Интеллект гибкости, адаптации, нашей способности выживать и процветать. То, что мы называем здравым смыслом, который, вопреки представлениям, не является естественным, данным каждому с рождения. Он воспитывается культурой и присутствует далеко не в каждую историческую эпоху. Мы можем увидеть его появление на примере произведений Гомера: если в «Илиаде» герои действуют и сталкиваются с трагическими последствиями как с собственной судьбой (где будущее могут знать только боги), то «Одиссея» полна здравого смысла. Одиссей есть само воплощение этой прагматической способности, поэтому его и называют хитроумным или изворотливым – он способен предвидеть последствия своих действий. Такой тип разумности Одиссея вызывает подозрение – и тревогу – у остальных греков, которые являются как бы «марионетками» богов – может быть, величественными, переживающими чувства, захваченными аффектами, красотой жестов, любовью, но лишенными рассудочного свойства разделять время, то есть видеть последствия своих поступков и менять свое поведение в зависимости от статистического прогнозирования.

Вторая способность, изобретенная трагиками и философами, – способность видеть тождественное и приводить к тождеству. Она возникает с развитием языка и его автоматизацией, происходит из привычки к языку. Способность к тождеству – способность видеть то, чего нет, то есть одинаковое. Видеть не отдельные вещи и не отдельные слова, но классы слов и классы вещей. Для того, чтобы нечто привести к тождеству, слово должно стать понятием, то есть привязать себя к смыслу, который был бы устойчив к смене контекста. В обыденной речи мы оперируем словами вариативно, как это называется, «в зависимости от контекста». Философский, логический язык как интеллектуальная способность рождается из фиксации, остановки значения. Это чудовищно искусственная операция приведения множества к единству, а мира – к представлению. Так начинается трагедия. Опять же у Софокла в «Электре»: Электра пытается отомстить Клитемнестре, матери, за смерть своего отца Агамемнона, настаивает на свой непосредственной связи с последним, с его именем, и в этом не совпадает с собственной сестрой Хрисофемидой, которая выбирает адаптироваться к новой ситуации. Фигура Электры – отражение этого второго ума, разума непротиворечивости, который основывается на логической связи. Аристотель считает ее высшей человеческой способностью, которая не исчезает даже после его смерти, утверждая высший, логический разум. 

Он, этот второй ум, начинает развиваться в философии, и с ним вступает в конфликт рассудок, практический разум. Их конфликт не прекращается, пожалуй, до сих пор. Со временем практический разум, который вырастает из наблюдения, опыта, эксперимента, который появляется с различением времени и накоплением данных, статистики, постепенно становится разумом научным. И уже наука обеспечивает возможность приспособиться к миру или, по крайней мере, создает иллюзию нашего благополучного существования в мире. Другой разум, логический, тоже проходит свое развитие – очевидно, у Гегеля, Канта – и становится движимым, процессуальным, но изначальное напряжение между ними сохраняется. 

Наконец, я предлагаю выделить третий вид интеллекта, или еще одну способность. С его появлением борьба разумов как бы утраивается, предлагая три разных языка. Этот последний тип – поэтический, креативный интеллект, который может быть даже более архаичным, чем первые два, поскольку связан с перцепцией, чувственностью и способностью синтезировать полученные ощущения. Чувственное восприятие множественно, оно требует связывать данные пяти органов чувств, для чего задействует воображение, которое и проявляет себя в виде словесных или визуальных образов. Создание этих образов не является копированием реальности, как часто думают, когда, например, представляют искусство как отражение действительности. Нет, это именно создание, построение новых связей в своеобразном ассоциативном субстрате. Этим не занимается классическая философия, и такой тип мышления проникает в философию лишь с Фридрихом Ницше. Ницше вдруг обнаруживает связь между сном и математикой. Увидеть такую связь – удел поэта. Его креативность начинается не с единицы, а с двойки: на сцене должно быть, по крайней мере, два объекта или два процесса, как в ссоре у Гомера участвуют Ахилл и Агамемнон. Двойка – минимальная единица драматического события на сцене воображения.

И возвращаясь к битве разумов, мы можем вспомнить, что врагами Платона (а значит, и философии) были не только софисты – которых, кстати, можно назвать не только коммерческими учителями, но и первыми филологами, первыми учеными языка. Его врагами были поэты. Но почему? Для Платона эта проблема политическая: научное мышление – практическое, оно позволяет нам приспосабливаться к миру, в то время как поэтическое мышление некоторым образом примиряет нас с ним через катарсис или эстетическое переживание. Из-за этого противоречия, которыми пропитана наша реальность, которыми мы живем, перестают быть болезненными. И только философия отвечает: «Нет, мы не допустим противоречий!.. По крайней мере, мы представим такую реальность, где противоречий не будет». Но как оказывается, мало кто хочет жить в государстве Платона, потому что, как Ницше пишет, наша жизнь движима лишь противоречиями. Тем не менее философы настаивают на провозглашенной необходимости тождества, для чего неустанно стремятся выявить противоречия, эти парадоксы, становясь зеркалом культуры и ее главными критиками. Возможно, именно поэтому философы сейчас выступают отчаянными хулителями искусственного интеллекта, видя параллельно возникшие противоречия лучше всех и не соглашаясь примириться с ними.

Интеллект машины
Но какой тип мышления представляет себя нам в нейросетях? 

Наука работает с данными, то есть с объемом прошлого и некой статистической вероятностью, и это тоже видно в операциях нейросетей. Колозова, кстати, отмечает, что нейросети всегда отправляют нас в прошлое, потому что ответ на любой запрос – это среднестатистический вариант, сформированный предыдущим опытом. 
 
Второй тип мышления – философия с ее идеальным объектом, понятием, за которым должен быть закреплен один и тот же конкретный смысл (или по крайней мере учтена логика его развития). Но нейросети технически не позволяют удерживать подобную привязку. 

Потому что модель, на которой они работают, – модель поэтическая. Это креативная модель сети, сети и связи. ИИ быстро и хорошо связывает данные, притом может это делать в совершенно неидентичных областях, выдавая нечто радикально усредненное. 

Три названных интеллекта, по моему мнению, не являются чем-то естественным, врожденным. Они связаны с тяжелым культурным усилием по взращиванию разных типов мышления в борьбе и через образование. Кажется, что с поэтическим разумом должно быть проще, но на деле только сложнее, потому что поэзия появляется лишь в определенном пространстве – она невозможна в бедной языковой среде, поскольку сама является эффектом языкового богатства и свободы.

В таком контексте можно решить, что поэтический тип не подходит для нейросетей, потому что он как будто требует вдохновения, где богатство сходится со свободой, – того, что обычно связывается с чем-то природным, необъяснимым. Но что естественное можно найти в ИИ? Как и из чего он вообще начинает развиваться? Об этом пишет Сэди Плант в книге «Нули и единицы», которая описывает две вариации нейросетей как борьбу двух сестер, одна из которых опиралась на формальную логику, а вторая – на логику связей. И изначально вторую «сестру», анархическую, как пишет Плант, интуитивную, хаотичную, эксперты не признавали, усердно работая над продвижением первой, формальной и логической. Но последняя  так и не смогла развиться. Оказалось, что для создания полноценного искусственного интеллекта на формальной основе необходимо прописать каждый шаг. Развитие же нейросетей, как известно, произошло как раз благодаря отказу от формализации, благодаря тому, что они учились «сами». Самообучение происходило за счет связей и отказа от центра. Плант описывает это в виде триумфа своенравной изначально нежеланной двойняшки, которую хотели уничтожить и убить прямо в колыбели. Плант бесспорно ангажирована подобным типом систем: она связывает их с женским мышлением и способностью женщин создавать технологии. Нейросетевая структура, такая неиерархическая, распределенная, самообучающаяся, стала для нее отражением женского опыта. Того опыта, который на мизогинном языке принято называть «истерическим» и из которого возникает «женская логика» – то есть способность обнаруживать связи в том, что, на первый взгляд, никак не связано. Такой интеллект был у Ады Лавлейс, разработчицы первой алгоритмической машины, увидевшей в механике ткацкого станка прототип будущей техники (включая современные компьютеры). И по мнению Плант, именно такое мышление, обнаруживающее неочевидные ассоциации, и стало моделью для нейросетей как распределенных процессоров. 

Но системы ИИ – изменчивые, неиерархические, сверхчувствительные – начали обучаться на базах данных. Это, как мне кажется, вызывает забавный эффект: свойство поэтического мышления связывать различное и создавать сложные миры герметизировалось в научном дискурсе статистики. Потому на данный момент мы получили просто плохую поэзию от никудышного поэта. Да, наверное, с подобным эффектом можно бороться с помощью промпта, но тогда мы должны постоянно подсказывать ИИ, в чем уникальность контекста, уникальность ситуации, для того, чтобы попытаться избавиться от такой усредненности. 

Евгения Суслова, поэтесса, художница и мыслительница, написала свой текст об истории интеллекта – «сверхкраткая история внимания, или ангелы-операторы. как охотник и добыча стали близнецами». В нем она как раз проследила развитие поэтического элемента, связав его с возникновением кибернетики и новой поэзии в 1960-е. Она показала, что поэтическое мышление развивалось сначала как направленное на объект, затем обратилось к субъекту. А сегодняшнюю стадию ИИ она представляет как неантропоморфную модель тела через тотальную распределенность. Она предлагает помыслить нейросеть вне ее связи с базами данных, научным дискурсом, представив ее как искусственный интеллект сред, который обращается не только к языковым моделям, но и задействует машинную чувственность, открывающуюся в наблюдении и слушании. Это позволило бы создать среды, которые, как она считает, могут спровоцировать новое фоновое, распределенное внимание, открывающее доступ к ранее непостижимому мышлению. Притом увидеть его примеры, примеры мышления такого субъекта разнорегистривого сознания, можно и без ИИ – например, в поэзии Аркадия Драгомощенко. 

Так, поиски новых типов связывания, смещения, сжатия, сгущения идут, новые способы развертывания текста появляются. Возникают эксперименты по разделению типов мышления в искусственном интеллекте на два вида: есть попытки сделать нейросеть направленной исключительно на помощь исследователям, но есть и попытки научить нейросеть искать уникальность и определять контекст, необходимые поэтическому интеллекту. Но то, что мы видим на данный момент, в большей степени представляется как нечто усредненное, гибридное и вызывающие странное ощущение одновременного правдоподобия и недоверия. Нам очень хочется поручить себя нейросетям, но мы не готовы отдаться им полностью. И это опять же похоже на времена софистики, когда красивые и популярные речи риторов были очень влиятельны, но именно их красота, гладкость и популярность вместе с тем вызывали подозрение. Возможно, сегодняшнюю тревогу, как и раньше, развеет философия, потому что ее-то язык не поддается автоматизации – он является постоянным усилием, который невозможно облачить в форму генеративного текста. 

Таким образом мы как бы оставляем языковым моделям две области: научную и творческую. А язык философии люди могут сохранить за собой, потому что у нас есть способность к деавтоматизации. У нас есть способность не говорить, не отвечать, промолчать, не действовать, сказать «нет» миру. У машины способности вообще не отреагировать пока нет и, возможно, никогда не будет. Без способности к деавтоматизации нет рефлексии, нет отстранения от действительности и нет самоизобретения. Когда мы неустанно говорим «да», мы находимся – всегда уже – в мире, мы уже готовы, мы уже созданы им, сконструированы, но когда говорим «нет» – можем начать изобретение самих себя заново. 

И если мы подумаем, что язык философии невозможно украсть, потому что это язык который являет себя как отказ, язык неавтоматизируемый, то нужно уточнить: что же похищается, как того боится Пресьядо, упоминавшийся в самом начале лекции? Скорее всего, ИИ крадет именно поэтический язык, потому что язык усредняется, и машинная работа начинает влиять на нас непосредственно. Однако с помощью тех же машин, кажется, мы можем обрести уникальность заново – и для этого необходимо настаивать на сохранении философского языка. 

Примечания: 
[1] Делёз Ж., Гваттари Ф. Анти-Эдип: Капитализм и шизофрения. 2007. Стр. 8. 
[2] Кристева Ю. Силы ужаса: эссе об отвращении. 2003. Стр. 65.