Антон Радченко рассматривает пять стратегий ответа на «китайскую комнату» и задаётся вопросом, переживёт ли этот аргумент эпоху генеративного ИИ.
Данный материал является продолжением статьи «Общий искусственный интеллект и поведенческие тесты». Проблема, которую описывала предыдущая статья, состоит в следующем: современные системы ИИ демонстрируют вербальное поведение, чрезвычайно похожее на речевую деятельность человека. Успешное прохождение поведенческих тестов предоставляет довольно убедительные аргументы в пользу того, что ИИ может мыслить, понимать, обладать сознанием в наиболее сильном смысле; спекуляции на эту тему сегодня можно встретить в СМИ, пресс-релизах ИИ-компаний и значительной части исследовательской литературы. Основным возражением против такой точки зрения выступают различные вариации аргумента Китайской комнаты. В этом материале попробуем разобраться в том, как аргумент устроен, в каких формах он обсуждается сегодня, а также какими могут быть стратегии защиты от него.
Оригинальный мысленный эксперимент «Китайская комната» был сформулирован американским философом Джоном Серлом в докладе и последующей статье 1980 года. В качестве стартовой точки рассуждения Серл делит все системы ИИ на две категории – слабый и сильный ИИ. Слабый остается только инструментом, пусть и чрезвычайно изощренным; сильный ИИ, по мысли Серла, является полноценным мыслящим агентом – «разумом на самом деле, о котором можно буквально сказать, что он понимает и имеет другие когнитивные состояния»1 [Searle 1980, p. 417]. Далее философ предлагает представить следующую ситуацию: он заперт в комнате, куда подаются записанные вопросы на китайском языке. Серл не знает китайского и даже не может определить, на каком языке сделаны записи. Все, что он видит – это бессмысленные для него иероглифы. Однако в комнате есть инструкция на понятном ему языке, где подробно описано, в каком порядке следует составлять иероглифы в ответ. По мнению философа, в этих условиях он может манипулировать символами достаточно успешно, чтобы его ответы для внешнего наблюдателя были неотличимыми от ответов носителя китайского языка. Тем не менее, он все еще не будет понимать ни слова по-китайски. Схожим образом, по мнению Серла, устроены компьютерные программы – они оперируют только синтаксисом, но семантика для них недоступна. Программы не понимают (и никогда не смогут понять) смысл текста так, как его понимает человек, не испытывают схожих когнитивных состояний, а значит не мыслят в полном смысле этого слова. Из этого Серл делает вывод, что компьютерная программа ни при каких условиях не может быть сильным ИИ. Ее ответы могут быть достаточно убедительными, чтобы пройти тест Тьюринга, но все равно мы будем иметь дело только с искусной имитацией, но не настоящим пониманием.
Нельзя сказать, что рассуждение американского философа было полностью новаторским: мысленные эксперименты, опирающиеся на подобные интуиции, уже встречались как в литературе XX века, так и в классической философской традиции. К примеру, более трехсот лет назад Готфрид Лейбниц предлагал представить мыслящую мельницу, попав внутрь которой вряд ли можно будет найти хоть одну мыслящую часть [Лейбниц 1982, с. 415]. За 2 года до выхода статьи Серла другой американский философ Нед Блок описывал гипотетическую ситуацию, при которой каждый гражданин Китая снабжен радиопередатчиком и способен обмениваться сигналами с остальными. По мнению Блока, вполне представимо, что такая система китайцев при определенных условиях сможет воспроизвести схему сигналов между нейронами функционирующего головного мозга; однако на интуитивном уровне трудно поверить в то, что получившийся «Китайский мозг» будет обладать когнитивными состояниями [Block 1980, p. 279-281]. Для русскоязычного читателя также может представлять интерес рассказ советского писателя-фантаста Анатолия Днепрова «Игра», написанный примерно за 30 лет до Китайской комнаты. По сюжету рассказа участники игры с присвоенными им номерами перемещаются по стадиону, следуя оговоренным инструкциям. В итоге выясняется, что каждый из них выполнял функцию детали вычислительной машины, а произведенные движения в совокупности реализовали программу по переводу текста с русского языка на португальский. Однако ни один из участников португальского не знал и уж точно не понимал смысла переводимого текста. Анализируя такую возможность, Днепров приходит к выводу, что «даже самая тонкая имитация мышления машинами не есть само мышление» [Днепров 1962, с. 102].
Ходы мысли схожего направления повсеместно распространены и в современных дискуссиях о перспективах развития ИИ, приобретающих в последние годы особую остроту и ожесточенность. С некоторой долей условности к ним относятся и аргументы о том, что БЛМ2 «просто предсказывают следующий токен» или являются всего лишь «изощренным автозаполнением» (sophisticated autocomplete) [Crume and Keen 2025]; можно встретить и более пренебрежительные формулировки. Наиболее известный пример такой точки зрения представлен в статье группы авторов под руководством американского лингвиста Эмили Бендер «Об опасности стохастических попугаев» [Bender et al 2021]. Стохастическими попугаями называются языковые модели – они, по мнению, Бендер, «не показывают понимания естественного языка», а только «успешно манипулируют лингвистическими формами»3. У пользователя может сложиться впечатление, что БЛМ дает осмысленный ответ, но этим смыслом он наделяет текст сам. В таком наделении смыслом текста, механически составленного в результате математической интерполяции, и кроется опасность – человек склонен относиться к ответам БЛМ как к высказыванию полноценного когнитивного агента, предполагая у «собеседника» наличие мыслей, эмоций, желаний. Однако ничего подобного у БЛМ нет – она не понимает, о чем говорит и, что важнее, не несет ответственности за сказанное. Бендер с соавторами убеждены, что бездумное следование советам ИИ и наделение его ложным авторитетом могут привести к серьезному ущербу. Еще одну вариацию на тему Китайской комнаты можно обнаружить в совместной статье американского специалиста по ИИ Мелани Митчел и эволюционного биолога Дэвида Кракауэра. По их мнению, человек, в отличие от ИИ, в своем мышлении оперирует не символами, а концептами – «внутренними ментальными моделями внешних категорий, ситуаций, событий, а также собственных внутренних состояний» [Mitchell and Krakauer 2023].
Тем не менее, в чрезвычайно внушительном ряду предшественников и последователей именно аргумент Китайской комнаты в формулировке Серла приобрел наибольшее влияние. Дополнительную ценность ему придает богатейшая традиция возражений и комментариев, в формировании которой сам философ принял активное участие. После написания знаковой статьи Серл прожил еще несколько десятилетий и охотно вступал в дискуссии, благодаря чему возможна достаточно детальная реконструкция его взглядов на ИИ. Как и упомянутые выше Бендер и Митчел, Серл связывал понимание с наличием у человека специфических ментальных состояний. Для их описания исследователи использовали и продолжают использовать целый арсенал технических терминов, соотношение между которыми составляет отдельную область исследования. Бендер оперировала понятиями смысла (meaning), убеждения (belief) и намерений (intentions); Митчел – более громоздким термином «внутренние ментальные модели». Серл в более ранних текстах чаще всего писал об «интенциональности», а в выступлении 2015 года особо напирал на понятие «субъективной онтологии». В качестве ключевой характеристики «субъективной онтологии» философ называл то, что ее наличие «ощущается каким-то образом» или «переживается как-то», что сближает это понятие с понятиями квалиа или феноменального сознания, принятыми в современной аналитической философии. Несмотря на такую терминологическую разноголосицу, обобщенная позиция защитников Китайской комнаты достаточно ясна: для полноценного воссоздания человеческого мышления ИИ не хватает какого-то важного фактора, и этот фактор связан с наличием у человека субъективно ощущаемых форм внутренней жизни. Без искомого фактора лучшее, о чем мы можем говорить в случае с ИИ – это имитация некоторых когнитивных процессов, но не построение искусственного разума.
Следует также отметить, что позиция Серла в результате длительной и интенсивной дискуссии изменилась мало – 35 лет спустя он защищал примерно ту же точку зрения, допуская только косметические правки. Один из последних текстов философа – это рецензия на книгу Ника Бострома про супер-ИИ. Как можно догадаться, Серл признает гипотезу о супер-ИИ ложной, а страхи перед его появлением – глупостью, мотивируя это тем, что даже у самого мощного компьютера «в буквальном смысле нет интеллекта, нет мотивации, нет автономии, нет агентности… отсутствуют убеждения и желания» [Searle 2014, p. 4]. Таким образом, на взгляд Серла, никому так и не удалось привести контраргумент, опрокидывающий Китайскую комнату. Однако философ успел рассмотреть множество попыток такой контраргумент сформулировать. В рамках небольшой статьи нет возможности дать сколь-нибудь полный обзор возражений и ответов на них. В дальнейшем тексте будут разобраны пять линий аргументации, которые, как кажется, наиболее актуальны в эпоху нейросетевого генеративного ИИ. Первые три являются продолжением устоявшихся способов опровержения Китайской комнаты, на которые Серл успел дать развернутые комментарии. Еще две начали активно обсуждаться только в последние несколько лет, и можно лишь предполагать, как философ мог бы на них ответить.
Стратегия 1: Чем искусственная нейросеть хуже естественной?
Наиболее популярным контраргументом за всю историю обсуждения сам Серл считал так называемое системное возражение. Основная идея контраргумента состоит в указании на то, что Китайская комната требует от части системы свойств, которые присущи лишь системе целиком. Простейший пример, к которому зачастую прибегают защитники системного возражения, – человеческий мозг. Отдельно взятый нейрон мозга не обладает сознанием, но центральная нервная система, включающая в себя в том числе нейроны, каким-то образом это сознание реализует. Схожим образом можно представить и ситуацию с комнатой – человек внутри может не понимать китайского языка, но пониманием обладать будет вся система, включающая человека, комнату, инструкцию, инструменты ввода и вывода информации. Системный контраргумент имеет пересечения с эмерджентными представлениями о сознании: семантика в Китайской комнате все же возникнет, но на более высоком уровне организации. После достижения определенного уровня сложности система начнет демонстрировать свойства, отсутствующие у ее элементов. Поиск таких качественных скачков сегодня ведется повсеместно, и особое внимание уделяется случаям незапланированного появления у языковых моделей характеристик, которые, казалось бы, не вытекают из их изначального дизайна. Например, в статье коллектива авторов из Anthropic за июль 2026 года акцентируется, что современные нейронные сети обладают «внутренним пространством» (исследователи называют его J-space), отвечающим за высшие когнитивные функции. Появление этой архитектурной особенности не было запрограммировано и стало для разработчиков неожиданностью [Gurnee et al 2026]. О схожем феномене сообщает статья группы британских исследователей, вышедшая в начале 2026 года: в тексте показано, что системах генеративного ИИ «спонтанно развиваются синергетические ядра, подобные мозговым» [Urbina-Rodriguez et al 2026]. По мнению авторов, эти ядра представляют собой связанные группы нейронов, которые отвечают за высокоуровневую обработку информации, причем очевидно, что такая внутренняя специализация стала эмерджентным свойством нейросети. Ученые предполагают, что аналогичным путем могла идти эволюция человека, в результате чего на определенном этапе развития головного мозга появилось сознание.
Серл в целом соглашался с тем, что сознание – эмерджентное свойство мозга, возникшее в ходе эволюции. Тем не менее, системное возражение не казалось ему убедительным. Во встречной аргументации философа можно выделить две связанных линии рассуждения. Во-первых, человек из Китайской комнаты может просто выучить наизусть всю инструкцию по переводу с китайского. Для этого необходимо обладать гениальной памятью, но похоже, что такой сценарий по крайней мере представим. Теперь при запросе человек будет сверяться со своими знаниями, и в некотором смысле сам составит всю систему. Тем не менее, как кажется, и на уровне человека-системы в этом случае никакого понимания не возникнет – он также будет оперировать синтаксическими конструкциями, и ничего больше. Во-вторых, есть принципиальная разница между реальным головным мозгом человека и его нейросетевой симуляцией. Серл выражал эту разницу формулой «симуляция – не значит имплементация». Да, мозг производит мышление, но это еще не означает, что его виртуальная математическая модель будет делать то же самое. Философ прибегал к сравнению мышления с другими биологическими процессами: можно сколько угодно симулировать пищеварение, но никому не придет в голову кормить эту симуляцию настоящей едой; так же и математическое «моделирование мышления не произведет нейробиологического эффекта мышления» [Searle 1990, p. 29]. Дополнительный вес этой аргументации придавала онтологическая позиция философа и, в частности, его взгляды на метафизику причинности. Серл решительным образом отделял физические объекты от бесплотных абстракций. Он считал, что виртуальные процессы никак не могут быть причиной физических изменений, а те, кто убежден в обратном, придерживаются антинаучных убеждений сродни вере в чудеса. В отличие от компьютерной программы, мозг является физическим объектом, и это позволяет ему, как это формулировал Серл, обладать достаточной «каузальной силой» для порождения понимания. Линия защиты Китайской комнаты, основанная на различении симуляции и имплементации, также сохраняет некоторый вес в современных дискуссиях. Так, исследователь из Google DeepMind Александр Лерчнер в статье 2026 года пишет об «ошибке абстракции», которую совершают разработчики БЛМ, опираясь на вычислительный функционализм. Ошибка, по мнению ученого, состоит в смешении символических вычислений и физических процессов, и если первые могут производить только симуляцию мышления, то вторые – действительно его порождать [Lerchner 2026].
Стратегия 2: Роботы и нейрошовинизм
Тогда, возможно, сработает наделение ИИ искусственным телом? Помещение Китайской комнаты в робота выведет ее из мира чистого синтаксиса в мир реальных физических объектов. Соображения такого рода составляют достаточно расхожий способ ответа на Китайскую комнату, называемый «возражением от робота». Появление БЛМ придало этому направлению новый импульс. Кажется, появление органов чувств и умения ориентироваться в пространстве потенциально закрывает наиболее слабые места современных моделей. Многие исследователи убеждены, что именно в непосредственном взаимодействии с внешними предметами возникнет внутренняя модель окружающего мира – та самая «субъективная онтология». Проект, основанный на такой идее, последние несколько лет продвигает Ян Лекун – один из наиболее авторитетных экспертов в области машинного обучения. По его мнению, для полноценного воссоздания человеческого мышления ИИ необходима «модель мира», то есть представления об устройстве физического окружения, и эти представления можно получить только в ходе непосредственного взаимодействия с внешней средой [Lecun 2024]. Такой подход неплохо согласуется с энактивизмом – течением в современной философии сознания, подчеркивающим ключевую роль в когнитивных процессах физического тела человека и его погруженность в окружающую обстановку. Нетрудно догадаться, что и возражение от робота Серлу убедительным не казалось. Ответ на него можно найти еще в комментариях к статье 1980 года, где философ говорит, что «добавление перцептивных и моторных способностей ничего не добавляет с точки зрения понимания» [Searle 1980, p. 420]. По мнению Серла, помещение ИИ в физическое тело только изменит формат входящей информации: наряду с цифрами и буквами появятся визуальные, звуковые, тактильные и прочие перцептивные сигналы. Далее вся деятельность робота все равно сведется к реализации компьютерной программы, то есть работе с синтаксисом. Семантики, настоящего понимания, так и не возникнет, поскольку для этого все еще нужен биологический мозг.
Такая зацикленность именно на биологическом мозге дала основания критикам уличить Серла в «нейрошовинизме» [Левин 2016] – убеждении в том, что для реализации субъективных переживаний необходимы именно естественные нейронные сети, то есть головной мозг живого организма. Это не совсем справедливо – философ не выставлял принципиального запрета на появление понимания у небиологических систем; он лишь считал, что в настоящий момент нам известно только о случаях, когда понимание реализовано системами биологическими. В чем же уникальность именно биологического мозга? Какие его свойства фундируют ту самую «каузальную силу», без которой невозможно понимание? На этот вопрос Серл конкретного ответа не давал, полагая, что установление конкретных механизмов работы мозга – это дело не философов, а нейроученых. Сам же он ограничивался указанием на то, что субъективные явления – это «результат специфических электрохимических биологических процессов» [Searle 1990, p. 35], и «именно особые биохимические свойства мозга позволяют достичь эффекта сознания и других видов ментальных явлений» [Searle 1990, p. 29]. Более того, философ считал, что реализация ментальных состояний мозгом – это просто факт, с которым вряд ли будет спорить психически здоровый человек. Серл в целом уделял большое внимание интуициям здравого смысла4, и часто опирался на них в своих рассуждениях. Убедительная сила Китайской комнаты также держится во многом на таких интуициях, и эта ее особенность не осталась без внимания критиков.
Стратегия 3. Шаткость интуитивных построений
Итак, чтобы аргумент Китайской комнаты сработал, необходимо принять ряд утверждений, которые Серлу кажутся настолько очевидными, что он не утруждает себя их доказательством. В том числе непроясненной остается и центральная для аргумента категория понимания. По сути, Серл предлагает читателю положиться на интуитивные представления об этом процессе, и надеется, что они совпадут с его собственными. Но известно множество примеров из самых разнообразных областей знания (от астрономии до медицины), когда интуитивные представления оказывались ошибочными. При этом довольно часто случается так, что развитие теоретического знания существенно трансформирует и обыденные интуиции; вполне возможно, что более детальное объяснение того, как именно устроено понимание, приведет к подрыву фундамента Китайской комнаты. На это указывал в том числе непримиримый оппонент Серла Дэниел Деннет: по его мнению, создатель Китайской комнаты просто мистифицировал понимание, провоцируя заведомо провальную попытку найти в мозге ментальный аналог «жизненной силы» [Dennett 1980, p. 430]. В собственных философских построениях Деннет широко использовал как раз метод «накачки интуиции», целью которого во многом и была трансформация интуитивных представлений о когнитивных процессах.
Интуиции Серл предлагал доверять и при решении вопроса о наличии семантического содержания в некоторой системе. Философ исходил из посылки, что человек является достаточно надежным детектором ментальных состояний и интуитивно отличит систему, обладающую настоящим пониманием, от системы, которая только имитирует его. Уязвимость такого подхода весьма элегантно демонстрируют философы Герман Каппелен и Джош Девер. В их совместной книге 2025 года можно обнаружить рассуждение, в упрощенном изложении имеющее следующий вид:
- Человек является превосходным детектором ментальных состояний.
- Известно множество случаев, когда люди предполагали наличие у БЛМ ментальных состояний.
- Этого доказательства достаточно, чтобы считать БЛМ полноценными когнитивными и лингвистическими агентами. [Cappelen and Dever 2025]
Таким образом, Каппелен и Девер разворачивают интуиции, на которые опирался Серл, против него самого, и доказывают на этом основании не невозможность сильного ИИ, а его наличие.
Реакция Серла на возражения такого рода была не слишком содержательной и отражала эксцентричную манеру философа. В лучшем случае он не считал нужным что-то объяснять: например, на встрече в Google один из присутствующих задал философу вопрос «можете ли вы доказать, что понимаете английский?» и получил ответ, что это просто очевидно, и для такого доказательства никакая теория не нужна. В других ситуациях философ не был так благодушно настроен и прямо высказывал сомнения в том, что задающий подобные вопросы сам является полноценным когнитивным агентом.
Стратегия 4: Китайская комната устарела
По понятным причинам сравнительно новым является возражение о том, что исходный аргумент Китайской комнаты попросту не учитывает устройство сегодняшних систем ИИ, и БЛМ в частности. Прошедшие десятилетия (и особенно – последние несколько лет) принесли значительный технологический прогресс, и современные нейросети мало похожи на ИИ образца 1970-х годов. По отношению к БЛМ, которые по архитектуре являются нелинейными вероятностными моделями, трудно говорить о том, что при их работе происходит только следование жестко установленному алгоритму: на один и тот же запрос можно получить разные, иногда диаметрально противоположные, результаты. Многократно выросли объем и содержание производимых вычислений: при ответе даже на самый простой вопрос БЛМ привлекает многообразие информации, которое человеку невозможно представить, не говоря уже об осмыслении всей совокупности происходящих операций. Перечисленные факторы позволяют некоторым авторам говорить о том, что исходные условия мысленного эксперимента, как его описывал Серл, в сегодняшнем ИИ не выполняются; следовательно, аргумент утратил убедительную силу. Так, Пол Зимерс пишет, что развитие БЛМ разрушило основания Китайской комнаты. По его мнению сложность современных моделей ставит их «за грань возможностей любой полезной интуиции», а сам мысленный эксперимент следует признать не «логическим доказательством, а только историей, ярким повествованием», которое теперь получило разоблачение [Siemers 2025].
До конца не ясно, как на возражения такого рода отреагировал бы Серл, но можно с высокой степенью вероятности предположить, что его вряд ли смутила бы критика с этой стороны. Философ почти не успел застать развитие нейросетевого ИИ, и его комментарии по этому поводу очень сжатые; при этом кажется, что Серл не вполне разобрался в технических деталях, понимая под нейросетевым подходом только замену последовательной архитектуры вычислений на параллельную [Searle 1990]. Тем не менее, его вердикт оставался неизменным: какой бы ни была структура вычислительных процессов, и каким бы невообразимо огромным не был объем производимых вычислений, сама по себе совокупность вычислений работает только с синтаксисом, но не порождает семантику. Как уже было сказано выше, аргументация такого типа имеет вес в современных дискуссиях, и доводы о «стохастических попугаях» являются наиболее показательным тому примером. В этом контексте представляют интерес и попытки «осовременить» мысленный эксперимент Серла: так, в 2026 году вышла совместная статья ведущих российских философов сознания, где описывался усовершенствованный аргумент Китайской комнаты, которая не следует инструкции, а производит перевод с помощью подстановки токенов, как это происходит в современных БЛМ. По их мнению, в этом виде аргумент немного смягчается, но все еще заслуживает внимания5 [Loginov et al 2026].
Стратегия 5: Выход из ловушки антропоморфизма
Напоследок вернемся к сложнейшему вопросу, который неизбежно возникает при осмыслении Китайской комнаты: как именно порождает семантику человеческое мышление? Вопросы такого порядка философы без особого успеха пытаются разрешить уже несколько тысячелетий, но действительно ли их нужно решать? Кажется, Серл требует от сильного ИИ не только чего-то невнятного, но вполне возможно, что еще и избыточного. Да, разработка ИИ мотивирована стремлением автоматизировать интеллектуальную деятельность человека, но должен ли ИИ решать задачи буквально так же? Нужны ли интеллектуальной машине чувства, эмоции, желания и намерения? Не все ли равно, если машина будет достаточно эффективной при выполнении своих прямых функций? Наконец, не уводят ли нас в сторону от решения задачи по построению такой машины постоянные сравнения с человеком? Вопросы такого рода составляют ядро деантропоморфного направления критики сильного ИИ. Адепты этой точки зрения убеждены, что сравнения ИИ с человеком и ожидания от него антропоморфности (т.е. человекоподобия) только затрудняют научный поиск. Конструируя Китайскую комнату, Серл подстроил ловушку, когда поместил в ее центр себя самого и тем самым спровоцировал прямое сопоставление искусственного и естественного. Если же поддаться на уловку и такое сопоставление провести, то возникшие интуиции влекут нас в метафизические дебри со всем неподъемным багажом вопросов о понимании, сознании, агентности, субъективности.
Риски, связанные с антропоморфизацией ИИ, понимал еще Алан Тьюринг – именно стремлением избежать обойти потенциально тупиковые способы рассуждения была продиктована предложенная им замена вопроса «могут ли машины мыслить?» на более плодотворные, как ему казалось, формулировки. Схожей прагматической логикой руководствовался и Бен Герцель, предлагая понятие общего ИИ наряду с уже существовавшим понятием сильного ИИ. Действительно, нововведение казалось целесообразным по крайней мере с инструментальной точки зрения: для инженера техзадание вида «построить машину, которая будет думать в точности как человек» не выглядит слишком привлекательным. Герцель пишет, что для создания «общего интеллекта не обязательно требуется точная имитация человеческого интеллекта» [Goertzel 2007, p. 8]. Задача по построению машины, которая будет просто выполнять определенный перечень операций, выглядит куда более понятной и реалистичной. Но является ли такая замена эквивалентной? Действительно ли решение метафизических и антропологических проблем в этом контексте является избыточным, и можно ли уклониться от них таким простым маневром?
Дальнейшая судьба двух обозначенных кейсов – Тьюринга и Герцеля – показывает, что курс на деантропоморфизацию легко провозгласить, но крайне тяжело осуществить. Современное положение теста Тьюринга достаточно парадоксально: с одной стороны, его нередко рассматривают как возможный маркер наличия сознания у ИИ, с другой – критикуют за то, что эту функцию тест выполняет плохо6. Словосочетание «общий ИИ» (AGI) в значительной мере заместило понятие сильного ИИ, но только ценой собственной антропоморфизации. Может быть, все дело в неаккуратной концептуальной работе, и изначально перспективную идею Герцеля исказили более поздние интерпретаторы? Похоже, это не так: обсуждение общего ИИ в антропоморфных категориях исследователь начал сам – уже в книге 2007 года нейтральное определение общего ИИ было дополнено требованиями выполнять задачи «в том же смысле, как это делает человек», «учиться… и приобретать опыт» [Goertzel 2007, p 7]. Та же участь постигла и соавтора термина Шейна Легга – в статье 2026 года, написанной при его участии сотрудниками Google DeepMind, обсуждаются возможные критерии общего ИИ, и для их измерения предлагается «когнитивная таксономия, отражающая важные аспекты познавательных способностей человека, которым общий ИИ должен соответствовать» [Burnell et al 2026]. Кажется, деантропоморфизация и здесь оказалась провалена.
Почему же так сложно избавиться от навязчивого стремления сравнить ИИ с человеком? При ответе на этот вопрос можно выделить по крайней мере три группы факторов.
Прежде всего следует отметить, что склонность к наделению неодушевленных объектов и явлений человеческими чертами является неотъемлемым и хорошо знакомым каждому свойством психики. Мы видим лица в самых причудливых сочетаниях геометрических форм, даже если они чрезвычайно скупы и схематичны; в шутку и всерьез наделяем бытовые предметы желаниями и намерениями (никогда не помешает поблагодарить робот-пылесос за хорошую работу, а чатбот – за точный ответ). Антропоморфная метафора как часть мифологического мировоззрения долгое время была базовым инструментом постижения мира и до сих пор занимает важное место в познавательных практиках различного уровня.
Довольно часто к сравнениям человека и ИИ подталкивает сам язык описания исследуемых явлений. Специалисты по машинному обучению широко используют термины из философии или когнитивистики, изначально предназначенные для фиксации некоторых процессов или явлений, присущих человеку: достаточно упомянуть такие слова, как «внимание», «рассуждение» или «агентность». Эти термины в новом контексте приобретают техническое значение, которое может существенно отличаться от исходного. тем не менее, антропомофрные коннотации сохраняются.
Наконец, обозначив ситуации, когда сравнение с человеком происходит ненамеренно, следует указать и на слона в комнате. В последние несколько лет именно воссоздание осмысляющего и понимающего разума в самом сильном смысле этих слов если не прямо декларируется, то по крайней мере подразумевается в качестве цели ИИ-индустрии. Технологические компании не упускают малейшего повода в очередной раз намекнуть, что БЛМ – это не просто стохастические попугаи; напротив, они проявляют множество признаков наличия некоторой внутренней жизни, и эти признаки при должном энтузиазме можно трактовать если не как сознание, то хотя бы как предпосылки к его появлению. В том числе и таким не самым очевидным способом дискуссия вокруг аргумента Китайской комнаты продолжается. Интуиции, лежащие в основании мысленного эксперимента Серла, используются как ИИ-оптимистами, так и ИИ-скептиками, и хотя бы поэтому остаются слишком значимыми, чтобы от них можно было просто отмахнуться.
Литература
- Searle, J. R. Minds, brains, and programs. Behavioral and Brain Sciences, № 3 (3), 1980.
- Лейбниц, Г. В. Монадология. Сочинения в 4 томах. Т. 1. М.: Мысль, 1982.
- Block, N. Troubles with Functionalism. Minnesota Studies in the Philosophy of Science, Vol. 9, 1978.
- Днепров, А. Мир, в котором я исчез: Научно-фантастические повести и рассказы. М.: Молодая гвардия, 1962.
- Crume, J., Keen, M. Can AI Think? Debunking AI Limitations. 2025. https://www.youtube.com/watch?v=CB7NNsI27ks
- Bender, E. M., Gebru T., McMillan-Major, A., Shmitchell, S. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? FAccT ’21: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency. 2021.
- Bender, E. M., Koller, A. Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, 2020.
- Mitchell, M, Krakauer, D, C. The Debate Over Understanding in AI’s Large Language Models. PNAS, Vol. 120, No. 13, 2023.
- Searle, J. R. What Your Computer Can’t Know. The New York Review of Books, October 9, 2014.
- Gurnee, W., Sofroniew, N., Pearce, A., Piotrowski, M, et al. Verbalizable Representations Form a Global Workspace in Language Models. Anthropic Transformer Circuits Thread, 2026. https://transformer-circuits.pub/2026/workspace
- Urbina-Rodriguez, P., Fountas, Z., Rosas, F. E., Wang, J., et al. A Brain-like Synergistic Core in LLMs Drives Behaviour and Learning. arXiv, 2026. https://arxiv.org/pdf/2601.06851
- Searle, J. R. Is the Brain’s Mind a Computer Program? Scientific American, Vol. 262, No. 1, 1990.
- Lerchner, A. Why AI Can Simulate But Not Instantiate Consciousness. Google DeepMind, 2026. https://deepmind.google/research/publications/231971
- Lecun, Y. Objective-Driven AI: Towards AI systems that can learn, remember, reason, and plan. 2024. https://www.youtube.com/watch?v=MiqLoAZFRSE
- Левин, С. М. Разновидности нейрошовинизма: от теории тождества до микрофункционализма. Вестник Моск. ун-та. Серия 7. Философия. №3. 2016.
- Searle, J. R. Is the Brain a Digital Computer? Proceedings and Addresses of the American Philosophical Association, Vol. 64, No. 3, 1990.
- Васильев, В. В. Трудная проблема сознания. М.:Прогресс-Традиция, 2009.
- Dennett, D. The milk of human intentionality. Behavioral and Brain Sciences, № 3 (3), 1980.
- Cappelen, H., Dever, J. Going Whole Hog: A Philosophical Defense of AI Cognition. arXiv. 2025. https://arxiv.org/pdf/2504.13988
- Siemers, P. AI Breaks the Chinese Room. Medium: AI Advances. 2025. https://ai.gopubby.com/ai-breaks-the-chinese-room-0c860e20b623
- Loginov, E. V., Vasilyev, V. V., Kuznetsov, A. V., Volkov, D. B., et al. Peirce’s revenge on the Chinese Room. Frontiers in Psychology, Vol. 17. 2026. https://www.frontiersin.org/journals/psychology/articles/10.3389/fpsyg.2026.1900073/full
- Goertzel, B., Pennachin, C. Artificial General Intelligence. Berlin: Heidelberg, 2007.
- Burnell, R., Yamamori, Y., Firat, O., Olszewska, K., et al. Measuring Progress Toward AGI: A Cognitive Framework. arXiv. 2026. https://arxiv.org/pdf/2605.28405
Сведения о прозрачности подготовки материала: (1) статья прошла процедуру двойного слепого рецензирования; (2) к публикации на сайте материал подготовлен Алексеем Кардашем; (3) при написании текста не использовались большие языковые модели; (4) конфликт интересов отсутствует.