Chess Siberia
Home page News Openings Best players/games Software Donate Video Philosophy Interviews Reviews Literature Music Cinema FIDE Answers Old newspapers Correspondence Chess Downloads Links Chess


Борис Русланович Щипков
писатель

Анти-Тьюринг. Критика термина "искусственный интеллект" и теста Тьюринга

"Слова, слова, слова".
Шекспир "Гамлет"

Критика отдельных положений статьи Алана Тьюринга "Может ли машина мыслить?" (другое название "Вычислительные машины и интеллект", Computing Machinery and Intelligence by Turing, Mind 1950) и понятия "искусственный интеллект" (artificial intelligence).

В классической статье Алана Тьюринга "Может ли машина мыслить?" автор, чтобы не рассматривать термины "машина" и "мыслить", упрощает этот вопрос и заменяет на другой – Могут ли вычислительные машины успешно отвечать на вопросы при "игре в имитацию"? По мнению Тьюринга, если человек при беседе с машиной не сможет понять, что ему отвечает не человек, а машина, то такая машина будет "мыслящей". Это и есть критерий Тьюринга или тест Тьюринга на разумность.

Тьюринг пишет о машине, но мог бы писать и о программе.
Сейчас мы видим, что никаких препятствий к созданию таких программ для компьютеров нет. Скорее всего, подобные программы уже созданы. Программа, в основном, просто ищет в памяти подходящие фразы среди тысяч или миллионов уже готовых и выдает ответы, которые не отличаются от человеческих. Правда, в этом процессе отсутствует мысль. Математическая формула или программа не мыслят. У набора формул и знаков нет ума, сознания и интеллекта.

Тьюринг в духе формального, функционалистского или бихевиористского подхода не давал определения главным для понимания терминам "мыслить", мышление, сознание. Это и слишком простой критерий привели к ошибкам и преувеличениям. Для бихевиоризма (направления экспериментальной психологии) не важно, что происходит в человеческом мозге, фиксируется только внешнее поведение, какая реакция последует на стимул.

Правомерно ли заменять один вопрос на другой? Нет, неправомерно. Эти вопросы не идентичны. Первый вопрос гораздо шире. Правильные или правдоподобные ответы – это необходимое (но только в случае человека, который может разговаривать), но недостаточное условие для признания того, что машина мыслит. Поэтому критерий Тьюринга недостаточен.
Приведу простой пример "мышления" - "Мыслящий столб". На улицу ставим столб с батарейкой, лампочкой и фотодиодом. Наблюдатель-бихевиорист изучает поведение столба. Для чистоты эксперимента столб огораживается колючей проволокой, полезно также отгонять птиц. Как только стемнеет, лампочка на столбе зажигается, начинает светать – лампочка гаснет. Поведение столба явно разумно. Через несколько дней лампа больше не светит, и наблюдатель делает вывод о смерти "мыслящего столба" и скорбит вместе с нами. Теперь давайте вопрос "Могут ли машины мыслить?" поменяем на вопрос "Может ли камень мыслить?" Конечно, нет, не может. Это тоже упрощение, которое выглядит не хуже упрощения Тьюринга.

Рассмотрим термины мышление, интеллект, ум и сознание. Я даю свои варианты смысла терминов, так как различные философы, психологи и биологи высказывают совершенно разные интерпретации этих понятий. Мышление и интеллект действительно существуют, но они есть только у животных. Эти термины относятся только к животным, в том числе и к человеку (homo sapiens). Мышление – это биологический (физиологический) процесс в мозге. Мышление или рассудочная деятельность – это функция мозга, познавательная деятельность, позволяющая открывать новое (получать новые знания, выявлять закономерности), делать обобщения и решать новые задачи. Интеллект – более широкое понятие, включающее в себя процессы ощущения, восприятия, мышления и обучения животного организма.

Душа, ум и социальное сознание не существуют в том смысле, в каком существуют мозг и мышление, это – слова, обобщающие термины. Ум – это характеристика интеллекта. Душу и сознание надо обсуждать более подробно. Существует только организм животного. С помощью органов зрения, осязания и слуха животное исследует мир, получая информацию, и обрабатывает, анализирует ее мозгом, нервной системой. Чтобы выделить познавательные, интеллектуальные способности по сравнению с физическими, люди придумали понятия ума, души, сознания, интеллекта. Затем произошло странное. Человек стал думать, что кроме организма, есть еще отдельная мыслящая или неразумная бессмертная душа, которая независима от тела и даже может перемещаться в другие тела.
В Древней Греции, во времена Пифагора, Платона и Аристотеля, в душу включали и мышление, и интеллект, и даже ощущения. Поэтому считалось, что душа есть и у человека, и у животных, и у растений. Дуалистический подход поддерживался религией, и после Декарта душа осталась только у "венца творения", а животные стали бездушными механизмами. Наверное, Декарт никогда не изучал поведение ворон, сорок, собак и кошек.
Сознание – это обобщенные обществом совместные знания людей, а также различные высшие умственные способности. Поэтому неверно писать о "локализации" сознания, как пишет Тьюринг: "Например, неудача наших попыток локализовать сознание похожа на парадокс". Это – не парадокс, а абсурд. Сознание – не грейпфрут или кусок сыра и не может лежать в холодильнике. Следует отметить, что сознание есть и у человекообразных обезьян.
Но, возможно, я слишком строг, нападая на эту фразу, так как известный английский математик, скорее всего, под сознанием имеет в виду нечто другое. Что-то таинственное и ускользающее.

Вернемся к нашим программам.
Программа не мыслит. Вычислительная машина, "высеченная из кремния и стали", не мыслит, ничего не познает и не понимает, это "кусок камня". Такая машина не осуществляет процессы, аналогичные процессам, проходящим в организме (мозге) животного. Поэтому, даже если вычислительная машина с программой хорошо имитирует человеческие ответы, признавая ее мыслящей, мы просто приписываем ей антропоморфное понятие "мышления", что крайне ненаучно.
Применим теперь критерий Тьюринга к животным. Согласно этому критерию обезьяны, дельфины, вороны, сороки, попугаи, медведи и все другие животные (кроме человека) не обладают мышлением. Но биологи, интенсивно изучающие поведение животных и их организмы (в том числе нервную систему и мозг, биохимические процессы) последние сто лет, с помощью различных тестов доказали, что многие животные обладают мышлением. Поэтому критерий Тьюринга по отношению к животным вообще ложен. Получилась абсурдная картина. Программы, имитирующие ответы, согласно критерию Тьюринга мыслят, а животные – не мыслят.

Тьюринг выдвигает и легко опровергает 9 противоположных точек зрения по вопросу "Могут ли машины мыслить?" Правда, возражение с точки зрения сознания мне не кажется опровергнутым, так как неясно, что Тьюринг подразумевает под сознанием. Складывается впечатление, что сознание он понимает как осознание. Непонятно, почему Тьюринг считает, что если отвергнуть его критерий, то это неминуемо приведет к солипсизму.
Лирическое отступление для знатоков. Обсуждение солипсизма в компании обычно вызывает смех. Известен анекдот об "Обществе убежденных солипсистов", новых членов которого принимают на общем собрании. Причем за кандидата должны поручиться не менее двух солипсистов.

В конце статьи Тьюринг пишет, что "Мы можем надеяться, что машины, в конце концов, будут успешно соперничать с людьми во всех чисто интеллектуальных областях. Но какие из этих областей наиболее пригодны для того, чтобы начать именно с них? Многие считают, что начать лучше всего с какой-нибудь очень абстрактной деятельности, например, с игры в шахматы". Сейчас многие шахматные программы играют в гроссмейстерскую силу. Но достигнуто это не за счет "искусственного интеллекта", а за счет увеличения быстродействия компьютеров. Основу шахматных программ описал еще американский ученый Клод Шеннон - это оценочная функция, в которой складываются плюсы и минусы позиции, и полный, или усеченный, перебор всех возможных ходов, принцип минимакса (Джон фон Нейман). Затем были улучшены алгоритмы отсечения плохих и повторяющихся ходов, продления форсированных вариантов, оценочная функция.
Никакого отношения к "мыслящим машинам" и "искусственному интеллекту" шахматные программы не имеют. Конечно, иногда такие программы могут удивлять. В 2004 году я записал на жесткий диск с пяти DVD дисков программу для анализа эндшпиля ChessBase Endgame Turbo 2 Nalimov Tablebases и стал смотреть один свой старый (1984) эндшпиль ладья и пешка против ферзя, где я сделал ничью. Могла возникнуть такая ничейная позиция: Белые – Крb4, Фb8, Черные – Крg7, Лf6 , пешка g5. Черные переводят ладью на f4 и создают непробиваемую крепость. Но могла получиться и другая позиция, отличающаяся от предыдущей только сдвигом ладьи на одну клетку – Лf7. Как ни удивительно, но Endgame Turbo 2 показывает, что в этом случае белые выигрывают единственным ходом Фe5+ и при точной игре соперников ставят мат в 85 ходов. Конечно, все возможные варианты этого пятифигурного эндшпиля просто записаны в памяти, точнее, на дисках.
Добавлю, что в описаниях сильных шахматных программ Fritz 8, Junior 9, Shredder 8 нет никаких упоминаний об "искусственном интеллекте".

Суммируя все вышеизложенное, выскажу гипотезу, что машина может мыслить только в том случае, если она будет аппаратом (организмом), осуществляющим процессы, аналогичные процессам, проходящим в организме человека или высших животных. Это очень сложно. Поэтому в ближайшем будущем в течение 100 лет появление такой "разумной машины" нереально. Но теоретически создание такой машины кажется возможным. Интересно, что Тьюринг, опровергая теологическое возражение, пишет: "Я счел бы данное возражение более убедительным, если бы животные были отнесены в один класс с людьми, ибо, на мой взгляд, между типичным одушевленным и типичным неодушевленным предметами имеется большее различие, чем между человеком и другими животными".
Чтобы доказать, что такая машина мыслит, надо использовать тесты на решение различных задач, которые давно есть у биологов и психологов, изучающих и исследующих мышление животных и человека. Полезно также изучить процессы, протекающие внутри этого аппарата, то есть подойти к решению этого так, как поступают ученые-нейробиологи.

Словосочетание "искусственный интеллект" означает, учитывая, что слово интеллект относится только к организмам (животным), что создается или создан искусственный организм (машина), обладающий интеллектом (осуществляющий процессы ощущения, восприятия, мышления и обучения). Но этот термин используется сейчас в другом смысле, как область исследований, и относится, в том числе, к созданию программ. Поэтому правильно было бы использовать термин "имитация интеллекта" вместо "искусственного интеллекта", а точнее – имитация и моделирование отдельных функций интеллекта.

Можно еще добавить, что термин "искусственный интеллект" ненаучный, нестрогий. Непонятно, зачем его используют ученые. В результате по ТВ регулярно сообщают, что через год будет создан искусственный разум. Эти басни, равно как рассказы и бредни о пришельцах, перемещении душ, об аде и воскрешении, чудесах очень хороши для оболванивания людей.
Выбор такого рекламного термина способствовал появлению "интеллектуальных" пылесосов, телевизоров, холодильников, кинокамер – этих "мыслящих столбов" современности. И такой "интеллект" уже поработил всю Землю.
Происходит приписывание машинам "мышления" - антропоморфного и биологического понятия. Кстати, древние греки думали, что все вокруг живое – горы, реки, моря, планеты. Все живет, все изменяется.

Однако следует выделить большую пиаровскую силу статьи Тьюринга, которая привела к повышению имиджа программистов и ученых, к популяризации компьютеров, и к широкому распространению мифа о "разумных машинах", созданию множества фантастических романов и фильмов о борьбе людей с подчинившими их роботами, и к увеличению ассигнований в области "искусственного интеллекта".

Опубликовано 25 января 2005 года

Вверх

© 2005 Борис Русланович Щипков

Copyright © 2000-2009 Boris Schipkov. All rights reserved.