Искусственный интеллект и человеческий разум

Итак, сразу по нескольким направлениям наметилась угроза фундаментальным допущениям когнитивной психологии. Возникает вопрос о возможных перспективах когнитивной науки и ее психологических разделов. Для подавляющего большинства исследователей эти перспективы связаны сегодня с нейрокогнитивной парадигмой. Но как обычно бывает в истории любой науки, ведущая в данный исторический момент парадигма сосуществует с рядом других (см. 9.1.1). Так, в рамках логико-математических исследований и особенно в связи с работами по искусственному интеллекту продолжает развиваться «вычислительный подход», сторонники которого требуют, чтобы всякая теория создавалась как программа для вычислительной машины. Для многих работающих в этой области авторов научные аспекты проблемы имеют лишь вторичный интерес. Искусственный интеллект как часть информатики представляет собой инженерную дисциплину, для которой существенна, прежде всего, реализуемость и функциональность программных продуктов, а не их сходство с какими бы то ни было биологическими или социокультурными системами.

В этом разделе речь пойдет о примерах вычислительного подхода в психологии и когнитивной науке11. «Несмотря на широкое использование вычислительной терминологии (например, «хранение», «процесс», «операция»), обычно за ней сохраняется некоторый метафорический смысл», — пишет Зенон Пылишин (Pylyshyn, 1980, р. 10). Необходимо преодолеть отношение к ментальным вычислениям как к метафоре, тогда и станет возможным исследование основы мышления — синтаксиса внутреннего языка мысли (см. ниже 9.2.2). Пылишин иллюстрирует полезность последовательной формализации на примере геометрии: «…Планиметрия была хорошо известна и широко использовалась уже в Древнем Египте… Но для египтян это был способ арифметических вычислений, подобный счетам, тогда как для греков — демонстрация совершенного платоновского порядка. Только через две тысячи лет Галилей начал концептуальную революцию, которая привела к сегодняшней точке зрения, не оставившей ничего от аристотелевских идей… Каждый представляет пространство пустым… трехмерным вместилищем, существование и свойства которого совершенно не зависят от Земли и других объектов… Полностью этот процесс

• » Мы говорим здесь о вычислительном, а не о символьном подходе, поскольку начи ная с 1980-х годов в связи с разработкой моделей массивно-параллельной обработки и ис кусственных нейронных сетей появились многочисленные примеры вычислений субсим вольного типа (см. 2.2.3 и 2.3.2). «геометризации мира» был завершен только при Ньютоне» (там же, p. 10)12.

Нельзя недооценивать галилеевских амбиций отдельных представителей этого подхода, который возник вместе с когнитивной психологией и одно время понимался как ее составная часть. Центральной задачей здесь было машинное моделирование возможных познавательных процессов, для чего начиная с 1960-х годов стали использоваться созданные к тому времени языки программирования. Через десять лет в данной области, получившей название искусственного интеллекта, насчитывалось уже свыше 4000 публикаций. Наиболее известными достижениями этого периода стали программы, моделирующие решение задач — «Логик-теоретик» и «Общий решитель проблем» А. Ньюэлла, Г. Саймона, Дж. Шоу, а также восприятие и запоминание информации — «Пандемониум» О. Селфриджа, «Персептрон» М. Минского и ЭПАМ Э. Фейгенбаума. Работы этого периода получили подробное освещение: благожелательное — в книге У. Рейтмана (1968), критическое — в книгах X. Дрейфуса (1978) и особенно Дж. Вейценбаума (1982). Улрик Найссер, хорошо знающий проблемы моделирования, неоднократно выступал против отождествления машинных программ и психологических теорий, подчеркивая более высокий уровень сложности психических процессов (см. 2.2.2).

Следующий период развития начался в 1970-е годы и отчасти продолжается до сих пор. Его существенными моментами стали, с одной стороны, возникновение в качестве альтернативы символьному подходу более правдоподобного с нейрофизиологической точки зрения «субсимвольного подхода» (коннекционизма — см. 2.3.2), а с другой — операционализация с помощью компьютерных программ того факта, что знание может быть представлено не только в форме статичных структур — декларативного знания, но и в форме операций — процедурного знания. Это было сравнительно новым развитием, вызвавшим мини-революцию в самой вычислительной математике и оказавшим значительное влияние на когнитивные исследования, прежде всего в области психологии и нейрофизиологии памяти (см. 5.3.2). Примером процедурного знания являются уже упоминавшиеся системы продукции (см. 2.2.3 и 6.4.1).

Значение систем продукций состоит в возможности выполнения вычислений, что, по предположению, составляет суть процессов познания

12 Пылишин ошибочно описывает здесь свойства феноменального пространства, поскольку последнее структурировано скорее топологически, а также зависит от присутствующих в нем объектов, отношения к ним и типичных условий жизнедеятельности (см. 6.3.2). Его анализ находится в противоречии не только с экологическим (см. 9.3.1) и лингвистическим (Talmi, 1983) анализом восприятия, но и с современной физикой. Так, в теории относительности Эйнштейна масса вещества в некоторой области пространства 302 меняет его геометрию, определяя степень локальной искривленности пространства.

у человека. Далее, они позволяют записывать информацию однородно, являясь наиболее гомогенной формой организации программ из всех, известных на сегодняшний день. Так как каждая продукция не зависит от других, это облегчает дополнение системы новыми продукциями, выявляемыми при опросе и наблюдении за поведением испытуемых. Система продукции предполагает существование рабочей памяти, содержащей описание условий актуально реализуемых продукций и их результатов, а также операций сравнения и идентификации, нахождения подпрограмм и контроля за их развертыванием. Эти операции в системах продукции крайне просты, поэтому общее количество единиц оказывается в пределах «магического числа». Долговременная память интерпретируется как хранилище массива продукций, то есть связок «условие—действие». Наконец, работа моделей определяется балансом информации, поступающей из внешнего мира («внешней памяти») и создаваемой продукциями. Возникает известная непредсказуемость «поведения», столь характерная и для человека.

В области мышления этот этап исследований открыла монография Ньюэлла и Саймона (Newell & Simon, 1972), в которой они обобщили опыт моделирования доказательства геометрических теорем, решения криптоарифметических задач и игры в шахматы. Основным допущением этой работы является то, что мыслительные процессы — это процессы вычислений, а основным выводом — что по своей организации они являются системой продукции. С помощью систем продукции было проведено моделирование процессов решения множества простых познавательных задач. Так, Д. Массаро (Massaro, 1975) создал программы последовательного исчерпывающего, последовательного самооканчивающегося и контентно-адресуемого поиска в памяти. В последнем случае центр тяжести обработки переносится на этап фиксации элементов положительного множества, каждый из которых заносится в одну из специально пронумерованных ячеек памяти и снабжается маркером ответа. При предъявлении стимула информация о нем направляется прямо к соответствующей ячейке, вызывая записанный там ответ. В памяти модели, следовательно, могут храниться не только элементы, но и пары «стимул-ответ». Этот же принцип был реализован в другой программе (Newell, 1974a), моделирующей решение задач поиска в памяти, непосредственного запоминания, задач абстрагирования и выполнения арифметических вычислений.

Помимо этой и последующих работ Ньюэлла, Саймона и их коллег (например, Newell, 1990), процедурная репрезентация знания является основой большинства глобальных моделей понимания. Дж.Р. Андерсон (2002) использует ее в модели ACT-R, память которой разбита на две примерно равные части: систему пропозиций (декларативная часть) и систему продукций (см. 6.4.1 и 8.1.1). Такой диапазон моделей иллюстрирует возможности систем продукции, допускающих простое расширение набора операций и выделение их общих звеньев. В других моделях соотношение оказывается иным, вплоть до отказа от процедурного

знания. Это отражает ведущиеся в информатике споры о сравнительных достоинствах этих двух форм репрезентации13. Декларативные системы более обозримы и доступны для внешнего контроля, поэтому здесь легче извлекать нужную порцию сведений. Независимость от контекста позволяет также вводить общие алгоритмы расширения базы данных. Что касается процедурных систем, то они более эффективны, когда использование операций удается связать с тем специфическим контекстом (условиями), в котором они заведомо ведут к цели.

Психологически правдоподобное решение этой проблемы состоит в отказе от жесткого различения данных и операций. Например, в ранней системе представления знаний LNR, разработанной Д. Норманом, Д. Румелхартом и их сотрудниками, одна и та же информация может попеременно выступать то в одном, то в другом качестве. Как отмечают эти авторы, «то, что мы знаем, включено в то, что мы умеем делать» (Rumelhart & Norman, 1981). Обобщенные описания знания — схемы — это процедуры, сканирующие сенсорную информацию в поисках примеров репрезентированных ими понятий. Внутренняя структура схем при этом иррелевантна, существен лишь операциональный аспект.

Декларативный аспект важен в тех случаях, когда появляется необходимость ассимиляции нового знания либо имеющиеся знания должны быть применены в новых условиях. Подобный перенос навыка решения, сравнение и обучение осуществляются в современных моделях (таких как LISA и EMMA — см. 8.2.1) прежде всего по типу решения задач на аналогии.

В качестве простейшей иллюстрации рассмотрим процедурное определение функции, извлекающей из памяти имена всех родителей индивида «х»:

родитель (дс): возврат узлов от «х» через «родитель».

Функцию ребенок (дг) можно определить как аналогичную функции родитель (JC) с «ребенок» вместо «родитель». Это приведет к появлению функции, извлекающей набор узлов семантической памяти, доступных от узла «х» с помощью указателя «ребенок». Если данные хранятся упорядоченным образом, то в результате можно получить список всех детей индивида «л». Если существует функция мужчина (дс), которая, действуя как фильтр, отбирает из множества «JC» тех индивидов, про которых можно сказать, что они являются мужчинами, то новую функцию отец (х) можно определить так:

отец (х) возврат мужчина (родитель (х))

Тогда при наличии функции женщина (х) (ее, разумеется, можно ввести по аналогии с функцией мужчина (х)) легко создать новые функции мать (JC), дочь (х), сын (дс), бабушка (дс), внучка (дс) и т.д., используя такие структурные отношения, как «мать» подобно «отец» с «женщина» вместо «мужчина», «дочь» подобно «мать» с «ребенок» вместо «родитель», «бабушка» подобно «мать» с родитель (дс) вместо «х» и т.п. Иными словами, декларативное описание отношений родства удается построить на основе двух или трех исходных процедур.

13 Отголоском этих споров является тезис Дж.Р. Андерсона о принципиальной произ-304 вольности моделей в когнитивной науке — его известная «теорема мимикрии» (см. 9.1.2).

Полезность подобного гибкого совмещения декларативных и процедурных способов описания материала также удается показать в рамках исследований по процедурной семантике, для которых характерно понимание значения как системы операций, позволяющих установить перцептивные референты понятия и возможности его использования. Хорошим примером здесь может служить использование понятийного знания для порождения новых лексических единиц, которое обсуждалось нами в предыдущих главах (см. 6.1.1 и 7.3.2).

К сожалению, примеров учета функциональных возможностей различных форм репрезентации знания в вычислительном подходе не так уж много. Так, в период расцвета глобальных моделей понимания рецензенты единодушно отмечали их слабую связь с эмпирическими данными (см. 6.4.1 и 8.1.1). Поскольку языки программирования и аналогичные формально-логические системы достаточно мощны, чтобы описать любой массив данных, а, с другой стороны, своеобразие их внутренней грамматической организации сводит возможность правильного предсказания новых психологических результатов к случайности, то и схема ги-потетико-дедуктивного исследования оказывается не достижением, а помехой. Возможно, именно поэтому наиболее резкая критика чрезмерного обилия фактов в когнитивной психологии и иррелевантности экспериментов исходит от представителей вычислительного подхода.

С практической точки зрения, наиболее важным развитием последних десятилетий стало создание экспертных систем — программных систем, моделирующих в рамках определенной проблемной области решение задач экспертами (см. 8.3.3). Экспертные системы состоят из двух основных компонентов: базы знаний и так называемой машины вывода, то есть собственно решателя задач. Базы знаний строятся при этом как процедурно-декларативные репрезентации, включающие факты и правила. В качестве технического, человеко-машинного «изделия» полноценная экспертная система дополнительно включает интерфейс пользователя и интерфейс разработчика (инженера по знаниям). Наконец, чрезвычайно важным оказалось присутствие специальной подсистемы, которая давала бы пользователю правдоподобное обоснование предлагаемых решений. Общей тенденцией стала постепенная трансформация экспертных систем в системы поддержки решений. К числу основных сфер применения этой основанной на формальном представлении знаний (knowledge-based) технологии относятся медицина, геология, юриспруденция, психологическая диагностика, а также учет и логистика, прежде всего в области электронной коммерции и банковского дела.

По утверждению разработчиков, экспертные системы в ряде случаев демонстрируют уровень знаний, равный среднему уровню знаний специалистов в соответствующих областях (Джексон, 2001). Более того, имеются примеры использования этой технологии для моделирования творческих достижений (как в случае системы поддержки индуктивных

умозаключений BACON, которая смогла на основании заранее выявленных, кодированных и введенных в компьютер данных «повторить» открытие законов Галилея, Кеплера и Ома). Самостоятельное значение имеет использование программ компьютерной графики в качестве инструмента визуализации, позволяющих человеку-эксперту делать новые открытия в медицине, геологии и математике, в частности, в теории чисел (Зенкин, 1996).

Но все же, как правило, в большинстве случаев традиционные экспертные системы остаются на уровне прототипов, не превращаясь в коммерческий продукт. Их применимость ограничивается проблемой юридической ответственности, как в случае неправильно поставленного медицинского диагноза, а также недостаточной гибкостью. Одной из неприятных особенностей практически всех систем является возникающее вблизи границ области экспертизы «обвальное» ухудшение результатов. Надежды возлагаются поэтому на гибридные архитектуры, прежде всего на искусственные нейронные сети. Последние демонстрируют при ухудшении условий работы плавное снижение эффективности (англ. graceful degradation — см. 2.3.2).

Вопрос состоит в том, можно ли, в свете этих данных, считать правильным вычислительное понимание мышления и, шире, познания? В отношении самих процессов, ведущих к решению, в этом нет никакой уверенности. В литературе сосуществует множество различных систем описания вычислений, и они постоянно развиваются, как, например, в случае возникших сравнительно недавно языков объектно-ориентированного программирования {ООП). Основное в этих языках — сохранение внешней формы при изменении свойств: программные структуры меняют свое содержание в зависимости от того, какие «объекты» (либо, в более современной, но менее адекватной терминологии, «классы») подставляются в них14. Однако в целом развитие логических оснований вычислительного подхода имеет собственную динамику. Оно направлено не на симуляцию человеческих достижений, а на их дополнение, причем акцент делается на способности вычислительных устройств к чрезвычайно быстрому перебору вариантов15.

14 При этом на экране может оставаться та же привычная картинка, что, конечно же, удобно для человека-пользователя. ООП привлекательно тем, что оно сделало шаг на встречу простейшим аксиомам психологии человека. Внешняя идентичность при изме нении функционального содержания соответствует, в частности, смене социальных ро лей одной и той же личности. Интересно, что для этого шага создателям ООП пришлось отказаться от числовых структур как основы и перейти к понятиям более высоких типов. Если в обычном программировании преобразуются данные, то в ООП преобразуются функции и действия над «объектами».

15 Исследователям всегда было свойственно считать достигнутый в их время техни ческий аппарат идеальным средством объяснения функционирования мозга и психики (Бернштейн, 2003). В начале 20-го века такой моделью считалась телефонная станция, позднее возникли аналогии с радиопередачей, голографией, архитектурой компьютера и

306 все новыми разновидностями компьютерных программ. Трудно сказать, какие возмож-

С точки зрения сравнения результатов искусственных и естественных интеллектуальных достижений, ответ, несомненно, выглядит иначе. В ряде случаев, как, например, в случае компьютерных программ игры в шахматы, программные системы явно превзошли человека16. Это развитие было предсказано свыше полувека назад. В 1950 году Алан Тьюринг опубликовал статью «Вычислительные машины и интеллект», где он высказал предположение, что к концу 20-го века достижения программируемых компьютеров сравняются с результатами решения задач человеком (см. 2.1.1).

В той же классической статье Тьюрингом была описана процедура возможной проверки такого соответствия. Эта процедура известна сегодня как тест Тьюринга. Если в диалоге с невидимым партнером человек не может достоверно определить, имеет ли он дело с собратом по разуму или же с вычислительным устройством, то последнее успешно выдержало этот тест. В ряду серьезных и полусерьезных попыток проведения теста Тьюринга выделяются эксперименты известного критика работ в области искусственного интеллекта Дж. Вейценбаума (1982) с относительно простой, включавшей всего лишь несколько сот строчек текста программой ELISA, которая позволяла длительное время поддерживать заочный диалог с человеком. При этом она производила на собеседников впечатление живого человека. Позднее (и опять же скорее в критических целях) Вейценбаум адаптировал свою программу для целей роджериан-ской психотерапии, назвав ее DOCTOR. Многие участники опытов Вейценбаума не только не чувствовали дискомфорта, но и предпочитали иметь дело с компьютером, а не с реальным психотерапевтом.

Январь 24, 2019 Психология труда, инженерная психология, эргономика
Еще по теме
Будущее искусственного интеллекта
ГЛАВА 16. Искусственный интеллект
Язык и искусственный интеллект
Искусственный интеллект и художественное творчество
Значение и искусственный интеллект
Искусственный интеллект и научные исследования
9.2.2 Философия искусственного интеллекта
Репрезентация и знание в искусственном интеллекте
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ (ARTIFICIAL INTELLIGENCE)
Сырникова СИСТЕМНОЕ ПОНИМАНИЕ ИНТЕЛЛЕКТА КАК ОСНОВА ДЛЯ СОЗДАНИЯ ЕГО ИСКУССТВЕННЫХ ФОРМ
Человеческий интеллект
Добавить комментарий