УДК 681.3: 581.51
Введение в математическую теорию когнитронов
Казаков А.И., Обухов
Л.И. 2008.
Киевская лаборатория искусственного интеллекта
alex@kazakov.kiev.ua
Изложенная в данной статье концепция может рассматриваться как формализация деятельностной парадигмы в русле психологических школ Л.С.Выготского, А.Н.Леонтьева, П.Я.Гальперина [1,2], а также как продолжение работ по реальному моделированию мыслительной деятельности, развиваемой в рамках подходов школы Н.М.Амосова – Э.М.Куссуля [3]. А также, данная статья является продолжением работ по созданию формальной теории деятельности и мышления [4], на основе предлагаемой математической теории когнитронов.
По Норберту Винеру «обучающаяся машина должна программироваться опытом». Допустим, за этой догадкой кроется какой-либо реальный алгоритм, который позволяет превращать опыт в библиотеку программ компьютерной системы. Поставим задачу: можно ли восстановить грамматику по последовательности примеров из правильных формул и провести аналогию между этой задачей и последовательностью впечатлений, попадающих в память индивида из внешнего мира? Существует ли метод восстановления грамматики по ее потоку примеров правильно построенных формул? Ответ на этот вопрос дается ниже в описании Алгоритма Структурного Развития Памяти (АСРП). Понятие алгоритма используется в более широком смысле – а именно, как сценарий (в смысле Миллера-Галантера-Прибрама и Шенка-Абельсона). С другой стороны, понятие сценария, используемое нами, близко к понятию модели, разработанной в школе Н.М.Амосова – Э.М.Куссуля. Механизмы свертки-развертки сценариев, описанные в данной статье, также могут быть уподоблены механизмам ансамблевого кодирования и декодирования [5]. Ансамблевые структуры более адекватны для решения задач по классификации наблюдаемых форм, тогда как подход, предложенный в данной статье, более ориентирован на механизмы собственно мышления. Поток опыта позволяет генерировать программы на основе его обработки. Формат клозов и процедур представлен на языке Пролог. Что делают, созданные, сгенерированные таким образом, на основе опыта, программы? Во-первых, они распознают в новых цепочках восприятия правильные образцы, во-вторых, они сами используются для управления поведением системы другим универсальным интерпретатором. Впечатления внешнего мира, поток ощущений, имеет структурированный характер, эти структуры можно улавливать и фиксировать в сети, создавая иерархию структур - сценариев. Такая иерархия будет иметь вид BNF (формы Бэкуса-Наура) для некоторой грамматики. Естественно связать эти грамматики с определенным "довербальным языком", в котором получают свои значения и смыслы слова того или иного национального языка индивида. Свернутые в сценарии по Алгоритму Развития Ментальности (АРМ) их можно снова разворачивать согласно Алгоритму Связующего Паттерна (АСП), который должен прийти на смену стандартному интерпретатору Пролога и скорее выполнять функции "движения деятельности" и "мышления", а не просто логического вывода для ответа на вопросы. Ведь кто-то должен эти вопросы задавать! Для преодоления трудностей в современном логическом программировании, в системах типа Prolog, нами была разработана система LastProlog, избавленная от части логических проблем [6]. Данная разработка позволила авторам решить на формальном уровне проблему буквального понимания текстов на естественном языке [7]. Другая часть проблем логического программирования, касающаяся развития самих форм логических процессов, и рассматривается в данной статье.
"Когнитрон" есть определенная самостоятельная концепция и программная архитектура на базе теории мышления и деятельности. Эта архитектура призвана моделировать восприятия, действия, процессы мышления и речи, происходящие в ментальности живых существ на разных уровнях когнитивного развития. Основное ядро системы - Алгоритмы Развития Ментальности (АРМ), Алгоритм Связующего Паттерна (АСП) и Алгоритм Выбора Главного Сценария (АВГС), моделирующие активность живого существа во внешней среде. Взаимодействие живого существа с внешним миром осуществляется через т.н. "когнитивные развертки" (цепочки минимальных единиц деятельности) - последовательности трехкомпонентных кодов вида
(( 'восприятие', 'эмоция'), 'действие' ).
Память живого существа представляется ментальностью, состоящей из двух зон, представленных в существенно различных форматах и имеющих различную содержательную трактовку. Одна часть памяти, названная Зоной Хронологии, отвечает автобиографическому прошлому и хранится в той же последовательности, в какой поступает информация из внешнего мира. Вторая часть, Зона Знаний, соответствует навыкам, знаниям и языку - имеет представление в виде сети И/ИЛИ подобной формату базы Пролога. В этой "базе знаний" хранится информация в виде сети т.н. сценариев, паттернов свернутой деятельности. Важным является то, что все сценарии получают обоснование в области Хронологии, играющей роль системы чувственных образов. Обе зоны ментальности связаны между собой концептуально и Алгоритмы Развития Ментальности существенно используют их обе, причем Зону Хронологии можно рассматривать в качестве основания Зоны Знаний. Информация накапливается в Зоне Хронологии, сходные и подобные участки когнитивных разверток выделяются процедурами АРМ, поступают в сеть Зоны Знаний и структурируются там в виде сценариев. В свою очередь эти сценарии позволяют по-другому записывать ту же Хронологию не только с существенной ее упаковкой, но и давать определенную интерпретацию событиям прошлого в терминах символов Зоны Знаний. Символы сценариев образуют прото-понятия. Опишем строение когнитрона. Минимальная Единица Деятельности (МЕД) есть единица когнитивной развертки, состояние ментальности, целостный комплекс примитивных следов, полученных индивидом за короткий промежуток времени (типичный промежуток – 0,3 сек). В качестве синонимов понятия МЕД мы будем использовать понятие литера. Минимальная единица деятельности имеет следующий формат
(( 'восприятие', 'эмоция'), 'действие' ).
Запись ‘восприятия’ может разбиваться на отдельные подкомпоненты согласно модальностям восприятия. Компонента 'эмоция' также имеет свои подкомпоненты, одна из которых успех/неуспех играет роль маркера отрицания в базе Пролога. Один из простых способов формального представления компоненты 'восприятие‘ – записать ее в виде конъюнкции внешне проявленных (фенотипических) признаков из некоторого конечного ассортимента с переменными в качестве локусов, точек, отвечающих центрам частей в случае восприятия объекта. Более точно, эти локусы есть точки внимания, т.е. точки с максимумом информативности. Компонента действия – это имя одной из конечного числа операций, выполняемых за короткий целостный квант деятельности. "Когнитивная развертка" содержательно представляет собой целостный сегмент деятельности индивида, его активности в среде в определенный диапазон времени, формально есть последовательность минимальных единиц деятельности. Под когнитивной разверткой физических визуально наблюдаемых объектов понимается последовательность актов восприятия с направлением взгляда и с глазодвигательными операциями в качестве действий. Каждый объект допускает множество когнитивных разверток в зависимости от сценария его осмотра. Однако все они могут быть в базе знаний объединены как экземпляры одного комплексированного символа. Так возникает связь символов с объектами. Предполагается, что объекты есть не более, чем инварианты множества сценариев их осмотра. "Когнитивный символ" есть определенный узел динамически создающейся в ментальности индивида сети, согласно АРМ. Когнитивные символы отвечают обобщенным когнитивным разверткам. "Память когнитрона" есть хранилище информации, всегда функционирующее на чтение/запись. Она имеет две зоны, которые по своим функциональным свойствам можно условно соотнести с известным разделением ментальных функций мозга на право- и лево-полушарные. "Правая зона" (или Хронология) есть последовательность символов, возникающих в результате работы АРМ с процессом интеграции узнавания. "Левая зона" (или Зона Знаний) есть сеть типа И/ИЛИ из символов по отношению связей принадлежности к значению. Эта сеть, или база знаний, имеет структуру более богатую, чем база Пролога, каждый символ может рассматриваться как кластер клозов. Имеются две операции на символах: а) некоммутативная конъюнкция & или ".", операция смежности по времени б) некоммутативная дизъюнкция | или [...], операция образования понятийного комплекса с парадигмальной структурой и с учетом времени. Задается "входной поток минимальных единиц деятельности" ("Поток Мира"), который моделирует одновременно восприятия индивида, действия индивида во внешнем мире и его эмоции/оценки.
Алгоритмы Развития Ментальности (АРМ)
Алгоритмы Развития Ментальности работают инкрементально при поступлении каждой очередной литеры, минимального кванта (('восприятие', 'эмоция'), 'действие'), они создают новые узлы сети при обнаружении каждого факта тождества в последовательностях зоны Хронологии, выполняют процедуры "узнавания" групп литер в потоке, со значениями символов в базе знаний, создают родовую иерархию прото-понятий, добавляя к ним отдельные экземпляры когнитивных разверток и обеспечивают первичное возникновение новых понятий на основе подобия по принципу "равных концов", т.е. равного граничного контекста для внутреннего содержимого. Каждая минимальная единица деятельности будет обозначаться отдельной литерой вида А, Б, ... Поток внешнего мира вместе с ощущениями от внутреннего органического мира (восприятия, эмоции) представляется последовательностью литер. Очередная литера поступает в конец зоны Хронологии.
АРМ-1. Алгоритм регулярного узнавания. Рассматривается два последних символа Хронологии, ... А В. Если в зоне знаний имеется структурный символ вида С => А & В, то его безусловная частотность инкрементируется и записывается в свойства символа С. В Хронологии выполняется замена А и В на С.
АРМ-2. Алгоритм прайминг-узнавания. Рассматривается ситуация в Хронологии вида ... А В ... А В. Ясно, что в этой ситуации не работает АРМ-1, т.е. в зоне знаний нет еще символа со значением А & В. Поскольку еще нет ни одного символа со значением А & В, то он создается впервые С => А & В как новый, отличающийся от всех остальных в базе знаний и с повторностью равной 1. Теперь этот символ может участвовать в АРМ-1 и увеличивать свою частотность встречаемости. В Хронологии выполняется замена А и В на С. Создаваемые по этой части алгоритма символы называются "структурными символами" или конъюнктивными символами. Первые операции в дереве таких символов являются операциями конъюнкции.
АРМ-3.Алгоритм регулярного комплексирования. Рассматриваются три последних символа Хронологии вида ... F В G. Если в зоне знаний имеется фамильный (т.е. комплексированный) символ вида C => F(...|А)G, то к его составу добавляется новый символ C => F(...|А|В)G. Затем в Хронологии выполняется замена F В G на С.
АРМ-4. Алгоритм прайминг-комплексирования. Рассматривается ситуация в Хронологии ... F А G ... F В G. Ясно, что в этой ситуации невозможно срабатывание АРМ-3, поэтому создается новый символ вида C => F(А|В)G. Затем в Хронологии выполняется замена F А G и F В G на С. Создаваемые по этой части алгоритма символы называются "комплексированными символами" (‘комплексами’ по Выготскому) или дизъюнктивными символами. Первые операции в дереве таких символов являются операциями дизъюнкции. Фрагмент АРМ-2 по своей идее близок к известному алгоритму Sequitur Нэвил-Мэннинга и Уитмена [8].
Под ‘праймингом' или ‘новизной' мы понимаем особый психологический статус тех из психических явлений и событий, которые возникают впервые. Большая часть из них приходится на раннее детство, сюда же относятся, на примере русского языка, и каждая из 30 000 основ слов (морфем) в тот первый момент времени, когда оно было услышано или прочитано (или понято) впервые. Первые кушанья, первая собака, первая кошка, первая любовь и т.д. Прайминговые явления и события фиксируются в хронологической памяти индивида, они образуют то, с чем впоследствии будут сравниваться последующие явления и события, они, конечно, имеют особое очарование свежести и удивления. Прайминговыми могут быть не только ситуации удачи, успеха или удовольствия, не менее важны прайминговые неудачи, ошибки, провалы. Они становятся образцом того, что не надо делать, что не надо повторять и часто остаются в памяти с частотностью 1 или 2. Таким образом, у всех ментальных структур и систем имеется свое генетическое начало, свой прайминг-эффект.
Алгоритм Связующего Паттерна (АСП)
"Алгоритм Связующего Паттерна" управляет активностью индивида во внешнем мире, развертывая сценарии, он на текущем шаге, на котором из пары (p,q) получено только p, подбирает операцию q так, чтобы согласовать активность индивида в пределах определенного главного сценария. Заметим, что все сценарии организованы в зоне знаний в лес иерархий, вершины которых называются главными сценариями. Поэтому АСП зависит от выбранного главного сценария. Он связывается с главным мотивом текущей деятельности индивида. Суть алгоритма состоит в том, что главный сценарий, представленный главным символом зоны символов (базы знаний) в иерархии сети, представлен на самом нижнем уровне совокупностью когнитивных маршрутов, которые приводили к успеху в прошлом и которые обладают своими частотами, как одной из мер их опыта. Поскольку индивид не контролирует последовательность восприятий непосредственно в каждой паре (p,q) (хотя остается возможность контроля литер восприятия в следующей паре), а только q, задачей алгоритма АСП является генерация такой операции, чтобы текущий маршрут либо совпадал с одним из семейства маршрутов главного сценария, либо был максимально к нему близок. Для понимания АСП подходящей метафорой является представление главного сценария в виде семейства маршрутов в лесу, выходящих из точки F и приходящих в точку G. Роль p играют признаки местности, на основании которых надо продолжить путь. Активность индивида управляется главным сценарием достижения точки G (при выходе из F), а АСП играет роль карты с руководством, куда идти дальше. АСП подобен интерпретатору программ Пролога с тем только отличием, что отслеживается выбор допустимого продолжения, но без возвратов, поскольку движение в реальном мире (в норме) необратимо. При моделировании умственных сценариев как механизмов-инстру-ментов обработки затруднений и препятствий, возникающих в работе АСП, одной из умственных операций будет запуск интерпре-татора Пролога с возвратами, но "под управлением АСП".
Алгоритм Выбора Главного Сценария (АВГС)
Если мы спрашиваем, каковы задачи, каковы цели внешней и внутренней деятельности, то в случае подчиненных сценариев вопрос решается простой отсылкой к объемлющему сценарию, это – т.н. ‘структурная мотивация’. В отличие от нее мотивация главных сценариев, которые не имеют по определению объемлющих, не может быть структурной. Это относится и к физическим и к умственным главным сценариям. Физические сценарии среди компонент <действие> своих минимальных единиц деятельности имеют внешне-двигательные операции. Умственные сценарии характеризуются внутренними, умственными операциями в компоненте <действие>. Мыслительная деятельность есть процесс интерпретации, согласно АСП, умственных сценариев и естественно входит как часть в более широкий процесс интерпретации смешанных умственно-физических сценариев. Идея реализации АВГС основывается на том, что мотивация главных сценариев уходит за пределы ментальности данного индивида и уходит в биологические основания индивида и в социальную сферу.
При отказе в АСП, т.е. при невозможности порекомендовать для очередного восприятия подходящее действие в рамках главного сценария, возникает ситуация подобная той, когда путник теряет дорогу в лесу, хотя и имеет карту. Что в таких случаях делает путник? а) переходит к исследовательскому поведению (см. АВГС); б) предпринимает специальные меры, чтобы направленно обнаружить один из маршрутов главного сценария; в) формируется проблемная ситуация, требующая более развернутого сценария мышления для решения данной проблемы, т.е. размышления. Таким образом, отказ в АСП это точка потенциального возникновения эвристик (под эвристикой мы понимаем формы опыта самой мыслительной деятельности), составляющих постепенную эволюцию в направлении развития все более изощренных процессов мышления.
Новизна сценариев, создаваемых по АСП
Сценарий есть операциональная программа потенциально возможного поведения, действий индивида, которая может реализовываться, интерпретироваться (“генотип’ деятельности). Сценарии располагаются в Зоне Хронологии и в Зоне Знаний памяти и образуют иерархию И/ИЛИ. Они, будучи программами потенциального поведения в будущем, по структуре "склеены" как комплекс, как пучок траекторий, из всех сходных поведений в прошлом, которые при сходных условиях приводили к сходному результату. Активность, создаваемая и управляемая АСП, не является в полном смысле "творческой", т.е. мыслящее существо в виде главного сценария всегда выполняет некоторый пучок траекторий минимальных единиц деятельности, взятых из своего прошлого опыта. Однако, небольшой элемент творчества все же содержится в АСП. Результирующая траектория настоящего поведения, в зависимости от различных комбинаций сложившихся условий может привести не только к одной из бывших ранее целостных траекторий, но и может оказаться "склеенной" из кусочков различных траекторий прошлого. Если такая новая траектория приведет к успеху, т.е. положительной эмоциональной компоненте, то АРМ (алгоритм обнаружения и регистрации в памяти сходств и различий) сохранит ее в памяти и добавит новые элементы в структуру этого же сценария. Возникает очень важный эффект, а именно: самообучение - успешная интерпретация сценария по АСП одновременно всегда сама и корректирует этот сценарий, расширяя семейство условий и действий, при которых он был успешным. В этом суть развития памяти по АРМ. Все описанное выше может моделировать память любых мыслящих существ, в том числе и человека.
В теории когнитронов символы отвечают не объектам, а обобщениям и структурам, полученным из последовательностей операций. Мы называем их сценариями, символы когнитрона есть всегда те или иные сценарии. Объекты же становятся производным понятием и отвечают определенному типу сценариев - сценариев осмотра, для слепых - сценариев ощупывания. Восприятие нового объекта можно получить, только выполнив глазо-двигательный (ГД) сценарий его осмотра. В отличие от обычных сценариев, для которых элементы восприятия первичны, а перцепции действий вторичны, в сценарии осмотра все наоборот - перцепции ГД действий первичны, а восприятия - вторичны. Именно в этом мы видим возможность конструктивного обоснование теории восприятия Н.Ланге [9]. Сценарий осмотра объекта есть активный сценарий по сбору информации. Если объектом является, например, большой близко расположенный объект, то к ГД операциям при сценарии осмотра подключаются действия головой и перемещения всем телом - это, так называемые, «выразительные движения».
Согласно Лукасевичу, законы формальной логики не суть законы мышления. А каковы же законы мышления? В чем суть процессов развития форм мышления? В статье предлагается вариант моделирования полной деятельности индивида, включающей мышление как особый случай деятельности, а именно – внутренней, скрытой деятельности. Эта мыслительная деятельность, в свою очередь, подразделяется на ориентировочную мыслительную деятельность для обеспечения последующего физического действия и ‘чистую’ мыслительную деятельность, целью которой является исключительно сбор и обработка информации и ее запоминание. Предложенные механизмы состоят в развертывании сценариев (АСП), вовлекаемых в данную деятельность, а учет текущих условий их применения становится новым опытом, который сохраняется в форме сценариев (АРМ).
1. Гальперин П.Я. Введение в психологию. - М.: 'Книжный дом “Университет”’. - 2000. - 336 с.
2. Шабельников В.К. Функциональная психология. - М.: Изд-во Академический Проект. – 2004. - 592 с. - ("Gaudeamus").
3. Амосов Н.М. Разум. Сознание. Истина. - Препринт Института кибернетики им. В.М.Глушкова АН Украины, 93-37. – Киев. – 1993. - с.1-23.
4. Казаков А.И., Обухов Л.И., К целостной модели мыслительной деятельности. Материалы конференции «Интеллектуальный анализ информации», Киев, 2007. – Сб. трудов. - Просвита, г. Киев. - 2007.
5. Куссуль Э.М. Основные свойства нейроподобной сети с ассоциативно-проективной структурой // Сб. научных трудов Нейроподобные сети и нейрокомпьютеры. – Киев. – 1991. - с.4-11.
6. Казаков А.И., Обухов Л.И., Программно-инструментальный комплекс автоматизации программирования. (Текст данной статьи представлен на сайте авторов: www.neurotechnica.info.)
7. Казаков А.И., Обухов Л.И., Система понимания естественного языка. Материалы конференции «Интеллектуальный анализ информации», Киев, 2005. – Сб. трудов. - Просвита, г. Киев. - 2005.
8. Nevill-Manning C.G., and Witten I.H., Identifying hierarchical structures in sequences: A linear time algorithm. Journal of AI Systems, 1(2),
p. 245-257.
9. Ланге Н.Н. Психологические исследования. Одесса, 1893, с. 1-277.