ИНТЕРВЬЮ С МАРВИНОМ МИНСКИ
from: http://www.raai.org/library/papers/Minsky/minsky.htm
By Susan Kruglinski, photo Donna Coveney
DISCOVER Vol. 28
No. 01 | January 2007
Легендарный пионер искусственного интеллекта
размышляет о мозге, наносит удар по нейрологии и излагает план по созданию
роботов, превосходящих человека.
Интервью журналу Discover январь, 2007
Марвин Мински стоит
на стыке мира науки и научной фантастики. Профессор Масачусетского
Технологического Института (MIT) и гуру искусственного интеллекта повлиял на каждого от
Айзека Азимова до создателей Deep Blue и компьютера HAL из фильма
"2001: Космическая Одиссея". В пределах институтского кампуса его могут называть
"стариком Мински", однако ученый сегодня так же активно работает в области
искусственного интеллекта, как и в годы своей молодости в 50-х.
Несмотря
на то, что он получил образование в области математики, Мински всегда мыслил в
терминах исследования разума и мыслящих машин. В своей диссертации в
Принстонском Университете (Princeton University) в 1950-х он проанализировал
"обучающуюся машину" и хотел моделировать нейроннные сети мозга. В начале своей
карьеры Мински также изобрел первый конфокальный сканирующий микроскоп, ставший
стандартом в лабораториях всего мира. В 1959 году Мински (совместно с Джоном
Маккарти - прим. пер.) основал Лабораторию Искусственного Интеллекта в MIT (MIT
Articifical Intelligence Laboratory), где он разработал и построил
робот-манипулятор, который мог "чувствовать", "видеть" и манипулировать
объектами в поле своего зрения.
В эти же годы Мински пишет философские
размышления об Искусственном Интеллекте (AI), которые станут книгой "Society of
Mind" в 1985 году. В ней он суммирует свою теорию о том, как работает интеллект,
и постулирует, что такой сложный феномен, как мышление, можно разложить на
простые, специализированные процессы, которые работают сообща, подобно людям в
обществе. Его последняя книга "The Emotion Machine" продолжает развивать идеи,
начатые в "Society of Mind", дополнительно отражая размышления двадцати
последующих лет. В книге рассматривается проект думающей машины, которую Мински
хотел бы построить, - искусственный интеллект, размышляющий о себе, дающий нам
шаг вперед, в будущее, которое может представляться, подобно рассказу Азимова.
Каковы ваши последние идеи о мышлении, подобные тем, что
изложены в "The Emotion Machine"?
Книга рассказывает о том, что люди
являются уникально находчивыми, потому что они имеют несколько путей делать
что-либо. Если вы думаете о чем-то, то можете думать об этом с точки зрения
языка и с точки зрения логики либо в виде диаграмм, рисунков или структур. Если
один метод не работает, вы можете быстро переключиться к другому. Именно поэтому
мы настолько хорошо справляемся с очень многими ситуациями. Животные не могут
вообразить, на что была бы похожа комната, если бы вы изменили цвет той кушетки
с черного на красный. Но человек имеет способность строить умственные образы,
или предложения, или элементарные логические конструкции.
Исследования нейрологов, стремящихся понять сознание, -
сегодня горячая тема, но Вы часто ставите задачи по психологии, которые кажутся
менее серьезными. Так ли это?
Я не воспринимаю нейрологию серьезно. Что
они имеют? Крошечные теории. И разрабатывают эксперименты, чтобы подтвердить их,
и не знают, что делать, если они не работают. Эта книга представляет очень
сложную теорию сознания. Сознание является словом, смешивающим около 16
различных понятий. Большинство нейрологов думает, что все бывает или
сознательно, или нет. Но даже Фрейд описывает несколько уровней сознания. Когда
вы разговариваете с нейрологами, они кажутся весьма наивными; они основываются
на предпосылках биологии и знают о каналах распространения калия и кальция,
однако они не имеют представлений о сложных психологических идеях. Нейрологу
следует разобраться: "Какие явления я должен попытаться объяснить? Могу ли я
вывести из этого теорию?" Затем: "Могу ли я разработать эксперимент, чтобы
увидеть, какая из этих теорий лучше?" Если у вас нет двух теорий, то вы не
можете сделать эксперимент. А они, как правило, не имеют даже одной.
Таким образом, Вы рассматриваете искусственный интеллект, как
призму, через которую можно смотреть на мышление и узнавать секреты, как оно
работает?
Да, через призму создания имитации. Если теория очень проста,
можно использовать математику для прогнозирования того, что будет происходить.
Если она очень сложна, то Вам нужно делать модель. Мне кажется, что для столь
сложной вещи, как мышление или мозг, единственный способ проверить теории
состоит в том, чтобы построить модель и посмотреть, что она делает. Одна из
проблем заключается в том, что исследователи часто не говорят нам, что модель не
может делать. Сейчас самый популярный подход в области искусственного интеллекта
- создание вероятностных моделей. Ученые сообщают: "О, мы достигли в нашей
машине распознавания рукописных символов с точностью в 79 процентов". Они не
говорят нам, что не работает.
Нейрологи, подобные Оливеру Саксу (Oliver Sacks) и В. С.
Рамачандрану (V. S. Ramachandran), изучают людей, которые имеют травмы головного
мозга, полагая, что то, что не случается в мозге, более информативно, чем то,
что случается. Это похоже на то, что вы говорите?
Да. Фактически, это
два наилучших теоретика в этой области. Антонио Дамасио (Antonio Damasio) очень
хорош, но Рамачандран и Сакс являются более искушенными, чем большинство. Они
рассматривают альтернативные теории вместо того, чтобы пытаться доказать одну
конкретную.
Есть ли другие работы в нейрологии или искусственном
интеллекте, которые Вас интересуют?
Очень немного. Существуют 20 или 30
тысяч человек, работающих над нейросетями, и есть 40 или 50 тысяч человек,
работающих над вероятностными предсказаниями. Есть несколько тысяч человек,
пытающихся получить логические системы, показывающие здравые рассуждения, но,
насколько мне известно, практически никто из них не делает систем, способных
рассуждать по аналогии. Это очень важно, так как способ людей решать проблемы -
это, в первую очередь обладание огромным количеством здравого знания, может
быть, 50-ю миллионами маленьких историй или воспоминаний, и при столкновении с
какой-то неизвестной системе поиска ситуацией среди этих 50 миллионов старых
историй находятся по аналогии пять или десять, представляющихся наиболее
соответствующими конкретной ситуации. Это рассуждение по аналогии. Я знаю только
трех или четырех человек, работающих в этом направлении, но они не слишком
известны, поскольку не имеют претензий на грандиозные поиски всеобъемлющей
теории.
Может ли искусственный интеллект иметь стиль человеческого
здравого смысла?
Есть несколько крупномасштабных проектов в изучении
этого вопроса. Среди них тот, который Дуглас Ленат (Douglas Lenat) в Техасе
ведет с 1984. Он имеет несколько миллионов единиц здравого знания в базе, таких,
как "Люди живут в домах" или "Когда идет дождь, вы промокаете", которые очень
тщательно классифицируются. Но мы до сих пор не имеем правильных ответов на
вопросы, на которые способен ответить 3-летний ребенок. И мы пытаемся сейчас
получить их. Если вы зададите вопрос по-детски: "Почему, когда идет дождь,
кто-то хотел бы остаться сухим?", то это приведет компьютер в замешательство,
потому что люди не хотят быть мокрыми в дождливую погоду, но они хотят этого,
когда принимают душ.
Какова ценность в создании искусственного интеллекта знаний о
том, как думает 3-летний ребенок?
История искусственного интеллекта -
своего рода забава, потому что первые реальные достижения были просто красивыми
вещами, подобно машине, которая могла делать доказательства в логике или
преуспеть в расчетах курса. Но затем мы начали стремиться к тому, чтобы сделать
машины, которые могли бы ответить на простые вопросы, которые находятся в
учебнике первоклассника. Сегодня нет никакой машины, которая может сделать это.
Исследователи искусственного интеллекта смотрели прежде всего на проблемы,
которые можно назвать трудными, подобно шахматам, но они не слишком далеко
продвинулись в проблемах, которые можно назвать легкими. Это своего рода
развитие назад. Я надеюсь, с нашими системами рассуждения, основанными на
здравом смысле (commonsense reasoning systems), мы начнем добиваться прогресса,
если в скором времени сможем получить финансирование. Одна из проблем: люди
весьма скептически относятся к такого рода работам.
Обычно исследования в области искусственного интеллекта
занимаются утилитарными использованиями мозга, такими как понимание речи или
решение проблем. Но все же большая часть из того, что делают люди, не является
чисто утилитарным, например смотрение телевизора, фантазирование, или шутки.
Почему людям необходимо все это поведение?
Наблюдение спортивных
состязаний - мой конек. Об удовольствии, как и о боли, думают как о своего рода
простых, абсолютных, врожденных, основных вещах, но, насколько я могу видеть,
удовольствие - часть оборудования для того, чтобы выключить различные части
мозга. Это походит на сон. Я подозреваю, что удовольствие в основном
используется для отключения части мозга, чтобы можно было сохранить свежие
воспоминания о вещах, которым вы пробуете учиться. Оно защищает краткосрочные
буферы памяти. Это одна из теорий удовольствия. Однако удовольствие имеет баг,
который проявляется, если вы получите контроль над ним и будете продолжать
делать это: если вы можете управлять вашим центром удовольствия, то вы можете
выключить ваш мозг. Это очень серьезный баг, и он вызывает пристрастия. Это то,
что, я думаю, делают футбольные болельщики, и фанаты поп-музыки, и телевизионные
наблюдатели, и т.д. Они подавляют свои правильные цели и делают что-то иначе.
Эта ошибка может быть очень серьезной, поскольку мы начинаем видеть молодых
людей, которые играют в компьютерные игры, пока не становятся жирными.
Многие люди считают, что область искусственного интеллекта
обанкротилась в 80-х, после провала попытки выполнить свои ранние обещания. Вы
согласны?
Ну, нет. Дело в том, что она исчерпала мыслителей высокого
уровня. Сегодня каждый человек в этой сфере продвигает какую-либо систему
логических заключений: системы генетических алгоритмов, системы вероятностных
заключений или нейронные сети, ни одна из которых не является большим
прогрессом, так как они достаточно просты. Когда строишь что-то конкретное, то
оно и будет делать конкретные вещи, но не другие. Мы должны признать, что
нейронные сети не могут делать логические умозаключения. Так, например, в том
случае, если нейронная сеть вычисляет вероятности, она не может понять, что эти
числа означают на самом деле. И мы не смогли получить поддержку исследований по
созданию чего-то совершенно иного, потому что государственные учреждения хотят,
чтобы вы сказали, что именно вы будете делать каждый месяц на протяжении
договора. Это не старые времена, когда Национальный научный фонд (National
Science Foundation) мог финансировать конкретных людей, а не конкретные
заявленные предложения.
Почему изменилась общая картина финансирования научных
исследований?
Учредители хотят практического применения. Нет никакого
уважения к фундаментальной науке. В 60-х годах General Electric имела огромную
исследовательскую лабораторию; Bell Telephone's Lab была легендарной. Я работал
там одно лето, и они сказали, что не следует работать над чем-либо, что
потребует менее 40 лет для завершения исследований. CBS Laboratories, Stanford
Research Lab... В стране было огромное множество лабораторий, которых у нас
сейчас нет.
"The Emotion Machine" читается как книга размышлений о том,
как человек мыслит, но разве вашим намерением не являлось изготовление мыслящей
машины?
Книга - фактически план, как строить машину. Я хотел бы быть в
состоянии нанять команду программистов, чтобы создать архитектуру Emotion
Machine, которая может переключаться между различными видами мышления. Никто до
сих пор не построил систему, которая либо имеет, либо приобретает знания о самом
мышлении для того, чтобы более эффективно решать проблемы с течением времени.
Если бы я мог получить пять хороших программистов, мне кажется, я мог бы
построить ее в течение трех-пяти лет.
Вероятно, Вы могли бы сделать очень умный компьютер, но ваша
окончательная цель состоит в том, чтобы фактически воспроизвести
человека?
Или лучше. Мы, люди, не конец эволюции, так что, если нам
удастся построить машины, умные, как человек, мы можем, вероятно, также сделать
машины, которые будут намного более умными и которые будут делать вещи, которые
мы сделать не можем. Нет никакого смысла в создании только подобия человека.
Для каких целей?
Ну, коэффициент рождаемости
понижается, хотя население все еще увеличивается. Мы собираемся иметь много
стариков, и мы будем нуждаться в умных людях, чтобы те делали работу по дому,
заботились о вещах и выращивали овощи. Таким образом, мы нуждаемся в умных
роботах. Есть также проблемы, которые мы не можем решить. Что если солнце
погаснет или мы разрушим планету? Почему бы не сделать лучших физиков, инженеров
или математиков? Мы, возможно, должны быть архитекторами нашего собственного
будущего. Если мы не сделаем этого, наша культура может исчезнуть.
Имеет ли научная фантастика влияние на Вашу
работу?
Это единственная вещь, которую я читаю. Общая беллетристика - в
значительной степени о путях, которыми люди попадают в проблемы и из них
выкручиваются. Научная фантастика - обо всем остальном.
Что вы делали в качестве консультанта фильма "2001:
Космическая Одиссея"?
Я не консультировал по поводу того, на что
компьютер HAL 9000 должен быть похож. Они имели очень причудливый компьютер со
всеми видами цветных наклеек и тому подобным. Стэнли Кубрик спросил: "Что Вы
думаете об этом?" Я ответил: "Это очень красиво". И он сказал: "Что Вы на самом
деле думаете?" Я ответил: "Ох, я думаю, что этот компьютер фактически должен
быть просто черным ящиком". И Кубрик все сломал и сделал один простой макет
компьютера, который был более красивым. Он хотел, чтобы все было технологически
правдоподобным. Но он не захотел сказать мне, что HAL будет делать на самом
деле.
Если бы мы разработали совершенный искусственный мозг, какова
должна была бы быть разница между ним и реальным мозгом?
Хорошо, если
бы он не умирал. Некоторые люди считают, что вам следует умереть, а некоторые
думают, что смерть является лишь досадной помехой. Я отношусь к последним. Я
думаю, нам следует избавиться от смерти.
Источник: Discover.com.
Перевод: myROBOT.ru
http://myrobot.ru/articles/rev_marvin_minsky.php