fregimus. Гедель 6

1 2 3 4 5 6 7

XIII. Искусственный интеллект

Искусственный интеллект — понятие чрезвычайно широкое. Когнитивную науку, как и многие другие, по решаемым задачам можно условно разделить на фундаментальную и прикладную. Задача фундаментальной науки — теоретическое описание природы, прикладной — применение моделей, взятых у фундаментальной, к решению технологических задач. Под искусственным интеллектом понимается чаще всего прикладной аспект когнитивных исследований, позволяющий техническими средствами решать задачи, которые не решаются простыми механическими методами.

Весьма часто приходится видеть «убежденных противников» ИИ, уверяющих, будто бы он невозможен в принципе. Что именно невозможно, они обычно сформулировать не в состоянии, и это действительно было бы непросто. Согласно Минскому, словом «интеллект» мы называем совокупность явлений, проявляющихся в связи с сознанием человека, из которых мы еще не научились даже выделять отдельных процессов. Он сравнивает понятие интеллекта с «неисследованными областями Африки»: вроде бы, такое понятие и имеет смысл, но если начинать их изучать, они сразу пропадают. Это действительно так. Оглянувшись на 10—15 лет назад, увидим, что задачи технического зрения, распознавания речи и изображений, обработки больших массивов данных и многие другие еще относились к «интеллектуальным», а сегодня они применяются в технике вокруг нас. Никто не называет их более интеллектуальными, иначе придется признать, что ваша оптическая мышь обладает интеллектом…

В более узком смысле можно понимать ИИ как интеллект, проявляющийся равным человеческому. Но эта почва тоже зыбка: вспомните, о скольких людях, отвечающих на комментарии в вашем журнале, вы подумали, что они только что провалили тест Тьюринга, и со сколькими роботами поговорили. Можно было бы подумать о мыслительных задачах, решаемых человеком и алгоритмами, но и здесь найдется огромное множество узких областей, в которых вычислительная процедура побивает человека «одной левой». Даже о равенстве интеллекта некоему «человеческому» говорить трудно. Равен ли интеллект Эйнштейна человеческому? А интеллект истопника дяди Васи из анекдота «а чуть чего, так дядя Вася»? Человеческий диапазон умственных возможностей широк чрезвычайно.

ТГ приводятся в качестве возражения возможности ИИ с должной регулярностью. Формулировка возражения, так или иначе, сводится к следующей: вычислительные возможности компьютера ограничены арифметической неполнотой, а сознание человека ею не ограничено, следовательно, не найдется такого компьютерного алгоритма, чтобы он мог достичь возможностей сознания. Нам следует внимательно разобрать справедливость исходных постулатов и применимость вывода из них к реальности.

Вначале рассмотрим первое положение: вычислительные возможности компьютера ограничены арифметической неполнотой. Как производится такой переход к вычислительным возможностям от неполноте? Этот переход позволителен — об этом утверждает тезис Черча-Тьюринга. Хоть этот тезис и не сформулирован так же формально, как ФС, на которых строится доказательство Геделя, но имеется не менее формальное доказательство невычислимости некоторых утверждений на машине Тьюринга (МТ); постулирование эквивалентности одного другому для нас уже вторично. Эквивалентом невыводимости теоремы в ФСЭА будет для МТ невозможность завершения некоей формальной процедуры, алгоритма. МТ — автомат особого рода, который, в соответствии с программой, заданной таблицей конечного размера, передвигает бесконечную ленту, размеченную на клеточки, читает текущий квадратик и может стирать и переписывать его. Никакой памяти, кроме ленты и одной ячейки «текущего состояния» нет. МТ не может даже передвигать ленту более, чем на одну клеточку — удивительно, что такая простая машина обладает возможностью вычислить все вычислимое в арифметике.

Есть, однако, задачи, не решаемые вычислением в общем виде. Например, задача проанализировать состояние некоей МТ и сказать, завершится она или нет, относится к неразрешимым на МТ. Не следует думать, будто это вообще неразрешимая для алгоритма задача — напротив, она часто решается¹⁶ для множества частных случаев, а неразрешима она только в общем виде.

Это, собственно, и есть источник первой предпосылки возражения. С этой, сугубо теоретической его частью, конечно, не поспоришь. Но необходимо еще и задуматься, а как много есть задач, не разрешимых на компьютере? Тезис Черча-Тьюринга позволяет нам предположить, что встречаются они примерно столько же часто, сколь в арифметике Геделевы утверждения, иными словами, их еще и найти не так-то просто. С другой стороны, даже неразрешимые в общем виде задачи решаются для большого числа частных случаев, как видно из примера с оптимизирующим компилятором выше.

Кроме того, не следует забывать, что речь идет только о выводе верных утверждений из верных предпосылок — в конечном счете, из аксиом. Никаких особых ограничений на истинность, в любом ином смысле, утверждений, выдаваемых компьютером, не налагается. Например, давайте попробуем заставить компьютер вывести неверное утверждение: 2×2=5. Видите, что тут написано? Это утверждение выведено компьютером вам на экран. Конечно, это игра со значениями слова «вывести». Мы можем даже положить это утверждение аксиомой некоей альтернативной арифметики, и, хотя она наверняка окажется противоречивой, если ее хоть сколько-нибудь интересно развивать, все же рассматривать одну-единственную аксиому мы тоже можем. Точно так же, можно заставить компьютер напечатать, не вычисляя, Геделево утверждение арифметики, например, утверждение теоремы Гудстайна, о которой мы уже говорили. Откройте страницу энциклопедии, и вы прочитаете там, как формулируется эта теорема. Если бы компьютеры не могли этого сделать в принципе, то на месте текста вы увидели бы, наверное, серое пятно! Разница, конечно же, в том, что теорема не выводится в арифметике, а просто набрана текстом — в некотором смысле, аксиоматизирована в том крошечном кусочке некоей большей системы, каким является страница энциклопедии, и которая отнюдь не претендует на полноту и непротиворечивость — здесь мы также, в зависимости от выбранного угла зрения, либо выходим за пределы применимости теоремы Геделя, либо просто не интересуемся свойствами этой большей системы.

МТ есть абстрактная машина, пригодная для невероятно абстрактных, удаленных от нашей реальности математических рассуждений. Попробуйте сочинить алгоритм умножения для МТ: он будет невероятно тяжелым для понимания и сложным. МТ, в некотором смысле, простейшая абстракция вычислителя, весьма подходящая, в силу простоты определения, для описания общих свойств всех вычислителей, но совершенно непригодная для практического программирования. В анализе МТ мы задаемся одним вопросом: остановится МТ или нет. МТ «выводит» результат только после останова. В реальных вычислительных системах процесс вычисления не менее важен, чем останов, а в некоторых системах он и не предусмотрен. Например, программа, управляющая атомным реактором, ни в коем случае не должна останавливаться! Разумеется, можно представить себе процесс ее работы как множество соединенных между собой МТ: одна останавливается и выдает результат, другая запускается, начиная с этого результата… Однако, это предмет уже совершенно иной разновидности анализа, и возможность такого представления оказывается вовне нашей области интереса, именно теорем Геделя.

Отвлечемся здесь, чтобы понять двоякую роль, сыгранную теорией Тьюринга в понимании логики, вычислимости и теории вычислений. Изначально МТ была задумана как воображаемый механизм, или алгоритм, позволяющий определить, выводится ли некое утверждение (в частности, о целых числах) из набора исходных предпосылок. Невозможность решения этой задачи во всех случаях и есть результат Тьюринга, по сути своей эквивалентный Геделевой неполноте. Этот результат, важный сам по себе, имеет чрезвычайно узкую применимость на практике, за пределами арифметической теории, как это мы уже знаем из рассуждений о применении ТГ. Однако, второй результат Тьюринга, и, несомненно, более важный и общий, состоит в следующем. В своей работе Тьюринг вывел абстрактную универсальную машину (УМТ), способную проделать те же вычисления, что и любая другая МТ. До этого обобщения, МТ представлялась отдельной сущностью от данных на ленте: машина определяет, как обрабатываются данные, или, иными словами, алгоритм определяется конструкцией машины. УМТ оказалась одним из крупнейших математических открытий XX в., предвосхитив появление компьютерной науки и технологии. Она способна «прочитать» с ленты именно «конструкцию», алгоритм другой машины и произвести все те же самые вычисления, что и та машина. Таким образом, для УМТ алгоритм не определяется более устройством машины: она способна выполнить любой алгоритм. Тьюринг доказал возможность построить универсальный вычислитель — теоретический прототип современной вычислительной машины: все, что может быть вычислено, может быть вычислено на УМТ, а, значит и на любом цифровом компьютере (если только у него достаточно памяти).

Нам следует заострить внимание на различении этих двух выводов, следующих из свойств МТ. Когда мы говорим, что универсальный современный компьютер не способен вычислить некоторые вещи, мы попадаем в ловушку чрезмерного теоретизирования. Да, МТ как абстрактный механизм не позволяет вычислить, выводится ли любое заданное утверждение о целых числах из набора аксиом. В то же время, МТ, как прототип реального вычислителя, все-таки позволяет вычислить на практике огромное множество всякой интересной всячины. Рассуждая об ограниченности алгоритмической системы всегда следует помнить, как невелико влияние теоретической невычислимости на реальные алгоритмические модели.

Еще одно важное отличие реальных вычислителей от МТ — существование их во времени. Алгоритмы выполняются с определенной скоростью, и их можно прервать, используя внешнее по отношению к программе событие. Например, программа распознавания образов может просто прерваться и выдать результат «ничего не распознано», или «похоже на Х, достоверность низкая», если на вычисления затрачено больше времени, чем заранее отведено¹⁷. С точки зрения абстрактной математики, недоказанное нельзя считать верным, граница проведена четко и однозначно. В математической же практике мы часто оставляем задачи нерешенными, решенными для некоторых частных случаев или решенными только приблизительно. Чего же говорить о физике, где теории всегда вынужденно описывают свой предмет, устройство мира, лишь приблизительно.

Итак, первая предпосылка абстрактно-теоретически верна, хотя практическое ее влияние невелико. Вторая предпосылка, о том, будто человеческое сознание не ограничено неполнотой арифметики, далеко не самоочевидна, и требует хорошего обоснования. К возможности такого обоснования в физическом мире мы вернемся в следующей части, а теперь мне хотелось бы порассуждать сначала о выводе, который из него будто бы следует. Вывод этот, как мы помним, состоит в том, что не найдется алгоритма, полностью эквивалентного человеческому сознанию. Рассмотим, какое отношение он имеет к теории сознания или практике интеллектуальных технологий.

В первую очередь нас здесь интересует сознание как процесс, происходящий в физической реальности нашего мира, в его отношении к нашим методам познания этого мира. Познание сознания и мышления, в принципе, не отличается от познания других аспектов реальности, потому общефилософский подход к этим вопросам, на определенном уровне абстракции, сходен. Здесь, вам покажется, мы удаляемся от нашей достаточно узкой темы о ТГ, но размышление это нам потребуется как основа понимания того вопроса, который мы пока откладываем.

Мы постигаем реальность, моделируя ее. Модели служат единственной цели — сделать реальность понимаемой, хотя ни одна модель не может претендовать на объяснение всей реальности. Мы как бы накрываем реальность лоскутным одеялом моделей, стремясь к тому, чтобы лоскуты перекрывались, не оставляли дырок, а там, где перекрываются, объясняли бы именно покрытый ими фрагмент. Вначале, модели были философскими, рассудительными, затем к ним добавился эксперимент и вычисление. Модель, оснащенная вычислительным языком, обладает предсказательной силой относительно измерений: выведя еще не измеренные физические величины из модели, мы можем произвести измерения в реальности, и, если они совпадут, утвердиться в уверенности, что модель описывает реальность в таких-то границах и с такой-то точностью. Здесь математика стала развиваться, чтобы дать возможность физике записать свои алгоритмы вычислений. Для механики Ньютона потребовалось дифференциальное исчисление, для механики Эйнштейна возникли тензоры. Новый математический язык позволяет компактно записать вычислительную процедуру модели, облегчая ее применение. Но это еще меньшая половина достижения: образуя чудесный цикл обратной связи — от математического аппарата к модели — математика дает возможность умственному охвату модели. Начав работать с производными функций, как будто это элементарные понятия, мы легко понимаем механику Ньютона. Если бы мы каждый раз думали о бесконечно малых и их приращениях, понять эту теорию было бы куда сложнее. Математический язык вырабатывается по требованию физической теории, а затем придает этой теории куда более удобоваримую форму, которую можно уместить в уме как целое, поворачивать так и сяк и уходить по желанию в ее глубину, разглядывая детали.

В моделировании сознания мы находимся на том этапе, где математический язык еще не сформировался. Я говорю «еще», хоть есть и те, кто утверждает, будто он никогда не будет сформирован. Такие утверждения, впрочем, сопровождали философию, а затем и науку все то время, что она существует, поэтому не стоит их принимать всерьез. Такой математический язык, позволящий сделать теории понятными, отсутствует в наше время не только в науке о сознании; мы не можем пока понимать множество других систем, которые называются сложными именно по этой причине, например, турбулентность, климат, внутреннее устройство Земли, а также, если очерчивать этот круг несколько оптимистично, то экосистемы, цивилизации — все то, чем занимается кибернетика. Вычислительные модели, которые мы строим, пока могут лишь обрабатываться численно, на мощных компьютерах, но недоступны непосредственному пониманию, так, как можно понимать механику Ньютона или электродинамику Максвелла. Но это лишь промежуточный этап, каковые всегда оказываются в науке, и никаких оснований предполагать, что на этот раз он не будет пройден, нет.

Таково отличие науки о сознании от некоторых других — она молода, и не породила своего математического языка — но это отличие не принципиально. Ни от одной теории, включая теории мышления, мы не требуем ее полного описания объекта, полной эквивалентности теоретического объекта реальному; да и вряд ли такое вообще возможно. Поэтому вывод о неэквивалентности вычислительной модели реальному сознанию оказывается тривиальным: да, не эквивалентны и нет, мы этого и не ожидали. Вовсе не требовалось выводить это утверждение из ТГ, вдобавок логически сомнительным, в лучшем случае, образом, когда к нему можно прийти иными простыми рассуждениями.

В то же самое время, когнитивные модели, пусть пока и вычислительно-интенсивные и «неохватные», дали начало интереснейшим технологиям, использующим алгоритмы этих моделей, такие, как нейронные сети и Байесовы классификаторы: распознаванию речи и изображений, системам управления городским транспортом и программам очистки почты от спама. Все это, конечно, не «разумные» машины, с которыми можно было бы поговорить, но начинают появляться уже и такие — в узких областях, например, приемщики заказов и справочные системы. Мы сидим с карандашом в руках и продолжаем вычеркивать их из списка «интеллектуального» — эти области Африки уже исхожены.

1 2 3 4 5 6 7
__________________________________
⇧ 16. Например, оптимизирующий компилятор языка может предупредить о бесконечном цикле в программе до ее запуска. Однако, неразрешимость в общем случае означает, что найдется такая зацикливающаяся программа, о которой компилятор не предупредит.

⇧ 17. У людей это тоже случается — состояние, когда вот-вот вспомнишь или узнаешь что-то, а не получается. При недостаточном освещении или вдалеке даже знакомые предметы надо долго разглядывать, чтобы опознать. Это поверхностные аналогии, не говорящие ничего о внутреннем устройстве программ и сознания, но это указание на то, что зрительный аппарат человека тоже далек от совершенства.

Tags:

Flat. Top-Level Comments Only

Posted by

falcao.livejournal.com

> Однако, неразрешимость в общем случае означает, что найдется такая зацикливающаяся программа, о которой компилятор не предупредит.

Я думаю, что это утверждение неточно. Причиной бесконечно долгой работы программы совершенно не обязательно является "зацикливание". Это лишь один из наиболее простых случаев. Если как-то точно сформулировать, что же такое "зацикливание", то тогда окажется, что множество всех "зацикливающихся" программ будет рекурсивно перечислимым. Однако из результатов, полученных в теории алгоритмов, мы знаем, что множество всех никогда не останавливающихся программ (или МТ) рекурсивно перечислимым уже не является. Можно поэтому сказать, что причины бесконечно долгой работы программ могут оказаться сколь угодно сложными, далеко превосходя по степени сложности такие процессы как "зацикливание".

Posted by

alterum fregi, alterum amisi!

Гедель 6

Page Summary

Style Credit

Expand Cut Tags