Роджер Пенроуз. «Новый ум короля»

[fregimus]

Неудавшаяся попытка критического прочтения

Русское название: Роджер Пенроуз. «Новый ум короля. О вычислительных машинах, разуме и законах физики». Номера страниц следуют в квадратных скобках за цитатами, и даются по изданию [Penrose 89]. Все переводы сделаны автором, изо всех сил старавшимся сохранить не только семантику, но и стилистику оригинала; последнюю, разумеется, не в ущерб первой. Ссылки на литературу в квадратных скобках и начинаются с фамилии автора. Ссылки на комментарии в конце статьи обозначаются «ножичко솻.

Эта книга захватывает читателя, захватывает новым, по крайней мере для вашего скромного собеседника, методом: в течение всего изложения автор обещает объяснить множество вещей, от необходимости квантово-механического объяснения работы его, читателя, мозга, до эволюционных преимуществ сознания, но не торопится с этими объяснениями. Подобного suspense ожидаешь от детективной истории, но никак уж ни от научно-популярной книги, ни от монографии.

В книге чуть более 450 страниц, но далеко не все они посвящены изложению теории ее автора. В задачу книги входит, как следует думать, предварительное образование читателя до уровня, необходимого для понимания обосновываемых Пенроузом идей. Книга состоит из десяти глав, из которых семь содержат в сжатом и, по видимому пониманию писавшего, популярном изложении определенные физические и математические теории. В главах со второй по девятую кратко и сжато излагаются основы следующих наук и дисциплин:

• философии математики (где автор указывает, что он последователь Платонова учения, утверждающего, среди прочего, существование независимого от нас, непридуманного мира чисел, идеального, внепространственного, неизменного и непреходящего);
• арифметики и теории чисел;
• теории множеств (десятая проблема Гильберта, теорема Гёделя о неполноте, Канторовы мощности множеств; фрактальность, рекурсивная перечислимость множеств);
• вычислительной математики (включая машины Тьюринга, тезис Тьюринга-Черча и λ-исчисление) и теории сложности;
• классической механики (включая Гамильтоново изложение динамики и фазовые пространства);
• классической электродинамики;
• специальной теории относительности;
• общей теории относительности (с тензорами, разумеется!);
• квантовой механики;
• квантовой электродинамики;
• гипотез о квантовой гравитации;
• и наконец, космологии (черные дыры, Большой взрыв, направленность времени и энтропия вселенной).

Список, как видите, нешуточный, и задача изложить эти науки в тех трехстах пятидесяти страницах, наверное, неразрешима. Поэтому не следует ставить Пенроузу в вину то, что он ее не исполнил: иные тратят годы и прочитывают десятки пухлых томов, чтобы понимать все эти учения. Разумеется, разъяснить λ-исчисление, даже популярно, на трех страницах, которые автор смог для того выкроить, невероятно трудно, если и возможно вообще. Именно сжатым объемом и надобностью донести до читателя несоразмерно огромное знание и вызвано такое рваное, косноязычное и совершенно непонятное изложение материала, к которому был вынужден прибегнуть автор. Положа руку на сердце, мало кто произвел бы лучший результат, пытаясь справиться с подобной задачей. Автор здесь признается, что малодушно отказался бы от такой попытки сразу же, без размышления.

Мой наблюдательный читатель уже, должно быть, задается вопросом: как же работа по теории сознания обходится без хотя бы обзора теорий в области искусственного интеллекта (ИИ)? Ведь читателя надо бы «подтянуть» и в этих дисциплинах? Здесь, справедливости ради, надо возразить, что все узнать зараз все равно нельзя. Пенроуз обучает читателя здесь лишь самому необходимому, а что касается остального, тут нам придется положиться на анализ этой области, проделанный Пенроузом, и изложенный кратко и сжато, да и понятный притом без всякой подготовки.

А именно, Пенроуз считает, что ИИ невозможен, и все эти ученые занимаются, в отличие от него, физика, каким-то нелепым делом. Чтобы избавить нас, читателей, от утомительных споров по существу дела, он применяет новый, невиданный доселе в научной литературе (хотя и популярный в некоторых торговых точках) риторический прием: вводит коллективное понятие «ИИ-парни», они же «ИИшники», а затем, виртуозно оперируя утверждениями, подобными «ИИшники никакого понятия не имеют, как запрограммировать [алгоритм] суждения [об истинности факта] на компьютере!»,[412] немедленно заставляет своего читателя задуматься: а всякое ли суждение «естественного» интеллекта озарено светом истины?

Для доказательства «невозможности» ИИ, Пенроуз приводит хорошо известный «аргумент Сирла», известный также под именем «китайской комнаты». «Доказательство» производится путем reductio ad absurdum, или «рассуждением от противного» (см., напр., Википедия, «Доказательство от противного»). Предположим, что ИИ возможен, в том смысле, что существует алгоритм, понимающий китайский язык и выдающий осмысленные ответы. Испытатель, не знающий китайского, запирается в комнате, а испытуемый, не знакомый с испытателем и говорящий по-китайски, пишет на листочке вопрос, а затем просовывает этот листочек в запертую комнату. Испытатель проделывает все шаги алгоритма и пишет в итоге ответ по-китайски. Испытуемый читает ответ и говорит: «Да, это разумный ответ! В комнате сидит человек, оворящий по-китайски!». Но ведь испытатель не говорит по-китайски? Не говорит. Противоречие? Ага! Следовательно, наше начальное положение неверно, и, стало быть, ИИ невозможен.

Правда, автор этих строк не видит, почему бы тем же способом не доказать также и невозможности алгоритмического сложения чисел, или, скажем, решения квадратного уравнения. Ведь если испытатель не обучен сложению, а пользуется алгоритмом, то испытуемый снаружи тоже подумает, что человек в комнате складывать умеет! Противоречие? Противоречие! Значит, алгоритм сложения двух чисел невозможен! Калькуляторы тоже невозможны: читатель легко докажет это, дав необученному арифметике испытателю в руки вместо алгоритма калькулятор. Впрочем, философия на то и древняя наука, чтобы все было туманно, но утвердительно. Автор здесь уверен, что есть философские аргументы, объясняющие принципиальную разницу между этими двумя случаями, и почти уверен, что их ему точно так же не понять… Впрочем, не будем огорчаться. Калькуляторов не бывает, но самая обычная логарифмическая линейка† сделает то, что никакому компьютеру не под силу! Сейчас ее превосходство будет объяснено.

В главе о классической механике Пенроуз говорит о принципиальной невозможности численного моделирования механической системы, за редким исключением сконструированных специально для того, чтобы быть моделируемыми. Этот тезис доказывается очень просто: до бесконечного числа знаков компьютер ведь считать не может†. А из него сразу же следует вывод, блестящий в своей простоте, мимо которого прошли, буквально не заметив его прямо под ногами, целые поколения физиков и математиков! Например, угол отклонения качающегося маятника от вертикали может оказаться числом и невычислимым. А значит, компьютерная модель маятника невозможна! Правда, Пенроуз тут же оговаривается, что специально просчитанный маятник можно смоделировать. Но кому это было бы интересно — заранее придумать то, что моделировать? Да и как считать, если калькуляторов не бывает? Но старая добрая логарифмическая линейка нас спасет! Она-то считает любые числа с бесконечной точностью! Движок на ней можно передвигать на сколь угодно малые расстояния, правда ведь?

Позволительно ли так надувать физику, чтобы натянуть ее на математику? Пенроуз, при всей неординарности своего, можно назвать, мышления, — все-таки физик, и о том, что материя состоит из атомов, наверное, знает. И о том, что длинами меньше планковской, ~10⁻³⁵ м, не оперируют даже в микромире, тоже знает. Но требует при этом бесконечной точности в вычислениях: или бесконечность, или ничего не вычислится! А вот почему, этого нам с вами, по нашей недоученности, не понять. Да в конце концов, кто книжку писал? — Пенроуз. Кто писал, тот и написал, а чего не написать-то?

Затем Пенроуз переходит к описанию устройства мозга и выяснению, где именно в нем находится сознание. Путем довольно неочевидных рассуждений, Пенроуз, в своей конструктивной манере изложения, одну за одной исключает все части мозга, как возможные вместилища сознания. Все гениальное воистину просто! Сознание — нигде! Даже не в больших полушариях, столь высоко оцененных лишь несколькими страницами ранее, в следующем образчике изящного слова: большие полушария есть «та часть, которой, как знают человеческие существа, им следует гордиться более всего,… поскольку эта часть не только наибольшая от всего мозга человека, но и наибольшая по отношению к [размеру] всего мозга, в сравнении с другими животными».[375] Нельзя не согласиться: именно это чувство, вызывающая желание помериться величиной сего предмета гордости, и нашла отражение в известной поговорке; хорошо известна также и сила влечения к истине, возбуждаемая двумя большими полушариями в особо страстных адептах философии! А вот «бессознательное… все то, что можно вычислить алгоритмически, [находится], предположительно, в мозжечке».[413] Из чего, правда, исходя, делается такое предположение, в книге не говорится. Но, повторюсь, учитывая малый объем книги и грандиозность задачи, опущение принципиальных рассуждений тут вполне оправдано. Да и вообще, что для нас главное: рассуждения или результат? К теории, товарищи, надо подходить практически!

Далее Пенроуз дает первую из давно обещанных разгадок: почему мозг — это квантовый вычислитель. Это рассуждение достойно развернутой цитаты (речь в этом параграфе сначала велась о параллельных компьютерах):

Единство «я»† сознательного восприятия, как мне кажется, идет вразрез с картиной параллельного компьютера. Эта же картина могла бы, с другой стороны, подойти в качестве модели бессознательных действий мозга… С другой стороны [с третьей —freg.], мне кажется, что может быть вполне вообразима связь между единством «я» и квантовым параллелизмом†… Если сознательное «ментальное состояние» может быть уподоблено квантовому состоянию, то некая форма единственности «я» или глобальности мысли может быть более подходящей, чем в случае обычного параллельного компьютера… Но прежде, чем рассматривать такую идею, мы должны рассмотреть вопрос о важности квантовых эффектов вообще в деятельности мозга.[399]

Этими золотыми словами, этим обещанием рассмотреть вопрос важности квантовых эффектов Пенроуз опять создает ситуацию подвешенности в долгом, напряженном ожидании! Вашему собеседнику-недоучке, например, кажется, что единство «я» также идет вразрез и с картиной Ван Гога «Череп с сигаретой в зубах», из чего он все же затрудняется сделать вывод о квантово-механической природе своего «я», Ван Гога или черепа. Неясность эту мы опять же должны отнести на стесненность Пенроуза несоразмерностью громадья задач и ничтожности объема одного тома. Следует отметить, справедливости ради, что отдельные логически завершенные рассуждения мы все-таки находим: «Поскольку [в сетчатке] имеются нейроны, возбудимые, в принципе, одним квантом [света], не будет бессмысленным вопрос, а нет ли подобных нейронов и в мозге? Свидетельств этому, как мне известно, нет… Однако, можно и представить, что где-то глубоко в мозге найдутся нейроны с порогом возбуждения ниже [энергии] одного кванта. Если таковые нейроны вдруг обнаружатся, тогда можно будет сказать, что квантовая механика важна для деятельности мозга».[400] Присутствие столь неоспоримо справедливого вывода еще раз укрепляет пишущего эти строки в убежденности, что в прочих случаях Пенроуз отказывается от логического размышления лишь для экономии изложения, а вовсе не из неумения или, как можно было бы подумать, нежелания.

По ходу изложения Пенроуз оперирует понятиями «сознание» (consciousness), «бдение» (awareness) и «мышление» (cognition), по-видимому, в равном смысле, как антитезу «бессознательному» (unconscious), покрывающему такой диапазон явлений, как сон, инстинкты, рефлексы и автоматические действия. За 40 страниц до конца изложения, когда наступает пора, наконец, определить термины, которыми Пенроуз пользуется в течение всей книги, он отводит этому несколько страниц, где, в очередной раз не обманывая наших ожиданий, так и не приходит ни к какому определению†; затем он неоднократно возвращается к этим попыткам. В числе прочих, при обращении к этой же теме возник следующий, несомненно благородный по своим намерениям пассаж, обличающий тех из братьев старших, которые совершенно не по-братски принижают достижения и подавляют личности братьев меньших: «Остается открытым вопрос о возможности горилл и шимпанзе общаться, пользуясь языком жестов, а не нормальным^[sic!] человеческим образом (коему они не приспособлены из-за отсутствия подходящих^[sic!] голосовых связок)… Кажется ясным, что, невзирая на жаркие дебаты, [обезьяны эти] способны к обмену знаками, хоть и элементарному. По моему убеждению, это немного хамовато^[sic!] со стороны некоторых не называть этот обмен жестами „словесным“. Не для того ли не допускают они приматов в „клуб небессловесных тварей“, чтобы потом изгнать их и из клуба тварей сознательных?»[425]. Да, товарищи, стыдно, стыдно за наших товарищей по биологическому виду, еще допускающих немного хамство, и, не обойду вниманием намека тов. Пенроуза, замышляющих конспирацию с целью изгнания наших ближайших родственников, наших братьев, «способных на истинное вдохновение»,[425] наших, так сказать, соратников в этом нелегком деле словесности, из партии сознательных, честных и совестливых! Где же ваш интерспециализм, товарищи! Позор предателям классовых, отрядных и семейственных интересов!

И вот, наконец, мы, вслед за автором, приближаемся к разгадке, к торжественному моменту, когда ленточка будет разрезана, и покрывало тайн сознания падет, и ничто более не скроет от нас живительных лучей света истинного знания! Полезно здесь перечислить, какие же истины были открыты нам к этому времени:

• ИИ не бывает.
• Модели механической системы тоже, в общем случае, не бывает.
• Ум алгоритмом не охватишь.
• Можно было бы предположить, что нельзя исключить возможного влияния квантовых эффектов на работу мозга, если вдруг найдутся этому экспериментальные подтверждения.
• Гориллы суть говорящи и вдохновенны.

Какой же нам следует сделать из этого вывод? Невозможно было нам и на этот раз предвосхитить той ярчайшей вспышки интуиции, момента озарения истинного мыслителя! Вот что говорит сам Пенроуз, открывая нам глаза на эту тайну:

Я представляю себе, что, когда ум воспринимает математическую идею, он входит в контакт с Платоновым миром идеальных концепций… В соответствии с точкой зрения Платона, математические идеи существуют сами по себе, в идеальном, [вечном и неизменном] мире, доступном лишь уму. Когда кто-либо „видит“ математическую идею, его сознание врывается в этот идеальный мир, и входит с ним прямой контакт („доступность только через ум“)^[sic!]… Разговор математиков возможен только лишь потому, что им открыта эта прямая дорога к истине, и сознание каждого из них находится в состоянии напрямую воспринимать истины математики, посредством „ви́дения“…

…Разум всегда в состоянии соединиться [с этим миром]. Но только немного выдается каждый раз… Из того факта, что математические истины есть необходимые истины, никакой „информации“, в техническом смысле, делающему открытие не передается. Вся информация была там [где? —freg.] все время. Это — лишь вопрос совокупления  фактов и „ви́дения“ ответа! Все это соответствует идее самого Платона о том, что (скажем, математическое) открытие есть лишь разновидность воспоминания!… Но, чтобы эта точка зрения была полезна, в случае математической коммуникации, следует представлять себе, что интересные и глубокие математические идеи неким образом более существуют^[sic!], нежели тривиальные или неинтересные.[428—429]

Оставшиеся несколько страниц книги посвящены, насколько смог их понять ваш скромный помощник, геометрическим мозаикам и специальным вопросам кристаллографии.

«А как же обещания автора?», спросит удивленный читатель, «Как же suspense? А зачем нас учили на протяжении семи глав непроходимым языком всем этим головоломным дисциплинам, которых все равно из такого краткого изложения не понять — при том, что для осознания идеи автора, кажется, даже школьная арифметика не требуется? Зачем меня, добропорядочного читателя, так жестоко надули?» Увы, ответы нам не известны. Рискнем лишь предположить, что Пенроуз сам не предвидел этого неожиданного контакта с идеальным миром истин, закончившегося извлечением в наш мир этой, несомненно, самой существующей из идей, и именно нежданное, не по плану, можно сказать, изложение ее и сделало все предыдущие вопросы несущественными, а ответы на них — более не нужными. Задаваться этими вопросами теперь было бы, думается, так же несмысленно, как, дочитав «Знак четырех», терять и сон, и аппетит, мучаясь загадкой: а ковырял ли когда-нибудь Шерлок Холмс в носу?

Ведь нам все ясно уже и без этого, не правда ли?

Комментарии

Это приложение, в отличие от основного текста статьи, не содержит ни иронии, ни сарказма. Любое утверждение здесь, за исключением, разумеется, цитат, следует принимать за то, чем оно представляется.

---

Логарифмическая линейка — вычислительный прибор, состоящий из корпуса с неподвижными шкалами, скользящего в нем движка со шкалами, подвижными относительно первых, а также визира с риской для точного считывания значений с отдаленных друг от друга шкал. Градуировка шкал нелинейная, и, хоть не для всех шкал она и логарифмическая, именно такой принцип градуировки дал название прибору. Устройство использовалось до появления калькуляторов для численных расчетов инженерами, навигаторами и т. д. См., напр., Википедия, «Логарифмическая линейка».

---

Вычислимые и невычислимые числа. Натуральных чисел, как известно, бесконечно много, а целых чисел — так же много, как и натуральных, а вовсе не вдвое больше (здесь полезно вспомнить, что расходящиеся ряды не позволяют применять к ним кажущиеся очевидными алгебраические преобразования). Доказательство этой теоремы разработано великим математиком Георгом Кантором, и удивительно просто: возьмем и перенумеруем все целые числа! Поскольку мы не можем нумеровать каждое число в отдельности, мы выведем вместо того общий принцип нумерации, для произвольного целого числа n. Начнем нумерацию так: 0 будет № 1, −1 — № 2, 1 — № 3, −2 — № 4, 2 — № 5, −3 — № 6, и так далее, так что любое целое число n будет иметь номер 2n + 1, если оно положительное, или −2n в противном случае. Другими способами можно перенумеровать все рациональные числа, т. е. дроби (т. н. «диагональный аргумент Кантора»), а также все алгебраические числа, которые суть решения полиномиальных уравнений. Но даже за вычетом всех этих перенумерованных чисел, остается еще множество чисел, которые нельзя перенумеровать: континуум вещественных чисел. Кантор доказывает, что даже в интервале между 0 и 1 «все» числа перенумеровать нельзя. Также верно и то, что эти числа непредставимы в компьютере, и даже называются они «невычислимыми». Компьютеры ведь считают с ограниченной точностью. Представим, что некий компьютер считает числа до 40 десятичных знаков. Такому компьютеру все равно, что вот это число:
    0,1111122222333334444455555666667777788888 ,
что это:
    0,1111122222333334444455555666667777788887 ,
потому что оба они округлятся до
    0,111112222233333444445555566666777778889 ,
Если надо для решения конкретной задачи, правда, компьютер может и до сотни, и до тысячи знаков сосчитать, и с любой конечной точностью. Но с бесконечной точностью за конечное время, само собой, нет.

Тем не менее, утверждения о бесконечной точности механического движения в системе, даже идеальной, равно как и о бесконечной точности, потребной для построения вычислительной модели такой системы, от физика слышать чрезвычайно, просто запредельно странно.

---

Единство «я». Пенроуз постоянно ссылается на некое единство сознания как данность. Аргумент этот возникает из здравомысленных наблюдений, но рациональному обсуждению не подвергается: «Характеристикой сознательной мысли является ее единство… Вопросы наподобие „Как, по-вашему, мне думать более одной мысли сразу?“ совершенно обычны».[399] Меж тем, постулат единства «я», как процесса, производящего сознание, отнюдь не очевиден, более того, при внимательном рассмотрении оказывается ошибочным.

«Мы называем словом «я» полновластное существо внутри нас, желающее чувствовать и думать за нас, и принимать важные решения за нас. Мы зовем его «я», самость, эго, и мы представляем его никогда не меняющимся, чтобы ни случилось с нами. Иногда мы даже делаем «я» маленьким человечком, живущим внутри нашего разума».[Minsky 06 с. 299]

«Гомункул… миниатюрный взрослый, который, по положению, обитает в мозгу… воспринимая… сенсорные сигналы и вызывая все команды мускулам. Любая теория, полагающая подобного внутреннего агента, рискует оказаться в бесконечной рекурсии… поскольку мы можем спросить, а нет ли у маленького человечка в голове своего маленького человечка, отвечающего за его действия и восприятия, и так далее». [Dennett 78 apud Minsky 06].

---

Квантовый параллелизм — вытекающая из особой интерпретации квантовой механики возможность элементарной частице находиться одновременно в нескольких точках пространства.

---

Определение сознания и интеллекта. Справедливости ради, отметим, что определение даже в гораздо менее расплывчатых случаях затруднительно. Пенроуз, по недопониманию, устанавливает рамки для определений невнимательно, и пытается разграничить процессы в уме там, где они в разграничении не нуждаются. Даже сама терминология, используемая Пенроузом, противоречива и нестабильна. Он говорит, «при моем собственном взгляде на вещи, вопрос интеллекта подчинен вопросу сознания. Я не полагаю, что я мог бы поверить, что истинный интеллект может проявиться, если при этом не появляется и сознание».[407] Автор, при всех приложенных им стараниях, так и не смог разобраться, что же, по взглядам Пенроуза, есть главное, а также в чем состоит отличие истинного интеллекта от просто интеллекта.

Минский [Minsky 86], вводя понятие сознания [гл. 6.1], пишет, «в жизни вам очень часто приходится иметь дело с вещами, которых вы не понимаете. Вы водите машину, не зная, как двигатель устроен внутри. Вы едете пассажиром, не зная, как водитель устроен внутри. Но самое странное, вы управляете своими телом и разумом, не понимая, как вы сами устроены внутри. Не замечательно ли то, что мы можем думать, не понимая, что значит думать?… Наши мысли… управляют множеством процессов, которые мы редко замечаем. Не понимая, как они работают, мы учимся достигать цели, посылая сигналы этим чудесным машинам, словно колдуны древности, читающие ритуальные заклинания».

Здесь же Минский приводит определение из словаря Вебстера: «сознающий. 1. имеющий чувства или знание о своих ощущениях, либо о внешних вещах); знающий или чувствующий, (что ч.‑л. существует, происходит);… 3. Воспринимающий себя мыслящим существом, знающий, что и почему он делает». Как хорошо заметно, ни метафорическое сказание Минского, ни претендующий на четкость определения язык словаря ясности здесь не дают.

В [гл. 7.1], Минский рассуждает о трудности определения интеллекта, пробует, ведя диалог с критиком, различные определения, и останавливается вот на таком: «В наших умах происходят процессы, позволяющие нам решать задачи, которые мы сами полагаем сложными. Те из этих процессов, которые мы пока не понимаем, называются „интеллектом“. Некоторым не понравится это определение, поскольку оно обречено на изменение по мере того, как мы все глубже изучаем психологию. Но, на мой взгляд, именно так и должно быть, поскольку само понятие „интеллекта“ напоминает фокус на сцене. Подобно „неисследованным регионам Африки“, он исчезает по мере того, как мы исследуем его».

Здесь автору остается лишь согласиться с Минским и расстаться с надеждой дать четкое и неопровержимое определение сознанию или интеллекту, а заняться вместо того делом интересным и полезным.

Использованная литература

Dennett, Daniel C. “Why Can't You Build A Machine That Feels Pain.” In Brainstorms, Cambridge: MIT Press, 1978, 190—229. Apud [Minsky 06].

Minsky, Marvin. The Society of Mind. New York: Simon and Schuster, 1986.

Minsky, Marvin. Emotion Machine: Commonsense Thinking, Artificial Intelligence, and the Future of the Human Mind. New York: Simon & Schuster, 2006.

Penrose, Roger. The Emperor's New Mind. Concerning Computers, Minds And the Laws of Physics. New York: Oxford University Press, 1989

Comments

Re: 2.2.1., Продолжение разъяснения со статьей в руках.

[faceted-jacinth.livejournal.com]

Продолжение, в чём-таки секрет Сирла?

Что касается "алгоритм, выполняемый на машине, понимает" - для меня это довольно странное убеждение, больше похожее на игру словами.
Да-да, вот и сам Сирл пишет: [...] Ее идея состоит в том, что если некий человек не понимает китайского языка, то каким-то образом объединение этого человека с листками бумаги могло бы понимать китайский язык. Мне нелегко вообразить себе, как вообще человек, не зашоренный некоей идеологией, может находить эту идею правдоподобной.

Это и есть основная проблема, на самом деле. Я имплементирую некий алгоритм на языке C#, компилятор превращает алгоритм в байт-код, джит-компайлер превращает байткод в 80х86 инструкции, декодер процессора превращает 80х86 инструкции в микрокод и исполняет его, причём не в вакууме, а в окружении из операционной системы, механизма виртуальной памяти, hardware abstraction layer и прочих вещей. Я могу взять компилятор C# под линукс и запускать программу на каком-нибудь SPARCe, тогда последние этапы будут совершенно другими. Я могу (в случае несложного алгоритма) заменить некоторые большие буквы на маленькие, скомпилировать его компилятором жавы и запускать в браузере на вообще произвольном железе. Или в мобильном телефоне! Или в браузере в мобильном телефоне!

Алгоритм, его сущность, essence, от этого всего не меняется. Свойства алгоритма ни в коей мере не распространяются вниз, по всем этим уровням абстракции. Алгоритм независим от исполняющей его машины -- именно это свойство использует Сирл, когда заменяет машину тьюринга на себя, перекладывающего карточки, и считает, что ничего не изменилось. Если бы не это, то я мог бы иметь все основания сказать, что КК с МТ радикально отличается от КК с Сирлом, поэтому то, что во втором случае якобы нет понимания, не доказывает, что понимания нет в первом случае.

Но я, программист, на самом деле *понимаю* это свойство, потому что постоянно имею дело с иерархиями виртуальных машин (точнее, я понимаю, что имею с ними дело). Я вижу, какие из него могут быть следствия, например, что можно так преобразовать алгоритм, чтобы он и сам был зашифрован (расшифровываясь по мере необходимости) и работал с зашифрованными данным, так, что исполняющий его человек (или владелец компьютера, на котором он исполняется) в принципе не мог бы понять, что именно этот алгоритм делает (за разумное время, если P != NP) (кроме того, что он делает такие-то действия в таком-то порядке). Это не теоретический, это практический результат, системы криптографии с публичным ключом, фактически, работают именно так.

Для меня нет ничего удивительного в том, что у меня (или у моего компьютера) может быть подсистема, обладающая сколь угодно сложными свойствами, но не делящаяся ими со мной. Я точно знаю, что в "листках бумаги" и скрыт алгоритм, человек же его исполняющий может быть заменён на МТ безо всякого ущерба, да и сами листки можно заменить на транзисторы или что угодно, или человек может всё заучить и представлять себе листки, алгортм от этого не изменится и свойства свои никому не передаст. Что если мы говорим об алгоритме, предположительно обладающем пониманием, то машины, на которых он исполняется, можно сразу выкинуть из рассмотрения, в них ничего интересного нет. Мне нужно только чтобы алгоритм был запущен и чтобы все нижележащие виртуальные машины работали корректно.

А Сирл (и Вы, no offence meant) не *понимаете* этого свойства, вы его знаете формально, используете выборочно и истинные его следствия выглядят для вас всё страньше и страньше, вплоть до совершеннейшего неправдоподобия. Собственно, потому аргумент КК и кажется убедительным, что обычному человеку (не программисту) тяжело представить себе, что все свойства алгоритма, от простейших инвариантов до, предположительно, понимания и самосознания, скрыты в расположении карточек или состояниях транзисторов или в чём угодно, причём совершенно не зависят от того, в чём именно. И наоборот, любому человеку, который *знает*, что такое МТ (а не пользуется неким туманным образом чего-то сложного, с ламповыми диодами и медными кишочками), сама постановка задачи -- показать, что МТ (в отрыве от алгоритма) не обладает сознанием, -- кажется крайне смешной.

Re: 2.2.1., Продолжение разъяснения со статьей в руках.

[nature_wonder.livejournal.com]

А Сирл (и Вы, no offence meant) не *понимаете* этого свойства
Сирл и я понимаем это свойство. То, что алгоритм независим от исполняющей его машины и человек его исполняющий может быть заменён на МТ безо всякого ущерба - это исходное условие, при котором эксперимент с КК вообще имеет смысл.
А вот далее вы пишете то, что я предвосхищал с самого начала нашего разговора, т.е. уходите в жуткий платонизм, опережая на бегу самого Пенроуза. Сирл пошагово исключил все возможности, и вы указываете на последнюю - алгоритм, вот он понимает! Очень интересная картина за этим стоит.

Давайте воспользуемся указанным выше свойством независимости и рассмотрим различные физические явления, например, дождь или шевеление листьев на деревьях. При определенном воображении мы можем сопоставить каплям или листьям определенные формальные элементарные операции, что в целом дает нам исполнение некоего алгоритма. При дальнейшем развитии этой идеи мы должны допустить, что в какой-то момент времени этот алгоритм может совпасть с алгоритмом вашего сознания (к примеру). Из этого вытекают довольно неприятные следствия:
во-первых, все вокруг пронизано сознанием и пониманием, поскольку эти рассуждения распространимы на любые явления, имеющие место во Вселенной;
во-вторых, в этой Вселенной в один момент времени могут существовать несколько (>1) ваших сознаний.

Бесконечное множество понимающих алгоритмов, обитающих в некоем платоновском пространстве, время от времени исполняющиеся в нашей Вселенной - картинка несколько э-эээ...сложная для рационального анализа. Более выглядит как прибежище для веры (в сильный ИИ). То есть, если вас такие следствия не смущают, то меня они не вдохновляют абсолютно. И позиция Сирла - что понимание надо искать в природных свойствах - кажется мне гораздо более адекватной (и более научной, если хотите). А смешной как раз противоположная. Но я не смеюсь.

Re: 2.2.1., Продолжение разъяснения со статьей в руках.

[faceted-jacinth.livejournal.com]

т.е. уходите в жуткий платонизм, опережая на бегу самого Пенроуза
---
Я не ухожу в платонизм более необходимого. Если мы говорим об обработке информации, у нас нет другого выхода, кроме как говорить об Идеальных Алгоритмах, воплощённых в конкретных реализующих их системах (при условии, что эти системы работают и работают корректно -- я уже оговаривал, кажется, что наличие любого свойства у незапущенного алгоритма является совершенно отдельным вопросом, который я здесь рассматривать не хочу). Мы говорим, что алгоритм увеличивает число на единицу, а не транзисторы, и это правильно, как мне кажется. Мне не кажется обоснованным разворот на 180 градусов при переходе к сложным свойствам типа понимания или сознания, мне легче поверить в возможность существования идентичной копии моего сознания, чем в то, что понимание является свойством материи, таким, как температура.


А теперь по поводу Вашего возражения. Это хорошее, годное возражение, как минимум нетривиальное. Я, правда, не уверен, что правильно его понял.

Давайте зададимся несложным вопросом: действительно ли миллион обезьян миллион лет случайно бьющих по клавишам пишущих машинок, напишут ПСС Вильяма Шекспира? В году 31*10^6 секунд, будем для определённости считать, что одна обезьяна за год без сна и отдыха намолачивает 10^8 символов. Взяв миллион лет и миллион обезьян мы получим 10^20 символов. Будем считать, что нам вполне достаточно получить текст строчными английскими буквами без знаков препинания и пробелов, то есть каждый символ у нас из 27-символьного алфавита. Вероятность того, что обезьяна в какой-то момент наберёт n нужных нам символов равна (1/27)^n (на самом деле нет, потому что каждый набранный символ принадлежит n подстрокам длины n, которые ещё и специфически перекрываются, но это в данном случае неважно). Тогда матожидание E(n) количества напечатанных символов всего, после которого мы увидим n первых символов ПСС Вильяма Шекспира приблизительно равно 27^n = 10^(1.43*n). То есть наши обезьяны сумеют правильно набрать 20/1.43 = 13 первых символов из ПСС Вильяма Шекспира. Может, чуть меньше, может, чуть больше. Вероятность того, что они наберут 15 или больше правильных символов уже существенно меньше одного процента.

Далее, по грубым оценкам в наблюдаемой части вселенной порядка 10^80 атомов. Пусть каждый из них каким-то случайным образом переходит в одно из фиксированных 27 состояний, причём делает это с максимально возможной скоростью -- 10^45 раз в секунду (ну, типа, планковское время и всё такое). Возьмём 13 миллиардов лет, это у нас порядка 10^18 секунд, и получим, что так мы успеем перебрать аж 10^143 символов, что обеспечивает нам нахождение первых 100 (прописью: ста) символов из ПСС (удивительное совпадение, кстати =) ).

Так мы на наглядном примере убедились, что здравый смысл является крайне неподходящим орудием для работы с экспоненциально падающими вероятностями.

Продолжение следует...

Re: 2.2.1., Продолжение разъяснения со статьей в руках.

[nature_wonder.livejournal.com]

Я покажусь, вероятно, занудным, но скажу, что расчеты подобного рода вводят в заблуждение. Мы можем в виде строки представить не только текст Шекспира, но также алгоритм вашего сознания. Мне кажется, вы этим показали, что ваше сознание в этой Вселенной - вещь невозможная. Саму иллюстрацию я понимаю, но не думаю, что она относится к тому, что мы сейчас обсуждаем.

Re: 2.2.1., Продолжение разъяснения со статьей в руках.

[faceted-jacinth.livejournal.com]

Насколько я понял, Ваше возражение состоит в следующем: вокруг происходит огромное количество случайных процессов, взаимосвязанных процессов и процессов случайно взаимосвязывающихся, поэтому правильно выбрав способ кодировки мы можем сопоставить случайные (и не очень, хотя регулярности нам в основном мешают) изменения конфигурации атомов в недре какой-нибудь звезды изменяющимся состояниям гипотетического алгоритма, соответствующего моим когнитивным процессам, происходящим когда я лежу в кровати и вспоминаю первые две строфы Гамлета, причём таких отображений довольно много и в принципе они соответствуют достаточно длительным периодам моей умственной деятельности, причём это всё реально происходит, вплоть до того, что не нужно лезть в звёзды, а достаточно посмотреть на шевелящиеся листья. Что и мне казалось бы крайне странным, будь это правдой.

Я довольно долго думал над тем, как можно было бы посчитать такое матожидание (и нужно ли вообще). К учёту взаимосвязанных процессов я даже не знаю, как подступиться. Когда мы рассматриваем случайные процессы, мы можем выбирать произвольную кодировку из тоже экспоненциально растущего (от количества элементов) числа, но это нам вроде не помогает, если мы требуем, чтобы кодировка была выбрана до того, как мы начнём смотреть на состояния, а если и помогает, то только на фиксированное время, а потом опять всё плохо. Фактически, мы можем поставить ну очень большую константу перед экспонентой, так что всё выражение (вероятности того, что случайный процесс повторяет мой алгоритмический) некоторое время близко к единице, а потом опять стремительно падает. Причём на самом деле при этом нам приходится протаскивать полное описание моего алгоритмического процесса сквозь процесс выбора кодировки, ну, что-то типа того, что мы мы можем сделать с Колмогоровской сложностью выбирая очень сложный интерпретатор, что мне кажется несколько нечестным приёмом.

В общем, это на самом деле не я должен делать, а Вы =) Но, надеюсь, пример с обезьянами, атомами и Шекспиром был достаточно убедителен (хоть и не доказателен в строгом смысле), чтобы Вы своё возражение сняли. Нет, окружающий мир случайно повторяет когнитивные алгоритмы (если предположить, что они существуют) невообразимо редко, настолько редко, что как раз-таки обращать на них внимание будет самого низкого пошиба платонизмом.

Re: 2.2.1., Продолжение разъяснения со статьей в руках.

[nature_wonder.livejournal.com]

Прежде хочу заметить, что аргумент вы уловили верно. И мы копнули проблему уже довольно глубоко, куда далеко не все добираются. Чисто техническая ремарка: не может быть требования к.-л. предварительного выбора кодировки. Достаточно того, чтобы такая кодировка существовала в принципе. Если она есть и физические процессы происходят, значит алгоритм (соотв. данной кодировке) исполняется. Это происходит просто по факту, в реальном времени.
Вы напираете на малую вероятность совпадения процессов. А я думаю, что для любого алгоритма практически всегда найдется "кодировка", согласно которой данный алгоритм исполняется в физ реальности в течение какого-то времени. Так же как Библию можно зашифровать множеством способов, условно говоря, даже в порывах ветра, так и любой алгоритм или его фрагмент потенциально представим в событиях реального мира. И из белого шума можно извлечь информацию любого рода (при соотв. кодировке).
Не знаю, следует ли что-л. добавлять. В контексте вашей картины (исполняющийся алгоритм понимает) я считаю изложенный аргумент очень серьезным. Настолько, что отмахнуться от него печатными машинками не удастся. Чтобы продолжать верить в платоновский мир понимающих алгоритмов, вам придется мириться с возможностью воплощения тех следствий, которые я приводил выше. Вы становитесь зависимы от случайности, но это, конечно, ваш выбор.
Я полагаю, честно говоря, все это довольно абсурдным, чтобы всерьез опираться на такую картину мира, но никого учить жить не собираюсь - мне важно только указать (если получится), на каких допущениях зиждется такое вот представление возможности сильного ИИ. Чтобы было четкое осознание, на что мы идем, придерживаясь такой линии рассуждений. Мне кажется, очень многие приверженцы СИИ до этих моментов попросту не доходят.

мне легче поверить в возможность существования идентичной копии моего сознания, чем в то, что понимание является свойством материи, таким, как температура.
Спасибо, это важное признание. Вы отказываете материи в способности породить свойство сознания, но с готовностью наделяете этой способностью абстрактный потусторонний мир. Я не говорю в данном случае, что какая-то из этих точек зрения лучше. Но это стоит отметить, потому что очень показательно, как иной раз сочетается материализм в одних вопросах и полный платонизм в других.

Re: 2.2.1., Продолжение разъяснения со статьей в руках.

[faceted-jacinth.livejournal.com]

Это действительно оказался очень сильный аргумент, я на него отвечу, но завтра.

Надеюсь, мы не первые, кто забрался в такие глубины? Где-нибудь ещё есть подобные рассуждения, ну, чтобы мне не наступать на грабли, на которые уже кто-то наступал?

Re: 2.2.1., Продолжение разъяснения со статьей в руках.

[nature_wonder.livejournal.com]

Думаю, конечно, мы не первые. Но где такие вещи могли разбираться, конкретно в голову ничего не приходит. Давно эту тему не отслеживал, если честно (мне сейчас гораздо интереснее живые мозги и реальные когнитивные процессы). Возможно, есть даже какие-нибудь теоремы на этот счет, например в теории сложности или алгоритмов. хорошо бы, конечно, провентилировать, но нет времени совершенно.

запоздалые вопросы ;)

[altsoph.livejournal.com]

Я слегка опоздал к обсуждению (на полтора года:), но не могу удержаться от пары комментариев в этой ветке, уж больно интересная дискуссия.

Чтобы продолжать верить в платоновский мир понимающих алгоритмов, вам придется мириться с возможностью воплощения тех следствий, которые я приводил выше.

техническая ремарка: не может быть требования к.-л. предварительного выбора кодировки. Достаточно того, чтобы такая кодировка существовала в принципе. Если она есть и физические процессы происходят, значит алгоритм (соотв. данной кодировке) исполняется

Позволю себе кое в чем не согласиться.

Как мне кажется, говорить о том, что алгоритм исполняется, можно только тогда, когда в некотором смысле имеется исполнитель (назовем его обобщенной МТ = ОМТ), к которому применимы следующие требования:
1. ОМТ способна исполнять алгоритм в данной кодировке.
2. ОМТ обеспечивает алгоритму обмен входными/выходными данными с окружением.

Если не выполняется пункт 1 -- процесса исполнения алгоритма нет, есть только запись его "тела" в той или иной форме. Это значит что мы видим не Сирла, а, скажем, полное описание его ДНК и говорить о том что это описание что-то "понимает" не приходится.
Если не выполняется пункт 2 -- есть только запись некоторого прогона алгоритма, т.е. это не Сирл, а фильм о Сирле, который мы наблюдаем, но он не будет отвечать на наши вопросы -- ни на английском, ни на китайском.

Тут моя мысль слегка буксует, но, кажется, можно достаточно строго показать, что если выполняются оба пункта, то из этого с необходимостью следует, что ОМТ реализует кодер/декодер для этой кодировки алгоритма (явно или неявно). Иначе у нас получается что-то из Лема: "Бесконечно большая информация действует непосредственно, без всякой аппаратуры".

Это в свою очередь приводит нас к тому, что для исполнения алгоритма недостаточно "того, чтобы такая кодировка существовала в принципе", а нужна именно некоторая реализация конкретно этой кодировки в виде ОМТ. Что, кмк, существенно уменьшает число возможных "платоновских понимающих алгоритмов" в такой модели мира.

И еще, у меня к этому месту прочтения ветки обсуждения образовалось такое, вероятно, глупое сомнение:

Сирл в комментариях приписывает интенциональность собакам и обезьянам, но, как я понимаю, далеко не всем живым организмам. Где-то на пути от сложных организмов к простым интенциональность теряется. Если про насекомых еще можно порассуждать, то функционирование какого нибудь одноклеточного наукой сейчас достаточно изучено, и говоря словами Сирла "раз мы узнали, что его поведение есть результат формальной программы и действительные каузальные свойства физического вещества не имеют к этому отношения, мы отбросили бы допущение об интенциональности."

Отсюда, кажется, следует, что "понимание" вне зависимости от того, порождено оно мозгом, как физическим объектом, или неким алгоритмом, есть продукт сложности. Т.е. рассматривать элементарные алгоритмы в поисках интенциональности всё равно, что пытаться добиться понимания от улитки ("Можно ли встретить улитку? <...> Не уверен, что улитка меня заметила, хотя рожки у нее были вытянуты."(с)).

Интересно, кстати, что Ричард Докинз в своей книге по эволюционной теории "Эгоистичный ген" добавил пару глав, где более менее успешно пытается обобщить эволюционные принципы на информационные и социокультурные процессы.

Еще раз прошу прощения за запоздалое вмешательство в давно закрытую дискуссию, но буду рад, если кто-то из её непосредственных участников найдет время прокомментировать мои возражения :)

Re: запоздалые вопросы ;)

[nature_wonder.livejournal.com]

Спасибо за интерес к разговору. Это пока самый запоздалый комментарий на моей памяти – удивительно, как вы вышли на эту дискуссию.

Правда, не увидел, в чем у нас несогласие.
Я тоже считаю, что для исполнения алгоритма… нужна именно некоторая реализация конкретно этой кодировки.
Реализаций невообразимо много в силу размера Вселенной, числа всевозможных происходящих процессов в ней (способов их выделить) и вариантов кодировок (их число я даже не берусь оценить).

Согласен и с тем, что понимание, вероятно, связано со сложностью.
Разве что здесь я не подпишусь: «функционирование одноклеточного наукой сейчас достаточно изучено… и действительные каузальные свойства физического вещества не имеют к этому отношения».

Re: запоздалые вопросы ;)

[altsoph.livejournal.com]

Спасибо вам за ответ :)
Вышел на дискуссию достаточно случайно, просто заинтересовало.

А расхождение во мнениях (со своим мнением) я усмотрел в следующем:

faceted_jacinth: "...мы требуем, чтобы кодировка была выбрана до того, как мы начнём смотреть на состояния..."

nature_wonder: "...не может быть требования к.-л. предварительного выбора кодировки. Достаточно того, чтобы такая кодировка существовала в принципе...", "...я думаю, что для любого алгоритма практически всегда найдется "кодировка", согласно которой данный алгоритм исполняется в физ реальности...", "...из белого шума можно извлечь информацию любого рода (при соотв. кодировке)..."

Мне представляется, что раз нам необходима ОМТ, реализующая эту кодировку, то, тем самым, мы как раз требуем предварительной фиксации этой кодировки (в виде этой ОМТ) и это сильно снижает число таких реализаций даже в огромной Вселенной. Попробую пояснить.

Действительно, из белого шума можно извлечь произвольную информацию, но, кмк, неверно выводить из этого невообразимо большое число алгоритмов в этом белом шуме, т.к. в этом случае извлекаемая информация полностью "зашита" в кодере-декодере.

Утрированный пример выглядит так: Пусть у нас есть сигнал 0 (константа ноль). При соответствующей кодировке мы можем извлечь из него произвольную информацию, но это не позволяет судить о количестве информации в данном сигнале (и алгоритмов, этой информацией закодированных) как о невообразимо большом, т.к. вся эта информация на самом деле определена структурой и содержанием интерпретатора.

Таким образом, вероятность P возникновения алгоритма Х и его интерпретатора M в некоторой случайной среде равна вероятности P(С,X) возникновения в среде записи данного алгоритма в кодировке С при условии наличия (c вероятностью P(C,M)) в той же среде интерпретатора, реализующего данную кодировку. Т.е. P = P(C,X)*P(C,M).

Из того, что для любого Х существует такое C, что P(C,X) = 1, не следует что для Х общее Р = 1, т.к. вероятности связаны через С, и P(C,M) при этом С может оказаться равным 0.

Т.е. подбирая кодировку мы можем увеличить вероятность возникновения записи алгоритма в среде, но тем самым мы одновременно уменьшаем вероятность возникновения интерпретатора в той же среде. Поэтому, мне видится, что кодировка неизбежно должна быть зафиксирована заранее, что делает оценку числа реальных "живых" алгоритмов значительно менее тривиальной задачей.

Далее.

"Реализаций невообразимо много в силу размера Вселенной, числа всевозможных происходящих процессов в ней (способов их выделить) и вариантов кодировок (их число я даже не берусь оценить)".

Данное построение вызывает у меня большие сомнения само по себе. Структура Вселенной и законы её изменения до сих пор слабо изучены, поэтому я не готов согласиться.

Рассмотрим модельную вселенную, которая начиная с некоторого размера базовых частиц реализует, скажем, ковёр Серпинского, являясь при этом невообразимо большой, и пусть до кучи еще и расширяющейся. Добавим в нее некоторую динамику, например, слегка меняя какой-нибудь один параметр IFS-преобразования.
Такая модель будет по построению:
- невообразимо большой
- невообразимо сложной (в некотором локальном смысле сложности)
- динамической
Но при этом можно показать, что определенного вида структур в ней не будет возникать никогда, а структуры другого вида будут, напротив, сильновероятны.

Т.е., глядя на нашу Вселенную изнутри, я не готов предполагать невообразимое число различных реализованных в ней произвольных структур. Cтруктур, конечно, будет очень много, но скорее они будут связаны, типизированы некоторым образом, и законы статистики больших чисел тут могут оказаться просто неприменимы.

Наконец, по поводу одноклеточных. В целом, конечно, я согласен с натянутостью формулировки. Просто это была наиболее удобная прямая цитата из Сирла. Наверняка он бы сформулировал свой аргумент несколько иначе, но я уверен, что он не стал бы приписывать казуальные свойства одноклеточным. Будь иначе, мы получаем следующую ситуацию:
- понятие "способность к пониманию" и понятие "жизнь" у нас становятся синонимами.
- понятие "жизнь" до конца не определено.
- спор выпадает в совершенно иную плоскость.

Re: запоздалые вопросы ;)

[nature_wonder.livejournal.com]

Извиняюсь за задержки, в нынешнем моем режиме они неизбежны, к сожалению.
Вы совершенно верно отмечаете, что не для всякого сочетания алгоритм+кодировка найдется физическое исполнение. Но я бы имел в виду, что кодировка – вопрос вторичный, реально нас интересует алгоритм. И от этого нужно плясать. Наш вопрос, реализуется ли алгоритм - не в этой кодировке, так в любой другой. Поэтому я не понимаю указания на конкретную кодировку. В рамках вышеуказ. вопроса мы вольны подобрать любую, которая нас устроит.

Вы буквально «берете в руки» алгоритм и затем смотрите, можно ли найти его исполнение в физ. среде. Вы можете варьировать кодировки и подбирать омт сколько душе угодно. То есть с самого начала я говорю совсем иную вещь: огромному числу алгоритмов найдется физ. реализация в нашей Вселенной (в какой кодировке – не имеет значения). Это, безусловно, не значит, что в ней возможны любые алгоритмы. Но нас не интересуют любые – нас интересуют алгоритмы сознания/интеллекта. Самоочевидно, что алгоритмы такого типа в нашей Вселенной возможны и многочисленны (счет по меньшей мере на миллиарды).

Что касается одноклеточных и «понимания» - я не хочу развивать сейчас эту ветку, так как по обоим вопросам до ясности далеко. Могу лишь напомнить два факта: нейроны являются ничем иным, как одноклеточными организмами; бактерии в природе преимущественно живут в конгломератах и биопленках, одиночным плаванием занимаются очень редко. А когда занимаются, то до 70% генов экспрессируются у них иначе, чем в колониальном образе жизни.

Re: запоздалые вопросы ;)

[altsoph.livejournal.com]

> Поэтому я не понимаю указания на конкретную кодировку. В рамках вышеуказ. вопроса мы вольны подобрать любую, которая нас устроит.

Я, в целом, согласен, что таких реализованных "живых" алгоритмов может оказаться очень и очень много. Я указываю на то, что аргументом к этому утверждению не может служить то, что для любого алгоритма можно подобрать такую кодировку, что его запись обнаружится во Вселенной. Поскольку надо учитывать тот факт, что для заданного алгоритма может найтись его запись в некоторой кодировке, но не существовать реализации соответствующей ОМТ. Поэтому, таких "живых", исполняемых алгоритмов может оказаться существенно меньше, чем записей алгоритмов. На мой взляд, мы имеем тут что-то родственное неопределенности вида "бесконечность, поделенная на бесконечность". Может оказаться очень много, а может и очень мало. Поэтому, по поводу миллиардов -- не вижу, откуда такая оценка (если исключить людей). Ну, опять же, людей тоже уже скоро под десяток миллиардов. Так что, пусть миллиарды, это само по себе не страшно :)

Кстати, считаем мы такие исполняемые алгоритмы сознательными или нет, так или иначе, если их так много, их можно (и, видимо, следует) обнаружить. Далее, уже можно будет препарироватьисследовать их на предмет сознательности.


По поводу одноклеточных, согласен, развивать бессмысленно.

[fregimus.livejournal.com]

Кстати, считаем мы такие исполняемые алгоритмы сознательными или нет, так или иначе, если их так много, их можно (и, видимо, следует) обнаружить.
Прошу прощения, что встреваю в Ваше обсуждение. Я как-то писал о возможности обнаружить разум. То же самое относится и обнаружению сознания. Если интересно, здесь: http://fregimus.livejournal.com/31363.html

[altsoph.livejournal.com]

Да, я читал этот Ваш пост.
Я пока не могу чётко применить его к данному обсуждению, т.к. там у Вас больше идет речь об определении живое/неживое и разумное/неразумное.
А в этой ветке основной вопрос изначально состоит в том, можно ли говорить о том, что некоторой неживой системе, проявляющей разумное поведение (проходящей тест Тьюринга), присуще "понимание".

Кроме того, к Вашему посту: там, как я понял, больше речь о том, как отличить _сообщение_ от разумного существа (само по себе _неживое_ и _неразумное_) от просто _неживого_ и _неразумного_ объекта. А в моем комментарии выше, я подразумевал скорее то, что следует поискать некие природные подсистемы соотвествующие реализации выполняющихся алгоритмов и проверять их на "разумность" и "понимание" путем _взаимодействия_ с ними. Ключевая разница, как мне кажется, в интерактивности.

Re: запоздалые вопросы ;)

[nature_wonder.livejournal.com]

Миллиарды - нижняя граница, которую можно считать твердо установленной, она равна количеству человеческих интеллектов. Причем надо отметить, все эти миллиарды сосредоточены в очень малом объеме; и их число ограниченно не вычисл. свойствами вселенной, а количеством пищи. Свойства вселенной не запрещают людям размножиться еще на порядки.
Иными словами, такой тип алгоритмов не требует от вселенной сколько-нибудь серьезных вычислительных усилий, это капля в море. Поэтому аргумент полуторагодичной давности должен приниматься во внимание всякий раз, когда речь заходит о «понимающем» алгоритме.

Надеюсь, не стоит отдельно расписывать, что рассуждение ведется в логике оппонента, сам я сильно сомневаюсь в осмысленности сочетания «исполняемый алгоритм понимает».

Re: запоздалые вопросы ;)

[(Anonymous)]

Про малый объем -- выглядит не очень удивительно, учитывая, что подобное поведение свойственно многим структурам, образовавшимся "естественным" путём. Это может быть связано с такими свойствами как ассортативность и с тем, что сейчас модно называть законом Парето (степенное распределение) -- и то и другое часто встречается в естественных системах.

Про размножение и распространение людей -- мне не очевидно, чем распределение количества пищи (как некоторой подструктуры в рамках вселенной) качественно отличается от вычислительных свойств вселенной, таких, скажем, как распределение исполняемых алгоритмов. Я полагаю неправильным полностью разделять свойства вселенной и людей, которые являются её подсистемами. Поэтому, на мой взгляд, будет более верным сказать "свойства вселенной таковы, что в данный момент времени количество определенных её элементов (людей) ровно столько, сколько их есть". Очевидно, что есть некоторый аттрактор, связанный с кол-вом пищи и площадью планеты. Вероятно, он может быть преодолен. Очевидно, можно представить ситуации, когда людей на порядки больше, чем сейчас. Но это ближе к сослагательному наклонению, и мне трудно судить об устойчивости такого состояния системы.

Итого, да, людей очень много, по вычислительным усилиям для вселенной это раз плюнуть (звезд в нашей галактике на порядки больше), но из этого (для меня) не очевидно, что число возможных реализаций _существенно_различных_ алгоритмов (т.е. число их типов) огромно и сами они очень разнообразны. В конце концов, и звезды (которых существенно больше) проявляют относительную стабильность в принадлежности определенному множеству типов.

> Надеюсь, не стоит отдельно расписывать, что рассуждение ведется в логике оппонента, сам я сильно сомневаюсь в осмысленности сочетания «исполняемый алгоритм понимает».

Да, я понимаю вашу позицию из предшествующего диспута. У меня самого нет сильной убежденности (веры) ни в ней, ни в обратной, я умозрительно взвешиваю аргументы за и против.
Пока что у меня складывается такая картина: если выдвигать потенциально огромное многообразие вселенной как некий аргумент, ставящий под сомнение то, что исполняемые алгоритмы (скажем, определенной сложности) могут обладать пониманием, то тот же аргумент можно выдвигать против возможного многообразия живых существ во вселенной.

Поскольку, мы пока не можем посчитать число исполняемых сложных алгоритмов (и, как я понимаю, не можем даже предложить примеров), то, например, может статься, все эти алгоритмы и реализованы в виде живых существ. При таком модельном, умозрительном, предположении обе точки зрения по сути совпадают, и отличаются они лишь в том, может ли быть искусственно создано нечто, что так же будет обладать свойством "понимания" или это прерогатива природы.

Думаю, глубже обсуждать этот вопрос бессмысленно, т.к. все аргументы за и против уже изложены и, я смею надеяться, поняты нами обоими. Дальше это вопрос веры и будущих изысканий, если, конечно, у вас нет новых аргументов.

Спасибо за интересную дискуссию :)

Re: запоздалые вопросы ;)

[altsoph.livejournal.com]

Пардон, anonymous выше -- это был я, просто как-то случайно разлогинилось.