Хофштадтер о софистике Сирла

[fregimus]

Дуглас Хофштадтер, милейший человек, в книге «Я странная петля» (Hofstadter, Douglas. I Am a Strange Loop. New York : Basic Books, 2007; насколько знаю, на русский не переводилась), поливает смертным ядом философа Джона Сирла. Говорил я уже, и не раз, что каждому, кто не Сирл, стоит десять раз подумать, прежде чем пользоваться его аргументами… В общем, кому яд, а кому и мед. Все, что ниже — цитата в моем переводе.

[Джон Сирл] настриг множество купонов с того факта, что машина Тьюринга — абстракция, которая в принципе может быть сделана из каких угодно материалов. Его уловки способны обмануть, на мой взгляд, только третьеклассника, но принимаются, к сожалению, за верные рассуждения многими его профессиональными коллегами. Он поднимает на смех идею того, что мышление может быть воссоздано в системе, сделанной из физических субстратов столь неожиданных, как туалетная бумага и камешки… или ряд консервных банок и мячиков для настольного тенниса.

В своих ярких высказываниях Сирл бросает подобные сравнения, будто невинно шутя, но на самом деле старательно и продуманно вызывает у читателя глубокое предубеждение или же разыгрывает предубеждение существующее. В конце концов, мыслящая туалетная бумага или пивные банки и впрямь выглядят на первый взгляд нелепостью. Эти забавные картины, нарисованные Сирлом на осмеяние, тщательно рассчитаны на то, чтобы читатель лишь безмысленно похихикал над ними, и, к сожалению, часто достигают этой своей цели.

Сирл далеко заходит в своих стараниях высмеять системы, которые он рисует в своей юмористической манере. К примеру, сводя к абсурду мысль о том, что гигантская система из взаимодействующих консервных банок может испытывать ощущения — а это одно из определений сознания — он рассматривает в качестве примера жажду, и затем ничтоже сумняшеся выдает как факт, и без того очевидный каждому, будто в такой системе имеется определенная банка, которая «выскочит» (что это означает, сказать трудно, потому как он весьма удобно оставляет за кадром возможный механизм взаимодействия банок), а на ней будут написаны слова «пить хочу». Выскакивание этой единственной банки — микроэлемента огромной системы, сравнимой, например, с одним нейроном или одним синапсом — он сравнивает с опытом «жажды». Сирл строит эту глупую иллюстрацию совершенно намеренно, зная, что никому в голову не придет приписать ей какое бы то ни было правдоподобие…

Беда в том, что эта картина представляет собой наинелепейшее извращение компьютерных исследований, направленных на понимание того, что такое сознание и ощущение. Ее можно критиковать множеством способов, но главное, на что я хочу обратить особое внимание — как Сирл объявляет самим собой разумеющимся, будто ощущение, испытываемое этим консервно-баночным сознанием, локализовано в одной банке, и как осторожно он обходит мысль о том, что ощущение жажды может быть сложным, более глобальным, высокоуровневым свойством системы банок как целого.

Если мы серьезно задумаемся, как на самом деле модель мышления или сознания могла бы быть построена из консервных банок, то мысль или ощущение, какими бы поверхностными они ни были, ни в коем случае не будут в ней локальными феноменами, связанными с одной банкой. Они будут неохватными процессами, вовлекающими миллионы, миллиарды или триллионы банок, и «жажда» будет не двумя словами, написанными на выскакивающей консервной банке, но очень и очень сложным состоянием, включающим в себя огромное множество банок. Сирл высмеивает тривиальнейшую конструкцию собственного изобретения. Никакая серьезная модель ментального процесса не будет исходить из предположения, будто на одну консервную банку — или один нейрон — приходится одно ощущение или концепция, и, таким образом, неуклюжий выпад Сирла разит существенно мимо цели.

Следует также заметить, что Сирлова «консервная банка, испытывающая жажду» есть не что иное, как переигрывание давно дискредитировавшей себя в нейрологии идеи «бабушкиного нейрона» — нейрона, активизирующегося тогда и только тогда, когда субъект видит свою бабушку, то есть являющегося физическим представлением бабушки в мозге. В чем различие между «бабушкиным нейроном» и «банкой жажды»? Никакого различия тут нет. И тем не менее, благодаря своему красноречию, Джон Сирл сумел, за многие годы, оказать своими софизмами влияние на коллег, студентов и просто интересующихся наукой людей.

Comments

[rruben.livejournal.com]

"Никакая серьезная модель ментального процесса не будет исходить из предположения, будто на одну консервную банку — или один нейрон — приходится одно ощущение или концепция"

сразу же об этом подумал тоже

[fregimus.livejournal.com]

Вот у него вся аргументация такая — нарочито, напоказ нелепая. Не понимаю я в когнитивной философии чего-то важного.

[eednew.livejournal.com]

Да, назад в будущее. Сирл -- вульгарный материалист. "Мозг, как механический органчик".

[fregimus.livejournal.com]

Вульгарный материалист? Не подумал бы. А почему Вы его в них записали?

[eednew.livejournal.com]

Потому что имеет место быть попытка механистического объяснения сверхсложной системы. На полном серьезе или демагогически -- неважно.

[fregimus.livejournal.com]

Он не объясняет. Это он пародирует тех, кто будто бы так объясняет — как он якобы понимает эти объяснения.

[primaler.livejournal.com]

тут надо, конечно, иметь в виду, что Хофштадтер хоть и крайне эрудированный и остроумный, но однозначно глупый человек
и это безошибочно чувствуется, стоит открыть любую из его книг

[fregimus.livejournal.com]

Да уж, куда ему до… некоторых.

[spamsink]

Да и с китайской комнатой его аргумент идиотский. Нейроны в голове китайца, вон, тоже китайского не знают, а весь китаец - знает.

[fregimus.livejournal.com]

Ну да, он этот аргумент переиначивал несколько десятков раз, и каждый раз предельно редукционистский: части не могут, ergo, система не может.

Он это нарочно делает, как Х. считает, или… ну, думает он так?

[spamsink]

Бритва Хэнлона говорит, что думает он так.

[fregimus.livejournal.com]

Хорошо вот тому, у кого говорящая бритва… Я вот умом понимаю, что так. Но вот поверить в это — не могу.

[ivan-gandhi.livejournal.com]

Сирл - это такой марксист из Беркли? Дедушка такой, с юмором но без складу?

Я ему не верю.

[fregimus.livejournal.com]

Тот, о котором Хофштадтер говорит и который изобретатель китайской комнаты — да, из Беркли.

[levsha.livejournal.com]

Если это Сёрль, к-рый "интенционалистские акты", то он такой же марксист, как Бенедикт Шестнадцатый.

PS Вроде бы тот, да. Беркли, "китайская комната".

[ivan-gandhi.livejournal.com]

Да почитав его книжку, складывается такое впечатление. Бытиё определяет сознаниё, и т.п.

(а не вломак вам возвращаться к прошлогодним беседам?:))

[levsha.livejournal.com]

>Бытиё определяет сознаниё, и т.п.

Ну, закон перехода количества в качество филосов всяко ниасилил, что гарантированная двойка по диамату.

>а не вломак вам возвращаться к прошлогодним беседам?

И не говорите, гугль по части флешбеков страшнее лизергиновой кислоты. Я про Хофштадтера рыл вообще-то.

[ivan-gandhi.livejournal.com]

Я этого Сирла как раз, будучи в Гугле, слушал - умный дедушка, но философ - игнорирует реальность, данную нам в виде законов физики.

[janatem.livejournal.com]

Так всё-таки, кто-нибудь мне объяснит, в чем смысл китайской комнаты? То есть, что хотел ею сказать автор?

PS. А почему транскрипция "Сирл"? Я бы прочитал Searle так же как pearl, да и в русской вики Сёрль.

[fregimus.livejournal.com]

Да Вы и сами все поняли. Тут удивительно, скорее, как человек может эти софизмы 30 лет повторять на разные лады.

Не знал про русскую транскрипцию. Поправлю; спацибо.

А язык программирования, значит, «Пёрль»? Неприлично даже как-то звучит. Но попробую привыкнуть…

[janatem.livejournal.com]

А, то есть в китайской комнате ничего нет сверх того, что я понял, так?

Про "пёрль" наверно не совсем так: всё-таки есть устаканившееся слово "перл" (назло ёфикаторам!) с тем же значением, что и английское. Еще топоним Пёрл-Харбор канонически ёфицирован. Ну а мягкий знак -- уже мелочь.

[fregimus.livejournal.com]

А, то есть в китайской комнате ничего нет сверх того, что я понял, так?
В тех вариациях, что я знаю — нет. В оригинальной (1980) была некая книга с отображением всех возможных китайских вопросов на китайские ответы; понятно, что к коммуникации на языке такая конструкция совершенно неприменима. В более поздних нечто похожее на алгоритм. Но сверх того — нет, ничего. Все они исходят из одного и того же неверного рассуждения: будто бы то, что система из машины и алгоритма говорит по-китайски, а машина без алгоритма не говорит, есть логическое противоречие (absurdum). Reduction fallacy, пример из учебника начал логики для первокурсников. Вот так все печально.

[captainl.livejournal.com]

Да, фёрст, лёрн и тёрн. :) Вздрагиваю каждый раз, когда слышу рекламу напитка БЁРН.

[darth-vasya.livejournal.com]

Ага, классический приём "пугало"... :/

[fregimus.livejournal.com]

А что это за прием?

[darth-vasya.livejournal.com]

http://en.wikipedia.org/wiki/Straw_man
http://xpomo.com/ruskolan/tolpa/chapek.htm - здесь под названием Imago (п. 6)

[fregimus.livejournal.com]

Понятно. Я решил, что пугало — это то, чем пугают. Я бы лучше straw man как соломенное чучело все-таки перевел, или просто чучело.

[darth-vasya.livejournal.com]

Гм. Я бы сказал, тут зависит от того, как конкретно применяют изготовленную конструкцию. Если её героически побивают, то это, конечно, манекен. С другой стороны, часто этого соломенного человека не побивают непосредственно, но изготавливают таким образом, чтобы аудитория прониклась к нему негативными эмоциями самостоятельно. Впрочем, ни на чём не настаиваю, чучело так чучело :)

[captainl.livejournal.com]

= Сирлова «консервная банка, испытывающая жажду» есть не что иное, как переигрывание давно дискредитировавшей себя в нейрологии идеи «бабушкиного нейрона» =
Вот, вот же он, нейрон Мэрилин Монро. :))

Однако

Моей целью здесь является не детальная критика Серла (это заняло бы целую скучную главу). Я хочу обратить внимание на то, насколько широко распространено негласное предположение, что уровень наиболее базовых элементов мозга должен быть тем самым уровнем, на котором обитают наиболее сложные и необъяснимые свойства сознания.

[fregimus.livejournal.com]

Да, он самый. Я видел Вашу заметку. Шипел и плевался на журноламеров — а что еще остается делать?

То, что курсивом — кажется, один из следующих за цитатой абзацев? Это Вы перевели сейчас, или где-то перевод всей книги существует?

[captainl.livejournal.com]

Это следующий абзац. Сейчас с ходу перевел, потому что, ИМО, он заметно добавляет к пониманию того, что и зачем написал автор в переведенном Вами отрывке.

[(Anonymous)]

> машина Тьюринга — абстракция, которая в принципе может быть сделана из каких угодно материалов.

учим http://www.scottaaronson.com/writings/finite.html матчасть http://arxiv.org/abs/quant-ph/9908043