Просветление посохом

[fregimus]

http://fregimus.livejournal.com/107202.html?thread=2537666#t2537666

andrei_koval:
Любопытная вообще-то дилемма: искусственный / естественный [интеллект]. Естественный-тот откуда взялся? Сам собою? И в какой мере искусственный отличается от естественного?

fregimus:
Дилеммы тут как таковой и нет. У людей есть что-то, что обычно называют интеллектом. Понятие непонятное, размытое. Об этом Минский и говорит, что называем мы интеллектом совокупно то, что интуитивно очерчивается, но еще толком неисследовано. Определить ведь, что такое интеллект, не оговаривая контекста, вообще нельзя. Если сказать, что это power of reasoning, то у собак, скажем интеллекта нет. Если в интеллект включать способности к зрительному восприятию… Ну, и так далее. А если вообще способность адаптивно вести себя в среде — так и у насекомых это есть.

«Искусственный интеллект» и термин, собственно говоря, искусственный. Придумал его Дж. Маккарти еще в конце 50-х, и звучало слово хорошо, веско так. Определил он его, собственно, через сепуление — наука об интеллектуальных машинах. То есть, и не определил вовсе.

В народном понимании это такая машина, с которой можно за жизнь поговорить, о футболе и об осьминоге-предсказателе. И пивка с ней попить. Это я к тому, что какой бы сообразительной машина ни была, человеки ее за своего не примут. Таджиков-то не принимают, а тут машина железная, что уж там говорить.

Откуда естественный взялся. Если мы не будем на креационизьм подписываться, то есть такая штука, она называется самоорганизация. Это общее свойство сложных систем оказываться в критическом неравновесном состоянии, ежели им хватает на это притока энергии извне. Я недавно писал о самоорганизации в дихтиостелиях, если помнишь. Там вычислительно простая модель (которая, кстати, аналитически сложна до отвращения), а приводит к такому интересному результату — спиральным волнам концентрации сигнального вещества в пленке амеб. Вот, можно на каком-то уровне принять склонность к самоорганизации объяснение. Надо сказать, что обратную задачу решать — типа, показать, как из ничего получается самоорганизацией целый интеллект, мы не умеем.

Здесь есть подвох: это объяснение, которое ничего не объясняет. Лучшего я предложить не могу, но в качестве извинения приведу пример такого же ничего не объясняющего объяснения. Почему камень на землю падает? Тут любой восьмиклассник скажет — потому, мол, что земля его притягивает, закон всемирного тяготения. Движется, потому что сила на него действует — второй закон Ньютона. Ну, а почему массы друг друга притягивают? Тут восьмиклассник и сел в лужу… Выйдет профессор и объяснит: потому что массивные тела искривляют пространство-время. Ну, а почему они его искривляют? И объясняет ли это объяснение что-либо в масштабах микромира? Не очень хорошо, говоришь, да? И что такое, профессор, пространство вообще? Ну, и время заодно? Во-о-от.

Иными словами, знание всегда начинается где-то примерно с середины. Снизу оно ни на что не опирается — этажи вниз пристраиваются к висящему зданию, но подпоры под ними все равно не оказывается. Об этом в школьном учебнике, конечно, не говорят, чтобы школьники раньше времени не свихнулись. А вот когда взрослые дяди об этом забывают — тут уже надо брать посох и праджну в голову-то заколачивать, заколачивать…

Comments

> пространство вообще?

[brewbuilder.livejournal.com]

Можно связять одни понятия с другими и только, нашим мозгам
вень ничего не доступно кроме понятий. А базовые понятия это о том, что
можно увидить глазами, пощупать, понюхать, попробовать на вкус
или улышать. Вот через них разные абстрактные понятия и определяются.

[fregimus.livejournal.com]

Это точно так, в глубине глубин. Я бы только не говорил «определяются» — понимаются, может быть. И понимаются по-разному, в зависимости от других понятий. Проследить, как наши понятия заземляются в квалиях, однозначно тоже не получится — онтологий много разных. Но в принципе — да, так.

[rruben.livejournal.com]

Классно сформулировал(и)!

А интеллект, на мой взгляд (как я вроде даже уже когда-то говорил), это способность к рефлексии, то есть к осознанию самого себя и процесса своего мышления. Это то, чем человек отличается от всех других живых существ (правда не каждый, но, тем не менее, подавляющее большинство)

[rainaldo anonimato (from livejournal.com)]

Это - "солипсическое" определение, поскольку таким образом - в наличии интеллекта можно убедиться только относительно себя самого.

Тот же ИИ - может пройти "тест Тьюринга", но как он сумеет доказать, что "рефлектирует"?
Соответственно, как я это могу Вам доказать - или Вы мне?
Как, наконец, прийти к согласию "на предмет рефлексии" по поводу всяких там говорящих обезьян? А тогда - и молчащих? И... понеслось! Насчёт "только человека" получается не более доказательным, чем с "самоорганизацией" и "тяготением"...

[rruben.livejournal.com]

резонное замечание, но все-же задача доказать осмысление интеллектом самого себя представляется проще, чем строго определить его.

например довольно понятно, что ни один имеющийся сейчас ИИ на такое не способен, даже при наличии соответствующей логики. В этом собственно и критерий - появление какой-то связанной с осмыслением себя новой логики, не заложенной на стадии проектирования. На это, насколько я представляю, никакие самые самообучающиеся системы пока не способны

[grumbler.livejournal.com]

> Снизу оно ни на что не опирается — этажи вниз пристраиваются к висящему зданию, но подпоры под ними все равно не оказывается

какая-то подпора есть. Редукцонизм, когда из оч.простых правил выводятся оч.сложные веши. Например, вся класс.механтика это по сути следтсвие однородности пространства-времени

было бы интересно обнаружить первопринцип, из которого выводится вообще всё

[rainaldo anonimato (from livejournal.com)]

"Однородность пространства-времени"? А она... существует? Или это - не более, чем "плоская земля", на которой все мы, как известно, живём?

[grumbler.livejournal.com]

плоская земля -- хороший постулат до тех пор пока мы передвигаемся на расстояния малые по сравнению с кривизной земли

Аналогично, однородность пространства-времени хороший постулат до тех пор пока мы передвигаемся со скоростями малыми по сравнению со скоростью света, где собственно и работает класс.механика

Дерево знания растет вниз так: находится опора (плоская земля), когда настоящей опоры начинает не хватать (для долгих мореплаваний опора в виде плоской земли несостоятельна) ищется новая более широкая опора. И так вплоть до того момента пока разум не окажется в состоянии создать свою Вселенную, двигаясь путем познания имеющейся Вскеленной и самого себя.

Ваджрой по праджне

[andrei-koval.livejournal.com]

Если уж праджню в башку заколачивать, так не посохом, а ваджрой.

Да я понимаю прекрасно, что всё строится на неких аксиомах. Самоорганизация как принцип конечно существует, но её никак не назовёшь специфическим источником именно "интеллекта", особенно человеческого. Ладно, откуда что взялось -- непостижно, это в лучшем случае articulum fidei. Но, возвращаясь к искусственному: я пока что его не наблюдаю. Пока что наблюдаю одну способность человеческого разума, а именно комбинаторно-исчислительную, которая взята сама по себе и доведена до невероятной изощрённости. И всё. Но это ж не "интеллект", это всего лишь одна из его составляющих, пусть и немаловажная. Я понимаю, в 50-е гг. были сильные на сей счёт иллюзии. Но сейчас, мне кажется, все уже смотрят трезвее. А термин так и остался из 50-х гг.

[fregimus.livejournal.com]

Ваджрой — это будет уж слишком… ведически. Палкой надо просветлять. Обычной палкой.

Тут вопрос, что называть интеллектом, опять же. Я не думаю, что человеку так уж присуща комбинаторно-исчислительная способность — эта вещь культурная, и производит ее человек с большим скрипом. Аристотелю, вон, пришлось строгие правила придумывать, как можно комбинировать, а как не след. Вообще, филозофские попытки выразить, что делает человека человеком, мне кажется, тщетны.

Любопытно обратить внимание на то, как из области «интеллекта» быстро выпилили способность играть в шахматы на уровне чемпиона мира. До того из области интеллекта вычеркнули распознавание речи и образов (рановато, на мой взгляд). Еще до того — задачи класса расписаний, включая, например, разводку печатных плат и топологии микросхем. Уже забыли даже, что эти задачи были «интеллектуальными». Символическую алгебру всякую, оптимизацию, классификацию… чего только не считалось интеллектом.

Если это все и приблизило нас к пониманию того, как мозги работают, то, скорее, опосредованно.

Следующий рубеж — язык. Опять же, более-менее понятный перевод текста новостей уже, вон, гугол делает, а дальше будет только лучше (кому я рассказываю, да!). Но вот то, как это делается, не имеет ни малейшего отношения к жизни языка в голове и в культуре, и это удручает. Тут еще стоит удручиться тем, что механизмы распознавания речи в современных программах тоже никакого света на оные человеческие не проливают. Кажется, что, чем ближе к языку, тем дальше расходятся прикладные исследования и фундаментальные. Это не радует, в особенности потому, что деньги все в прикладной области.

Насчет иллюзий — трудно сказать. Прошедшее время всегда кажется компактнее, а то, что в наше время происходит, происходит как будто медленно, поэтому сравнивать. Многие фундаментальные результаты получены в 60-70 годах, тогда был компьютерный взрыв просто. А термин — да бог с ним, термин как термин, мне кажется.

[ushastyi.livejournal.com]

Про посох понравилось :)

Я бы еще заметил, что способ "пристраивания этажей" тоже небезгрешен, поскольку опирается на правила логического вывода, которые, вообще говоря, тоже висят в воздухе.

[rainaldo anonimato (from livejournal.com)]

Человек всегда стремился к творческому полёту...

[ushastyi.livejournal.com]

Полет управляем. А в данном случае это, скорее, напоминает болтание в проруби.

[rainaldo anonimato (from livejournal.com)]

А меня вот какая штука занимает: интеллект - он у человека существует с рождения?
Если нет, то как и из чего берётся?
Если да, то в чём выражается? (Уж тогда не в "рефлексии" - ясно).

Про "маугли" я знаю. Но с ними - очевидные "дыры"...

[rruben.livejournal.com]

даже самого поверхностного наблюдения над новорожденными достаточно чтобы понять, что никакого интеллекта у них нет. И настоящие "маугли" никогда не могли пропустив этап формирования интеллекта в человеческой среде наверстать его, не знаю, это ли вы имели ввиду

[ushastyi.livejournal.com]

На этот вопрос неплохо отвечает индийская философия. Интеллект -- это одна из энергетических оболочек человека (всего их семь). Можно также называть его уровнем развития материи. Как и другие оболочки, он существует с рождения, но может деградировать.

То есть, конечно, это не то чтобы ответ. Но данная концепция глубоко проработана у йогов.

[rainaldo anonimato (from livejournal.com)]

Вот! Пока я выше отписывался - Вы и дали вполне Альтернативный Ответ!:)))

[rainaldo anonimato (from livejournal.com)]

Но тут сразу же - к индийским йогам (или слесарям Малаховым:)) напрашивается тот же следующий вопрос:
- Что же приводит к неминуемой "деградации" энергетическую оболочку интеллекта - хотя бы в случае с теми же "маугли"?

[slavin-e.livejournal.com]

Спасибо за пост, он дает интересный ответ на один из вопросов, которые я вам задал личным сообщением, и дает пищу для размышлений.

Задам вопрос не по теме поста, если вы не против. Вы прочли, наверное, множество книг и статей на тему мозга и искусственного интеллекта. Доводилось ли вам встречать информацию о том, что отдельный нейрон может не просто посылать сигнал на выход при определенной сумме сигналов на входах, а следовать некой более сложной программе? Если да, то как вы оцениваете достоверность такой информации?

[fregimus.livejournal.com]

Простите меня — я тогда обещал ответить, даже что-то писал, но на меня тогда навалилось дел рабочих столько, что я от них угорать начал. Мне хочется вернуться к тому вопросу.

Информация, о которой Вы говорите, настолько достоверна, что было бы чрезмерным упрощением думать иначе. «Нейрон» в искусственной НС — математическая абстракция, навеянная природой, но живой нейрон ведет себя куда сложнее. Он имеет размеры, разные сигналы распространяются по нему с разной скоростью. Возбуждение зависит от потенциала среды, который зависит от «стрельбы» соседей. Потенциал от дендритов распространяется по мембране с конечной скоростью, форма этого сигнала тоже не простая. Разность потенциалов должна достичь некоторого порогового значения в определенном месте нейрона, где мембрана богата натриевыми каналами, чтобы наступил «пробой» положительной обратной связью натриевой проводимости. (И где это место — до конца не ясно.) При этом еще в мембране работают ионные «насосики», поддерживающие концентрации ионов — «разряда» не произойдет, если она не выровнялась после предыдущего срабатывания. А еще сигнал распространяется по всей мембране — включая дендриты, т. е. обратно ко входу… И все это плавает в соляном растворе, от потенциала и концентрации ионов в котором тоже зависит возможности передачи сигнала.

И все равно все это — упрощенная картина. Конкретных типов каналов передачи потенциала известно несколько десятков! Есть нейроны не стреляющие, а передающие непрерывный сигнал (не «цифровые», а «аналоговые»). Есть «генераторы», выдающие поток импульсов без активации; они могут модулироваться внешними сигналами. Есть даже такие, что передают сигнал в обратную сторону — «вход» и «выход» перепутаны, или в обе стороны. В биологических системах ведь все «подрабатывалось по месту напильником» миллиарды лет, так что разных как будто «отклонений» от простой инженерной модели найдутся тысячи разных.

[(Anonymous)]

Искусственный интеллект невозможен. Правда-правда, об этом в журнале "Наука и жизнь" писали (http://www.nkj.ru/interview/4624/):

"Мозг – морфогенетически активная система. Это означает, что связи между нейронами на протяжении всей жизни все время меняются, а поскольку нейронов у нас 150 миллиардов, то для того, чтобы хотя бы убого смоделировать эту систему, надо взять 150 млрд. процессоров, внутрь которых посадить людей, которые будут случайным образом непрерывно перепаивать связи между ними. При этом еще надо знать еще некоторые закономерности этой перепайки."

Сильный был бы удар по безработице...

[fregimus.livejournal.com]

Да, аргумент жгуч! Ну что за беда с «НиЖ» творится…

Насчет сознания и самосознания. Это игра терминов, которыми оперируют психологи. Пришли они из примитивных форм социализации в виде религии, т.е. это натурфилософские понятия, религиозные. Мозг познает и оценивает себя посредством сравнения и самосравнения. И здесь никаких секретов нет. Сравнение и самосравнение – достаточно примитивные события, которые может осуществить любая собака, сравнивая себя и соседскую собаку, которую кормят колбасой, а ее кашей. Здесь самосознание будет точно таким же, как у человека в аналогичной ситуации. Не надо подменять элементарные сравнительные понятия терминами, которые ставят человека в исключительное положение над миром животных. Это не совсем корректно.

Спасибо за ссылку — давно в такой милый потока сознания не погружался…

[sergeyvi.livejournal.com]

Хорошее объяснение не ставит задачей объяснить все. Хорошее объяснение позволяет понять траекторию движения системы (как мы ее определили, а не какой-то там "истинной" системы), т.е. понять ее прошлое и будущее, чем обычно и пользуются. Это так называемый инженерный (эмпирический) подход к познанию, если какая-нибудь сугревизия работает так, что если на нее ботинком надавить сверху, то взлетишь, а если похлопать в ладоши - то опустишься - ничего не мешает сделать летающий костюм или автомобиль, а что такое эта самая сугревизия - инженеру по барабану.

Так вот, к нашим баранам, если говорить про ИИ с практической точки зрения, то это система (пусть компьютерная), с которой человек начнет советоваться при выработке собственных решений, рассматривая ее как черный ящик, при том, что мы предполагаем, что внутри него нет другого человека (или большого количества людей). И системы такого класса уже есть, не зря экспертные системы относят к ИИ. Другой вопрос, что существующие системы ограничены предметной областью, сами часто не умеют добывать знания и т.п. Но это уже все - вполне измеримые вещи, так что и тут инженерный подход вполне уместен, не даром есть уже беспилотники, роботы-автомобили, гугль-поисковик и т.п. Вопрос лишь в их совершенствовании.

[fregimus.livejournal.com]

Об инженерном подходе Вы верно говорите, только этот подход — тут никаких иллюзий себе не надо создавать — не к познанию.

[rainaldo anonimato (from livejournal.com)]

С чем только человек не советуется...
Про "птичью печень оракулов" и астрологию я, конечно, не стану всуе (хотя иллюзиями этими человечество прекрасно жило значительно дольше, чем при нынешних "системах такого класса").
Но вот есть одна штука, которая бесспорно и стопроцентно подходит под Ваше определение, несмотря на свою "глубокую древность".
Это - книга.
"Если чего не знаешь, спроси у неё, что да как" (от технической инструкции, до "смысла жизни"). Не у каждой и не обо всём, что в голову взбредёт (хотя некоторые верят, что "есть одна..."), но ведь и к тем "экспертным системам" эта "неуниверсальность" сполна относится (впрочем, как и к людям тоже - при определённом ракурсе зрения:)).

"Человека или большого количества людей" внутри книги, вроде бы, не наблюдается.
Хотя... как сказать (и это мы прекрасно понимаем).
Человек там "в глубине изначальной сути" неотъемлем, и даже, как минимум, два: включая и того, кто читает.

При этом книга, как инструмент, вовсе не "тавтологична": может содержать формулы и "советы" вовсе не только для тех ограниченных вопросов, которые имел в виду её "конструктор-изобретатель":). В общем - довольно сложно найти принципиальное (а не эфемерно-масштабируемое) отличие книги - от, согласен, более совершенного "влагалища информации":), какие Вы пока что перечисляете. И то, и другое - пока что всего лишь "консервы" для ЧЕЛОВЕЧЕСКОГО сознания, а не какого-либо иного. Совершенствовать их - понятное дело - можно и нужно.

Но, похоже, речь выше шла всё-таки о другом.