Искусственный интеллект невозможен.

Лев Чиворепла
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ НЕВОЗМОЖЕН


Тема искусственного интеллекта сейчас вполне актуальна. Ведь мы живем в век бурного развития техники, и не за горами время, когда основная часть рутинного труда человека будет выполняться роботами, а среда обитания человека станет миром машин. Уже сейчас встают вопросы об искусственном интеллекте и зависимости людей от машин. Я прикоснулся к ним, опираясь на материал книги "Образы сущего"
Под словом "интеллект" обычно понимается человеческий интеллект. Но можно исходить из предельно достижимых способностей робота и называть их "интеллектом робота". Тогда утверждение данной статьи таково: интеллект робота никогда не достигнет интеллекта человека. (Хотя, в некоторых операциях робот может и превзойти человека, например, в игре). Ситуация с этим термином приблизительно такова: соловей не может сочинить симфонию, но то, что он сочиняет, называют симфонией.
Наверно, надо говорить о некоторой условной "разумности" машин, сравнивая ее с разумностью человека. Мне хочется показать, что существуют качественные различия между человеком и машиной в процессах, условно называемых "мышлением" - различия, которые образуют пропасть между ними. Никто не запрещает нам произносить "искусственный интеллект", но это просто не корректное словосочетание. Мои аргументы подразделяются на философские и научно-технические.
Начну с первых. Все, что человек делает сознательно, опирается на смыслы, т.е. любое его сознательное действие - это комментарий смысла. Мы можем понять и комментарий, и смысл. Но мы не знаем, что такое "смысл". Мы не умеем его конструктивно описывать так, чтобы можно было запрограммировать смысл. Следовательно, робот не сможет обрестифеномен смысла через программу.
Шахматный компьютер обыгрывает чемпиона мира. Он умеет считать и играть, но он не понимает, что он делает. Способность понимать и объяснять - истинно человеческая, но она не программируемая. Сознание - это орган человека, невоспроизводимый в рациональной модели. Оно есть главная "деталь" личности - бессмертная и уникальная, созданная Богом. Человек может сделать многое, опираясь на законы физики, но он не Бог.
Говорят так: "наука явно указывает на отсутствие Бога в области уже познанных явлений природы и на возможность его отсутствия в еще не познанных, но принципиально доступных к познанию областях". Однако то, что не познано, есть самое сложное, самое важное, самое ценное. Бесконечная сложность, сколько от нее не отнимай, остается бесконечной. И поскольку сознание бесконечно сложно, то любая модель его оказывается несостоятельной, не достигающей цели моделирования. Бесконечно сложное сконструировать в роботе невозможно. В этом первое принципиальное различие между человеком и роботом.

Перейду ко второй группе аргументов. Пусть человек не способен создать сознание, но может быть, робот сам его обретет в процессе адаптации? Мы его будем наполнять множеством различных программ и баз знаний, учитывающим все мелочи и подробности функционирования его в нашем мире, а он постепенно станет умным. Может быть, это и есть реальный (адаптивный) путь обретения сознания? Однако он требует увеличения числа программных компонент и исполнительных элементов (будем называть их чипами) системы "искусственного интеллекта". Состояния элементов связаны близкодействием. В работе системы в целом учитывается работа почти каждого чипа. Вероятность ошибки системы пропорциональна сумме вероятностей ошибок всех чипов, и при большом числе их эта вероятность может оказаться заметно отличной от нуля, несмотря на высокую надежность чипов. В реальных устройствах применяются всевозможные методы резервирования и корректирования работы элементов, их функционирование подконтрольно человеку, который отслеживает работу в целом. Ноавтономная система не может быть неограниченно большой, так как она становится ненадежной. (А именно большой она должна быть, если мы хотим в ней увидеть интеллект.)
Иная картина имеет место в социуме, где, несмотря на высокое разнообразие поведения индивидов, функционирование систем оказывается весьма устойчивым. В отличие от множества чипов, социум связан не только близкодействием, но идальнодействием, т.е. информацией, благодаря чему точность решения общей целевой задачи практически не уменьшается с ростом числа элементов. Грубо говоря, индивиды озабочены не только своими личными, но и общественными проблемами. Именно так устроен живой многоклеточный организм. Его "чипы" - это клетки, которые, согласно концепции метафизики живого универсума, демонстрируют поведение лиц - разумных монад.
Таким образом, человеческий организм есть совокупность живых (разумных) элементов, а робот - косных, безжизненных элементов электроники. Устойчивость биомеханики обусловлена информационным взаимодействием живых монад в их культурной среде. И в этом - второе принципиальное различие между человеком и роботом.
Итак, нам не следует опасаться "машинной цивилизации", поскольку искусственный интеллект невозможен. И фантазии типа "Матрицы", "Терминатора", "Я робот" и т.д. не имеют под собой реального основания. Бояться надо ненадежности машин, это проблема техническая. Зависимость человека от машин имеет мало общего с зависимостью от людей. Она не содержит подавления свободы, рабского подчинения, морального унижения. Она такова, что человек может, привыкнув, забыть о ней. Машины не требуют к себе внимания (внимания как самостоятельной специфической социальной ценности), не проявляют волю. Они способны создать комфорт, в котором человек свои силы и внимание отдаст только человеку. И людям следует избегать фетишизации, не следует в машинах, в их дизайне повторять человеческие формы и черты поведения, машины должны быть функционально профилированы.
Чего на самом деле следует опасаться - это использование роботов людьми против людей. Но такова общая и главная проблема технического "прогресса".
Развитие машинной среды отрицательно скажется на экологии природной среды. Возникнет проблема обеспечения баланса между жизнью и автоматами. Неизбежен момент "насыщения", когда дальнейшее усовершенствование машин перестанет оправдывать затраты усилий их творцов, и машинная надстройка достигнет некоторого стационарного состояния.

Литература
Чиворепла Лев. Образы сущего. Издание 5-е. -М.: КМК, 2009. - с.333.

Статья написана в сентябре 2010 года. Дата последней коррекции: 30.08.13

 

"Искусственный интеллект невозможен" - утверждение из оперы утверждений "что аэроплан не может летать быстрее звука - поскольку ни один двигатель не сможет разогнать до такой скорости и деревянная конструкция не выдержит сопротивления воздуха". Так думали люди в начале XX века. Искусственный интеллект пока невозможен.

 

Лично я не знаю как его создадут японцы - у них одна из самых отстойных школ программирования. Японский софт - худший. "Сознание как у человека" - очень расплывчатый параметр - люди бывают разные. Создать робота который бы имитировал человека - это посильная задача для сегодняшней науки. Так же систему, которая будет учиться, в определенных пределах, конечно, тоже. И даже самосовершенствоваться. То же касается того что бы испытывать эмоции. Робот не может испытывать эмоции, но он может показывать эмоции.

 

Технические причины - это вопрос времени. Что-то никто в Японии не катается на поездах с 600 км/с. Самые быстрые это синкарсенены со скоростью 300 км/ч и билет на них стоит от 100$. Компания SONY уже пять лет как убыточна. А насчет игр тут у меня есть другое отличное мнение. То что в Японии круто развито роботостроение - это миф. На заводах там автоматические станки выполняющие определенные операции - это не есть роботы в том смысле который надо.

 

Если интеллект - это свойство личности и атрибут сознания, как утверждается в статье, и если иметь в виду, что для возникновения интеллекта сознание проходило многомиллионолетнюю эволюцию, - то да, такой интеллект создать искусственно невозможно.

кстати

Вообще я за разумный подход к использованию слова "невозможно", без фанатизма. Есть законы природы, которые невозможно нарушить ни сейчас, ни когда-либо. Невозможно протянуть руку и снять луну с неба. Невозможно отправиться в прошлое и орудовать там). Невозможно следствие до его причины. И т.д.

А вот что касается слова "искусственный" применительно к интеллекту, то здесь не все так просто. Тайны мозга не исследованы. Его ресурсы используются человеком незначительно. В будущем, когда человек ближе подойдет к биотехнологиям и воздействиям на генном уровне, возможно развитие человеческой природы мозга. Если это произойдет, то интеллектуально такие люди будут более развиты. Вот такой "искусственный интеллект", думаю, вполне возможен.

 

Меня также...вполне удовлетворили аргументы автора статьи. По поводу имитации роботом разных чувств. Человеческие улыбки и слезы...они всегда по определённому поводу... Вот привить роботу ЧУВСТВО...сделать его ЖИВЫМ...действительно невозможно человеку...сие доступно только нашему Создателю.(имхо)

 

Иваэмон, когда я выражаю своё несогласие с чем-то...то я предполагаю, что амбиции наши угаснут...(эти амбиции есть у каждого из нас (имхо))
Это значит, что моё несогласие никак не должно отражаться на наших человеческих отношениях
В предыдущих двух абзацах...вижу противоречие...логическое...(имхо
Законы природы...созданы не человеком... и, следовательно, их нарушить НАМ невозможно, как вы и указали.
Биотехнологии...и воздействия на генном уровне...это, на мой взгляд, та же попытка человека ...вмешаться в ТО...что уже сделано СОЗДАТЕЛЕМ. (ИМХО)

 

Биотехнологии - это не нарушение законов природы, а их изучение и использование. Другим словом, созидание нового - не есть нарушение законов.
А насчет закона - если закон природы можно нарушить, какой же это закон? Закон незыблем и ненарушаем в принципе, при всем желании кого бы то ни было.

 

Наличие зла в нашем мире предпологает свободу человека...свободу не соглашаться и противодействовать задуманному СМЫСЛУ СОЗДАТЕЛЯ. (имхо). Вполне вероятно, что биотехнологии...и вмешательства человека в генный уровень...есть ЛОЖНЫЙ путь.

 

Возможно, и так. Но это уже другой вопрос. Я всего лишь привел пример такого "искусственного интеллекта", который, как мне кажется, вполне по силам человечеству создать в будущем - на пути не электроники, а биологии.
Вообще природа технологий, осваиваемых человеком, меняется в следующей последовательности: механика - электроника - биология.

 

Однако, (на форуме "Солнечный ветер " есть аналогичные вопросы) возникает вопрос: Цель подобных исследований?

 

Цель будет, очевидно, та же, что и у нынешних проектировщиков кибернетического искусственного интеллекта.
Мне ближе как цель чистое познание - как у Менделя, изучавшего наследственность, или у ученых, занимающихся процессами в адронном коллайдере. Процесс познания есть творческий процесс и ценен и бесконечно увлекателен сам по себе, вне зависимости от результатов.

 

Вы правы, (имхо) но подобные, очень дорогостоящие... исследования финансируются кругами, имеющими совсем отличные цели...отличные от тех, которые были упомянуты. Громадные...вложенные деньги...предполагают ИХ ВОЗВРАТ...самое малое. Ответственность ученого...за открытие.

 

Ну, так недалеко дойти и до запрета научного познания. Можно также заодно и кухонные ножи запретить - из-за того, что ими можно убить человека. И привлечь изобретателя кухонного ножа к ответу.

 

Скальпель в руках хирурга...может быть спасением жизни...в руках другого человека - орудием убийства.
Однако, ножом можно убить одно существо...а, к примеру, водордной бомбой - уничтожить цивилизацию.
Для обладания определёнными знаниями (предполагаю) было бы очень желательно, чтобы сей обладатель ( обладатели) достиг(ли) определённого уровня развития...не позволяющего применять эти знания во вред человеку.

 

Это все так, но в сухом остатке подобных опасений всегда остается пословица "волков бояться - в лес не ходить". Ученый, прекративший исследования из страха несовершенства мира, такой же преступник перед человечеством, как преступник перед собой покинувший своего Учителя из-за ощущения своего несовершенства ученик.
(Кстати, представление ядерных энергий как абсолютного зла явно притянуто за уши. Как оружие атомная бомба использовалась всего 2 раза, после чего быстро закнончила 2-ю мировую войну, а позже успешно предотвратила 3-ю мировую войну как средство сдерживания, а вот атомные станции используются десятилетиями во всем мире и скоро будут давать человечеству половину электроэнергии. В итоге ядерная энергия принесла человечеству неизмеримо больше пользы, чем вреда)

 

На мой взгляд, ядерная энергия, впрочем, как и нож...являются лишь инструментом...в руках

Предлагаю ознакомиться с мыслями ученого...по этому поводу. Некоторые...особо понравившиеся выдержки.

"Трагедия атомной бомбы

"Атом - это скупой богач, который при жизни вовсе не тратит денег (энергии).
Но в завещании он оставляет свое состояние двум сыновьям М и М" с условием,что они отдадут обществу небольшую часть - меньше одной тысячной - состояния (энергии или массы). Состояние, получаемое сыновьями, таким образом, несколько меньше, чем состояние, которым владел отец (сумма масс М+М" несколько меньше, чем масса М делящегося атома). Но часть, отдаваемая обществу, относительно
небольшая, все же настолько громадна (рассматриваемая как кинетическая энергия), что она несет с собой для общества угрозу несчастья. Отвратить эту угрозу -стало самой настоятельной проблемой нашего времени".
Эйнштейн
..............................

...Его призванием, мечтой, служением была наука, чистая - в самом различном смысле этого слова - наука.

............................
...И вот теперь ему предстояло "перерезать ленту" перед таким, быть может, роковым вмешательством науки в дела людей, какого еще никогда не было.
............................
.... Теория относительности стала в свое время символом чего-то очень далекого от жизни, интересов и надежд людей. И вместе с тем она была объектом самого напряженного общего интереса. Теперь интуитивная уверенность в не только теоретической значительности концепции Эйнштейна начинала оправдываться. Человечество приблизилось к такому историческому рубежу, когда наука стала источником самых светлых надежд и самых мрачных опасений. Теперь отказываться от активного вмешательства было бы изменой науке: ее существо, ее объективность, рациональность и правдивость требуют, чтобы надежды людей оправдались, а опасения исчезли.
...........................
...Трагедия атомной бомбы была лишь наиболее тяжелым выражением того, что мучило Эйнштейна издавна. С присущим ему чувством личной ответственности за все зло, которое существует в мире, он особенно глубоко переживал большую, многовековую трагедию иррационального и разрушительного использования достижений разума. Разум человечества ищет гармонию в природе и по своим внутренним тенденциям ведет общество к гармонии, к рациональной организации общественной жизни. Но в антагонистическом обществе плоды разума могут стать отравленными, и каждая научная идея, каждое открытие внутреннего ratio мира могут стать оружием иррациональных сил. Подобные мысли Эйнштейн высказывал не раз в течение многих лет. Теперь речь шла о применении одного из основных выводов теории относительности. Но Эйнштейн ощущал свою ответственность за характер указанного применения не потому, что он был создателем теории относительности, - Эйнштейн никогда не думал о себе как о ее создателе, и вообще строй его мыслей исключал подобные самооценки. Слияние с коллективным разумом человечества, чувство ответственности за науку в целом делали для Эйнштейна таким тяжелым новый акт длительной трагедии научного творчества. Эта тяжесть не подрывала уверенности в том, что человечество может устранить опасность атомной войны и использовать плоды науки для созидания. Сама по себе атомная энергия не угрожает человечеству - ему угрожает злоупотребление новыми силами природы. "Открытие ценных атомных реакций, - писал Эйнштейн, - так же мало грозит человечеству уничтожением, как изобретение спичек; нужно только сделать все для устранения возможности злоупотребления этим средством".

Эйнштейн говорил, что атомная энергия приводит к количественному возрастанию срочности и важности старой проблемы. "Освобождение атомной энергии не создает повой проблемы, но делает более настоятельным разрешение старой проблемы", - писал Эйнштейн в ноябре 1945 г. Проблема состоит в возможности агрессивного и разрушительного применения научных открытий. Эйнштейн верил в грядущее радикальное разрешение этой старой проблемы, в перестройку общества на рациональных началах и в полное использование научных открытии в интересах людей.

Однако эта уверенность, в свою очередь, не устраняла трагедии, не позволяла Эйнштейну забыть о том, что произошло вчера в Хиросиме и может произойти завтра в другом городе. Она не освобождала Эйнштейна от ощущения моральной ответственности за пути использования науки. Всю свою жизнь Эйнштейн не мог примириться с общественными противоречиями, забыть о них хотя бы на минуту, опуститься до социального и этического равнодушия и житейских компромиссов.
...........................
...Поэтому он глубже, чем кто-либо другой из естествоиспытателей его поколения, переживал трагедию военно-агрессивного применения науки. Именно глубже, потому что непосредственные участники изготовления атомной бомбы пережили катастрофу в Хиросиме, быть может, острее и болезненнее. Для Эйнштейна речь шла не только о ряде ядерных исследований, в которых он, собственно, и не участвовал, а о науке в целом. С другой стороны, деятельность атомных учреждений США была наиболее рельефным выражением зависимости науки от иррациональных сил. Тот же демон иррационального выглядывал из протоколов всякого рода совещаний в военном ведомстве, в промышленных корпорациях и в зависимых от них университетах и институтах. Этот демон теперь не проклинал науку, но он заставлял науку служить ему. С вершин абстрактной мысли, где Эйнштейн чувствовал себя в своей стихии, было видно, что наука в целом попала в тяжелую зависимость от кругов, чуждых и враждебных бескорыстному служению истине...
http://berkovich-zametki.com/Forum2/viewtopic.php?p=3709

 

Борис, извините, но мы раз за разом пережевываем уже сказанное. Насчет того, кто такой ученый, предавший дело поиска истины из-за некого "комплекса вины", я написал выше. Каждый должен делать свое дело. Дело и смысл жизни ученого - познавать мир, и только за то, насколько он целеустремленно и самоотрешенно стремится к истине, несет он ответственность.
Что до Эйнштейна, то его мнительность и чувство вины за то, в чем он и близко не был виноват - а виноваты были, скорее, все, кроме него - это, скорее, к психоаналитикам, извините. "Комплекс вины", навязанный извне или созданный самим - это психический комплекс, свойственный шизофрении.
Конечно, если совесть мертвецки спит у прямых разработчиков оружия массового поражения или таких людей, как Калашников, например, - это печально. Но это уже другой вопрос, никак не относящийся к данной теме.