Философские аспекты проблемы искусственного интеллекта (возможность существования, безопасность, полезность)

№87-1,

технические науки

Основная философская проблема в области искусственного интеллекта – возможность или не возможность моделирования мышления человека. В данной статье коротко рассмотрим суть данной проблемной области.

Похожие материалы

Основная философская проблема в области искусственного интеллекта — возможность или не возможность моделирования мышления человека. В случае если когда-либо будет получен отрицательный ответ на этот вопрос, то все остальные вопросы не будут иметь ни малейшего смысла.

Следовательно, начиная исследование искусственного интеллекта, заранее предполагается положительный ответ. К данному ответу приводит ряд соображений:

Первое доказательство является схоластическим, и доказывает непротиворечивость искусственного интеллекта и Библии. По-видимому, даже люди далекие от религии, знают слова священного писания: «И создал Господь человека по образу и подобию своему …». Исходя из этих слов, мы можем заключить, что, поскольку Господь, во-первых, создал нас, а во-вторых, мы по своей сути подобны ему, то мы вполне можем создать кого-то по образу и подобию человека.

Создание нового разума биологическим путем для человека дело вполне привычное. Наблюдая за детьми, мы видим, что большую часть знаний они приобретают путем обучения, а не как заложенную в них заранее. Данное утверждение на современном уровне не доказано, но по внешним признакам все выглядит именно так.

То, что раньше казалось вершиной человеческого творчества — игра в шахматы, шашки, распознавание зрительных и звуковых образов, синтез новых технических решений, на практике оказалось не таким уж сложным делом (теперь работа ведется не на уровне возможности или невозможности реализации перечисленного, а о нахождении наиболее оптимального алгоритма). Теперь зачастую данные проблемы даже не относят к проблемам искусственного интеллекта. Есть надежда, что и полное моделирование мышления человека окажется не таким уж и сложным делом.

С проблемой воспроизведения своего мышления тесно смыкается проблема возможности самовоспроизведения.

Способность к самовоспроизведению долгое время считалась прерогативой живых организмов. Однако некоторые явления, происходящие в неживой природе (например, рост кристаллов, синтез сложных молекул копированием), очень похожи на самовоспроизведение. В начале 50-х годов Дж. фон Нейман занялся основательным изучением самовоспроизведения и заложил основы математической теории "самовоспроизводящихся автоматов" [1]. Так же он доказал теоретически возможность их создания.

Существуют также различные неформальные доказательства возможности самовоспроизведения.Так, для программистов самым ярким доказательством, пожалуй, будет существование компьютерных вирусов.

Принципиальная возможность автоматизации решения интеллектуальных задач с помощью ЭВМ обеспечивается свойством алгоритмической универсальности. Что же это за свойство?

Алгоритмическая универсальность ЭВМ означает, что на них можно программно реализовывать (то есть представить в виде машинной программы) любыеалгоритмыпреобразованияинформации,–будь то вычислительные алгоритмы, алгоритмы управления, поиска доказательства теорем или композиции мелодий. При этом имеется в виду, что процессы, порождаемые этими алгоритмами, являются потенциально осуществимыми, то есть что они осуществимыв результатеконечногочисла элементарных операций. Практическая осуществимостьалгоритмов зависит от имеющихся в нашем распоряжении средств,которые могут меняться с развитием техники. Так, в связис появлением быстродействующих ЭВМ стали практически осуществимыми и такие алгоритмы, которые ранее были только потенциально осуществимыми.

Однако свойство алгоритмической универсальности не ограничивается констатацией того, что для всех известных алгоритмов оказывается возможной их программная реализация на ЭВМ. Содержание этого свойства имеет и характер прогноза на будущее: всякий раз, когда в будущем какое-либо предписание будет признано алгоритмом, то независимо от того, в какой форме и какими средствами это предписание будет первоначально выражено, его можно будет задать также в виде машинной программы.

Однако не следует думать, что вычислительные машины и роботы могут в принципе решать любые задачи. Анализ разнообразных задач привел математиков к замечательному открытию. Было строго доказано существование таких типов задач, для которых невозможен единый эффективный алгоритм, решающий все задачи данного типа; в этом смысле невозможно решение задач такого типа и с помощью вычислительных машин. Этот факт способствует лучшему пониманию того, что могут делать машины и чего они не могут сделать. В самом деле, утверждение об алгоритмической неразрешимости некоторого класса задач является не просто признанием того, что такой алгоритм нам не известен и никем еще не найден. Такое утверждение представляет собой одновременно и прогноз на все будущие времена о том, что подобного рода алгоритм нам не известен и никем не будет указан или, что он не существует.

Как же действует человек при решении таких задач? Похоже, что он просто-напросто игнорирует их, что, однако не мешает ему жить дальше. Другим путем является сужение условий универсальности задачи, когда она решается только для определенного подмножества начальных условий. И еще один путь заключается в том, что человек методом "научного тыка" расширяет множество доступных для себя элементарных операций (например, создает новые материалы, открывает новые месторождения или типы ядерных реакций).

Следующим философским вопросом искусственного интеллекта является цель создания. В принципе все, что мы делаем в практической жизни, обычно направлено на то, чтобы больше ничего не делать. Однако при достаточно высоком уровне жизни (большом количестве потенциальной энергии) человека на первые роли выступает уже не лень (в смысле желания экономить энергию), а поисковые инстинкты. Допустим, что человек сумел создать интеллект, превышающий свой собственный (пусть не качеством, так количеством). Что теперь будет с человечеством? Какую роль будет играть человек? Для чего он теперь нужен? Не станет ли он тупой и жирной свиньей? И вообще, нужно ли в принципе создание искусственного интеллекта?

По-видимому, самым приемлемым ответом на эти вопросы является концепция "усилителя интеллекта". Здесь будет уместна аналогия с президентом государства — он не обязан знать валентности ванадия или языка программирования Java для принятия решения о развитии ванадиевой промышленности. Каждый занимается своим делом — химик описывает технологический процесс, программист пишет программу; в конце концов, экономист говорит президенту, что вложив деньги в развитие информационных технологий, страна получит 20%, а в ванадиевую промышленность –10% годовых. При такой постановке вопроса любой человек сможет сделать правильный выбор.

В данном примере президент использует биологический усилитель интеллекта– группу специалистов. Но уже сейчас используются и неживые усилители интеллекта — например мы не могли бы предсказать погоду без компьютеров, при полетах космических кораблей с самого начала использовались бортовые счетно-решающие устройства. Кроме того, человек уже давно использует усилители силы — понятие, во многом аналогичное усилителю интеллекта. В качестве усилителей силы ему служат автомобили, краны, электродвигатели, прессы, пушки, самолеты и многое-многое другое.

Основным отличием усилителя интеллекта от усилителя силы является наличие воли. Ведь мы не сможем себе представить, чтобы вдруг серийный автомобиль "Запорожец" взбунтовался, и стал ездить так, как ему хочется. Не можем представить именно потому, что ему ничего не хочется, у него нет желаний. В тоже время, интеллектуальная система, вполне могла бы иметь свои желания, и поступать не так, как нам хотелось бы. Таким образом, перед нами встает еще одна проблема — проблема безопасности.

Данная проблема будоражит умы человечества еще со времен Карела Чапека, впервые употребившего термин "робот" [2]. Немалую лепту в обсуждение данной проблемы внесли и другие писатели-фантасты. Как самые известные мы можем упомянуть серии рассказов писателя-фантаста и ученого Айзека Азимова, а так же довольно свежее произведение — "Терминатор". Кстати именно у Айзека Азимова можно найти самое проработанное, и принятое большинством людей решение проблемы безопасности. Речь идет о так называемых трех законах робототехники [3]:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Робот должен повиноваться командам, которые ему дает человек, кроме тех случаев, когда эти команды противоречат первому закону.

Робот должен заботиться о своей безопасности, насколько это не противоречит первому и второму закону.

На первый взгляд подобные законы, при их полном соблюдении, должны обеспечить безопасность человечества. Однако при внимательном рассмотрении возникают некоторые вопросы. Во-первых, законы сформулированы на человеческом языке, который не допускает простого их перевода в алгоритмическую форму. К примеру, перевести на любой из известных языков программирования, такой термин, как "причинить вред"или слово "допустить" на данном этапе развития информационных технологий не представляется возможным.

Далее предположим, что появилась возможность переформулировать данные законы на язык, который понимает автоматизированная система. Теперь интересно, что будет подразумевать система искусственного интеллекта под термином "вред" после долгих логических размышлений? Не решит ли она, что все существования человека это сплошной вред? Ведь он курит, пьет, с годами стареет и теряет здоровье, страдает. Не будет ли меньшим злом быстро прекратить эту цепь страданий? Конечно, можно ввести некоторые дополнения, связанные с ценностью жизни, свободой волеизъявления. Но это уже будут не те простые три закона, которые были в исходном варианте.

Следующим вопросом будет такой. Что решит система искусственного интеллекта в ситуации, когда спасение одной жизни возможно только за счет другой? Особенно интересны те случаи, когда система не имеет полной информации о том, кто есть кто.

Однако, несмотря на перечисленные проблемы, данные законы являются довольно неплохим неформальным базисом проверки надежности системы безопасности для систем искусственного интеллекта.

Так что же, неужели нет надежной системы безопасности? Если отталкиваться от концепции усилителя интеллекта, то можно предложить следующий вариант.

Согласно многочисленным опытам, несмотря на то, что мы не знаем точно, за что отвечает каждый отдельный нейрон в человеческом мозге, многим из наших эмоций обычно соответствует возбуждение группы нейронов (нейронный ансамбль) во вполне предсказуемой области. Были также проведены обратные эксперименты, когда раздражение определенной области вызывало желаемый результат. Это могли быть эмоции радости, угнетения, страха, агрессивности. Это наводит на мысль, что в принципе мы вполне могли бы вывести степень "довольности" организма наружу. В то же время, практически все известные механизмы адаптации и самонастройки (в первую очередь имеются в виду технические системы), базируются на принципах типа "хорошо" — "плохо". В математической интерпретации это сведение какой-либо функции к максимуму или к минимуму. Теперь представим себе, что усилитель интеллекта в качестве такой функции использует измеренную прямо или косвенно, степень удовольствия мозга человека-хозяина. Если принять меры, чтобы исключить самодеструктивную деятельность в состоянии депрессии, а так же предусмотреть другие особые состояния психики, то получим следующее.

Поскольку предполагается, что нормальный человек, не будет наносить вред самому себе, и, без особой на то причины, другим, а усилитель интеллекта является частью данного индивидуума (не обязательно физическая общность), то автоматически выполняются все три закона робототехники. При этом вопросы безопасности смещаются в область психологии и правоохранения, поскольку система (обученная) не будет делать ничего такого, чего бы ни хотел ее владелец.

И остался еще один вопрос — а стоит ли вообще создавать искусственный интеллект, может просто закрыть все работы в этой области? Единственное, что можно сказать по этому поводу — если искусственный интеллект возможно создать, то рано или поздно он будет создан. И лучше его создавать под контролем общественности, с тщательной проработкой вопросов безопасности, чем он будет создан лет через 100-150 каким-нибудь программистом-механиком-самоучкой, использующим достижения современной ему техники. Ведь сегодня, например, любой грамотный инженер, при наличии определенных денежных ресурсов и материалов, может изготовить атомную бомбу.

Список литературы

  1. Тьюринг, А. Может ли машина мыслить? (С приложением статьи Дж. фон Неймана "Общая и логическая теория автоматов" / А. Тьюринг; пер. и примечания Ю.В. Данилова. – М.: ГИФМЛ, 1960.
  2. Азимов, А. Я, робот. Все о роботах и робототехнике. Серия "Золотой фонд мировой фантастики" / А. Азимов. – М.:Эксмо, 2005.
  3. Шалютин, И.С. Искусственный интеллект: Гносеологический аспект / И.С. Шалютин. – М.: Мысль, 1985.