Этическая проблематика искусственного интеллекта

NovaInfo 58, с.295-299, скачать PDF
Опубликовано
Раздел: Философские науки
Просмотров за месяц: 3
CC BY-NC

Аннотация

В данной работе рассматриваются возможности искусственного интеллекта, динамика его развития, связь с человеческим миром через этическое осмысление его возможностей и влияния. Отмечается уровень развития искусственного интеллекта, взаимодействие человека и машины, возможные последствия и проблемы.

Ключевые слова

МОРАЛЬ, ЭТИКА, ФИЛОСОФИЯ, ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ, ЭКСПЕРИМЕНТ

Текст научной работы

Джон Маккарти - автор термина "искусственный интеллект" в 1956 году выделяет одну из главных проблем в определении термина "ИИ" «Проблема состоит в том, что пока мы не можем в целом определить, какие вычислительные процедуры мы хотим называть интеллектуальными. Мы понимаем некоторые механизмы интеллекта и не понимаем остальные. Поэтому под интеллектом в пределах этой науки понимается только вычислительная составляющая способности достигать целей в мире». [3] Маккарти, резко ограничивает круг проблем, которые мог бы решить ИИ, расширив свой угол зрения. Таким образом, своим осторожным определением, Маккарти обозначает проблему, возникающую еще до появления ИИ, но требующую решения, для введения термина ИИ в оборот, проблему определения свойств интеллектуальности, разумности. Новая философская энциклопедия дает следующее определение понятию "интеллект" – «способность к опосредованному, абстрактному познанию, включающая в себя такие функции, как сравнение, абстрагирование, образование понятий, суждение, умозаключение» [3] . Участники Российской ассоциации искусственного интеллекта дают такое определение искусственного интеллекта - «свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека».[1]

Из вышесказанного можно остановиться на одном из ключевых понятий - понятии творчества, широко признаваемом как исключительно человеческая способность. В данном контексте следует предположить, что существование ИИ как такового обусловлено, в первую очередь, способностью к творчеству. Субъективной оценкой наличия интеллекта в техническом устройстве может выступить тест Алана Тьюринга, подобный грубый эмпирический метод имеет место быть в силу неопределенности того, что следует относить к "интеллектуальному". Суть теста довольно проста: человек и компьютер общаются посредством текстового чата, где задача машины дать понять человеку, что он общается с себе подобным, задача же человека "вывести собеседника на чистую воду" и доказать обратное. Создавая этот тест, Тьюринг задавался вопросом, обладает ли машина способностью мыслить, что прямо включено в определение интеллектуальности. Данный тест способен лоб в лоб столкнуть предполагаемый машинный интеллект и интеллект человеческий, разум человека способен ясно разглядеть присутствие или отсутствие разумности. Данное утверждение требует некоторого пояснения.

На данный момент ИИ способно успешно симулировать человеческую деятельность на основании накопленных знаний, благодаря машинному обучению. Одним из наиболее демонстративных вариантов реализации усвоенных знаний может послужить фотографическая база данных, основанная на физиологических свойствах каждого конкретного человека. Утверждение о том, что человек способен распознать "подвох" подкрепляется следующим - в основе машинного обучения лежат строгие логические алгоритмы, неспособные предугадать возможную иррациональность человека. Так, недавний прототип ИИ Tay от Microsoft, созданный с целью изучить поколение миллениума с помощью непосредственного общения в сети, был выпущен в открытое пространство Twitter`a и уже к вечеру принял фашистские идеи, геноцид мексиканцев, борьбу против феминизма. В срочном порядке компании пришлось выводить чат-бота из сети и приносить извинения. Данный пример иллюстрирует насколько изобретателен человек и насколько пока несовершенны алгоритмы работы ИИ. Однако стоит подчеркнуть, что ИИ делает большие успехи в том кругу задач, который обозначил Маккарти в 1956 году, а именно: машинный интеллект стоит понимать как вычислительную составляющую способности достигать целей в мире. Так недавняя победа программы от Google AlphaGo в игру Го над мировым чемпионом Ли Седолем, в 1997 году Гарри Каспаров уступил партию в шахматы программе Deep Blue от IBM, способной просчитывать до 200 миллионов комбинаций в секунду.

История с чат-ботом Tay ставит новую проблему внедрения в реальную жизнь ИИ в том виде, какой он существует на данный момент. Последние десятилетия ИИ обретает материальную форму в виде различных роботов-помощников, программ-ассистентов или автомобилей на автопилоте с использованием алгоритмов машинного обучения. Данная проблема имеет важное значение в настоящий момент, так как ведущие автопроизводители уже несколько лет постепенно внедряют элементы автопилота в свои автомобили, а компания Tesla Motors вывела в массовое производство транспортное средство с возможностью полного автономного управления.

Представитель одного из ведущих мировых автоконцернов Mercedes-Benz Кристоф фон Гюго заявил, что "Если вы знаете, что можете спасти хотя бы одного человека, спасите его. Того, кто находится в автомобиле». Такое решение этической дилеммы вагонетки может не всех устроить. Одним из вариантов решения такой проблемы может быть обязательство компании-производителя, в случае происшествия с участием автопилота, брать ответственность на себя за действия или бездействия их ИИ. С формальной точки зрения, в критической ситуации человек остается без права выбора, так как автомобиль будет под контролем ИИ, в таком случае водитель будет лишь молчаливым свидетелем, неспособным к активному вмешательству. Однако, человек все же в силах делать выбор и водитель с системой ИИ уже сделал его, приобретя в пользование столь сложное устройство. Возможно, еще не столкнувшись со столь критической ситуацией, где решается вопрос о жизни и смерти случайного человека, потенциальный владелец ИИ не способен осознать всей ответственности. Человеческое существование имеет свой уклад, свой ритм, в подобной зоне комфорта, если уместно это выражение, человек будет защищать ее, идя на поводу у собственных интересов, возможно, жертвуя чужими, конечно же это лишь предположение и оно точно не распространяется на всех. Вышеуказанные критические ситуации вырывают нас из привычного ритма, заставляя взглянуть на мир новыми глазами, где каждый наш выбор имеет значение, пусть даже самое маленькое решение в перспективе способно разрастись до серьезных масштабов. А такие важные экзистенциальные вопросы как жизнь и смерть способны пробудить от привычного. Свойственная людям эмпатия, возможность представить себя на месте другого человека позволяет нам быть более человечными.

На данный момент существуют несколько этических ограничений для ИИ, это 3 закона робототехники Айзека Азимова, сформулированные в 1942 году в рассказе «Хоровод». Они звучат так:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
  2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам. [1]

Однако эти законы по большей части регулируют отношения между человеком и роботом, не давая этических основ для регулирования отношений робот-робот. Также данные законы заметно ущемляют права ИИ, ставя человека куда выше. В решении этой проблемы стоит точно определиться в вопросе о том, как стоит воспринимать ИИ, как сотворенный бездушный предмет, где человек выступит творцом и Богом для него или же как равного себе. Законы, сформулированные в середине прошлого века, уже утратили свою актуальность, так как прогресс шагнул далеко вперед, тем не менее, эти три закона Азимова, вполне могут быть основой «морали» для ИИ, на которой в будущем будут строиться частные решения конкретных проблем.

На данный момент искусственный интеллект делает успехи и в творческой деятельности: «Новелла, написанная программой искусственного интеллекта от команды исследователей из японского университета Future University Hakodate, смогла пройти первый этап третьего литературного конкурса Nikkei Hoshi Shinichi Literary Award, жюри которого на протяжении конкурса не располагало информацией об авторах». [2]

Разработчики только обозначили параметры произведения, по которым компьютер должен был создать текст: сюжет и пол персонажей, слова и обороты речи. В задачу искусственного интеллекта входило собрать все элементы в понятное, убедительное и структурированное целое, в результате чего на свет появилась новелла "День, в который компьютер написал роман".

Произведение, по сюжету которого увлекшийся написанием романов компьютер отказался служить человечеству, не смогло победить в конкурсе, но стало наглядной демонстрацией роста возможностей искусственного интеллекта. Писатель Робин Слоан создал на основе рекуррентной нейронной сети текстовый генератор для написания научно-фантастической прозы. Для обучения он использовал тексты из американских научно-фантастических журналов 60х-70х. Слоан представил свой проект на хакатоне Real Future Fair в Окленде. На глазах у зрителей нейросеть написала начало мрачного научно-фантастического романа: «Давным-давно в Окленде появился робот, созданный уничтожить все высокопоставленные семьи. Высокопоставленными семьями, конечно, были те, которые владели временами года. Когда они хотели, было лето. Когда они решали — наступала зима». Однако данный роман явился результатом прогона через сеть искусственного интеллекта сотен текстов, написанных человеческой рукой. Данный пример характеризует ИИ как творческую систему, основанную только на анализе и синтезе, вопрос о том, насколько это может являться творчеством, требует детального рассмотрения. Обыденный взгляд может заметить, что и человек в процессе творчества анализирует прошлый опыт и синтезирует новое, также следует отметить, что помимо этого, человек может пребывать в различных состояниях, таких как: аффект, стресс, эмоциональное выгорание, фрустрация, страсть. Все эти состояния оказывают непосредственное влияние на то, что будет написано. Программа может находиться только в двух положениях: 0/1.

Читайте также

Список литературы

  1. Аверкин А. Н., Гаазе-Рапопорт М. Г., Поспелов Д. А. Толковый словарь по искусственному интеллекту. — М.:Радио и связь, 1992. — 256 с.
  2. Азимов, Айзек. Эссе № 6. Законы роботехники // Мечты роботов. — М.: Эксмо, 2004. — С. 781—784. — ISBN 5-699-00842-X.
  3. What is artificial intelligence? John McCarthy Computer Science Department. Stanford University Revised November 12, 2007: http://www-formal.stanford.edu/jmc/whatisai/whatisai.html

Цитировать

Севитова, Н.Е. Этическая проблематика искусственного интеллекта / Н.Е. Севитова. — Текст : электронный // NovaInfo, 2017. — № 58. — С. 295-299. — URL: https://novainfo.ru/article/10951 (дата обращения: 21.05.2022).

Поделиться