Большинство исследований этики искусственного интеллекта (ИИ) касаются его использования для вооружения, транспорта или профилирования. И хотя опасность, которую представляет собой автономный расистский танк, нельзя недооценивать, во всём этом есть ещё один аспект. А как насчёт нашей ответственности перед ИИ, который мы создаём?

Многопользовательские ролевые онлайн-игры (такие как World of Warcraft) представляют собой карманные реальности, в основном населённые неигровыми персонажами. На данный момент эти персонажи не особо умны, но дайте им 50 лет, и они, скорее всего, такими станут.

Однажды мы сможем создать виртуальные миры с такими же разумными персонажами, как и мы сами.Изображение: unsplash.com

Простите? Вы думаете, что 50 лет будет мало? Давайте тогда возьмём 500 … или даже 5 миллионов. Сколько бы времени не понадобилось, это вполне достижимо.

Вам нужны компьютеры размером с планету? Вы можете их получить. Вы хотите, чтобы компьютеры были сделаны из тканей человеческого мозга? Вы тоже вполне можете их получить. В конце концов, мы верим, что у нас будут виртуальные миры, в которых будут персонажи, такие же умные, как мы, — если не умнее, — и обладающие полной свободой воли. Какова будет наша ответственность по отношению к этим существам? В конце концов, мы будем буквальными богами реальностей, в которых они будут обитать, контролируя физику их миров. При этом мы сможем делать с ними всё, что захотим.

Итак, зная всё это … должны ли мы творить подобное?

Этические трудности свободы воли

Как разбирал в своей недавней книге британский учёный Ричард А. Бартл (Richard A. Bartle), всякий раз, когда речь заходит о «должен», вмешивается этика, беря верх, — даже в видеоиграх. Первый вопрос, который нужно задать, заключается в том, достойны ли наши игровые персонажи будущего, в котором бы их считали моральными сущностями, или они просто биты в базе данных. Если второе, то нам не нужно ими сильно беспокоить свою совесть.

Хотя на самом деле этот вопрос достаточно спорный. Если мы создаём наших персонажей свободомыслящими существами, то мы должны относиться к ним так, как если бы они были таковыми — независимо от того, какими они могут казаться внешнему наблюдателю.

В таком случае, можем ли мы отключать наши виртуальные миры? Ведь это может означать обречение миллиардов разумных существ на небытие. Тем не менее, было бы нормально, если бы мы могли сохранять копию их мира в тот момент, когда мы его решим отключить? Но означает ли теоретическая возможность того, что мы можем снова включить их мир в том виде, в каком он был, что мы на самом деле их не убиваем? Что тогда делать, если у нас не будет оригинального игрового программного обеспечения?

Можем ли мы на законных основаниях причинять страдания этим персонажам? Мы сами реализуем саму концепцию, так что вопрос, скорее, не столько в том, можно ли их мучить, сколько в том, стоит ли вообще их мучить. В современных обществах позиция по умолчанию заключается в том, что аморально заставлять свободомыслящих людей страдать, если только они не согласятся на это сами или это не спасёт их (или кого-то ещё) от чего-то худшего. Мы не можем просить наших персонажей согласиться родиться в мире страданий – их не будет существовать, когда мы создадим игру.

А как насчёт альтернативы «что-то похуже»? Если вы обладаете свободой воли, вы должны быть разумны, а значит, сами должны быть нравственным существом. Это означает, что у вас должна быть развитая мораль, поэтому с вами должны происходить плохие вещи. В противном случае вы будете не в состоянии размышлять о том, что правильно или неправильно, чтобы развивать свою мораль. Иными словами, если не случится ничего плохого, свободы воли не будет. Удаление свободы воли у существа равносильно уничтожению того существа, которым оно было раньше, поэтому да, мы должны допустить страдание, иначе концепция разумного характера является оксюмороном.

Потусторонняя жизнь

Признав тот факт, что наши персонажи будущего — свободно мыслящие существа, какое место они заняли бы в иерархии важности? В общем, при прямом выборе между спасением разумного существа (например, малыша) или просто разумного существа (например, собаки) люди предпочли бы первое второму. Учитывая аналогичный выбор между спасением настоящей собаки или виртуального праведника, что бы тогда возобладало?

Имейте в виду, что если ваши персонажи считают себя нравственными существами, а вы их таковыми не считаете, они сочтут вас придурком. Как точно выразился Альфино Левейер (Alphinaud Leveilleur), персонаж «Final Fantasy XIV» (его мир был создан действиями существ, которые, как следствие, не считают его по-настоящему живым): «Мы определяем нашу ценность, а не обстоятельства нашего создания!».

Однажды мы сможем создать виртуальные миры с такими же разумными персонажами, как и мы сами.Изображение: unsplash.com

Позволим ли мы нашим персонажам умереть? Это дополнительная работа по реализации концепции. Если они действительно живут вечно, делаем ли мы их неуязвимыми или просто не даём им умереть? В конце концов, жизнь не была бы такой уж весёлой после падения в блендер. Если они умрут, мы отправим их в игровой рай (или в ад) или просто сотрём их?

Это не единственные вопросы, которые мы можем задать. Можем ли мы вложить идеи в их головы? Можем ли мы изменить их мир, чтобы связываться с ними? Навяжем ли мы им свою мораль или позволим им развивать собственную (с которой мы можем не согласиться)? Их гораздо больше.

В конечном счете, самый большой вопрос: должны ли мы вообще создавать разумных персонажей?

Теперь вы, наверное, заметили, что Бартл задал в своей статье достаточно много вопросов. И вам вполне может быть интересно, каковы ответы на эти вопросы.

Впрочем, автору тоже интересно получить ответы на все эти вопросы! Ведь в этом и смысл данной задачи. Человечество ещё не имеет этических рамок для создания реальностей, богами которых мы являемся. Пока не существует системы метаэтики, которая могла бы нам помочь. Нам нужно разобраться с этим, прежде чем мы построим миры, населённые существами со свободной волей, будь то через 50, 500, 5 млн. лет или завтра. Это вопросы, на которые нам необходимо ответить.

Однако будьте осторожны в том, как вы это делаете. Вы можете создать прецедент. Мы сами являемся неигровыми персонажами Реальности.

Правописание уведомления вебмастера


Понравилось? Поделитесь с друзьями!

Комментарии

- комментариев

EnglishРусскийУкраїнська
Включить уведомления Да Спасибо, не надо