Машинам придется принимать сложные с точки зрения этики решения. Выходом может быть создание неоднозначных правил.

Все чаще используются различные алгоритмы при принятии моральных решений. Лучшим примером такого решения является высокотехнологическая версия так называемой «Проблемы вагонетки»: если невозможно избежать столкновения с одним из двух пешеходов, какое решение должна принять управляющая программа? Кого из пешеходов оставить в живых?

Пока автономным машинам не приходится решать такие задачи. Но многие другие существующие системы в скором времени будут сталкиваться с этическими оценками. В юриспруденции будут использоваться технические средства, которые должны будут учитывать при оценке опасности как риски для общества, так и негативные последствия для обвиняемого лица. А автономному оружию придется взвешивать на одной чаше весов жизни солдат, на другой – гражданских лиц.

Техника не рассчитана на такое

Проблема заключается в следующем: существующие алгоритмы не рассчитаны на принятие таких тяжелых решений. Они стремятся к достижению конкретной математической цели: или максимизации количества спасенных солдат, или минимизации смертей среди гражданских. Если программе придется столкнуться с несколькими, зачастую противоречивыми целями, и с такими нематериальными ценностями, как «свобода» и «благополучие», удовлетворительного математического решения не будет.

«Мы, как люди, хотим разных вещей, которые зачастую не сочетаются друг с другом», сказал Питер Экерсли, директор по исследованиям компании Partnership on AI. «Есть много ситуаций, в которых многое поставлено на доску, но при этом нецелесообразно (или даже опасно) программировать единственную целевую функцию, с помощью которой описывается собственно этика».

Такие дилеммы без четкого решения существуют не только для алгоритмов. Специалисты в области этики уже многие десятилетия занимаются этим вопросом и назвали его «Теорема невозможности».  Когда Экерсли понял, что искусственному интеллекту каким-то образом придется иметь дело  с этическими вопросами, ему пришла в голову одна идея: а что, если в алгоритмы встроить неопределенность?

Моральный ИИ

«Мы как люди часто принимаем расплывчатые решения», поясняет исследователь. «С точки зрения морали наше поведение непредсказуемо. Но когда мы работаем с искусственным интеллектом, мы обычно пытаемся внедрять конкретные и точные нормы». Экерсли предлагает нечто прямо противоположное: «А почему бы не создавать алгоритмы, в которых не будет однозначной уверенности, какое решение является правильным?».

Чтобы выразить эту идею математически, Экерсли предложил два возможных метода. Он исходит из того, что алгоритмы обычно программируются с учетом четких правил, отображающих человеческие предпочтения. Мы вносим в алгоритм идею о том, что жизнь собственных солдат мы ценим выше, чем собственных гражданских лиц; а жизнь гражданских лиц мы ценим выше, чем жизнь чужих солдат. Схема такого алгоритма не оставляет пространства для неопределенности.

Первый прием, разработанный Эккерли, называется «частичный порядок» и вводит небольшую долю неопределенности: можно задать в алгоритме то, что мы ценим жизнь наших солдат выше жизни чужих солдат, а жизнь наших гражданских лиц выше жизни чужих солдат;  но при этом мы отказываемся от преимущества наших солдат перед гражданскими лицами.

Неопределенный порядок

Второй метод, «Неопределенный порядок», использует несколько списков с абсолютными приоритетами, при этом каждому из них присваивается определенная вероятность. В 75% случаев мы отдаем приоритет собственным солдатам, затем собственным гражданским. В остальных случаях мы отдаем приоритет сначала гражданским, затем своим солдатам.

Алгоритм может использовать такую неопределенность при расчете и выборе различных возможных решений, указывая при этом на конфликты целей. Один из примеров применения такого алгоритма – искусственный интеллект, используемый  при принятии медицинских решений. Вместо того, чтобы однозначно рекомендовать конкретную терапию, ИИ может предложить три варианта: первый направлен на максимальное продление жизни пациента, второй – на минимизацию его страданий, и третий – на минимизацию затрат. «Если система не сможет принять решение, его придется принимать человеку», сказал Экерсли.

Карла Гомес, профессор информатики в Конелльском университете, экспериментировала с такими приемами в своей работе. В одном проекте она разработала автоматическую систему оценки воздействия плотины новой электростанции на русло Амазонки. Гидроэлектростанции дают чистую энергию, но оказывают серьезное влияние на реки и экосистемы.

ИИ принимает решение

«Это абсолютно другой сценарий, чем в случае с автономными автомобилями и другими задачами», сказала Гомес. «Но проблема остается реальной. Есть две несовместимые цели. Что делать?».

Это комплексная проблема, сказала Гомес. «Нам придется провести немало исследований, чтобы разобраться в этом вопросе.  Но подход Питера – важный шаг в правильном направлении».

С учетом постоянного развития алгоритмических систем значение этих проблем будет расти. «В сложных системах решение должен принимать искусственный интеллект», сказал Роман Ямпольский, профессор информатики Луисвилльского университета. «Один человек не в состоянии разобраться со всеми сложностями рынка акций или оружейных систем. У нас нет другого выбора – нам придется передать часть контроля машинам».