udav02 (udav02) wrote,
udav02
udav02

Американский юрист-информатик поднял проблему прав роботов

Вопрос о правах и обязанностях машин становится все актуальнее по мере развития технологий искусственного интеллекта.

Ученые по всему миру стремятся разрабатывать разумных, наделенных самосознанием, самодостаточных роботов. Автоматические устройства уже приобретают гражданство и потенциальную индивидуальность, открытым остается вопрос о том, должны ли они также иметь какие-то права. Профессор Вудроу Хартзог (Woodrow Hartzog) из Школы права (School of Law) и Северо-Восточного колледжа информатики (College of Computer and Information Science at Northeastern, CCIS - расположен в Бостоне, является одним из девяти колледжей Северо-Восточного университета) рассмотрел проблему

Ученый сконцентрировался на вопросе предоставления роботам негативных прав - прав, которые разрешают или обязывают бездействовать по отношению к индивиду (в противоположность положительным правам - обязательству предоставлять индивиду блага). Хартзог ссылается на исследования Кейт Дарлинг (Kate Darling) из Массачусетского технологического института (Massachusetts Institute of Technology). Ее работы показывают, что люди относятся более эмоционально к человекоподобным роботам, чем к тем, у кого мало или вообще нет человеческих качеств.

"Когда мы думаем в таком ключе, возникает вопрос, хотим ли мы запретить людям совершать определенные действия с роботом не потому, что стремимся защитить его, а из-за того, что насилие над роботом влияет на нас самих как на людей?", - спрашивает Хартзог. То есть не важно, защищать ли автоматическую машину от удара ножом, важно, что кто-то, ударив ножом человекоподобного робота, может проявлять тем самым антигуманные качества, что скажется в будущем и на его жизни, и на жизнях других людей. И с этой точки зрения, как считает Хартзог, было бы целесообразно присвоить роботам права.

В какой степени люди и роботы могут манипулировать друг другом?

Есть еще одна причина для рассмотрения вопроса о присвоении прав роботам: контроль степени, в которой люди и машины могут манипулировать друг другом. Как отмечает Хартзог, человечество приближается к созданию разумных роботов. В качестве примера ученый приводит Софию - гуманоидного робота с лицом Одри Хепберн, созданного с применением технологий искусственного интеллекта, что позволяет машине понимать человека и отвечать ему, выражая при этом свои эмоции. В этом году робот София, проект Hanson Robotics, добилась гражданства Саудовской Аравии.

Роботы, подобные Софии, занимают в информатике место, которое Хартзог и другие ученые называют "зловещей долиной".

"То есть они очень похожи на человека, но недостаточно близки ему, чтобы человек чувствовал себя с ними естественно. Близость выглядит даже немного отталкивающе, - определяет он. - Для изучения последствий взаимодействия человека и робота, возможно, лучше представлять себе милую, но не похожую на нас машину. - Например, главного героя в Диснеевском фильме Валли или симпатичную версию робота-пылесоса Румбы".

Ученый предложил провести мысленный эксперимент - представить, что роботу Румбе дана возможность налаживать отношения с владельцем: шутить, здороваться, спрашивать о проведенном дне и так далее.

"Думаю, что этого Румбу действительно полюбят, - продолжает ученый. - И вот представьте, что в один прекрасный день мой робот-пылесос начинает кашлять, отплевываясь и захлебываясь, у него отказывает одно колесо, и он хромает ко мне и говорит: "Отец, если ты не купишь мне обновление, я умру".

Этот вариант развития событий Хартзог назвал манипуляцией людьми, которая основывается на привязанности к роботам. В подобных ситуациях человек вынужден определять границы своего сострадания, и еще нет ни одного закона, который разрешил бы подобную ситуацию. Ученый отметил, что с появлением таких виртуальных помощников как Siri и Alexa, человечество уже на половине пути к такому развитию событий. Ведь если домашним помощникам будет предоставлен огромный доступ к самым интимным сферам человеческой жизни, то однажды люди начнут доверять роботам и дружить с ними.

Европарламент задумался о правах и обязанностях роботов

В феврале 2017 г. Европарламент принял резолюцию "Нормы гражданского права о робототехнике", в которой, в частности, предлагается внедрение общеевропейской системы регистрации умных машин. По замыслу парламентариев, отдельным категориям роботов следует присвоить индивидуальный регистрационный номер, который будет заноситься в специальный реестр. Парламентарии выступают и за введение страхования ответственности за причиненный роботом вред - по аналогии с ОСАГО. Пока чиновники не смогли договориться, по каким именно правилам будет наступать такая ответственность. Этот вопрос оставлен на ближайшее будущее.

Беспокоит Европарламент и нравственная сторона развития робототехники. Поэтому в качестве приложения к резолюции парламентарии представили "кодекс этики", которым разработчикам робототехники предлагают руководствоваться добровольно. Ключевые принципы кодекса - "делай благо" и "не навреди" - заимствованы из знаменитых "законов роботехники" Айзека Азимова. Принцип самостоятельности подразумевает добровольное информированное согласие человека на взаимодействие с роботом, а принцип справедливости - правильное распределение созданных при этом благ.

Документ вводит и возможность отмены действия, которая должна стать обязательной функцией системы контроля робота. Кроме того, парламентарии задали рамки будущей всеобъемлющей "Хартии робототехники". Предлагается подумать даже о том, должны ли в перспективе самые совершенные автономные роботы получить особый правовой статус электронных лиц - "с их особыми правами и обязанностями, включая обязанность возмещения любого причиненного ими вреда".


Tags: киборг
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 0 comments