3 закона робототехники

Использование в другой фантастике

Айзек Азимов верил, что его законы помогут по-новому взглянуть на роботов и побороть “феномен Франкенштейна” в массовом сознании людей и в научной фантастике. И что роботы могут быть интересными, а не просто механическими устройствами.  И надо сказать, ему это удалось. Любимый его пример, где роботы показаны с разных сторон, был фильм Звездные войны. Кстати, читайте статью о том, как Азимов повлиял своими произведениями на Джорджа Лукаса.

Другие авторы, в итоге, тоже подхватили идею, и стало появляться все больше роботов в научной фантастике, подчиняющихся трем законам. Но, по традиции, указывал их явно только Азимов.

Нередко можно встретить различные отсылки в фильмах. Ниже перечислены некоторые примеры.

Запретная планета — 1956 г.

Очень нашумевшая американская научно-фантастическая картинка 1950-х, оказала определенное влияние на развитие жанра. В этом фильме, чуть ли не впервые показали робота со встроенной системой безопасности, то есть, по сути, выполняющего три закона. Сам Азимов был доволен этим роботом.

Двухсотлетний человек — 1999 г.

Тут и нечего говорить, фильм поставлен по одноименному произведению Азимова. Однако, законы не имеют центрального места в сюжете.

Я, робот — 2004 г.

Фильм начинается со слов “По мотивам рассказов Айзека Азимова”. Здесь надо понимать, что он именно “по мотивам” и не повторяет ни один из рассказов, и даже ушел несколько в сторону в некоторых идеях, а также имеет ряд противоречий с рассказами. Но законы робототехники более чем на месте, хотя и были обдуманы сверх интеллектом в не лучшую для человека сторону. Сам по себе фильм даже ставит социально-философские проблемы: “стоит ли человеку за свою безопасность платить свободой” и “как нам себя вести, если существа, созданные нами и находящиеся в нашем распоряжении, потребуют свободы”.

Серия фильмов «Чужие» и «Прометей»

Андроид Бишоп цитирует первый закон и явно создавался на некоем подобии законов Азимова.

Мультсериал «Футурама» — 1999 — 2013 г.

Робот Бендер мечтает убить всех людей, но не может этого сделать из-за законов робототехники.

Аниме сериал «Время Евы» — 2008 — 2009 г.

Небольшой аниме сериал про андроидов. В нем упоминаются эти законы, как обязательные для исполнения.

Проблемы применения

Разрешение противоречий

Сам Азимов в предисловии к рассказу «Первый закон» в сборнике «Остальное о роботах» (1964) заявил, что в Законах было как раз столько двусмысленности, чтобы обеспечивать конфликты и неопределенности для новых рассказов. Наиболее совершенные модели роботов обычно следовали Законам по довольно хитрому алгоритму, который позволял избегать некоторых проблем. Во многих рассказах, например в «Хороводе», в позитронном мозге сравнивались потенциалы возможных действий и исходов, и робот мог нарушить Законы, как только это представлялось возможным, вместо того, чтобы бездействовать. Например, Первый Закон не позволял роботу проводить хирургические операции, так как для этого нужно «наносить вред» человеку. Однако в азимовских рассказах можно найти роботов-хирургов (яркий пример тому — «Двухсотлетний человек»). Дело в том что робот, если он достаточно совершенен, может взвесить все альтернативы и понять, что он сам причинит гораздо меньше вреда, чем если бы операцию проводил человек-хирург или она бы вообще не состоялась. В «Уликах» Сьюзен Кэлвин говорит даже, что робот мог бы выступать в качестве прокурора, так как он лично не причиняет никому вреда: кроме него есть еще присяжные, которые устанавливают виновность, судья, который выносит приговор, и палач, приводящий его в исполнение.

Роботы, подчиняющиеся Законам, могут испытать «роблок», или «умственное замораживание» — состояние необратимого повреждения позитронного мозга, — в случае если они не могут подчиниться Первому Закону или обнаруживают, что случайно нарушили его. Это возможно, например, если робот наблюдает сцену убийства человека, но находится слишком далеко, чтобы его спасти. Первый случай такого «замораживания» происходит в «Лжеце»; также немаловажную роль это состояние играет в сюжете романов «Обнаженное солнце» и «Роботы зари». Несовершенные модели роботов могут блокироваться, если перед ними поставили задачу подчинения двум противоречащим приказам. «Замораживание» может быть необратимым или временным. Разрешением противоречий и изучением поведения роботов занимаются робопсихологи, как один из персонажей Азимова — Сьюзен Келвин.

Иное определение вреда в Первом Законе

Законы никак не определяют границы того, что может называться вредом для человека — это часто зависит от возможностей робота воспринимать информацию и философски мыслить

Например, будет ли полицейский робот понимать, что он не нанесет вреда человеку, если осторожно проводит особо опасного преступника в участок?. В рассказе «Лжец!» робот-телепат Херби вынужден был понимать под вредом и то, что может любым способом разочаровать или расстроить людей — он знал, что люди при этом испытывают некую душевную боль

Это заставляло его постоянно говорить людям вместо правды то, что они хотели услышать. В противном случае, в его понимании, он нарушил бы Первый Закон

В рассказе «Лжец!» робот-телепат Херби вынужден был понимать под вредом и то, что может любым способом разочаровать или расстроить людей — он знал, что люди при этом испытывают некую душевную боль. Это заставляло его постоянно говорить людям вместо правды то, что они хотели услышать. В противном случае, в его понимании, он нарушил бы Первый Закон.

Лазейки в Законах

В «Обнаженном солнце» Элайдж Бейли замечает, что Законы неправильно формулируются людьми, потому что робот может нарушить их по незнанию. Он предложил следующую «правильную» формулировку Первого Закона: «Робот не может делать ничего, что, насколько ему известно, причинит вред человеческому существу или умышленно допустить, чтобы человеческому существу был причинен вред».

Это дополнение проясняет, что робот может даже стать орудием убийства, если он не осведомлен о сущности своих действий. Например, ему могут приказать добавить что-то кому-то в пищу, а он не будет знать, что это яд. Более того, Бейли говорит, что преступник может поручить эту задачу нескольким роботам, так, чтобы ни один не понял замысла целиком.

Бейли утверждает, что солярианцы однажды смогут использовать роботов даже в военных целях. Если космический корабль будет построен с роботоподобным мозгом и при этом на нем не будет ни людского экипажа, ни систем жизнеобеспечения, то этого корабля может ошибочно предположить, что и на всех космических кораблях нет людей. Такой корабль будет более маневренным, быстрым, а возможно и лучше вооруженным, чем управляемый людьми. Но самое главное, он будет способен уничтожать людей, не подозревая об их присутствии. Эта возможность описана в «Основании и Земле», где также выясняется, что солярианцы обладают чрезвычайно мощной армией роботов, понимающих под «людьми» только уроженцев Солярии.

Часть 3. Роботы и история будущего

«Заминка на праздновании Трехсотлетия»

На дворе 2076 год. Нации перестали существовать – теперь это Федерация всего человечества на Земле вкупе с поселениями на Луне и в космосе.

На праздновании Трехсотлетия в Вашингтоне офицер из службы безопасности, Эдвардс, увидел, как пожимающий руки Президент Уинклер вдруг исчез, а потом появился на трибуне и заявил, что на его двойника, робота было совершено покушение. И произнес лучшую речь в истории. После этого инцидента из популиста и позера Президент вдруг стал очень умным политиком, сплотившим Федерацию. Эдвардс убежден, что на празднике Трехсотлетия убили настоящего президента, а его место занял его двойник робот. И при убийстве было задействовано секретное оружие дезинтегратор, доступ к которому мог быть только у президента.  Но так, как робот не может убить, вероятно у него был сообщник.

«Рождество без Родни»

Говард и Грэйси решили дать своему старому роботу Родни выходной на Рождество. К ним приехали сын Дилэнси с женой Гортензией, внуком Лероем и роботом Рембо. Оказалось, что Рембо не мог ничего делать в доме Говарда и Грэйс, потому что в своем доме он лишь нажимал кнопки,  а не работал. Пришлось вызывать Родни и спрашивать у него, что нужно делать, а затем передавать это Рембо. В конце концов, Лерой ударил Родни и соврал, что Родни сам его ударил, но Рембо подтвердил, что ребенок виноват сам. А Родни сказал, что за это Рождество он несколько раз сожалел, что должен соблюдать три закона.

«Братишка»

Чтобы завести ребенка, нужно получить лицензию. Поэтому у большинства  по одному ребенку. У пожилых супругов, в конце концов, родился сын Чарли, и он по своему развитию превосходил сверстников, был крупнее и сильнее. Другие родители боялись отпускать детей играть с Чарли. И чтобы Чарли не рос одиноким, Джози предложила завести робота-братишку. Братишка очень нравился Джози, и когда Чарли срывал на нем свою злость, Джози заступалась за робота.

Как-то раз рассказчику нужно было отлучится из дома,  и когда он возвращался, он увидел, что дом пылает. Джози кинулась в дом и спасла сына, но как оказалось, она спасла не Чарли, а Братишку, и рассказчик убил жену.

«Световирши»

Миссис Эвис Ларднер, вдова астронавта, погибшего от радиации, спасая пассажирский корабль, получила страховку и создала у себя дома музей антиквариата. Кроме этого она увлекалась световыми скульптурами, которые называла световирши и была очень милой и притяной женщиной. Миссис Ларднер очень любила своих домашних роботов и относилась к ним, как к людям. Теперь ее обвиняют в убийстве главного инженера «Ю.С. Роботс» Джона Семпера Трэвиса. Как же она могла пойти на убийство?

«Как жаль»

Грегори Арнфредд был болен раком на последней стадии. Он изобрел робота по имени Майк. Майка должны были уменьшить и впрыснуть в кровь Арнфредда, где робот должен был уничтожить раковые клетки. Главный риск эксперимента –  робот мог непроизвольно увеличиться обратно.

Национальная особенность робототехники

Гудрун Лиценбергер, рассказывая о мировом рынке роботов, основываясь на данных IFR, отметила, что ассоциация насчитала в 2015 году 600 производителей сервисных роботов. Для России обнаружилась особенность в распределении производителей: почти всю продукцию производят стартапы, тогда как в развитых и развивающихся странах — меньше трети. Это показывает неразвитость этой отрасли в России, но можно и порадоваться за институты развития, которым удалось создать условия для развития молодых бизнесов в этой отрасли.

В России у стартапов есть типичная проблема: те из них, у которых амбиции вырастают за пределы страны, стремятся переехать в Кремниевую долину или в другие локации в развитых странах. Участники Russian Tech Tour обсуждали, что может помочь оставить стартапы в России. Полностью или частично — например, сохранить за Россией часть интеллектуальных прав или отдел исследований и разработки компании.

Александра Джонсон считает, что бесполезно удерживать стартапы, когда они вырастают до международного уровня, можно только работать над тем, чтобы местный рынок стал для них привлекательным.

Протезами Kleiber bionics и «Моторика» владелец может действовать почти также, как здоровой рукой

Фотография: Мария Крючкова

А вот Алексей Тукнов, инвестиционный директор Maxfield Capital, настроен более оптимистически: «Ключевая задача стартапа на ранней стадии — привлечение инвестиций и первые продажи. Если компания не решает эту задачу, она закрывается. Чтобы стимулировать компании оставаться в России, необходимо работать над увеличением концентрации компетенций, экспертизы и капитала. На практике это может быть реализовано в доступе к smart money — квалифицированным венчурным фондам, которые могут помочь с выходом на внешние рынки, а также с доступом к крупнейшим корпорациям, которые могут выступить клиентами стартапа».

Александра Джонсон также отметила необходимость развития института частных инвесторов в стране, потому что венчурные капиталисты традиционно предпочитают синдицированные сделки (когда вложение осуществляется несколькими инвесторами), поэтому им необходимы партнеры в России.

Важно также, чтобы решения, которые сейчас рождаются в нашей стране, перестали быть единичными. Вокруг разработок, которые смогли стать конкурентоспособными, необходимо выращивать экосистему, обеспечивающую решение сопутствующих задач: от инжиниринговых решений и проблем развития ИИ до поисков финансирования и продаж по всему миру

Иначе разрозненным компаниям будет слишком легко и соблазнительно оторваться и перенестись туда, где среда пусть и конкурентная, но способная поставлять кадры и клиентов.

«Законы робототехники» Тильдена

Марк У. Тилден — физик-робототехник, который был пионером в разработке простой робототехники. Его три руководящих принципа / правила для роботов:

  1. Робот должен защищать свое существование любой ценой.
  2. Робот должен получить и поддерживать доступ к собственному источнику энергии.
  3. Робот должен постоянно искать лучшие источники энергии.

Что примечательно в этих трех правилах, так это то, что они, по сути, являются правилами для «дикой» жизни, поэтому, по сути, Тилден заявил, что он хотел «прокторировать кремниевые разновидности в разум, но с полным контролем над спецификациями. Не растений. Не животное. Что-то еще «.

Фильм «Я, робот»

Принципиальное отличие фильма от рассказов Айзека Азимова в том, что во времена Сьюзен Келвин и Альфреда Лэннинга роботы не могли свободно разгуливать по Чикаго. В рассказах использование роботов на Земле было запрещено. Истории о роботе Санни в рассказах тоже нет, есть некоторые сходные эпизоды. Например сон Санни — из рассказа «Сня роботов», а идея сцены поиска робота на заводе среди тысячи других взята из рассказал «Как потерялся робот». Идея управления роботами централизовано единым позитронным мозгом есть в «Двухсотлетнем человеке». Роботы во многих рассказах — огромные махины, в фильме они вполне человеческого роста.

РАЗВИТИЕ РАБОТОТЕХНИКИ

Если опираться на историю развитие робототехники набирает большую актуальность в 20 веке в связи с научно-техническим прогрессом. Данный термин описал американский писатель, фантаст — Айзек Азимовов в 1942 году, используя целый мир, где человечество взаимодействовало в реальной жизни с роботами.

Конкретно история развития робототехники начинает активно развиваться в 60 годах 20 века. Тогда компания Unimation предоставила промышленный роботизированный механизм и организация General Motors активно внедряет роботов в свою деятельность. А уже к концу 60-х годов, в начале 70 был изобретен мультифункциональный робот Shakey, который имел много функционала и мог проанализировать свои действия.

Развитие робототехники довольно активно набирает обороты, что говорит об актуальности роботизированной техники в наше время. Многие специалисты в данной отрасли говорят о том, что данный процесс развития механизмов для упрощения жизни людей не остановить.

Мы можем заметить тот факт, что люди привыкли к технике и уже не могут представить жизнь без многих устройств, которые упрощают нам жизнь. Промышленность идет в ногу с развитием техники, и уже работу на заводах невозможно представить без специально запрограммированной техники. Где большую часть работы выполняет техника, а меньшая часть — это люди, контролирующие работу автоматических устройств.

Предубеждение против роботов?

Другой аспект (и потенциальный недостаток) трех законов в очевидном шовинизме —предположение о том, что роботы должны оставаться, несмотря на их превосходящую мощь, в подчинении у человека, человеческих потребностей и приоритетов.

«Общество будущего у Азимова состоит сплошь из шовинистов: у людей прав гораздо больше, чем у роботов. Три закона робототехники были созданы, чтобы поддерживать именно такой общественный порядок».

Хельм смотрит на эту проблему немного по-другому, утверждая, что если мы окажемся в такой ситуации — это само по себе будет свидетельством того, что мы зашли слишком далеко.

«Я думаю, было бы неразумно проектировать систему искусственного интеллекта или робота с самосознанием. И в отличие от фильмов или книг, в которых создатели искусственного интеллекта «случайно» приходят к разумным машинам, я не верю, что в реальном жизни это может случиться. Для этого понадобится слишком много усилий и знаний. И большинство разработчиков ИИ — этически подкованные люди, поэтому они будут избегать создания того, что философы называют «морально значимыми существами». Особенно когда они с легкостью могут создать продвинутую машину, которая не будет обладать этическими задатками».

Хельм не обеспокоен необходимостью разработки асимметричных законов, регулирующих значимость роботов по сравнению с людьми, утверждая (и надеясь), что будущие создатели искусственного интеллекта будут опираться на некоторые этические ограничения.

«Я как бы думаю, что люди сделаны из атомов, поэтому в теории инженер может создать синтетическую форму жизни или робота с моральным значением. Я хотел бы думать, что никто этого не сделает. Думаю, большинство людей тоже. Но неизбежно появится некий дурак, жаждущий известности первопроходца, даже если это неэтично и глупо».

Три закона робототехники 2.0?

Учитывая очевидные недостатки трех законов робототехники Азимова, ресурс io9 задался вопросом: можно ли их исправить или внести доработки? На самом деле, многие писатели-фантасты многократно пытались сделать это, внося поправки в течение многих лет.

«Нет, — считает Хельм. — Нет никаких «патчей» для трех законов».

Помимо своей противоречивой природы, законы еще и состязательны по своей природе.

«Я сторонник подходов машинной этики, которая более кооперативна, более последовательна и опирается на нормативы, а значит может оправиться от недоразумений или исправить неправильное программирование».

Герцель эхом вторит утверждениям Хельма.

«Определение набора этических заповедей в качестве ядра машинной этики будет безнадежным, если в основе машины будет гибкий общий искусственный интеллект. Если он будет задуман как интуитивный, гибкий, адаптивный или этический — в этом контексте этические заповеди будут полезны для системы только как грубый ориентир для применения собственной этической интуиции. Но в этом случае заповеди не станут основой этической системы, а только лишь аспектом. Это можно рассмотреть на примере людей — этические принципы, которые мы изучаем, работают, но не в качестве руководящих принципов, они лишь подталкивают нашу интуицию и этические инстинкты. Мы практически независимы от этических принципов».

Перемены на рынке

Пока основную массу роботов на рынке составляют индустриальные роботы, применяемые на производстве, но в ближайшие год-два ожидается существенное изменение рынка. Итоги предыдущего года еще не опубликованы, но в 2015 году общий оборот рынка роботов составил 35 млрд долларов.

По прогнозам Международной федерации роботов (IFR), с 2016 по 2019 год в мире будет установлено 1,4 млн индустриальных роботов. Поставки на этом рынке растут в среднем на 14% в год, и в текущем году прогнозируется установка 322 тыс. индустриальных роботов. Эти данные были представлены Гудрун Лиценбергер, генеральным секретарем IFR.

Многоцелевая робототехническая платформа «Муром»

Фотография: Мария Крючкова

Госпожа Лиценбергер напомнила, что по общим поставкам роботов лидирует Китай — 68 556 штук в 2015 году (данные за 2016-й еще не опубликованы), который почти вдвое обгоняет Южную Корею, установившую 38 285 роботов в 2015 году. Однако при расчете «плотности» обеспечения робототехникой Поднебесная оказывается на вторых ролях: 49 роботов на 10 тыс. рабочих промышленной сферы — это меньше, чем в среднем по миру (подводит большая численность населения). Самая роботизированная страна — Южная Корея, в которой на 10 тыс. сотрудников приходится 531 робот. Следом с значительным отставанием идут Япония, Германия и США. Напомним, что в России «плотность» индустриальных роботов оценивается в два устройства на 10 тыс. человек. При этом отмечается падение числа установок после 2013 года — видимо, из-за повышения курса доллара и санкций.

Отметив эту грустную тенденцию, Гудрун Лиценбергер показала и новую точку роста для нашей страны. Она отметила взрывообразный рост другой категории роботов — сервисных, помогающих человеку в рабочей или домашней деятельности. Под это определение подходят и уже привычные роботы-пылесосы, и сельскохозяйственные аппараты для ухода за скотом, и еще мало распространенные роботы социального назначения, помогающие осуществлять уход за больными.

Стоит отметить, что IFR очень придирчиво подходит к названию «робот», потому что с 2016 по 2019 год прогнозируются поставки 31 млн устройств для помощи по дому и еще 11 млн развлекательных. Из трендов в сфере сервисных роботов для человека IFR отмечает медицинские устройства (для обследования пациентов и проведения операций), а также экзоскелеты (для восстановления больных и облегчения операций, требующих тяжелых физических нагрузок).

Что касается профессиональных сервисных роботов, то быстро развивается сектор логистики: в 2016–2019 годах поставки роботов для автоматизации складов обгонят по поставкам все оборонные и сельскохозяйственные устройства, вместе взятые: 175 тыс. против 75 и 35 тыс. соответственно.

Все роботы Три закона роботехники Айзека Азимова

Айзек Азимов, американец белорусского происхождения, является одним из классиков мировой фантастики. Он, вместе с другими выдающимися фантастами XX века, такими, как Артур Кларк, Роберт Хайнлайн и Джон Вуд Кэмпбелл, внес огромный вклад в становление золотого века американской фантастики.

Родился Айзек Азимов 2 января 1920 года в местечке Петровичи. В то время оно относилось к Мстиславльскому езду Могилевской губернии, сегодня же Петровичи входят в состав Смоленской области. В 1923 году Азимов с семьей переехал в США, где он и умер в 1992 году.Айзик Азимов начала писать с 11 лет. Первая его публикация состоялась в 1939 году, когда журнал Amazing stories опубликовал его рассказ «В плену у Весты». Известность пришла к Азимову спустя два года, после публикации рассказа «Приход ночи». В нем повествуется о планете, окруженной шестью звездами, вследствие чего ночь наступает здесь только раз в 2049 лет. Рассказ стал водоразделом в литературной карьере Азимова, превратив никому неизвестного фантаста в знаменитого писателя.Примерно в это же время Айзек Азимов начал работать в направлении роботехники. Именно его рассказы, касающиеся роботов и их места в мире, принесли писателю мировую славу. В 1941 году в рассказе «Лжец», где главный герой-робот умел читать мысли, впервые появляются знаменитые три закона роботехники. Сам Айзек Азимов заявляет, что авторство законов принадлежит не ему, а Джон Вуду Кэмпбеллу, однако тот, в свою очередь, опровергает это заявление, утверждая, что он лишь помог сформулировать их, сама же идея всецело принадлежит Азимову. Так или иначе, три закона робототехники объединили множество рассказов и романов писателя, и до сих пор вызывают споры и дебаты в научном мире. Одно из самых главных направлений споров ученых касается того, применимы ли данные законы в реальности.

Итак, три закона робототехники по Азимову звучат следующим образом:1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.Эти три закона проходят через все творчество Айзека Азимова. В своих рассказах писатель пытался преподнести их не как постулаты или аксиомы, а как этику роботов, можно даже сказать, инстинкты. Фактически, три закона роботехники представляли собой сложнейшие математические формулы, на которых строилось сознание роботов и без которых оно просто не могло существовать. Сюжеты вех рассказов Азимова строились на причинах и следствиях нарушения трех законов или, наоборот, последствиях, которые вызывает соблюдение данных законов роботами. Персонаж одного из рассказов Азимова, рассуждая о трех законах роботехники, приходит к выводу о том, что тот, кто соблюдает их, или робот, или очень хороший человек. Этим автор хотел сказать, что три закона, сами по себе, совпадают с основными принципами большинства этических систем.

В 1986 году, в последнем рассказе из цикла, посвященного роботехники, Айзек Азимов формулирует так называемый нулевой закон:0. Робот не может причинить вреда человеку, если только он не докажет, что в конечном итоге это будет полезно для всего человечества.По признанию самого писателя, его тремя любимыми рассказами являются «Последний вопрос», «Двухсотлетний человек» и «Уродливый мальчуган». По роману «Двухсотлетний человек» был поставлен фильм, в котором робота-слугу блистательно сыграл Робин Уильямс.Кроме этого, в 2004 году по мотивам рассказов Айзека Азимова вышел фильм «Я-робот» с Уиллом Смитом в главной роли. В центре картины – полицейский, с недоверием относящийся к роботам, которые прочно занимают место в жизни людей. Обстоятельства сталкивают главного героя с роботом, не похожим на остальных своих собратьев, поскольку он отказывается подчиняться законам трем законам робототехники. Однако вскоре выясняется, что только благодаря этому удается спасти человечество.

Творчество Айзека Азимова по-прежнему остается актуальным, свежим и интересным. В наше время бурного развития технологий, в том числе кибернетики и роботехники, проблемы, поднятые писателем более полувека назад, так и остаются актуальными и нерешенными. Возможно, внимательно изучив творчество Айзека Азимова и его три закона роботехники, мы сможем избежать многих роковых ошибок?

Share

EPSRC / AHRC принципы робототехники

В 2011 году Совет по исследованиям в области инженерных и физических наук (EPSRC) и Совет по исследованиям в области искусства и гуманитарных наук (AHRC) Соединенного Королевства совместно опубликовали набор из пяти этических «принципов для дизайнеров, строителей и пользователей роботов» в реальном мире , а также с семью «сообщениями высокого уровня», предназначенными для передачи, на основе исследовательского семинара в сентябре 2010 года:

  1. Роботы не должны разрабатываться исключительно или в первую очередь для того, чтобы убивать людей или причинять им вред.
  2. Ответственные агенты — это люди, а не роботы. Роботы — это инструменты, предназначенные для достижения человеческих целей.
  3. Роботы должны быть спроектированы таким образом, чтобы обеспечивать их безопасность.
  4. Роботы — это артефакты; они не должны быть предназначены для эксплуатации уязвимых пользователей, вызывая эмоциональную реакцию или зависимость. Всегда должно быть возможно отличить робота от человека.
  5. Всегда должна быть возможность выяснить, кто несет юридическую ответственность за робота.

Предполагалось передать следующие сообщения:

Мы считаем, что роботы могут оказать огромное положительное влияние на общество

Мы хотим поощрять ответственные исследования роботов.
Плохая практика вредит всем нам.
Решение очевидных общественных проблем поможет нам всем добиться прогресса.
Важно продемонстрировать, что мы, как робототехники, придерживаемся наилучших стандартов практики.
Чтобы понять контекст и последствия нашего исследования, мы должны работать с экспертами из других дисциплин, включая социальные науки, право, философию и искусство.
Мы должны учитывать этику прозрачности: есть ли пределы тому, что должно быть открыто доступным?
Когда мы видим ошибочные сообщения в прессе, мы обязуемся найти время, чтобы связаться с журналистами.. Принципы EPSRC широко признаны полезной отправной точкой

В 2016 году Тони Прескотт организовал семинар, чтобы пересмотреть эти принципы, например, чтобы отделить этические принципы от правовых.

Принципы EPSRC широко признаны полезной отправной точкой. В 2016 году Тони Прескотт организовал семинар, чтобы пересмотреть эти принципы, например, чтобы отделить этические принципы от правовых.