Роботы давно стали частью нашей жизни. Механические помощники и сотрудники доставляют посылки, готовят еду, поднимают грузы, ассистируют врачам, работают официантами. Все больше и больше появляется новых роботов в быту, промышленности, транспортной отрасли, медицине, сельском хозяйстве, ритейле и сфере услуг. Должны ли роботы жить по своим правилам? Разбираемся в основных законах робототехники и в том, насколько они сейчас применимы.

Робототехника — наука о разработке и использовании роботов и робототехнических систем (РТС) с целью облегчить человеческую деятельность и автоматизировать производственный процесс.

Роботы способны воспринимать окружающий мир с помощью камер и датчиков, которые измеряют такие параметры, как свет, температура, расстояние и прочие. Эти данные анализируются и используются для принятия решений на основе заданных алгоритмов и искусственного интеллекта. Роботы могут передвигаться и выполнять различные действия, а также обмениваться информацией с людьми и другими машинами. Основные принципы робототехники позволяют разрабатывать автоматизированные машины, которые полезны для общества и человечества в различных областях.

Законы робототехники

Люди задаются вопросом: превзойдут ли умные роботы человека не только физически, но и интеллектуально? Восстание машин — миф или реальная угроза? Могут ли роботы выйти из-под контроля человека и решить, что люди бесполезны? В попытках исключить такую возможность  были написаны обязательные правила поведения для роботов.

В 1920–1930-е годы большинство произведений фантастической литературы было посвящено роботам, восстающим против своих создателей и уничтожающим их и мир. И одним из немногих авторов, рассказавших о благородном роботе-герое, был Айзек Азимов.

Свой первый рассказ «Космическая отвертка» писатель передал редактору журнала Astounding Джону Кэмпбеллу, который не принял рукопись из-за схожести с рассказом «Хелен О’Лой» Лестера дель Рея. Позже Кэмпбелл отклонил еще несколько произведений Азимова, но редактор и начинающий писатель начали часто обсуждать фантастику и новые произведения, а рассказы Азимова вскоре стали выходить в других изданиях. Во время одной из встреч редактор выделил три закона робототехники, присутствующие в рассказах нового друга-фантаста.

Законы робототехники Айзека Азимова:

1. Робот не может своим действием или бездействием причинить вред человеку.

2. Робот должен выполнять все приказы человека, кроме приказов, противоречащих первому закону.

3. Робот должен заботиться о своем существовании, пока это не противоречит первому и второму законам.

Впервые все эти три правила были упомянуты писателем в «Хороводе», написанном в 1942 году и вошедшем в цикл фантастических рассказов «Я, робот». Благородные роботы Айзека Азимова становились помощниками и защитниками человека, а не угрозой уничтожения людей и всего мира.

И хотя автором законов робототехники считается ученый и писатель-фантаст Айзек Азимов, он сам поначалу уступал эту честь редактору Джону Кэмпбеллу, а позже использовал предложенную одним из своих друзей формулировку в отношении их авторства: «симбиотическое товарищество» двух людей.

Актуальность законов робототехники

Правила, которым подчинялись роботы, действовали в мире фантастической литературы. Как же работают три закона робототехники в реальной жизни?

Первый закон:

Несчастные случаи с участием роботов могут происходить непреднамеренно. Например, в 1979 году на заводе Ford робот весом в 1 тонну случайно сбил сотрудника. Совсем недавно, в ноябре 2023 года, на одном из заводов Южной Кореи машина нанесла человеку смертельные повреждения, спутав того с коробкой и придавив к конвейеру. Похожий случай произошел в 2009 году, когда на складе Golden State Foods робот схватил вместо коробки женщину.

Так или иначе роботы могут становиться причиной повреждений и даже смерти. Это может произойти из-за недостаточной модернизации моделей машин, которые не способны вовремя остановиться или осознать, что перед ними человек, а не неодушевленный предмет. Пусть роботы и недостаточно осознанны и самостоятельны, чтобы навредить человеку специально, но нельзя исключать возможность, что это может произойти по нелепой случайности.

Второй закон:

Правильно запрограммированные роботы помогают человеку и выполняют все его поручения. Но иногда бывают сбои, и тогда машины выходят из-под контроля. Например, в Китае робот для обучения детей Little Chubby устроил беспорядок на выставке технологий в 2016-м. Машина разбила стеклянный стенд и повредила ногу сотруднику, попытавшемуся его остановить. А в 2007 году сбой автоматического орудия Oerlikon GDF-005 повлек за собой жертвы. Робот вышел из-под контроля и стал стрелять во все стороны.

Почему же роботы не всегда слушаются людей? Причинами могут быть ошибки оператора, недоработка машин или системный сбой, от которого не застрахован ни один робопомощник.

Третий закон:

Человек стремится создать роботов все больше похожих на людей, начиная с внешнего вида и заканчивая желанием научить машины чувствовать. Но можно ли наделить робота человеческими свойствами и заставить его заботиться о своем существовании самостоятельно? Такое очеловечивание бездушных машин звучит правдоподобно лишь для научной фантастики, но не для реальной жизни.

Проблемы законов робототехники

Законы робототехники Айзека Азимова звучат фантастически и пока кажутся недостижимым идеалом. На данный момент применить их в реальности невозможно: несмотря на активное развитие робототехники и искусственного интеллекта, машины все еще не способны понимать окружающий мир как люди, не застрахованы от поломок и «сумасшествия» и не могут заботиться  о себе самостоятельно.

Виктория РОДИЧЕВА

Изображения: Taylor Bros Inc; Steam Community; инфографика автора

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!