Уточнение законов Азимова

Может показаться очевидным, что робот всегда должен делать только то, что приказывает ему человек. Американский писатель-фантаст Айзек Азимов утвердил незыблемость авторитета человека, сформулировав знаменитые законы робототехники — обязательные правила поведения для роботов. Но давайте разберемся: всегда ли нам самим стоит в точности выполнять то, что вам говорят другие, независимо от последствий? Конечно нет. Это справедливо и для машин, особенно когда есть опасность, что они будут воспринимать команды человека слишком буквально или абсолютно не задумываться о последствиях.

Даже Азимов внес уточнения во второй закон, где говорится, что робот должен повиноваться всем командам человека, допустив исключение для случая, когда эти команды противоречат другому главному закону: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред» (первый закон). Далее Азимов постулировал, что «робот должен заботиться о своей безопасности» в той мере, пока это не причиняет вреда человеку или напрямую не противоречит его приказу (третий закон). По мере того как роботы и наделенные интеллектом машины становятся совершенными и занимают все большее место в жизни человека, согласно как здравому смыслу, так и законам Азимова, они должны иметь возможность задаваться вопросом, не опасны ли получаемые команды им самим, окружающей среде или, самое главное, человеку.

Предположим, что домашнему роботу приказали взять на кухне бутылку оливкового масла и принести ее в столовую, чтобы заправить салат. Занятая домашними хлопотами и невнимательная хозяйка дает команду налить масло, не осознавая, что робот все еще находится на кухне. В результате робот выливает его на горячую плиту и вспыхивает пожар.

Или другая ситуация: робот-опекун сопровождает пожилую даму на прогулке в общественном парке. Женщина присела на скамейку и задремала. Пока она спит, некий проходящий мимо шутник приказывает роботу купить ему пиццу. Обязанный подчиняться командам, робот немедленно отправляется на поиски пиццерии, оставив свою пожилую подопечную одну без присмотра.

А теперь представьте, что холодным зимним утром человек, опаздывающий на важную деловую встречу, запрыгивает в свой автономный автомобиль с голосовым управлением и дает команду отвезти его в офис. На дороге гололедица, и автомобиль включает противобуксовочную систему, которая автоматически ограничивает скорость машины. Занятый просмотром своих записей и не обращающий внимания на дорожные условия, человек командует ехать быстрее. Автомобиль ускоряется, наезжает на участок чистого скользкого льда, теряет управление и сталкивается со встречной машиной.

Добавить комментарий

Comment
Name*
Mail*
Website*