Рассуждения робота

В своей лаборатории мы собираемся разработать программы для роботов, которым предстоит действовать в реальном мире. Таких роботов нужно наделить элементарной способностью к мышлению, чтобы они могли решать, опасно или нет выполнять ту или иную команду человека. В своих исследованиях мы используем NAO-роботов (автономных программируемых человекоподобных роботов) — гуманоидов весом 4,3 кг и ростом 58 см, оснащенных видеокамерами и системой звуковой локации, способными распознавать препятствия и другие опасности. Управление осуществляется с помощью специального программного обеспечения, предназначенного для усовершенствования встроенной в них языковой программы и повышения уровня искусственного интеллекта.

Концептуальную основу для наших первоначальных изысканий составляли исследования в области, которую лингвисты называют «условия успешности речевого акта», — имеются в виду контекстные факторы, по которым можно судить, сможет ли и будет ли конкретный человек совершать то или иное действие. Мы составили контрольный перечень критериев адекватности, который поможет роботу принять решение, выполнять или нет команду человека. Знаю ли я, как сделать это? Способен ли я физически сделать это? Могу ли я выполнить это прямо сейчас? Обязан ли я сделать это, основываясь на моей социальной функции или отношении к человеку, отдавшему команду? Не нарушает ли выполнение этого каких-либо нормативных или этических принципов, в частности — не получу ли я случайных повреждений? На основе этого перечня мы создали алгоритмы, которые встроили в систему обработки данных робота, и провели прикидочный эксперимент.

Робот, стоящий на столе, получал простые команды, которые пропускались через ряд речевых, языковых и диалоговых процессоров, связанных с его примитивными механизмами мышления. Когда ему говорили «Сесть» или «Встать», робот с помощью расположенных на его голове динамиков отвечал «Есть» и выполнял команду. Однако он отказывался подчиняться, когда находился у края стола и получал команду, которую его система звуковой локации расценивала как опасную.

После непродолжительного раздумья, пока его процессоры еще раз перетряхивали контрольный перечень критериев адекватности, робот шагнул с края стола прямо в руки своего хозяина.

Обучить роботов оценивать степень адекватности вряд ли удастся в обозримом будущем. Необходимо сначала провести ряд программных проверок с использованием роботов, имеющих четкие представления о множестве социальных и причинно-следственных понятий и обладающих возможностью судить о них. Наш доверчивый робот заметил опасность, лишь практически буквально уткнувшись в нее носом. Прежде всего, это означает, что он мог получить серьезные повреждения, если бы злонамеренный человек заставил его шагнуть за край стола. Но этот эксперимент представляет собой многообещающий первый шаг к выработке у робота способности отказываться выполнять те или иные команды, чтобы не нанести вред своим хозяевам или самому себе.

Добавить комментарий

Comment
Name*
Mail*
Website*