Используя обманчивые поведенческие модели белок и птиц, исследователи из Технологического института Джорджии разработали роботов, способных обманывать друг друга. Исследование финансируется Управлением военно-морских исследований и возглавляется профессором Рональдом Аркиным, который предлагает, чтобы заявки могли быть реализованы военными в будущем.
Исследование освещается в выпуске IEEE Intelligent Systems в ноябре / декабре 2012 года.
Аркин и его команда узнали, просмотрев результаты биологических исследований, которые белки собирают желуди и хранят их в определенных местах. Затем животное патрулирует скрытые тайники, регулярно отправляясь туда и обратно, чтобы проверить их. Когда появляется еще одна белка, надеясь напасть на скрытые пятна, скопившаяся белка изменяет свое поведение. Вместо того, чтобы проверять истинные местоположения, он посещает пустые сайты кеша, пытаясь обмануть хищника.
Аркин и его доктор философии. студент Jaeeun Shim реализовал ту же стратегию в роботизированную модель и демонстрацию. Обманчивое поведение сработало. Обманутый робот заманил робота-хищника на ложные места, задерживая открытие защищенных ресурсов.
«Это приложение может быть использовано роботами, охраняющими боеприпасы или принадлежности на поле битвы», – сказал Аркин, профессор регентов в Georgia Tech’s School of Interactive Computing. «Если бы противник присутствовал, робот мог бы изменить свои стратегии патрулирования, чтобы обмануть людей или другую интеллектуальную машину, покупая время, пока подкрепления не смогут прийти».
Нажмите здесь, чтобы посмотреть лабораторное видео демонстрации.
Аркин и его ученик Джастин Дэвис также создали симуляцию и демонстрацию, основанную на птицах, которые могут блефовать на пути к безопасности. В Израиле арабские болтуны, находящиеся под угрозой нападения, иногда присоединяются к другим птицам и преследуют своего хищника. Этот процесс моббинга вызывает такое беспокойство, что хищник в конце концов откажется от атаки и уйдет.
Команда Аркина исследовала, выживает ли симулированный болтун, если он подделывает или симулирует силу, когда его не существует. Моделирование команды, основанная на биологических моделях нечестности и принципа гандикапа, показывает, что обман – лучшая стратегия, когда добавление обманчивых агентов подталкивает размер группы к минимальному уровню, требуемому для того, чтобы расстроить хищника, достаточного для его бегства. Он говорит, что вознаграждение за обман несколькими агентами иногда перевешивает риск быть пойманным.
«В военных операциях робот, которому угрожает опасность, может притворяться умением сражаться с противниками, фактически не имея возможности эффективно защитить себя», – сказал Аркин. «Быть честным в отношении способностей робота угрожает захвату или уничтожению. Обман, если он используется в нужное время в правильном направлении, может устранить или свести к минимуму угрозу ».
От троянской лошади до Дня, обман всегда играл свою роль в военное время. На самом деле, есть полное руководство полевой армии по его использованию и ценности на поле битвы. Но Аркин первым признал, что существуют серьезные этические вопросы относительно поведения обмана роботов с людьми.
«Когда эти исследовательские идеи и результаты будут течь вне военной сферы, могут возникнуть серьезные этические проблемы», – сказал Аркин. «Мы настоятельно рекомендуем продолжить обсуждение вопроса о преследовании и применении исследований об обмане для роботов и интеллектуальных машин».
Это не первый случай, когда Аркин работал в этой области. В 2010 году он и исследовательский исследовательский исследовательский институт Джорджии Алан Вагнер изучили, как роботы могут использовать обманчивое поведение, чтобы скрыться от людей или других интеллектуальных машин.