Нейронные сети оказали значительное влияние на проектирование контроллеров для роботов, делая машины более адаптивными и эффективными. Однако их сложность является как преимуществом, так и недостатком: такие системы трудно гарантированно настроить на безопасное выполнение задач.
Традиционные методы проверки безопасности и стабильности основаны на функциях Ляпунова. Если удается найти функцию Ляпунова, значение которой стабильно уменьшается, можно быть уверенным, что опасные или нестабильные состояния не возникнут. Тем не менее, для роботов, управляемых нейронными сетями, существующие подходы не масштабировались на сложные системы.
Исследователи из Лаборатории компьютерных наук и искусственного интеллекта MIT (CSAIL) разработали новые методы, которые строго сертифицируют вычисления Ляпунова для сложных систем. Их алгоритм эффективно ищет и проверяет функции Ляпунова, предоставляя гарантии стабильности системы. Это может открыть путь для безопасного внедрения роботов и автономных транспортных средств, включая самолеты и космические корабли.
Для достижения лучших результатов команда разработала экономичный метод проверки и обучения. Они генерировали контрпримеры — например, данные с сенсоров, которые могли бы сбить контроллер, — и оптимизировали систему с учетом этих данных. Это позволило роботам безопасно работать в более широком спектре условий. Затем они разработали новую форму верификации, используя скалируемый проверщик нейронных сетей α,β-CROWN, который обеспечивает гарантии наихудшего сценария.
«Мы видим впечатляющие результаты в работе машин, управляемых ИИ, таких как гуманоиды и робопсы, но им не хватает формальных гарантий, которые важны для критически важных систем», — говорит Луджи Ян, аспирант MIT и соавтор новой работы. «Наша работа сокращает разрыв между производительностью нейронных сетевых контроллеров и необходимыми гарантиями безопасности для их реального применения», — отмечает Ян.
Для демонстрации исследователи провели симуляцию, как дрон с лидаром стабилизируется в двухмерной среде. Алгоритм успешно привел дрон в устойчивую позицию. В других экспериментах подход позволил стабилизировать инвертированный маятник и транспортное средство, следующее по пути, в более сложных условиях.
Методы, разработанные командой, не ограничены робототехникой. Эти подходы могут быть применены в медицине, промышленной обработке и других сферах. Команда также планирует улучшить алгоритмы для работы в системах с большими размерами и использовать дополнительные данные, такие как изображения и облака точек.
В будущем исследователи хотят гарантировать стабильность в условиях неопределенности и помех. Например, если дрон попадет под сильный порыв ветра, методы команды должны обеспечить его стабильный полет и выполнение задачи. Также они намерены оптимизировать задачи с минимизацией времени и расстояния для роботов, сохраняя их стабильность.