Южная Корея организовала международный саммит, направленный на разработку рамочной системы для этичного использования искусственного интеллекта (ИИ) в военных целях. Мероприятие, проходившее в Сеуле, собрало представителей более 90 стран, включая США и Китай. Главная цель саммита – разработать руководящие принципы по ответственному использованию ИИ в военных операциях, хотя любое достигнутое соглашение не будет иметь юридической силы.
Это второй подобный саммит, первый из которых прошел в Амстердаме в прошлом году, где участники, включая США и Китай, приняли умеренный «призыв к действию», не связанный с юридическими обязательствами.
Министр обороны Южной Кореи Ким Ён Хён, выступая на открытии саммита, привел в пример продолжающийся конфликт между Россией и Украиной как демонстрацию возможностей ИИ на поле боя. Он подчеркнул использование Украиной беспилотников с искусственным интеллектом, которые помогли им получить технологическое преимущество над российскими силами.
Благодаря интеграции ИИ, украинские дроны смогли обходить глушение сигналов и действовать в больших, более скоординированных группах. Однако Ким предупредил, что хотя ИИ значительно усиливает военные возможности, его неправильное использование может привести к непредвиденным последствиям.
Министр иностранных дел Южной Кореи Чо Тхэ Ёль также отметил, что одной из ключевых тем обсуждения является правовая экспертиза, которая должна обеспечить соответствие применения ИИ международным законам. Одним из центральных вопросов стало предотвращение того, чтобы автономные оружейные системы могли принимать решения о жизни и смерти без участия человека.
Главной целью саммита является создание необязательного к исполнению плана ответственного использования ИИ в военных целях. Этот план должен отражать принципы, изложенные НАТО и несколькими другими странами, включая США.
Несмотря на то, что неизвестно, сколько стран подпишут итоговый документ, саммит нацелен на более детализированный подход к регулированию использования ИИ в военной сфере по сравнению с предыдущими попытками. Однако, как и другие международные соглашения в этой области, он вряд ли будет носить юридически обязывающий характер.
Этот саммит является частью глобальных усилий по регулированию военного использования ИИ. Например, страны-члены ООН, участвующие в Конвенции о конкретных видах обычного оружия (CCW) 1983 года, обсуждают ограничения на использование летальных автономных систем вооружений для соблюдения гуманитарного права.
В прошлом году правительство США также предприняло шаги в этом направлении, выпустив декларацию о ответственном использовании ИИ в военных целях, которая распространяется не только на оружейные системы, но и на более широкие военные приложения ИИ. К августу 55 стран подписали эту декларацию.
Соорганизаторами сеульского саммита выступили Нидерланды, Сингапур, Кения и Великобритания. Важную роль в обсуждении играет тот факт, что технологический прогресс в области ИИ в основном происходит за счет частных компаний, в то время как правительства остаются ключевыми участниками в принятии решений по использованию этих технологий в военных целях.
На саммит зарегистрировались более 2000 участников из разных стран мира, включая представителей академических кругов, международных организаций и частного сектора. Помимо военного использования ИИ, обсуждения охватят вопросы защиты гражданских лиц и возможную роль ИИ в управлении ядерными системами.
Использование беспилотников, робототехники и автономных систем на поле боя демонстрирует будущее, в котором люди все больше будут полагаться на ИИ для принятия решений, сбора разведывательной информации и ведения боевых действий. Однако этические вопросы, связанные с применением ИИ, особенно в автономных оружейных системах, подчеркивают необходимость международных руководящих принципов и рамочных соглашений.
В будущем, по мере того как ИИ будет все больше интегрироваться в военные операции, дебаты о необходимости контроля со стороны человека будут усиливаться. Опасность того, что машины смогут принимать решения о жизни и смерти без участия человека, остается одной из наиболее острых проблем. Акцент на этическое использование ИИ на саммите отражает более широкую тенденцию государств к регулированию этой быстро развивающейся технологии, прежде чем она станет повсеместной.