В преддверии президентских выборов в США Google активизирует защитные меры для своих генеративных ИИ-продуктов. Ранее компания уже анонсировала ограничения на запросы, связанные с выборами, для своего ИИ Gemini. Теперь Google расширяет эти меры и на другие ИИ-инструменты.
Ограничения будут применяться к генеративным возможностям поиска (Search AI Overviews), AI-генерируемым сводкам для Live Chat на YouTube, инструментам Gems и генерации изображений через Gemini. Эти продукты не будут предоставлять ответы на темы, связанные с выборами, что снижает риск распространения дезинформации.
Поскольку генеративный ИИ продолжает развиваться, Google признаёт, что такие системы могут быть подвержены ошибкам, особенно в контексте выборов. Вице-президент Google по вопросам доверия и безопасности Лори Ричардсон объяснила, что пользователи полагаются на платформу для получения точной и своевременной информации о кандидатах и процедурах голосования.
С учётом непредсказуемости новостей и особенностей обучения ИИ, решение ограничить его ответы на темы, связанные с выборами, направлено на поддержание общественного доверия и предотвращение распространения ложной информации.
Во время выборов 2020 года проблема дезинформации была особенно заметной, и с развитием генеративных ИИ опасения о влиянии на выборы 2024 года только усилились. Нововведения от Google помогут снизить угрозы, связанные с ИИ, до их появления. В дополнение к ограничению ответов ИИ, в Google Search скоро появятся функции, помогающие избирателям легко находить информацию о регистрации для голосования.
YouTube также планирует ввести новые функции, предоставляющие достоверную информацию о кандидатах и политических партиях. В преддверии выборов платформа будет напоминать пользователям о том, где и как голосовать, что будет способствовать увеличению явки и осознанным решениям. Кроме того, Google Play введёт значок для приложений, созданных официальными государственными агентствами, чтобы помочь пользователям различать надёжные источники информации.
Превентивный подход Google к безопасности ИИ во время выборов отражает более широкую тенденцию в технологической индустрии — необходимость балансировать между быстрым развитием технологий и этической ответственностью. С увеличением числа deepfake, AI-генерируемых новостей и автоматического создания контента манипуляции информацией становятся всё более простыми. Строгие ограничения Google на выходные данные ИИ, связанные с выборами, могут стать примером для других технологических компаний, сталкивающихся с аналогичными этическими проблемами.