Политические кампании, управляемые с помощью ИИ, выросли

Беспокойство по поводу влияния генеративного искусственного интеллекта на предстоящие выборы небезосновательно, и популяризация дипфейков тому подтверждение. Теперь Mandiant, американская компания по кибербезопасности, принадлежащая Google, сообщила в этот четверг (17), что она объясняет рост использования ИИ для проведения кампаний по манипулированию информацией в Интернете в последние годы. Большинство этих фальшивых кампаний имеют политическую подоплеку.

Читать далее:

ИИ для управления политическими кампаниями

• Ожидаемым последствием было использование генеративного искусственного интеллекта для создания дипфейков или другого вводящего в заблуждение контента и манипулирования кампаниями.
• Согласно Рейтерисследователи из компании по кибербезопасности обнаружили «несколько случаев» манипуляций такого типа с 2019 года.
• Отчет Mandiant также показал, что эти нарушения были обнаружены группами, связанными с нынешними правительствами Китая, Ирана, Эфиопии, России, Сальвадора, Эквадора, Аргентины, Кубы и Мексики.
• В этом контексте ИИ позволил тем, кто участвует, использовать его, например, для улучшения качества контента кампании, который может иметь крупномасштабное влияние.
• Действие, зафиксированное в отчете, также заключалось в использовании поддельных изображений профиля для пользователей, продвигающих онлайн-кампании.
• Одним из таких случаев стала прокитайская кампания Dragonbrige, которая, по словам Mandiant, с помощью технологий разрослась «в геометрической прогрессии» на 30 социальных платформах на 10 разных языках.
• Страна отвергла обвинения в причастности к этому делу.

Пока ограниченное влияние

По словам Сандры Джойс, вице-президента Mandiant Intelligence, влияние злонамеренного использования ИИ в политических кампаниях все еще ограничено.

С точки зрения эффективности побед не так много. Они еще не изменили направление ландшафта угроз.

Сандра Джойс

Это потому, что, по ее словам, еще не было никаких практических действий, которые были бы вызваны последствиями ИИ.

Однако еще слишком рано говорить о том, что это влияние никогда не выльется во что-то практическое. «Мы можем быть абсолютно уверены, что со временем эта проблема будет только усугубляться», — добавил он.

ИИ на выборах

• Крупные имена в индустрии генеративного ИИ, в том числе разработчики, уже выразили опасения по поводу ИИ и выборов.
• Сэм Альтман, генеральный директор OpenAI (разработчик ChatGPT) — один из них. В мае исполнительная власть дала показания в Сенате США, заявив, что законодатели должны принять правила для регулирования сектора.
• В другом месте, во время своего тура с OpenAI, Альтман признал, что ИИ может стать причиной для беспокойства на президентских выборах, но он хочет регулирования, которое не слишком ограничивало бы развитие.
• Недавно Белый дом также выразил обеспокоенность по поводу технологии. Правительство провело встречи с ведущими компаниями отрасли (включая OpenAI), чтобы согласовать вопросы безопасности ИИ и регулирования.
• Среди мер компании обязались маркировать контент, созданный ИИ.

Вы смотрели новые видео на YouTube цифрового взгляда? Подписывайтесь на канал!