США создают консорциум компаний для борьбы с рисками ИИ

Правительство Джо Байдена объявило в четверг (8), что основные разработчики искусственного интеллекта (ИИ) присоединяются к более чем 200 другим компаниям в новом консорциуме в Соединенных Штатах.

Цель — отслеживать риски ИИ и устанавливать стандарты безопасной разработки и внедрения технологии.

Читать далее:

Консорциум США по искусственному интеллекту

В соответствии с РейтерКонсорциум назывался Консорциумом Института безопасности искусственного интеллекта США. Министр торговли Джина Раймондо сообщила, что в число участвующих компаний входят OpenAI, Anthropic (обе разработчики ИИ), Google, Microsoft, Meta, Apple, Amazon, Nvidia, Palantir, Intel, IBM, Mastercard, Qualcomm и Hewlett Packard (HP).

В своем заявлении она также подчеркнула, что Соединенные Штаты «играют значительную роль» в определении стандартов развития ИИ, снижении рисков и использовании потенциала этой технологии.

Ожидается, что группа из более чем 200 компаний будет следовать действиям, изложенным в указе Джо Байдена об искусственном интеллекте от октября 2023 года, который включает в себя «разработку руководящих принципов для красных команд, оценку возможностей, управление рисками, безопасность и защищенность, а также маркировку воды с синтетическим содержанием». ». Упомянутая красная команда относится к обнаружению новых рисков в киберпространстве.

Контекст

• В октябре прошлого года Джо Байден издал указ, определяющий действия и параметры безопасности для ИИ;
• Одним из действий, которые взяли на себя компании, является добавление водяных знаков к контенту, созданному с помощью ИИ, чтобы помочь идентифицировать контент, созданный или измененный с помощью технологий;
• Приказ также требовал от регулирующих органов и компаний установить стандарты тестирования и определения химических, биологических, радиологических, ядерных рисков и рисков кибербезопасности;
• За это время, несмотря на несколько законодательных предложений, давление в отношении регулирования технологий замедлилось;
• Сейчас, по данным Министерства торговли, консорциум является крупнейшей группой, разработавшей прочную основу стандартов и рекомендаций по безопасности ИИ.