В следующую пятницу (29) семь крупных ИИ-компаний, включая Microsoft, Google и OpenAI, соберутся в Белом доме.
Встреча будет использована компаниями, чтобы добровольно взять на себя обязательство создать способы, с помощью которых потребители смогут идентифицировать материалы, созданные с помощью генеративного ИИ, и протестировать свои инструменты на предмет безопасности, прежде чем выпускать их для всех пользователей. Amazon, Anthropic, Inflection и Meta дополняют группу участников.
Читать далее:
- Как использовать круги нитей
- В чем преимущество Apple Watch?
- Лучший баскетбольный стрелок бросает вызов роботу; посмотреть, кто выиграл
список назначений
- Разработать способ, позволяющий потребителям идентифицировать контент, созданный с помощью генеративного ИИ, например, с помощью водяных знаков;
- Привлекайте независимых экспертов для оценки безопасности ваших инструментов перед их публичным выпуском;
- Делиться информацией о передовом опыте и попытках обойти меры безопасности с другими участниками отрасли, правительствами и внешними экспертами;
- Разрешить третьим лицам искать и сообщать об уязвимостях в своих системах;
- Сообщайте об ограничениях ваших технологий и направляйте надлежащее использование инструментов ИИ;
- Приоритизировать исследования социальных рисков ИИ, включая дискриминацию и конфиденциальность;
- Разработка ИИ для смягчения социальных проблем, таких как изменение климата и болезни.
Безопасность превыше всего
Безопасность стала главной проблемой в мире ИИ с момента выпуска ChatGPT компанией OpenAI в ноябре 2022 года, который может реагировать на простые текстовые вводы сложными, творческими и диалоговыми ответами.
Крупнейшие технологические компании и их инвесторы вкладывают миллиарды долларов в широкоязычные модели, лежащие в основе генеративного ИИ.
Эта технология несет в себе некоторую потенциальную силу, которую крупные компании публично выразили опасениями по поводу слишком быстрого продвижения с ней. В открытом письме, опубликованном в мае, эксперты и лидеры отрасли написали, что «снижение риска исчезновения из-за ИИ должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемия Covid-19 и ядерная война».
Последние обязательства являются частью усилий президента США Джо Байдена по обеспечению того, чтобы ИИ разрабатывался с соблюдением надлежащих мер безопасности, не препятствуя при этом инновациям.
Конгресс США также рассматривает правила, касающиеся ИИ, хотя до внедрения стандартов могут пройти месяцы или годы, поскольку законодатели продолжают узнавать от экспертов о том, как работает технология, и о соответствующих рисках.
Кто должен быть на собрании?
Ожидается, что на встрече в Белом доме примут участие генеральный директор Amazon Web Services Адам Селипски, генеральный директор Anthropic Дарио Амодеи, глава Google по глобальным связям Кент Уокер, генеральный директор Inflection Мустафа Сулейман, глава Meta по глобальным вопросам Ник Клегг, председатель Microsoft Брэд Смит и председатель OpenAI Грег Брокман.
Администрация Байдена заявила, что уже проконсультировалась со многими другими странами по поводу добровольных обязательств и работает над тем, чтобы они дополняли международные усилия, когда речь идет о создании барьеров вокруг технологий.
Пройдет некоторое время, прежде чем Конгресс примет закон, регулирующий ИИ. Но президент, к его большой чести, также знает, что у нас нет времени. ИИ движется так быстро, быстрее, чем любая технология, которую мы когда-либо видели.
Джина Раймондо, министр торговли США, в интервью Squawk on the Street из CNBC
Раймондо назвал обещание «первым шагом», но важным.
Эти компании привержены истинной прозрачности, работая с третьими сторонами для тестирования моделей и с правительством США для тестирования моделей и обмена информацией. Не стоит недооценивать силу этой прозрачности и тот факт, что они знают, что мы наблюдаем, и их клиенты смотрят, чтобы привлечь их к ответственности.
Джина Раймондо, министр торговли США, в интервью Squawk on the Street из CNBC
По информации CNBC
Вы смотрели новые видео на YouTube цифрового взгляда? Подписывайтесь на канал!
Сообщение «Большие технологии обещают обеспечить безопасность своих инструментов ИИ» впервые появилось на Olhar Digital.