Всё об искусственном интеллекте
Национальный центр кибербезопасности Великобритании (NCSC) в эту среду (30) опубликовал предупреждение о риске использования компаниями чат-ботов с искусственным интеллектом. По данным британского агентства, исследования показывают, что ими можно манипулировать для выполнения вредоносных задач и что проблемы безопасности, связанные с этими алгоритмами, еще не решены.
Что вам нужно знать:
- В NCSC заявили, что эти инструменты используются на ранней стадии, от поиска в Интернете до работы по обслуживанию клиентов;
- Для госоргана это может нести риски, особенно если такие модели связаны с другими элементами бизнес-процессов организации;
- Учёные и исследователи уже нашли несколько способов подорвать чат-ботов, подавая им нечестные команды или обманом заставляя их обходить собственные встроенные защитные барьеры;
- Недавно власти США и Канады заявили, что хакеры уже используют эту технологию для создания вредоносного программного обеспечения, создания убедительных фишинговых писем и распространения дезинформации в Интернете, сообщил агентству Reuters главный чиновник Канады по кибербезопасности.
Читать далее!
По данным Reuters, примером риска может быть чат-бот с искусственным интеллектом, развернутый в банке. В случае взлома хакером его можно обманом заставить совершить несанкционированную транзакцию, если его запрос стратегически структурирован для этого.
Организации, создающие услуги, использующие LLM, должны быть такими же осторожными, как если бы они использовали бета-версию продукта или библиотеку кода.
NCSC в официальной публикации в своем блоге.
Уже несколько месяцев правительства различных стран обсуждают, как смягчить опасность генеративного искусственного интеллекта, который стал свидетелем бума инвестиций и потребительской популярности после запуска ChatGPT от OpenAI — его влияние даже сравнивают с влиянием появления Интернета.
Страны также спешат гарантировать принятие закона, который защищает пользователей, но не препятствует развитию технологий. США, например, запланировали закрытое мероприятие для обсуждения регулирования на сентябрь. В форуме примут участие самые влиятельные руководители в этой области, такие как Илон Маск (X/Twitter), Марк Цукерберг (Meta) и Сэм Альтман (OpenAI).
Вы смотрели наши новые видео на YouTube? Подпишитесь на наш канал!