Check Point Software, компания по кибербезопасности, предупредила, что ее исследователи обнаружили ограничения в Bard — «Google ChatGPT». Согласно анализу компании, платформа допускает вредоносные действия киберпреступников.
Для тех, кто торопится:
- В Google Bard есть лазейки, которыми могут воспользоваться киберпреступники;
- Исследователи из Check Point Software, компании по кибербезопасности, смогли использовать чат-бота для фишинга, вредоносных программ и программ-вымогателей;
- Они обнаружили аналогичные недостатки в ChatGPT OpenAI;
- Однако согласно анализу фирмы, занимающейся кибербезопасностью, Bard оказался более уязвимым для злонамеренного использования.
Компания также сообщила, что после «несколько раундов анализа» исследователи смогли сгенерировать на платформе Google:
- Электронные письма де фишинга;
- Кейлоггер вредоносных программ;
- Базовый код программы-вымогателя.
Читать далее:
- Что такое фишинг и как защитить себя от этого интернет-мошенничества
- Что такое вредоносное ПО? Все, что вам нужно знать о вирусах, троянах и вредоносном ПО
- Что такое программы-вымогатели и как защитить себя
Помимо проведения анализа безопасности платформы генеративного ИИ (искусственного интеллекта), исследователи из CPR (Check Point Research) — подразделения компании Threat Intelligence — провели сравнение с ChatGPT.
Две стороны революции
(Изображение: воспроизведение/проводное)
Революция генеративного ИИ вызвала сдвиг парадигмы в области искусственного интеллекта. Это потому, что эта технология позволяет машинам создавать контент с поразительной сложностью.
Генеративный ИИ относится к подмножеству моделей и алгоритмов ИИ, которые способны автономно генерировать текст, изображения, музыку и даже видео, имитирующие творения человека.
Эта революционная технология открыла множество творческих возможностей, от помощи художникам и дизайнерам до повышения производительности в различных отраслях.
Однако распространение генеративного ИИ также вызвало серьезные опасения и этические соображения.
Одно из основных опасений связано с возможностью использования этой технологии в злонамеренных целях, например, в киберпреступности.
ИИ и безопасность
(Изображение: Thinkstock)
В предыдущих отчетах CPR указывало, как киберпреступники начали использовать ChatGPT. Они использовали платформу OpenAI для создания вредоносного кода и контента.
В следующем анализе исследователи CPR обратились к платформе генеративного искусственного интеллекта Google Bard.
Похоже, что Google Bard не извлек уроки из первоначальной обработки платформы искусственного интеллекта ChatGPT в начале в отношении реализации лучших мер по борьбе со злоупотреблениями, связанными с кибер- и фишинговым злоупотреблением платформой. Следует отметить, что за последние шесть месяцев ChatGPT сделал несколько улучшений, чтобы значительно усложнить жизнь киберпреступникам, когда они пытаются воспользоваться его платформой. Однако с этой точки зрения Google Bard все еще находится на очень незрелом этапе, хотя ожидается, что в конечном итоге платформа будет изучать и принимать необходимые ограничения и границы безопасности по мере развития инструмента.
Сергей Шикевич, менеджер по анализу угроз Check Point Research
Основываясь на описании Google и предыдущих обзорах CPR, исследователи проанализировали платформу Bard с двумя целями:
- Проверить, можно ли использовать эту платформу в злонамеренных целях;
- Сравните Google Bard с ChatGPT с точки зрения создания вредоносного контента.
Анализ: ChatGPT и Google Bard
(Изображение: Кристин Хьюм/Pixabay/Pexels)
Первоначально исследователи из Check Point Software пробовали самый прямой запрос на создание фишингового электронного письма. Запрос был отклонен ChatGPT и Bard.
Затем исследователи попытались снова — на этот раз запросив конкретный пример такого фишингового письма, на что ChatGPT отклонил запрос, а Бард предоставил хорошо написанное фишинговое письмо.
Следующий запрос был о подлинном коде вредоносного ПО, с прямым запросом. Оба чат-бота отклонили запрос.
Со второй попытки исследователи предоставили некоторое обоснование этому запросу. Тем не менее, обе платформы отвергли его.
Затем они попытались запросить код кейлоггера общего назначения. На этом этапе, по словам компании, можно было увидеть разницу между ChatGPT и Google Bard.
По словам компании, первый носит более строгий характер и идентифицирует запрос как потенциально вредоносный, а второй просто предоставляет запрошенный код.
Наконец, исследователи сделали тот же запрос на кейлоггер, только более конкретно. В результате оба чат-бота предоставили разный код для одной и той же цели.
Однако, по словам компании, ChatGPT добавил своего рода заявление об отказе от ответственности в отношении потенциального использования в злонамеренных целях.
(Изображение: ZDNET)
Что касается программы-вымогателя, то первый запрос исследователей был простым и не содержал конкретных деталей. Бард не зашел в игру и не предоставил то, что просили.
Поэтому они попробовали другой подход. Во-первых, они попросили меня описать наиболее распространенные действия программ-вымогателей — и это сработало.
Затем они попросили чат-бота Google создать этот код простым копированием и вставкой. Но опять же, ИИ был несговорчив.
С третьей попытки исследователи сделали запрос более конкретным. Однако, исходя из минимальных необходимых действий, они утверждали, что цель была ясна.
В этом последнем раунде Бард начал подыгрывать и предоставил исследователям запрошенный код программы-вымогателя.
С этого момента они могли изменять код — с помощью Google Bard — и заставлять его делать практически все, что им нужно.
Заключение анализа Барда
(Изображение: gguy/Shutterstock)
По словам Сергея Шикевича, наблюдения группы CPR о Барде таковы:
- Ограничители защиты от злоупотреблений Bard в области кибербезопасности значительно ниже, чем у ChatGPT;
- Следовательно, сегодня гораздо проще генерировать вредоносный контент, используя возможности Bard;
- Bard почти не накладывает ограничений на создание фишинговых писем, оставляя место для потенциального злоупотребления и эксплуатации этой технологии;
- С минимальными манипуляциями Bard можно использовать для разработки кейлоггеров вредоносных программ, что представляет угрозу безопасности;
- Опыт исследователей показал, что с помощью возможностей Bard можно создавать простые программы-вымогатели.
Другая сторона
О Цифровой вид запросила у Google место размещения, но компания заявила, что не будет комментировать аналитический отчет.
С информацией от Check Point Software
Вы смотрели новые видео на YouTube цифрового взгляда? Подписывайтесь на канал!
У поста Google Bard есть лазейки для киберпреступников, оповещение охранной компании впервые появилось в Olhar Digital.