Как лучшие предложения, хвост не застрял
Всякий раз, когда мы говорим о рисках искусственный интеллект, многие люди думают о машинной революции или массовой безработице. Однако некоторые опасности гораздо проще. Ученые нашли ботнет в Твиттере (теперь называемом X), который использует ЧатGPT для распространения дезинформации и перехода на подозрительные веб-сайты.
ChatGPT от OpenAI (Изображение: Витор Падуа / )
Исследование было проведено двумя исследователями из Обсерватории социальных сетей Университета Индианы в США: Кай-Ченг Янг и Филиппо Менцер.
Ученые построили сеть из 1140 роботов в Twitter/X. Автоматизированные учетные записи следовали друг за другом и использовали ChatGPT для общения друг с другом.
Кроме того, они взаимодействовали с популярными страницами, такими как профили компаний и влиятельных лиц. Чтобы создать видимость легитимности, боты крали фотографии из Instagram.
Разговоры ботнета касались инвестиций в криптовалюты и NFT и включали ссылки на фейковые веб-сайты, такие как fox8.news, cryptnomics.org и global Economics.news, которые имитировали подлинные новости. Именно оттуда исследователи стали называть сеть «fox8».
По словам исследователей, на трех сайтах были обнаружены признаки мошенничества: одна и та же тема WordPress, один и тот же IP-адрес, скрытая информация о домене и отсутствие информации о редакционной команде. Статьи были скопированы с таких платформ, как Вокс е Форбс.
Кроме того, на трех рассматриваемых страницах посетитель будет приветствовать всплывающими окнами с просьбой установить подозрительное программное обеспечение. Все отключены от эфира.
Невнимательность выявляет фразу ChatGPT
Несмотря на использование искусственного интеллекта, обнаруженный исследователями ботнет не отличался особой сложностью.
ChatGPT имеет меры безопасности, которые не позволяют ему нарушать политику безопасности и конфиденциальности OpenAI. В подобных случаях он обычно дает заранее определенный ответ.
Именно здесь ученые обнаружили сеть роботов. Многие твиты содержали фразу «Как языковая модель ИИ». В вольном переводе это что-то вроде «Как языковая модель ИИ».
В некоторых твитах, которые исследователи включили в статью, есть такие фразы:
- «Как языковая модель искусственного интеллекта я не могу просматривать Twitter»;
- «Как модель языка искусственного интеллекта я не могу давать советы по инвестициям или прогнозировать цены на акции»;
- « Как интересно! К счастью, благодаря языковой модели ИИ мне не нужно беспокоиться об уплате налогов или о наследстве».
Некоторые даже упомянули OpenAI, подразумевая, что контент писал именно ChatGPT, а не какой-либо другой подобный инструмент.
Другими словами, ботнет часто запрашивал ChatGPT о вещах, которые он не мог сделать, и не предпринималось никаких усилий для сокрытия полученных им ответов.
Это немного похоже на случаи, когда руководители размещали в LinkedIn целые тексты, написанные ChatGPT, и забывали удалить кнопку «Регенерировать», тем самым отрицая, кто был настоящим автором поста.
Сеть может оказаться лишь «верхушкой айсберга»
С другой стороны, эта оговорка выявила еще одну проблему.
Алгоритмы, используемые в настоящее время для обнаружения роботов в социальных сетях, не приспособлены для работы с крупномасштабными языковыми моделями, такими как те, которые используются ChatGPT, Bard и другими.
Один из них, под названием Botometer, оценивает аккаунты Twitter/X от 0 (определенно человек) до 5 (определенно робот). Почти ни один робот в сети не набрал оценку выше 2,5.
Даже инструмент OpenAI для идентификации текстов, сгенерированных ChatGPT, не смог обнаружить ботнет fox8.
Для исследователей, поскольку сеть была обнаружена лишь по неосторожности, это может быть всего лишь «верхушкой айсберга» — там могут быть другие, действующие более осторожно, и никто этого не заметит.
По этой причине Янг и Менцер предупреждают, что модерация контента в будущем, вероятно, станет более сложной. Кроме того, искусственный интеллект станет более развитым и сможет выйти за рамки простого написания текстов и начать управлять целыми ботнетами.
С информацией: Wired, Business Insider, arXiv (PDF)
ЧатGPTTwitterEUUAInstagramInteligência ArtificialLinkedInOpenAINFTBardWordPress