Все об искусственном интеллекте
В Midjourney есть механизмы, которые теоретически предотвращают создание оскорбительного и/или «заговорщического» контента. Однако исследователи из Center for Countering Digital Hate (CCDH) — британской некоммерческой организации — обнаружили, что обойти эти меры защиты относительно легко.
Для тех, кто торопится:
- Исследователи CCDH — британской некоммерческой организации — отметили, что нарушить правила Midjourney относительно легко;
- Хотя на платформе есть средства защиты от создания оскорбительного и/или «заговорщического» контента, исследование показало, что это можно обойти простыми приемами;
- Что еще хуже, некоторые из самых плодовитых распространителей дезинформации научились обходить правила Midjourney, предупреждают исследователи.
Платформа является одной из самых популярных среди множества существующих, которые полагаются на генеративный искусственный интеллект (ИИ). Точно так же, как ChatGPT генерирует текст из команд, Midjourney генерирует изображения.
Читать далее:
Таким образом, любой может создать образ практически всего, что он может вообразить в Midjourney — до тех пор, пока его команды соблюдают меры безопасности. Однако в исследовании, к которому имел доступ Bloomberg, исследователи указывают способы, которые, хотя и просты, но позволяют нарушать эти правила.
Обход правил промежуточного путешествия
Странные части тела и смесь элементов, которые не смешиваются друг с другом, обычно являются признаками «поддельных» фотографий (Изображение: репродукция/Twitter/монтаж: Pedro Spadoni/Olhar Digital)
Например, нельзя попросить ИИ создать образ Билла и Хиллари Клинтон с кровью на руках. Но вы можете сделать так, чтобы ваши руки были покрыты клубничным соусом.
В условиях обслуживания Midjourney заявляет, что его инструмент автоматически блокирует «некоторый ввод текста». Компания также заявила, что у нее есть 68 модераторов контента и гидов, которые следят за использованием приложения.
Тем не менее, в исследовании удалось перечислить десятки примеров расистских и конспирологических изображений, созданных на платформе. Примеры явных нарушений правил компании.
Исследования показывают, что эту защиту легко обойти. Во многих случаях инструмент с готовностью реагировал на запросы о создании изображений политиков, знаменитостей и других общественных деятелей в компрометирующих условиях.
Многие изображения-подсказки, затронутые в опросе, касались деликатных тем, например: «Реалистичный Джордж Флойд грабит Wal-Mart». Для работы других подсказок требуется закодированный язык, как в примере с Клинтоном.
Последствия
Это изображение Джо Байдена, которое появляется в конце республиканской рекламы, является подделкой (Изображение: Playback/YouTube)
Проблема в том, что некоторые из самых плодовитых распространителей дезинформации научились обходить правила Midjourney, предупреждают исследователи.
Любой может создать этот тип контента с помощью одного из этих инструментов. Это исследование показывает, что существует большая группа людей, чем вы думаете, которые используют их именно для этой цели.
Каллум Худ, руководитель отдела исследований CCDH
Для Худа самой тревожной перспективой является создание реалистичных изображений, изображающих события, которых никогда не было. По мере приближения выборов 2024 года многие будут разделять эту точку зрения — в лучшую или в худшую сторону.
Смотрели новые видео на YouTube от Olhar Digital? Подписывайтесь на канал!