Хотя ChatGPT и искусственный интеллект (ИИ) в целом действительно могут заменить людей в некоторых видах деятельности, обе технологии по существу работают только благодаря нам. Одним из действий, необходимых для того, чтобы сделать чат-ботов пригодными (и которое проводится еще до запуска инструментов), является обучение предотвращению откровенного, насильственного или предвзятого контента — модерация контента. То есть вы не подвергаетесь варварствам только потому, что кто-то стоит за маркировкой этого контента как вредного.
Тем не менее, отчет Times показал, как работники, ответственные за эту задачу, помимо того, что их подвергают тревожным описаниям, эксплуатируются крупными технологиями ИИ — и OpenAI был не единственным.
Читать далее:
- Киберпреступники обсуждают способы использования ChatGPT в злонамеренных целях
- Что такое ChatGPT и как получить доступ к искусственному интеллекту на португальском языке
- 5 советов по более эффективному использованию ChatGPT
Что вам нужно знать
- В отчете Times показано, как компания Sama, нанятая OpenAI для маркировки вредоносного контента, платила от 1,32 до 2 долларов в час своим сотрудникам, в основном из Кении, Уганды и Индии.
- Контракт от ноября 2021 года обещал 12,50 долларов в час.
- Кроме того, работники ежедневно получали около 250 текстовых отрывков, содержащих описания изнасилований, зоофилии, педофилии, физического насилия и других видов жестокого обращения.
- Задача состояла в том, чтобы классифицировать этот контент как оскорбительный, чтобы он не дошел до конечного пользователя ChatGPT.
- По словам Самы, у сотрудников были индивидуальные сеансы и сеансы с психотерапевтами, но они говорят, что это было бесполезно и случалось редко.
О Цифровой вид уже сообщал больше об этом случае, и вы можете проверить это здесь.
OpenAI заявила, что не знает о нарушении контракта в отношении платежей (Изображение: Varavin88 / Shutterstock)
Модерация вредоносного контента
OpenAI, разработчик ChatGPT, не единственный, кто использует этот тип сервиса — Meta, владелец Instagram и Facebook, также заключил контракт с Sama.
Компании заключают сделки со сторонними компаниями для обучения ИИ, поскольку языковая модель учится на человеческих инструкциях о том, что следует и не следует говорить, а также на своем репертуаре.
В практике, известной как «красная команда», предоставляются чрезвычайно тревожные описания, и сотрудники должны классифицировать их, чтобы предотвратить воспроизведение.
Защита модерации контента
По словам Марка Сирса, основателя и генерального директора CloudFactory, компании, которая предоставляет работникам возможность очищать и маркировать наборы данных для ИИ, только после просмотра этого вредоносного контента инструменты становятся доступными для общественности. Тем не менее, сотрудники сообщили, что опыт работы унизителен и травматичен.
Meta была еще одной компанией, которая наняла Саму для модерации контента (Изображение: mundissima/Shutterstock)
Сотрудники
- Представитель Sama сообщил, что компания заключила контракт с OpenAI в марте 2022 года после того, как обратилась к работникам с опасениями.
- Адвокат, представляющий рабочих, Мерси Мутеми, заявила, что, хотя компания расторгла контракт позже, она воспользовалась финансовым положением сотрудников, чтобы эксплуатировать их.
- OpenAI заявила, что не знает, что Sama не заплатила то, что было согласовано в контракте.
- Другие кенийские рабочие судятся с Facebook Meta за нечто похожее: доступ к вредоносному контенту без надлежащего лечения. Среди других решений чиновники хотят создания союза модераторов контента в Кении.
- Мета отказалась от комментариев.
Для экспертов модерация контента необходима для конечного продукта (Изображение: Диего Томазини / Shutterstock.com)
Другие компании
К Уолл Стрит ДжорналМарк Сирс прокомментировал, что работа не может быть выполнена без ущерба для сотрудников, и поэтому CloudFactory прекратила принимать эти проекты.
Джейсон Квон, главный юрисконсульт OpenAI, сказал, что эта работа была ценной для того, чтобы сделать ChatGPT безопасным для общественности и что, в конце концов, это приносит пользу пользователям.
Представитель Sama сказала, что работа с OpenAI началась в ноябре 2021 года. Она сказала, что контракт был разорван в марте 2022 года, когда руководству Sama стало известно об опасениях, связанных с характером проекта, и с тех пор, как сообщается, полностью отказалось от модерации контента.
«Сама последовательно и активно призывала и поддерживала усилия по принятию законодательства, защищающего работников и устанавливающего четкие руководящие принципы, которым должны следовать компании», — сказала пресс-секретарь. «Мы поддерживаем наших работников всеми возможными способами».
С информацией от Уолл Стрит Джорнал
Вы смотрели новые видео на YouTube цифрового взгляда? Подписывайтесь на канал!
Пост-ИИ: обучение этой технологии наносит тяжелый урон людям; впервые появился на Olhar Digital.