OpenAI, компания, владеющая ChatGPT, снова находится под следствием федеральных властей США. На этот раз о том, что он делает, чтобы платформа не давала пользователям неправильные ответы.
Для тех, кто торопится:
- FTC (Федеральная торговая комиссия США) задала OpenAI вопрос о том, как он обрабатывает неправильные ответы ChatGPT;
- Регулирующий орган указал на способность чат-бота генерировать «ложные, вводящие в заблуждение и уничижительные» заявления о реальных людях;
- Комиссия также рассматривает подход компании к конфиденциальности данных;
- Кроме того, FTC исследует, как OpenAI получает данные для обучения и информирования своего чат-бота AI;
- В социальной сети генеральный директор OpenAI Сэм Альтман сказал, что он «разочарован» инициативой FTC.
С момента его запуска в ноябре 2022 года многие отмечали, что, хотя ChatGPT может быть чрезвычайно полезным, иногда он также может давать совершенно не связанные, ложные или неполные ответы.
Читать далее:
- ChatGPT: OpenAI формирует команду для мониторинга ИИ и «предотвращения» апокалипсиса
- ChatGPT: как не пользоваться мобильным телефоном?
- WebChatGPT: что это такое и как работает расширение для веб-поиска
OpenAI признал, что ChatGPT далеко не безошибочен, пояснив, что иногда он может «галлюцинировать» и выдумывать факты. Вкратце: ChatGPT, как и любая другая машина или технология, может ошибаться.
Однако регуляторы США по-прежнему обеспокоены.
ChatGPT под следствием
(Изображение: Педро Спадони/Digital Look)
На этой неделе FTC (Федеральная торговая комиссия) направила OpenAI письмо, о чем впервые сообщила Washington Post.
В нем регулирующий орган запросил точную информацию о том, как компания справляется с потенциальным риском ChatGPT, «чтобы создавать заявления о реальных людях, которые являются ложными, вводящими в заблуждение, уничижительными или вредными».
Регулирующие органы США также утверждают, что компания поставила под угрозу свою репутацию и личные данные, нарушив законы о защите прав потребителей.
В начале 2023 года генеральный директор OpenAI Сэм Альтман предупредил законодателей США о рисках, присущих ChatGPT, заявив, что «если эта технология пойдет не так, она может пойти очень плохо».
Он попросил правительство сотрудничать с его компанией, чтобы «предотвратить это».
Последствия
Однако Альтман был «разочарован» последним расследованием в отношении его компании. Он прокомментировал ситуацию в социальной сети. См. ниже:
очень разочаровывает то, что запрос FTC начинается с утечки и не способствует укреплению доверия.
Тем не менее, для нас очень важно, чтобы наша технология была безопасной и ориентированной на потребителя, и мы уверены, что соблюдаем закон. конечно, мы будем работать с FTC.
— Сэм Альтман (@sama) 13 июля 2023 г.
Очень разочаровывает тот факт, что подача документов FTC начинается с утечки, и это не способствует укреплению доверия. Тем не менее, для нас очень важно, чтобы наша технология была безопасной и ориентированной на потребителя, и мы уверены, что соблюдаем закон. Конечно, мы собираемся работать с FTC.
мы создали GPT-4 на основе многолетних исследований безопасности и потратили более 6 месяцев после того, как закончили начальное обучение, делая его более безопасным и согласованным, прежде чем выпустить его. мы защищаем конфиденциальность пользователей и разрабатываем наши системы, чтобы узнавать о мире, а не о частных лицах.
— Сэм Альтман (@sama) 13 июля 2023 г.
Мы создали GPT-4 на основе многолетних исследований в области безопасности и потратили более шести месяцев после того, как завершили первоначальное обучение, делая его более безопасным и точным перед запуском. Мы защищаем конфиденциальность пользователей и разрабатываем наши системы, чтобы узнавать о мире, а не о частных лицах.
мы прозрачны в отношении ограничений нашей технологии, особенно когда мы не оправдываем ожиданий. и наша структура ограниченной прибыли означает, что мы не заинтересованы в получении неограниченной прибыли.
— Сэм Альтман (@sama) 13 июля 2023 г.
Мы прозрачны в отношении ограничений нашей технологии, особенно когда мы терпят неудачу. А наша структура доходов с ограничениями означает, что мы не заинтересованы в получении неограниченной прибыли.
Другой вопрос
(Изображение: Les news)
Вопросы властей США компании, поддерживаемой Microsoft, не ограничиваются иногда неправильными ответами ChatGPT.
FTC также изучает, как компания подходит к конфиденциальности данных и как она получает данные для обучения и информирования своего чат-бота с искусственным интеллектом.
В апреле Италия запретила использование ChatGPT по соображениям конфиденциальности и разрешила его использование только после того, как OpenAI предоставила дополнительную информацию о своей политике конфиденциальности. Также был добавлен инструмент для проверки возраста пользователей.
По информации Евроньюс
Вы смотрели наши новые видео на YouTube? Подписывайтесь на наш канал!
Сообщение о неправильных ответах ChatGPT, повлекшее расследование OpenAI, впервые появилось в Olhar Digital.