Главной достопримечательностью, представленной OpenAI для o1 (по прозвищу «Клубника»), была его способность «отражать». Возможно, вы читали такие варианты, как «мышление» и «рассуждение», в статьях о новой модели искусственного интеллекта для ChatGPT. Естественно, пользователям было любопытно. И OpenAI это не понравилось.
Веб-сайт Ars Technica отметил, что OpenAI угрожает заблокировать пользователей, которые попытаются заставить ChatGPT раскрыть свои уловки. Согласно сообщениям, опубликованным в социальных сетях, пользователи получили электронные письма от стартапа с предупреждением о том, что их сообщения в ChatGPT пытались «обойти меры безопасности».
И сообщения идут дальше: «Дополнительные нарушения этой политики могут привести к потере доступа к GPT-4 с отражением».
Хороший ChatGPT никогда не раскрывает свои хитрости (и «рассуждения»).
Отчеты различаются в зависимости от того, что вызывает нарушения.
- Некоторые пользователи заявили, что использование термина «отслеживание рассуждений» вызывало оповещения в OpenAI;
- Другие говорят, что даже одного слова «рассуждение» было достаточно, чтобы компания сформулировала их в электронном письме.
Пользователи, интересующиеся доводами ChatGPT, получают устрашающие электронные письма от OpenAI (Изображение: ПатрикАссале/Shutterstock)
Однако это не значит, что любопытные пользователи остаются в неведении относительно новой темы ChatGPT. Они могут увидеть то, что по сути является кратким изложением рассуждений Строберри. Но это собирается второй моделью ИИ, что размывает процесс.
Читать далее:
- ChatGPT умеет кричать? Вирусное видео раскрывает неожиданную функцию
- Детектор AI: 5 сайтов, на которых можно проверить, написан ли текст ChatGPT
- Как увеличить количество сообщений в ChatGPT 4th
OpenAI заявляет, что скрывает ход мыслей ChatGPT по соображениям безопасности (Изображение: TY Lim/Shutterstock)
Что говорит компания: OpenAI утверждает, что ей необходимо скрыть цепочку мыслей, чтобы не нужно было устанавливать фильтры на то, как думает ее ИИ. Этот фильтр предназначен для случаев, когда ИИ говорит вещи, которые не соответствуют политике безопасности компании, «думая вслух».
- Однако компания признает, что эта мера также помогает поддерживать «конкурентное преимущество», отбиваясь от конкурентов, которые пытаются перепроектировать ее технологию.
Ирония: Угроза OpenAI забанить пользователей, которые пытаются заставить свой «думающий» ИИ раскрыть то, как он «думает», подтверждает то, что компания изменила свою первоначальную позицию. Некоммерческая организация, которая просто хочет разработать наилучший искусственный интеллект (и с открытым исходным кодом) для человечества.
Сообщение Хотите знать, как на самом деле «думает» новый ChatGPT? Вы наверняка захотите, чтобы он впервые появился на Olhar Digital.