А ОпенАИ, компания, отвечающая за ChatGPT, ищет профессионалов для формирования команды, специализирующейся на детской безопасности. Инициатива направлена на улучшение платформы, правовой и следственной политики, чтобы дети и подростки не использовали искусственный интеллект неправильно.
В настоящее время компания ищет специалиста по обеспечению безопасности детей, который будет руководить и отвечать за соблюдение политики компании. ОпенАИ в контексте контента, создаваемого искусственным интеллектом, и работать над процессами проверки, связанными с «конфиденциальным контентом».
Читать далее:
- Почему ИИ никогда не заменит людей в авиации
- Бард уходит, на смену приходят Близнецы: новое лицо (и новая цена) ИИ от Google
- Apple тестирует редактор изображений с искусственным интеллектом в стиле ChatGPT
Тот факт, что ОпенАИ Найм специалистов по безопасности детей уже ожидался и соответствует тому, что сделали другие крупные технологические компании для разделения контента между взрослыми и несовершеннолетними – что часто наблюдается, например, в потоковом режиме. Текущие условия использования ОпенАИ требуют согласия родителей для детей в возрасте от 13 до 18 лет и запрещают использование детьми в возрасте до 13 лет.
Формирование новой команды происходит через несколько недель после ОпенАИ объявить о партнерстве с Common Sense Media для совместной работы над рекомендациями по искусственному интеллекту, ориентированными на детей, и обеспечить безопасность своего первого клиента в сфере образования. Дети и подростки все чаще обращаются к инструментам ИИ GenAI (генеративный ИИ) не только для помощи в учебе, но и в личных вопросах. По данным исследования Центра демократических технологий, 29% детей сообщают, что используют ChatGPT для решения проблем с тревогой или психическим здоровьем, 22% — для решения проблем с друзьями и 16% — для решения семейных конфликтов.
Изображение: Т. Шнайдер / Shutterstock.com
С тех пор, как ChatGPT стал доступен широкой публике, школы и университеты забеспокоились и попытались принять меры против плагиата, который серьезно влияет на преподавание. С тех пор многие учреждения запретили использование платформы.
Обзор Центр безопасного Интернета из Великобритании обнаружили, что более половины детей (53%) сообщают, что видели, как люди их возраста используют искусственный интеллект негативными способами — например, создают ложную информацию и убедительные изображения, используемые для того, чтобы кого-то расстроить.
Выручка OpenAI достигнет $2 млрд в 2023 году
- OpenAI при поддержке Microsoft достигла отметки в 2 миллиарда долларов США (приблизительно 10 миллиардов реалов) в декабре 2023 года, сообщило агентство Reuters в эту пятницу (09);
- Компания Сэма Альтмана ожидает более чем удвоить это значение к 2025 году за счет увеличения спроса на продукты с генеративным искусственным интеллектом (ИИ) – например, технологию, лежащую в основе ChatGPT;
- В настоящее время генеральный директор ведет переговоры об инвестициях в триллион долларов для преодоления текущих ограничений производства чипов, имеющих решающее значение для развития искусственного интеллекта.
Пост OpenAI собирает команду для повышения безопасности детей впервые появился на Olhar Digital.