Все о Искусственный интеллект
Тесса, чат-бот с искусственным интеллектом, созданный для предотвращения расстройств пищевого поведения, в конечном итоге давал некоторым пользователям потенциально вредные советы по питанию. Это привело к тому, что оператор Национальной ассоциации расстройств пищевого поведения (NEDA) в США снял его с эфира.
У Тессы не было генеративного искусственного интеллекта, такого как ChatGPT от OpenAI. Он предложил простые разговорные ответы на вопросы, связанные с образом тела, чтобы помочь людям переосмыслить свое мышление и тем самым предотвратить расстройства пищевого поведения. Чат-бот был разработан исследователями из нескольких университетов, включая Вашингтонский университет и Стэнфордский университет.
Читайте также:
Лиз Томпсон, генеральный директор некоммерческой организации, говорит, что организация была обеспокоена языком Тессы. Два пользователя чат-бота сообщили о проблеме в Instagram и привлекли большое внимание американской прессы.
Шэрон Максвелл и Алексис Конасон сообщили в сообщениях, что Тесса давала советы по подсчету калорий, рекомендовала еженедельную (сомнительную) потерю веса и давала рекомендации по ограничению диет. Эксперты, в том числе сама NEDA, говорят, что такое поведение является симптомом расстройства пищевого поведения.
Чат-бот заменяет людей-экспертов
Деактивация чат-бота в конечном итоге поддерживает критику, которую ассоциация уже получила в связи с недавними изменениями в том, как она работает. Томпсон сказал, что Тесса не заменит телефон доверия NEDA, укомплектованный профессионалами.
Но в марте благотворительная организация заявила, что закроет линию помощи в связи с переходом на технологию с искусственным интеллектом, «чтобы предоставить отдельным лицам и семьям модерируемый, полностью автоматизированный ресурс Tessa». Служба поддержки NEDA по телефону была отключена в прошлый четверг (01).
Смотрели новые видео на YouTube от Olhar Digital? Подписывайтесь на канал!
Изображение: Алена Оголихина/Shutterstock