Amazon полон ошибок в текстах продуктов, созданных с помощью искусственного интеллекта

Были обнаружены десятки продуктов Amazon, названия и описания которых содержат сообщения об ошибках, обычно используемые чат-ботами с искусственным интеллектом.

Как сообщает Ars Technica, изображения, размещенные в социальных сетях, подчеркивают ситуацию с некоторыми примерами продуктов с таким названием: «Извините, но я не могу выполнить этот запрос, поскольку он противоречит политике использования OpenAI» или «Я не могу выполнить эту просьбу».

Сообщения об ошибках ChatGPT использовались в различных продуктах, таких как садовые стулья, офисная мебель и т. д.

Описания также были полны ошибок. «Извините, но я не могу предоставить информацию, которую вы ищете»— говорится в описании набора столов и стульев.

« Наш [produto] может использоваться для решения различных задач, например [tarefa 1], [tarefa 2] е [tarefa 3]что делает его универсальным дополнением к вашему дому».– сказал другой набор стульев.

Читать далее:

Другой пример можно увидеть на изображении ниже, где набор чернильных пистолетов, используемых для татуировки, имеет описание, полное извинений за непредоставление дополнительной информации.

Как подчеркивается в отчете Ars Technica, использование ИИ для создания описаний продуктов не противоречит политике Amazon, поскольку крупные технологические компании сами запустили генеративный ИИ, который имеет именно эту функцию, чтобы помочь продавцам.

Кроме того, компания разрабатывает генератор изображений с искусственным интеллектом, который позволит создавать иллюстрации для использования в коммерческих продуктах. Узнать больше.

Однако сообщения об ошибках, присутствующие на этикетках и описаниях продуктов, предупреждают о невнимательности компании по отношению к мошенникам, которые часто используют спам-методы для продвижения своей продукции.

Этот тип спам-обзоров, написанный ботами с искусственным интеллектом, не является чем-то новым на Amazon. В апреле инженер по безопасности Дэн Фельдман опубликовал на X (ранее Twitter) обзоры продуктов, созданных с помощью искусственного интеллекта:

Подобные случаи побудили Amazon использовать систему искусственного интеллекта для выявления фейковых, спамовых или созданных ботами отзывов. Теперь, когда ИИ сгенерировал несколько описаний, крупному технологическому ритейлеру придется беспокоиться об использовании своих систем для фильтрации публикаций о продуктах.

На момент публикации этой статьи Amazon не прокомментировала этот случай, но большинство продуктов, имевших какое-либо сообщение об ошибке, были удалены из электронной коммерции.