Приложения, обещавшие «раздеть» женщин, были запрещены в Google Play (Изображение: Unsplash/Mika Baumeister)
Узнайте больше о Google Play на странице наш канал в WhatsApp
Google обновил правила Google Play, своего магазина приложений для Android, чтобы предотвратить дипфейки, связанные с наготой и порнографией. Разработчикам, предлагающим возможности генеративного искусственного интеллекта, необходимо будет предотвращать создание ограниченного контента, такого как контент сексуального характера, насилие или нечестный контент, среди прочего.
Помимо запрета генеративного искусственного интеллекта для ограниченного контента, Google потребуются инструменты, предлагающие варианты сообщения о оскорбительном контенте. По словам компании, разработчикам придется тщательно тестировать свои приложения, чтобы гарантировать соблюдение безопасности и конфиденциальности пользователей.
Дипфейки певицы Тейлор Свифт в порнографических ситуациях были распространены на X (Изображение: Тассиус Велосо/)
Приложения не смогут рекламировать, что они способны создавать обнаженные изображения без согласия. Любой, кто это сделает, может быть забанен.
Недавно на сайте 404 Медиа выяснилось, что приложения для создания дипфейков рекламировались в Instagram, используя наготу как одну из своих привлекательностей. Один из них пообещал «бесплатно снять с любой женщины одежду» и использовал изображение модели Ким Кардашьян. Apple и Google удалили эти приложения из своих магазинов.
Новые правила включены в обновление, опубликованное в четверг (6). В мае Google начал скрывать порнографические дипфейки в результатах поиска.
Знаменитости и анонимы становятся жертвами дипфейков
Deepfake — это название реалистичного изображения или видео, созданного искусственным интеллектом, но с использованием лица реального человека. Такая практика существует уже несколько лет и имеет несколько вредных случаев. Ютубер Гезиэль Тавейра, например, сообщил, что они использовали его дипфейк для распространения ложных и мошеннических рекламных акций.
В январе этого года в социальной сети X (ранее Twitter) были массово опубликованы сгенерированные искусственным интеллектом порнографические изображения певицы Тейлор Свифт.
Платформе пришлось заблокировать поиск по имени исполнителя, чтобы сдержать распространение контента, пока командам компании не удалось полностью его удалить. Microsoft также добавила ограничения в свой инструмент Designer, чтобы он не мог создавать контент такого типа.
В Бразилии аналогичная ситуация произошла с актрисой Исис Вальверде. Она обратилась в отдел полиции по борьбе с компьютерными преступлениями, чтобы сообщить о преступлении.
Дипфейки затрагивают не только знаменитостей. Подростки создают порнографические и расистские изображения одноклассников и даже учителей, используя ИИ, как форму издевательств и преследований.
Один из таких случаев произошел в колледже Санто-Агостиньо в Рио-де-Жанейро (РЮ). По меньшей мере 20 девушкам изменили имидж. Подозреваемые – учащиеся 7-9 классов школы.
С информацией: TechCrunch, Mashable.
AndroidGoogleGoogle PlayИскусственный интеллектDeepfakeMicrosoftTwitterИнстаграмРио-де-ЖанейроРио-де-Жанейро (штат)Apple