Все о Искусственный интеллект
Известно, что у искусственного интеллекта есть проблема расовых предрассудков, встречающаяся как в программах распознавания лиц, так и в тех, которые идентифицируют голоса.
Однако считается, что эта предвзятость может быть еще более серьезной, когда речь идет о банковских и финансовых услугах. Это связано с тем, что данные, используемые для обучения искусственного интеллекта, недостаточно обработаны.
Читайте также:
По данным многонациональной компании Deloitte, качество систем искусственного интеллекта зависит от качества получаемых ими данных. То есть неполная и нерепрезентативная информация и предвзятость обучающей группы могут ограничить объективность системы.
По словам Набиля Манджи, руководителя отдела Crypto и Web3 в Worldpay от FIS, при оценке того, хорош ли продукт ИИ, необходимо учитывать две переменные.
«Во-первых, это данные, к которым у нее есть доступ, а во-вторых, насколько хороша модель большого языка. Вот почему, что касается данных, вы видите такие компании, как Reddit и другие, которые публично заявили, что не позволят компаниям собирать свои данные, вам придется заплатить им за это», — сказал Манджи.
Примером того, как системы искусственного интеллекта могут воспроизводить предубеждения, является оценка кредита. По словам Энгла Буша, основателя организации «Черные женщины в искусственном интеллекте», существует риск того, что система будет воспроизводить предубеждения, присутствующие в данных, используемых для обучения алгоритмов.
«Это может привести к автоматическим отказам в выдаче кредита лицам из маргинализированных сообществ, что усилит расовое или гендерное неравенство», — пояснил Буш.
Несмотря на серьезность проблемы, Ким Смоутер, директор группы European Network Against Racism, отмечает, что доказать наличие дискриминации со стороны ИИ может быть невероятно сложно. То есть системный анализ объективен, но основан на необъективных данных.
Например, Apple и Goldman Sachs обвиняют в том, что они предоставляют женщинам более низкие лимиты на Apple Card. Но эти претензии были отклонены Департаментом финансовых услуг штата Нью-Йорк после того, как регулятор не обнаружил доказательств дискриминации по признаку пола.
Через CNBC.
Смотрели новые видео на YouTube от Olhar Digital? Подписывайтесь на канал!