США, 18 января 2024 г.- Всемирная организация здравоохранения (ВОЗ) представила сегодня этическое руководство, содержащее рекомендации по безопасному использованию больших языковых моделей (LMM), типа генеративного искусственного интеллекта (ИИ), в сфере здравоохранения. Эти LMM, такие как инструмент Chat-GPT, способны генерировать интеллектуальные тексты и контент в результате массовой обработки данных и все чаще используются в медицинской среде.
В ВОЗ подчеркивают, что, хотя эти модели начинают использоваться для конкретных целей здравоохранения, некоторые из них еще не прошли апробацию, что делает необходимым установление стандартов для их интеграции и использования в сфере здравоохранения. В руководстве подчеркиваются потенциальные риски, такие как «предвзятость автоматизации», которая может привести к ложным, неточным или предвзятым заявлениям, влияющим на решения в области здравоохранения, основанные на этой информации.
Кроме того, ВОЗ указывает на уязвимость LMM к рискам кибербезопасности, которые могут поставить под угрозу информацию о пациентах и надежность алгоритмов при оказании медицинской помощи. Предлагаемый первый шаг к созданию безопасного приложения — это «вертикальное и интегрированное» участие всех заинтересованных сторон, включая правительства, технологические компании, поставщиков медицинских услуг и гражданское общество.
ВОЗ предлагает государственным инвестициям в общественную инфраструктуру, доступную для разработчиков ИИ, при условии, что они придерживаются этических принципов. Он также рекомендует принять законы, гарантирующие соблюдение LMM прав человека, или создать регулирующий орган, который оценивает их соответствие перед использованием.
Ален Лабрик, директор департамента цифрового здравоохранения и инноваций ВОЗ, подчеркивает необходимость того, чтобы правительства возглавили совместные усилия по эффективному регулированию разработки и использования технологий искусственного интеллекта, таких как LMM. В руководстве подчеркивается важность участия всего общества, включая инженеров, ученых, потенциальных пользователей, поставщиков медицинских услуг, медицинских работников и пациентов, на всех этапах разработки этих языковых моделей.
Несмотря на текущие проблемы, ВОЗ признает огромную пользу, которую ИИ, включая LMM, может принести системам здравоохранения, улучшая общественное здравоохранение и продвигаясь к всеобщему охвату услугами здравоохранения.