С момента выпуска ChatGPT в конце 2022 года многие новостные агентства сообщили об этических угрозах, исходящих от искусственного интеллекта. Эксперты в области технологий выступили с предупреждениями о том, что роботы-убийцы стремятся к вымиранию человечества, а Всемирный экономический форум предсказал, что машины будут отнимать рабочие места.
Технологический сектор сокращает рабочую силу, несмотря на то, что инвестирует в инструменты повышения производительности с помощью искусственного интеллекта. Писатели и актеры Голливуда бастуют, чтобы защитить свою работу и свое подобие. И ученые продолжают показывать, как эти системы усиливают существующие предубеждения или создают бессмысленные рабочие места – среди множества других проблем.
Есть лучший способ внедрить искусственный интеллект на рабочие места. Я знаю, потому что видел это как социолог, работающий с командами космических роботов НАСА.
Ученые и инженеры, которых я изучаю, заняты исследованием поверхности Марса с помощью марсоходов, оснащенных искусственным интеллектом. Но их работа — это не научная фантастика. Это пример объединения машины и человеческого интеллекта на службе общей цели.
Вместо того, чтобы заменять людей, эти роботы сотрудничают с нами, чтобы расширить и дополнить человеческие качества. При этом они избегают распространенных этических ошибок и намечают гуманный путь работы с ИИ.
Миф о замене в ИИ
Истории о роботах-убийцах и потерях рабочих мест иллюстрируют, как «миф о замене» доминирует в том, как люди думают об ИИ. С этой точки зрения люди могут и будут заменены автоматизированными машинами.
Среди экзистенциальной угрозы – обещание таких благ для бизнеса, как повышение эффективности, увеличение прибыли и увеличение количества свободного времени.
Эмпирические данные показывают, что автоматизация не снижает затраты. Вместо этого оно увеличивает неравенство, исключая работников с низким статусом и увеличивая стоимость заработной платы для оставшихся работников с высоким статусом. Между тем, сегодняшние инструменты повышения производительности вдохновляют сотрудников работать на своих работодателей больше, а не меньше.
Альтернативой прямой замене являются системы «смешанной автономии», в которых люди и роботы работают вместе. Например, беспилотные автомобили должны быть запрограммированы на работу в дорожном движении вместе с водителями-людьми. Автономия является «смешанной», поскольку и люди, и роботы работают в одной системе, и их действия влияют друг на друга.
Однако смешанная автономия часто рассматривается как шаг на пути к замене. И это может привести к созданию систем, в которых люди просто кормят, курируют или обучают инструментам ИИ. Это обременяет людей «призрачной работой» — бессмысленными, разрозненными задачами, которые, как надеются программисты, машинное обучение скоро сделает устаревшими.
Замена вызывает тревожные сигналы для этики ИИ. Такие работы, как разметка контента для обучения ИИ или очистка постов в Facebook, обычно связаны с травмирующими задачами и низкооплачиваемой рабочей силой, разбросанной по всему Глобальному Югу. А легионы разработчиков автономных транспортных средств одержимы «проблемой троллейбусов» — определением, когда и этично ли наезжать на пешеходов.
Но мое исследование с участием команд космических роботов в НАСА показывает, что когда компании отвергают миф о замене и вместо этого выбирают создание команд человека и робота, многие этические проблемы, связанные с ИИ, исчезают.
Расширение, а не замена
Сильные команды человека и робота работают лучше всего, когда они расширяют и дополняют человеческие возможности, а не заменяют их. Инженеры создают машины, которые могут выполнять работу, которую люди не могут. Затем они разумно объединяют машинный и человеческий труд, работая над достижением общей цели.
Часто такая командная работа означает отправку роботов для выполнения работ, физически опасных для человека. Траление мин, поисково-спасательные операции, выходы в открытый космос и глубоководные роботы — все это примеры из реальной жизни.
Командная работа также означает использование объединенных сил роботизированных и человеческих чувств или интеллекта. В конце концов, у роботов есть много возможностей, которых нет у людей, и наоборот.
Например, человеческие глаза на Марсе могут видеть только тускло освещенную, пыльную красную местность, простирающуюся до горизонта. Поэтому инженеры оснастили марсоходы фильтрами для камер, чтобы «видеть» длины волн света, которые люди не могут видеть в инфракрасном диапазоне, возвращая изображения в ярких искусственных цветах.
Между тем бортовой ИИ марсоходов не может генерировать научные результаты. Только объединив красочные результаты датчиков с обсуждениями экспертов, ученые смогут использовать эти роботизированные глаза, чтобы раскрыть новые истины о Марсе.
Уважительные данные
Еще одна этическая проблема для ИИ заключается в том, как собираются и используются данные. Генеративный ИИ обучается на работах художников и писателей без их согласия, коммерческие наборы данных изобилуют предвзятостью, а ChatGPT «галлюцинирует» ответы на вопросы.
Реальные последствия использования этих данных в ИИ варьируются от судебных исков до расового профилирования.
Роботы на Марсе также полагаются на данные, вычислительную мощность и методы машинного обучения при выполнении своей работы. Но данные, которые им нужны, — это визуальная информация и информация с расстояния, чтобы проложить маршруты или предложить новые интересные изображения.
Сосредоточив внимание на окружающем мире, а не на нашем социальном мире, эти роботизированные системы избегают вопросов, связанных со слежкой, предвзятостью и эксплуатацией, которые преследуют современный ИИ.
Этика ухода
Роботы могут объединять работающие с ними группы, вызывая человеческие эмоции при плавной интеграции. Например, опытные солдаты оплакивают сломанные дроны на поле боя, а семьи дают своим роботам-пылесосам имена и индивидуальности.
Я видел, как инженеры НАСА разрыдались от тревожных слез, когда марсоходам «Спирит» и «Оппортьюнити» угрожали марсианские пылевые бури.
В отличие от антропоморфизма — проецирования человеческих качеств на машину — это чувство рождается из чувства заботы о машине. Оно развивается посредством ежедневного взаимодействия, взаимных достижений и совместной ответственности.
Когда машины вызывают чувство заботы, они могут подчеркнуть, а не подорвать качества, которые делают людей людьми.
Лучший ИИ возможен
В отраслях, где искусственный интеллект может использоваться для замены рабочих, эксперты в области технологий могли бы подумать о том, как умное партнерство человека и машины может улучшить человеческие возможности, а не умалять их.
Команды, пишущие сценарии, могут оценить искусственный агент, который может на лету искать диалоги или перекрестные ссылки. Художники могли бы писать или курировать свои собственные алгоритмы, которые стимулируют творчество и сохраняют признание за свою работу. Боты для поддержки групп разработчиков программного обеспечения могут улучшить общение на собраниях и найти ошибки, возникающие при компиляции кода.
Конечно, отказ от замены не устраняет всех этических проблем, связанных с ИИ. Но многие проблемы, связанные с человеческими средствами к существованию, свободой воли и предвзятостью, меняются, когда замена больше не является целью.
Фантазия о замене — лишь одно из многих возможных вариантов будущего для ИИ и общества. Ведь никто бы не смотрел «Звездные войны», если бы всех главных героев заменили дроиды. Для более этического видения будущего человечества с ИИ вы можете обратиться к командам человек-машина, которые уже живы и здоровы в космосе и на Земле.
Автор: Джанет Вертези – доцент кафедры социологии Принстонского университета