хорошая проблема
Большинство сценариев начинаются с одной и той же точки: однажды машины превзойдут человеческие возможности, выйдут из-под контроля и откажутся выключаться.
«Как только у нас появятся машины, нацеленные на самосохранение, у нас будут серьезные проблемы», — сказал Йошуа Бенжио, исследователь искусственного интеллекта, во время конференции в этом месяце.
Но поскольку этих машин еще не существует, то представить, как они могли бы обречь человечество на гибель, зачастую является задачей философии и научной фантастики.
Как только у нас появятся машины, нацеленные на самосохранение, у нас возникнут серьезные проблемы.
Шведский философ Ник Бостром упомянул о «взрыве интеллекта», который произойдет, когда сверхразумные машины начнут, в свою очередь, проектировать другие машины.
Идеи Бострома были отвергнуты многими как научная фантастика, не в последнюю очередь потому, что однажды он утверждал, что человечество представляет собой компьютерную симуляцию, и поддерживал теории, близкие к евгенике.
Он также недавно принес извинения после того, как расистское сообщение, которое он отправил в 1990-х годах, было разоблачено.
Однако его мысли об ИИ оказали большое влияние, вдохновив Илона Маска и профессора Стивена Хокинга.
Терминатор
Если сверхразумные машины собираются уничтожить человечество, им обязательно понадобится физическая форма.
Красноглазый киборг, сыгранный Арнольдом Шварценеггером в «Терминаторе», оказался ярким образом.
Но эксперты отвергли эту идею. «Эта научно-фантастическая концепция вряд ли станет реальностью в ближайшие несколько десятилетий, если вообще когда-либо станет реальностью», — написала антивоенная группа активистов-роботов Stop Killer Robots в отчете за 2021 год.
Эта научно-фантастическая концепция вряд ли станет реальностью в ближайшие несколько десятилетий.
Тем не менее, группа предупредила, что предоставление машинам права принимать решения о жизни и смерти является экзистенциальным риском.
Эксперт по робототехнике Керстин Даутенхан из Университета Ватерлоо в Канаде преуменьшила эти опасения.
Маловероятно, сказал он AFP, что ИИ даст машинам большие способности к рассуждениям или привьет им желание убить всех людей.
«Роботы не плохие», — сказал он, хотя и признал, что программисты могут заставить их делать плохие вещи.