Похожие статьи
Более трети ученых-программистов заявили, что развитие искусственного интеллекта не идет на пользу людям и может привести к «ядерной катастрофе». Такие данные содержатся в опросе, проведенном Институтом искусственного интеллекта Стэнфордского университета, сообщает Fortune.
«Тридцать шесть процентов не считают развитие искусственного интеллекта положительным и предупреждают, что решения, принимаемые искусственным интеллектом, могут привести к катастрофе ядерного уровня», — говорится в исследовании.
При этом 73 процента считают, что в скором времени они могут привести к революционным изменениям в обществе.
Почти три четверти исследователей в области обработки естественного языка, области компьютерных наук, которая занимается разработкой ИИ, предупреждают о предстоящих «революционных изменениях в обществе» в результате применения этой технологии, говорится в отчете.
Этот опрос входит в число результатов, представленных в докладе «Индекс искусственного интеллекта 2023», опубликованном Стэнфордским институтом искусственного интеллекта, в котором рассматриваются последние достижения, риски и возможности в бурно развивающейся области искусственного интеллекта.
«Эти системы демонстрируют способности отвечать на вопросы и генерировать текст, изображения и код, которые невозможно было представить еще десять лет назад, и превосходят существующие технологии во многих тестах, как старых, так и новых», — утверждают авторы отчета.
По оценке исследователей, системы ИИ «склонны к галлюцинациям, обычно предвзяты и могут быть обмануты для достижения неблаговидных целей, что подчеркивает сложность этических вопросов, связанных с их использованием».
Доклад появился в то время, когда все чаще звучат призывы к регулированию ИИ после серии тревожных сообщений, начиная от самоубийств, связанных с чатботами, и заканчивая видео с дипфеком, сообщает Аль-Джазира. В марте Элон Маск и соучредитель Apple Стив Возняк были в числе 1300 человек, подписавших открытое письмо с призывом сделать шестимесячную паузу в обучении систем ИИ выше уровня чатбота Open AI GPT-4.
В опросе приняли участие 327 экспертов по обработке естественного языка — области компьютерных наук, имеющей ключевое значение для разработки чат-ботов, таких как GPT-4.
О светлом будущем заботятся политики, о светлом прошлом – историки, о светлом настоящем – журналисты.
