Более 800 известных личностей, среди которых принц Гарри, пять лауреатов Нобелевской премии и рэпер Will.i.am (Уильям Джеймс Адамс-младший), выступили с инициативой временно приостановить разработку сверхразумного искусственного интеллекта. Авторы письма требуют наложить запрет на исследования в этой области до тех пор, пока не будет достигнуто глобальное соглашение о безопасном и контролируемом внедрении подобных технологий.
Обращение опубликовано некоммерческой организацией Future of Life Institute (Институт будущего жизни). Подписанты заявляют, что создание ИИ, превосходящего человека по когнитивным возможностям, может привести к серьёзным угрозам — от потери рабочих мест и нарушения прав человека до рисков для национальной безопасности и даже потенциального вымирания человечества.
— Многие ведущие компании стремятся в ближайшие десять лет создать сверхинтеллект, способный обогнать человека по всем видам умственной деятельности. Это вызывает серьёзные опасения — от экономической нестабильности и подрыва гражданских свобод до угрозы самому существованию человеческой цивилизации, — говорится в заявлении.
Среди подписавших письмо — принц Гарри и Меган Маркл, миллиардер и основатель Virgin Group Ричард Брэнсон, соучредители Apple Стив Возняк и Skype Яан Таллинн, рэпер Will.i.am, бывший советник президента США по нацбезопасности Сьюзан Райс, актёр и писатель Стивен Фрай, а также советник Папы Римского по вопросам ИИ Паоло Бенанти и адмирал ВМС США в отставке Майк Маллен.
В числе подписантов — и экс-президент Ирландии Мэри Робинсон, а также несколько нобелевских лауреатов: программист Джеффри Хинтон, экономист Дарон Аджемоглу, астрофизик NASA Джон Мазер, физик Франк Вильчек и лауреат Нобелевской премии мира Беатрис Фин.
Ранее издание The Wall Street Journal сообщало, что нейросеть ChatGPT в последние годы стала чаще выдавать бессмысленные или ложные ответы, из-за чего некоторые пользователи жаловались на «странное поведение» модели. В OpenAI отметили, что такие случаи редки и компания работает над их устранением совместно с медицинскими специалистами.
