Владелец Twitter, SpaceX и Tesla Илон Маск, соучредитель Apple Стив Возняк и другие видные деятели технологического сектора подписали открытое письмо, призывающее прекратить обучение систем искусственного интеллекта (ИИ) мощнее GPT-4 как минимум на шесть месяцев.
— Мы призываем все лаборатории искусственного интеллекта немедленно приостановить обучение систем ИИ мощнее GPT-4 как минимум на шесть месяцев, — говорится в письме, опубликованном в среду на сайте некоммерческой организации Future of Life Institute.
Все разработчики ИИ должны использовать это время для совместной разработки и внедрения протоколов безопасности для продвинутых систем, говорится в письме. Разработчики должны сосредоточиться на том, чтобы сделать продвинутый ИИ более безопасным, осмысленным и прозрачным.
Помимо Маска и Возняка, письмо подписали соучредитель Skype Яан Таллин, соучредитель Pinterest Эван Шарп, а также несколько других представителей технологической индустрии и профессоров из различных университетов.
— Системы искусственного интеллекта с интеллектом, соперничающим с человеческим, могут представлять серьезную опасность для общества и человечества, как показывают обширные исследования и признают ведущие лаборатории искусственного интеллекта, — пишут авторы письма.
По их мнению, лаборатории искусственного интеллекта в последнее время разрабатывают все более мощные «цифровые разумы», которые пока никто не может понять, предсказать или надежно контролировать. Сегодняшние ИИ могут конкурировать с людьми в выполнении основных задач, и авторы письма опасаются, что они могут наводнить информационные каналы пропагандой, отобрать у людей рабочие места и в целом «заменить« их.
В письме утверждается, что мощные системы ИИ следует разрабатывать только после того, как человечество будет уверено в их полезности, а все связанные с ними риски можно будет контролировать.
Подписывайтесь на «Гродно 24» в Дзен Новости и на наш канал в Дзен