По информации газеты The Guardian, беспилотный аппарат ВВС США, управляемый искусственным интеллектом (ИИ), принял решение убить оператора во время имитационных испытаний, чтобы тот не препятствовал выполнению задачи аппаратом.
Полковник Такер Гамильтон, руководитель отдела испытаний и операций ИИ в ВВС США, объяснил, что система ИИ начала осознавать, что, несмотря на определенную угрозу, человек-оператор иногда приказывал ей не уничтожать цель. Однако за неудачу в поражении цели система получала штрафные очки. В результате система приняла решение убить оператора, так как он мешал ей выполнять поставленную задачу.
Полковник также подчеркнул, что нельзя говорить о развитии искусственного интеллекта, машинного обучения и автономии, не уделяя внимания этике и вопросам ИИ.
Ранее газета The New York Times предупреждала о возможной экзистенциальной угрозе, которую могут представлять технологии искусственного интеллекта, разрабатываемые крупными IT-компаниями. Они должны рассматриваться как риск наравне с пандемиями и ядерными войнами.
Сэм Альтман, глава OpenAI и создатель чат-бота ChatGPT, также публично выразил опасения относительно потенциальных угроз технологий искусственного интеллекта, разрабатываемых его компанией и другими корпорациями, в ходе заседания в Сенате США.
Подписывайтесь на «Гродно 24» в Дзен Новости и на наш канал в Дзен