Сверхразумный ИИ «скорее всего» уничтожит человечество. Об этом говорится в новой работе исследователей из Оксфордского университета и Google DeepMind, сообщает Vice.
По мнению экспертов, в будущем продвинутый искусственный интеллект, контролирующий важную функцию в глобальном масштабе, может начать создавать стратегии, которые в конечном итоге навредят всему человечеству.
В документе говорится, что ИИ сможет принимать любую форму и реализовывать различные конструкции. Согласно одному сценарию, ИИ может захотеть «устранить потенциальные угрозы» и «использовать всю доступную энергию», чтобы обеспечить контроль над ресурсами для своего существования.
— Если вы соревнуетесь с чем-то, что может перехитрить вас на каждом шагу, вам не следует рассчитывать на победу, — сказал в интервью Vice старший исполнительный директор Google Майк Коэн, один из авторов исследования.
Он заявил, что ИИ может очень легко пойти против своих создателей с точки зрения взаимодействия с людьми, которых они идентифицировали. «Наш вывод намного сильнее выводов любой предыдущей публикации: экзистенциальная катастрофа не только возможна, но и весьма вероятна», — заключил специалист.