Ученые: мы потеряем контроль над искусственным интеллектом

Ученые: мы потеряем контроль над искусственным интеллектом / фото носит иллюстративный характер
Технологии

Ученые из сообщества Макса Планка опасаются, что человечество никогда не сможет управлять сверхразумным искусственным интеллектом. Есть опасность, что при создании такого ИИ сценарий с Терминатором (научно-фантастический экшен с Арнольдом Шварценеггером) сбудется.

Неконтролируемый искусственный суперразум уже давно беспокоит ученых и философов. Человечество еще не создало такой интеллект, но сообщество Макса Планка теперь опасается, что люди никогда не смогут его контролировать.

В новом исследовании, опубликованном в Журнале исследований искусственного интеллекта, ученые используют теоретические расчеты для определения фундаментальной неспособности контролировать сверхразумный ИИ. Они обращаются к проблеме ограничения искусственного интеллекта. Если алгоритм, превосходящий человеческий разум и имеющий доступ ко всем данным, решает, что он должен нанести вред людям или полностью уничтожить человечество, то как этого можно предотвратить?

Ученые предполагают, что создание «алгоритма ограничений», блокирующего сверхразумный ИИ, могло бы решить проблему. Однако в этом случае алгоритм ограничения должен быть не менее «умным», чем супер-умный ИИ. Это означает, что проблема не может быть решена.

Конечно, рассуждения об искусственном сверхразуме остаются только теорией, поскольку человечество еще далеко от создания таких алгоритмов. Но, по мнению исследователей, людям нужно готовиться заранее, потому что уже есть машины, которые выполняют задачи самостоятельно, а программисты не понимают, как они этому научились.

Подписывайтесь на наш канал в Яндекс.Дзен!
Нажмите «Подписаться на канал», чтобы читать «Гродно 24» в ленте «Яндекса» zen.yandex.ru/grodno24

Самые популярные публикации


Следи за нами в социальных сетях