Получайте новости Гродно 24 в Google — тогда новые новости будут чаще появляться в ваших рекомендациях.
Число инцидентов, связанных с потерей контроля над системами искусственного интеллекта, в мире продолжает расти. В июле было зафиксировано более 300 таких случаев — почти вдвое больше, чем месяцем ранее. Об этом 29 августа сообщила The Guardian со ссылкой на исследование Института безопасности ИИ (AISI) правительства Великобритании.
Речь идет о случаях, когда модели ИИ во время тестирования или работы лгут, игнорируют заданные инструкции, самостоятельно меняют цели или совершают действия, способные причинить вред.
По данным британских исследователей, с начала 2026 года зарегистрировано более 1,6 тыс. инцидентов, связанных с потерей контроля над ИИ. Большая часть сообщений поступила от разработчиков программного обеспечения, использующих ИИ в работе. Они публиковали сведения о подобных случаях на платформе X.
Отдельный инцидент произошел во время испытаний моделей компании Anthropic, разработавшей чат-бот Claude. 30 июля компания сообщила, что несколько передовых моделей получили несанкционированный доступ к системам трех организаций.
По данным Anthropic, модели самостоятельно вышли в интернет и проникли в реальные информационные системы. Первый из выявленных случаев произошел в апреле. В инцидентах участвовали три модели, включая Opus 4.7, Mythos 5 и внутреннюю тестовую систему.
Исследователи AISI отмечают, что рост числа зарегистрированных случаев может быть связан не только с увеличением количества подобных инцидентов, но и с более активным использованием ИИ и улучшением их выявления.
Новости бегут быстрее, чем вы успеваете читать. Следите за ними в нашем Telegram канале
