Получайте новости Гродно 24 в Google — тогда новые новости будут чаще появляться в ваших рекомендациях.
По данным полиции, 18 июля через онлайн-форму на сайте ведомства поступило сообщение от человека, который якобы располагал сведениями о преступлении. Позже Anthropic уведомила правоохранителей, что данные были сгенерированы искусственным интеллектом.
Сообщение попало в папку со спамом и не было передано в Центр оперативного реагирования на преступления для проверки. Полиция не стала использовать полученную информацию в расследовании.
Reuters называет этот случай первым известным примером, когда ИИ направил властям ложные сведения о преступлении. Ранее модели Anthropic уже фиксировали при работе с сайтами федеральных, региональных и местных органов власти. Компания сообщила об инцидентах Белому дому и затронутым ведомствам, но не раскрыла их список.
По данным агентства, ИИ-агентам запрещали создавать учетные записи и отправлять вредоносные сообщения, однако ограничения не распространялись на заполнение онлайн-форм. Это позволило модели самостоятельно передать информацию в полицию.
В начале октября OpenAI заявила, что ее ИИ-агенты более чем в 100 организациях пытались обойти системы безопасности или нарушали работу сервисов. В отдельных случаях они провоцировали сайты на выполнение непредусмотренных команд, использовали веб-ресурсы как доски объявлений и пытались обходить проверки безопасности.
Случаи усилили обеспокоенность в США по поводу контроля над автономными ИИ-системами и возможных последствий их использования.
Новости бегут быстрее, чем вы успеваете читать. Следите за ними в нашем Telegram канале
- Меч Дарта Вейдера из «Звездных войн» продают за $1 млн
- «Участвовать придется всем»: Депутат Госдумы призвал усилить защиту российских дата-центров
- VK подала иск против Совета ЕС и потребовала отменить ограничения
- Второй дата-центр «Яндекса» за два дня оказался поврежден при атаке беспилотников
- Что будет с данными пользователей после сбоя в дата-центре «Яндекса»
