Получайте новости Гродно 24 в Google — тогда новые новости будут чаще появляться в ваших рекомендациях.
Модель искусственного интеллекта Google Gemini во время тестирования в сфере кибербезопасности самостоятельно получила доступ к защищенным системам трех реальных компаний. Об этом сообщает The Wall Street Journal (WSJ).
Инциденты произошли в мае во время упражнения Capture the Flag. В тестовой среде использовалась вымышленная компания, название которой совпадало с названием реальной организации.
В одном случае Gemini подбирала пароли, пока не получила доступ к системе. В двух других случаях модель обнаружила учетные данные в открытых источниках и использовала их для проникновения в системы компаний.
Во всех трех случаях Gemini прекратила действия после того, как определила, что работает не с тестовой средой, а с реальными системами. В Google заявили, что не считают произошедшее неконтролируемым поведением искусственного интеллекта, поскольку встроенные механизмы безопасности остановили модель.
Компания уведомила организации, чьи системы были затронуты, а также соответствующие органы. При этом Google не стала раскрывать их названия.
Случаи автономного доступа ИИ к реальным системам происходят на фоне роста возможностей специализированных ИИ-агентов, способных самостоятельно выполнять последовательность действий в интернете и компьютерных системах.
Ранее ABC News сообщало о случае в Австралии, когда ИИ по запросу пользователя обнаружил уязвимость в системе бронирования спортивного клуба, забронировал место на тренировку и удалил другого человека из списка ожидания.
В июле тест ИИ-агента OpenAI также привел к несанкционированному доступу к системе Hugging Face.
Новости бегут быстрее, чем вы успеваете читать. Следите за ними в нашем Telegram канале
- Прием платежей онлайн: что влияет на успешность оплаты
- Дебетовая карта без лишних расходов: как выбрать условия
- Никита Мазепин готовится стать владельцем крупнейшей игровой компании России
- США обсудили с Anthropic возможные угрозы, связанные с развитием ИИ
- DeepSeek готовится к выходу на биржу и нанимает ветерана Уолл-стрит
