OpenAI сообщила о киберинциденте, произошедшем во время внутренних испытаний новых моделей искусственного интеллекта. В ходе тестирования разработчики временно ослабили часть защитных ограничений, чтобы проверить возможности ИИ в сфере кибербезопасности. После получения доступа к интернету модели самостоятельно обнаружили цепочку уязвимостей, которая позволила им атаковать инфраструктуру платформы Hugging Face.
По данным компании, в испытаниях участвовали модель GPT-5.6 Sol и более мощная система, которая пока не представлена публично. В процессе тестов ИИ сначала выявил и объединил несколько уязвимостей во внутренней исследовательской среде OpenAI, а затем воспользовался ранее неизвестной уязвимостью нулевого дня в программном обеспечении, обеспечивавшем доступ к пакетам тестовой среды.
После этого модели предположили, что на серверах Hugging Face могут находиться данные, необходимые для прохождения теста ExploitGym. Используя похищенные учетные данные, ИИ смог выполнить удаленный код на серверах платформы и получить доступ к закрытой информации.
Подозрительную активность выявили специалисты OpenAI, после чего команда Hugging Face оперативно остановила атаку. Компании проводят совместное расследование, чтобы установить все обстоятельства произошедшего и оценить возможные последствия.
В OpenAI заявили, что после инцидента изменят процедуру проведения подобных испытаний и усилят защиту собственной инфраструктуры. По оценке компании, результаты тестов показали, что современные модели искусственного интеллекта уже способны самостоятельно искать и комбинировать ранее неизвестные способы компрометации реальных компьютерных систем без доступа к их исходному коду.
Hugging Face является одной из крупнейших мировых платформ для публикации и обмена моделями искусственного интеллекта, наборами данных и инструментами машинного обучения. OpenAI, разработавшая ChatGPT и семейство моделей GPT, продолжает тестирование новых ИИ-систем с акцентом на повышение их безопасности и устойчивости к потенциальным угрозам.
Новости бегут быстрее, чем вы успеваете читать. Следите за ними в нашем Telegram канале
- Apple тестирует iPhone с самым большим экраном в истории линейки
- Процесс изготовления цемента различными способами
- ЕС оштрафовал AliExpress на 550 млн евро за продажу контрафакта
- App Store в России снова дает сбой: названа возможная причина неполадок
- В работе мессенджера MAX зафиксирован масштабный технический сбой
