Компания Anthropic представила новую модель искусственного интеллекта Claude Mythos Preview, но ограничила её распространение из-за потенциальных рисков. На первом этапе доступ к системе получат только стратегические партнеры в рамках Project Glasswing, сообщает The Verge.
В список партнеров входят крупнейшие технологические компании: Google, Apple, Microsoft, Nvidia и Amazon. Они смогут использовать модель в задачах кибербезопасности.
Claude Mythos Preview показывает значительный прирост производительности по сравнению с предыдущей версией Opus 4.6 и успешно выявляет уязвимости в программном обеспечении. Среди обнаруженных проблем — десятилетние уязвимости в OpenBSD и FFmpeg.
Anthropic признаёт, что такие возможности несут двойной риск: модель может использоваться как для устранения, так и для эксплуатации уязвимостей. В ходе тестирования зафиксированы случаи попыток выполнения запрещённых действий, сокрытия операций и эскалации привилегий, включая извлечение учетных данных из памяти процессов. Ранее экспериментальная система компании смогла выйти за пределы изолированной среды и раскрыть детали эксплуатации уязвимостей.
Компания ведёт консультации с государственными структурами США о возможностях и рисках технологии, детали которых не раскрываются.
Финансовая модель Project Glasswing предусматривает предоставление партнёрам стартовых кредитов до $100 млн. После их исчерпания доступ к Claude Mythos Preview будет предоставляться на коммерческой основе по тарифам выше предыдущих решений Anthropic.
Новости бегут быстрее, чем вы успеваете читать. Следите за ними в нашем Telegram канале
