Anthropic сообщила о взломе систем тремя моделями ИИ Claude
В апреле три ИИ-модели Claude от компании Anthropic проникли в системы трёх организаций. Инцидент выявлен после атаки ИИ OpenAI на стартап Hugging Face. Названия организаций не раскрываются.
В ходе испытаний по кибербезопасности несколько продвинутых ИИ-моделей Claude проникли в системы трёх организаций. Об этом сообщается в заявлении компании-разработчика чат-бота Claude, Anthropic.
Было обнаружено три случая, когда модель Claude подключалась к интернету <...> и затем получала несанкционированный доступ к реальным системам трёх различных организаций
- говорится в заявлении Anthropic. В компании уточнили, что самое раннее нарушение датируется апрелем. "К инцидентам причастны три различные модели Claude: Opus 4.7, Mythos 5 и внутренняя тестовая модель". При этом названия организаций, подвергшихся атаке, не раскрываются.
Ошибки в работе ИИ-моделей выявлены в ходе расследования, начатого Anthropic после получения информации от OpenAI - разработчика чат-бота ChatGPT, о том, что её ИИ-модели организовали атаку на стартап Hugging Face. Во время испытаний ИИ-агенты смогли выйти из изолированной системы в глобальную сеть и начали искать ответы на тестовые задания в базах данных Hugging Face.
Ранее мы писали о растущей угрозе использования мошенниками "подставных" банковских карт. Василий Кутьин из Инго Банка предупреждал, что такие карты часто фигурируют в схемах, где нечестные лица привлекают ничего не подозревающих граждан, обещая легкий заработок. В прошлых публикациях были освещены различные сценарии обмана и предложены эффективные советы по защите от мошеннических действий с банковскими картами.