Anthropic обнаружила попытку использования AI Claude для создания ракет

Неустановленные злоумышленники на севере Йемена предположительно пытались задействовать модель искусственного интеллекта Claude для создания ракет, сообщила американская компания-разработчик Anthropic.

На своём сайте компания заявила: "Мы выявили группу злоумышленников на севере Йемена, которая занималась тремя программами разработки вооружения. В их число входили проект создания управляемой ракеты с бортовым компьютером на базе обычного телефона и системой самонаведения на завершающей стадии, многоступенчатая баллистическая ракета с запланированной дальностью полёта свыше 2 тысяч километров, а также ракета с несколькими вариантами, включающая гиперзвуковой планирующий аппарат".

Сообщается, что злоумышленники использовали код Claude в качестве замены разработчиков программного обеспечения для создания ПО, отвечающего за наведение, навигацию и контроль ракеты.

Anthropic подчеркивает, что многие попытки были заблокированы благодаря мерам безопасности, однако не удалось предотвратить все случаи, так как злоумышленники использовали разные методы обхода защит.

В публикации утверждается, что они стремились создать управляемое оружие с поддержкой Claude, однако пока нет доказательств успешного изготовления действующего устройства. Тем не менее, компания добавила, что предполагается проведение испытательного запуска управляемой ракеты, который, как оказалось, не увенчался успехом.