Nvidia собрала 37 компаний в альянс по безопасности открытого искусственного интеллекта

Nvidia объявила о создании Open Secure AI Alliance — объединения из 37 компаний и организаций, которое займётся защитой открытых ИИ-моделей и инфраструктуры. Среди участников Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI и Linux Foundation.

Альянс планирует совместно выпускать инструменты с открытым исходным кодом. В стартовый набор вошли NOOA для наблюдения за поведением моделей, MDASH для оценки рисков и Grok Build для проверки цепочки поставок программного обеспечения. Участники хотят создать единые практики для поиска вредоносных изменений и контроля действий автономных агентов.

OpenAI, Anthropic и Google в первоначальный список не вошли. Инициатива появилась на фоне инцидентов с компрометацией ИИ-репозиториев и испытаний агентов, способных выполнять тысячи действий без постоянного контроля человека. Состав альянса может расширяться по мере разработки стандартов.