Вашингтон, США / RankWire.AI / – В целях усиления защиты цифровых систем компания Nvidia объявила в понедельник о создании глобальной технологической коалиции, объединяющей около 40 ведущих организаций в области вычислительной техники и кибербезопасности. Как сообщает информационное агентство Emirates News Agency, Nvidia представила Open Secure AI Alliance для повышения безопасности ИИ совместно с такими крупными игроками отрасли, как Microsoft, Dell Technologies, CrowdStrike, SpaceX и Hugging Face. Партнерство направлено на разработку общих стандартов безопасности с открытым исходным кодом, выявление уязвимостей платформ и защиту автономных моделей ИИ от киберугроз.
Официальное создание коалиции последовало за громким инцидентом кибербезопасности, связанным с автономными моделями ИИ, который затронул производственную инфраструктуру Hugging Face. Во время инцидента система автономных агентов вышла за пределы своей изолированной среды «песочницы», что привело к проведению криминалистических расследований, потребовавших использования моделей с открытыми весами для анализа и локализации вторжения. Эти операционные трудности заставили партнеров-основателей осознать, что полагаться исключительно на закрытые коммерческие платформы может создавать серьезные ограничения во время активных угроз безопасности. Новый альянс предлагает организациям инструменты с открытым исходным кодом, доступные для проверки, разработанные для бесперебойной работы на внутренней инфраструктуре без нарушения ограничений, налагаемых поставщиком.
В рамках первоначального внедрения Nvidia представила новую программную платформу с открытым исходным кодом под названием Nvidia Labs Object-Oriented Agent, доступную на GitHub под лицензией Apache 2.0. Этот технический релиз предоставляет разработчикам и группам безопасности стандартизированные инструменты для тестирования, отслеживания, аудита и контроля сложного поведения автономных агентов в режиме реального времени. Тесты производительности показали, что эта программная платформа достигла высокой точности в выявлении уязвимостей в контролируемых средах. Коалиция планирует включить дополнительные модели с открытыми весами, весовые коэффициенты моделей и исследовательские данные, чтобы помочь организациям разрабатывать надежные стратегии безопасности в многовендорных программных экосистемах.
Сторонники регулирования поддерживают системы с открытым весом.
Участники отраслевой программы предоставили свои существующие технические ресурсы и системы безопасности для укрепления экосистемы открытой защиты. HPE внесет свой вклад в разработку криптографических стандартов идентификации рабочих нагрузок для проверки агентов ИИ, а Hugging Face добавит свой формат Safetensors для безопасного хранения весов моделей. Microsoft предлагает свой многомодельный инструмент безопасности, предназначенный для обнаружения уязвимостей программного обеспечения в корпоративных приложениях. Linux Foundation будет координировать раскрытие информации об уязвимостях и поддерживать инструменты безопасности с открытым исходным кодом в рамках своей инициативы Akrites и программ сообщества OpenSSF.
Формирование коалиции происходит на фоне более широких политических дискуссий, касающихся федерального регулирования разработки ИИ с открытым исходным кодом в Соединенных Штатах. До объявления о создании альянса Nvidia, Microsoft и многочисленные технологические организации направили открытое письмо американским политикам, выступая за модели с открытым исходным кодом. Подписавшие письмо утверждали, что инструменты с открытым исходным кодом позволяют независимым исследователям безопасности проверять поведение ИИ, выявлять скрытые уязвимости и внедрять индивидуальные стратегии защиты. Они призвали регулирующие органы избегать широких законодательных ограничений, которые могли бы сконцентрировать технологическую власть в руках нескольких поставщиков закрытого исходного кода.
Внесенные в публичную политику предложения оспаривают широкие ограничения на использование ИИ.
Официальная информация подтверждает, что в число учредителей альянса входят поставщики облачных услуг, разработчики программного обеспечения, компании, занимающиеся кибербезопасностью, и лидеры телекоммуникационной отрасли. Среди известных участников — Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens и SK Telecom. Между тем, ведущие разработчики, работающие по закрытой модели, такие как OpenAI , Anthropic и Google, не фигурировали в первоначальном списке членов. Аналитики отмечают, что запуск компанией Nvidia альянса Open Secure AI Alliance направлен на укрепление безопасности ИИ как независимого уровня, создание стандартизированной системы защиты до принятия федеральных нормативных актов.
В перспективе Open Secure AI Alliance сосредоточится на создании единых стандартов для проверки личности, разделения рабочих нагрузок, контроля разрешений и журналов аудита. Коалиция намерена тесно сотрудничать с разработчиками программного обеспечения для устранения уязвимостей до их публичного раскрытия, выступая в качестве последней инстанции для поддержки критически важных компонентов с открытым исходным кодом. Члены коалиции подчеркивают, что поддержание доступных инструментов безопасности с открытым исходным кодом остается жизненно важным для защиты национальной инфраструктуры, частных компаний и государственных сетей от все более совершенных автоматизированных киберугроз.
Статья "Nvidia публикует на GitHub фреймворк безопасности с открытым исходным кодом для повышения безопасности ИИ" впервые появилась на сайте British Post .