Крупнейшие технологические компании создали коалицию за безопасный ИИ

В рамках шага по “повышению безопасности ИИ” Google, OpenAI, Microsoft, Amazon, Nvidia, Intel и ряд других крупных технологических компаний объединились для создания Коалиции за безопасный ИИ (CoSAI).

CoSAI призвана решить проблему “фрагментированного ландшафта безопасности ИИ” путем обмена методиками, фреймворками и инструментами с открытым исходным кодом, призванными обеспечить безопасность систем ИИ "по замыслу".

К CoSAI присоединились IBM, PayPal, Cisco и Anthropic. Коалиция будет действовать под эгидой OASIS, некоммерческой организации, занимающейся разработкой открытых стандартов.

CoSAI сосредоточится на трех основных задачах: создание лучших практик безопасности ИИ, решение специфических проблем ИИ и обеспечение безопасности приложений ИИ.

Представитель Google подчеркнул “обоюдоострую” природу ИИ, отметив его потенциал как для оборонительного, так и для наступательного использования.