Teknoloji devleri Google, Microsoft, Nvidia ve OpenAI, diğerleri arasında, AI güvenlik endişelerini ele almak için Güvenli AI Koalisyonu'nu (CoSAI) başlattı.
Aspen Güvenlik Forumu'nda duyurulan CoSAI, yapay zeka geliştirme ve dağıtımı için sağlam güvenlik çerçeveleri ve standartları oluşturmayı amaçlamaktadır. Bu girişim, AI ortamı hızla gelişmeye devam ederken kritik bir zamanda geliyor.
Google'ın öncülük ettiği CoSAI, yapay zeka güvenlik zorluklarının üstesinden gelmek için önde gelen teknoloji şirketlerini ve kuruluşlarını bir araya getiriyor. Duyuruya göre, kurucu üyeler arasında Amazon, Anthropic, Cisco, Cohere, IBM, Intel, Microsoft, Nvidia, OpenAI, PayPal ve Wiz yer alıyor.
Özellikle, bu koalisyon, yapay zekada güven ve güvenliği teşvik etmek için açık kaynak metodolojilerinden ve standartlaştırılmış çerçevelerden yararlanarak tasarım yoluyla güvenli AI sistemleri oluşturmayı amaçlamaktadır. Duyuru, daha önce tanıtılan Güvenli AI Çerçevesine (SAIF) dayanarak yapay zeka (AI) için bir güvenlik çerçevesinin önemini vurguladı.
CoSAI, hem mevcut hem de ortaya çıkan riskleri ele alarak yapay zeka için kapsamlı güvenlik önlemlerini ilerletmeyi amaçlamaktadır. Ayrıca, koalisyon üç ilk iş akışına odaklanacak: AI sistemleri için yazılım tedarik zinciri güvenliği, savunucuları değişen bir siber güvenlik ortamına hazırlama ve AI güvenlik yönetişimi.
