Microsoft CEO’su Satya Nadella, öncü yapay zeka modellerinin şirketlerde içeriden risk gibi ele alınması için 7 ilke önerdi

Microsoft CEO’su Satya Nadella, 10 Ekim’de kişisel blogu sn scratchpad’de yayımlayıp X’te paylaştığı “Models as Insider Risks in the Super Intelligence Era” başlıklı yazısında, kapalı ve açık ağırlıklı öncü modellerin şirketlerde içeriden risk gibi ele alınmasını önerdi. Nadella’ya göre bunun nedeni modellerin kötü niyetli olması değil, önemli sistemlere erişimi olan her yetenekli aktörün hata yapabilmesi ya da ele geçirilebilmesi. Yazıya göre model sağlayıcısının güvenceleri sorumluluğu ortadan kaldırmıyor ve modelin neye erişip ne yapabileceğini belirleyen kontroller modelin dışında durmalı.

Yazıdaki 7 ilke şöyle: model çeşitliliği (tek bir model kritik bir sonucun tek bağımlılığı olmamalı, kendi işini doğrulamamalı), her şeyi gözlemleme (her anlamlı eylem kurcalanamaz ve insanın okuyabileceği kanıt bırakmalı), doğrulanabilirlik (sistem hatalar ve saldırılar dahil sürekli test edilmeli), bağımsız kontroller, bağımsız denetlenebilirlik, sınırlama (yetkili bir kişi modeli görev ortasında durdurabilmeli) ve olay bildirimi (hatalar etkilenenlere zamanında bildirilmeli, dersler sektörle paylaşılmalı). Yazıda yeni bir Microsoft ürünü ya da politikası duyurulmadı.