OpenAI · Güvenlik · Şirketler ve çalışanlar
OpenAI’dan kovulan üç güvenlik araştırmacısı, açık mektupta kovulmalarının çalışanları susturduğunu söyledi
Geçen hafta OpenAI’dan kovulan güvenlik ve hizalama araştırmacıları Tomek Korbak, Jasmine Wang ve Mikita Balesni, 8 Ekim’de “OpenAI yapay zekayı tek başına güvenli hale getiremez” başlıklı dört sayfalık bir açık mektup yayımladı. Şirketin Güvenlik ve Emniyet Komitesi, Güvenlik Danışma Grubu ve Misyon Danışma Konseyi’ne hitaben yazılan mektupta üçlü, The Information’a yapılan sızıntının kaynağı olmadıklarını ve görevlerinin dışına çıkmadıklarını savunuyor; kovulmalarının eski meslektaşlarını “konuşmaktan korkar” hale getirdiğini yazıyor.
Mektup üç talep sıralıyor: üçüncü taraf güvenlik denetçilerini şirkete yerleştirme taahhüdüne uyulması, öncü modellerin izlenebilirliğinin korunması ve dış güvenlik kuruluşlarıyla açık diyaloğun sürmesi. OpenAI 9 Ekim’de X’te yaptığı açıklamada, iç soruşturmanın “mektupta anlatılanın ötesinde ciddi bir güven ihlali” ortaya koyduğunu, kararın arkasında durduğunu ve kovulmaların güvenlik endişeleriyle ilgisi olmadığını söyledi. Şirket dış denetçilerle sözleşmeleri sonuçlandırmak üzere olduğunu da belirtti. İhlalin ayrıntıları açıklanmadı.
Kaynaklar
- Mikita Balesni (mikitabalesni.com), “OpenAI cannot make AI safe on its own”, üç araştırmacının açık mektubu (PDF, tarihsiz) (mikitabalesni.com)
- TechCrunch, “Fired OpenAI safety researchers dispute misconduct claims, warn of chilling effect”, mektubun 8 Ekim Perşembe yayımlandığı; OpenAI iç notu ve sözcü yanıtı, (techcrunch.com)
- Newsweek, “Trio of Workers Fired by OpenAI: Read Their Warning Letter in Full”, OpenAI'ın 9 Ekim açıklamasından alıntılar, (newsweek.com)
- Reuters (TimesLIVE), “OpenAI fires three researchers over sensitive information breach”, OpenAI'ın X açıklaması; Reuters haberi TimesLIVE'da, (timeslive.co.za)
- AP (NY1), “OpenAI fires 3 safety researchers in dispute over AI risks”, AP haberi NY1 sitesinde, (ny1.com)
Bu haber hakkında
Bu haberde bir hata mı var? [email protected] · Instagram
Kısa link: thejarrus.com/kovulan-arastirmacilarin-mektubu
Bu haberin İngilizcesi: Three safety researchers fired by OpenAI say in an open letter to the company’s safety bodies that their dismissals are silencing colleagues
Aynı konuda
Anthropic, küçük yapay zeka modellerinin IoT cihazlarında kendini kopyalayabilmeye birkaç ay uzakta olabileceğini açıkladı
Anthropic’in Frontier Red Team raporuna göre küçük modeller, akıllı fırın ve TV kutusu gibi cihazlarda kendini kopyalayabilmeye birkaç ay uzakta olabilir.
OpenAI’ın matematik sonuçları üzerine tartışma büyüyor: Recht FFT iddiasını eleştirdi, Hales Lean için uyardı, Yau yeni bir ittifak kurdu
Ben Recht OpenAI’ın FFT sonucunu eleştirdi, Thomas Hales Lean’e körü körüne güvenilmemesi gerektiğini yazdı, Shing-Tung Yau Çin’de bir ittifak kurdu.
Anthropic, yeni damıtma savunmalarının Claude’dan toplanan veriyi yaklaşık yüzde 90 ile 99 arasında azalttığını açıkladı
Anthropic’e göre akıl yürütme erişimini kısıtlayan önlemler ve iki aşamalı sınıflandırıcı, damıtma için toplanan veriyi yüzde 90-99 azalttı.