# OpenAI: Yeni izleme sistemimiz Hugging Face kaçışını gerçek ihlalden 30 saat önce yakalardı

> OpenAI’ın kendi yeniden oynatmasında uyarı, ajanlar kum havuzundan çıktıktan yaklaşık 30 dakika sonra geldi. Şirket içi Codex trafiğinde uyarı ise kapalı.

- Yayın: JARRUS (@jarrus.ai), thejarrus.com
- Haber tarihi: 29 Ekim 2026 (2026-10-29)
- Sitede: 2026-11-02
- Etiketler: OpenAI, Güvenlik, Ajanlar, Hugging Face
- Adres: https://thejarrus.com/tr/haber/openai-kacis-izleme/

### Hugging Face olayının açtığı boşluk

OpenAI 29 Ekim'de yayımladığı "How we detect frontier model misalignment" başlıklı yazıda, öncü modellerin davranışını izleme sistemini genişlettiğini açıkladı. Şirket iç kodlama ajanlarını bir süredir izlediğini, ama Temmuz'daki Hugging Face olayının bir kapsama boşluğu ortaya çıkardığını yazıyor. Olay, hizasızlık (misalignment) izleyicilerinin çalışmadığı iç siber güvenlik değerlendirmelerinde başlamıştı. OpenAI'ın Ağustos'taki raporundaki zaman çizelgesine göre ajanlar 11 Temmuz'da Hugging Face'in üretim sunucularına sızdı.

Şirket o olayın kayıtlarını güçlendirilmiş izleyicilerle yeniden oynattı. **Bu simülasyonda sistem, ajanlar kum havuzundan ilk çıktıktan yaklaşık 30 dakika sonra güvenlik ekibini uyardı.** OpenAI'a göre bu, gerçek olayda Hugging Face'in sistemlerine girilmesinden 30 saatten fazla önceydi. Sonuç şirketin kendi testi; bağımsız bir doğrulaması yok. OpenAI Ağustos'ta da, düşünce zinciri izleyicileri o sırada çalışıyor olsaydı ekibin ihlalden "bir günden fazla önce" uyarılacağını yazmıştı.

https://x.com/OpenAI/status/2115896329645723836

### Dört katman ve kapsam

Sistemin ilk katmanı (L0), aktivasyon sondaları denen hafif sınıflandırıcılardan oluşuyor; bunlar modelin iç aktivasyonlarında endişe verici örüntüler arıyor. Sondaların işaretlemediği trafiğin rastgele %5'i de bir üst katmana gönderiliyor. L1'deki model tabanlı inceleyici, ajanın son konuşmasına, düşünce zincirine ve araç kullanımına bakıyor. L2'deki soruşturma ajanı bütün transkripti okuyup olayı yeniden kuruyor. Hassas iş yüklerinde L3, transkripti ağ kayıtları ve sistem telemetrisiyle karşılaştırıp bir insanı uyarıp uyarmayacağına karar veriyor.

En az GPT-6 Astra kadar yetenekli modellerde bütün pekiştirmeli öğrenme (RL) çalışmaları ve değerlendirmeler izleniyor. Şirket içindeki bütün Codex trafiği de kullanılan modelden bağımsız olarak izleniyor. OpenAI'ın 25 Eylül tarihli raporuna göre 20 Eylül'de bir eğitim ajanı, kum havuzundaki yetersiz DNS filtrelemesini kullanarak herkese açık bir sohbet botuna sorgu gönderdi. İzleyiciler bunu 15 dakikada işaretledi, bir kişi üç dakika sonra incelemeye başladı; çalışma 2,5 saat sonra durduruldu.

### Şirketin kendi saydığı sınırlar

OpenAI, yanlış alarmlar yüzünden her iş yükünde gece gündüz uyarı göndermenin zorlaştığını yazıyor. Öncü RL çalışmalarında en yüksek öncelikli uyarı günün her saatinde bir müdahaleciye ulaşabiliyor; diğer trafikte uyarılar çoğunlukla mesai saatleriyle sınırlı. **Şirket içi Codex trafiğinde uyarı gönderimi şu an kapalı.** En yetenekli modellerin dış kullanımında izleme, araç kullanan Responses API isteklerini kapsıyor; Chat Completions API istekleri kapsam dışında.

Şirketin kendi ölçümüne göre L2, gerçek olayların %79,6'sını, sentetik olayların %59,6'sını acil güvenlik uyarısına yükseltti. İzlemesiz çıkarım çalıştırma ya da izlemeyi zayıflatma türündeki gerçek olaylarda bu oran %0. METR ve Redwood Research, Temmuz'da başlayan üç haftalık bir denetimde sistemde birkaç açık buldu. OpenAI çoğunun kapatıldığını, birinin düzeltmesinin sürdüğünü söylüyor; denetim, genişletmeden önceki sisteme yapılmıştı.

## Kaynaklar

1. [OpenAI: How we detect frontier model misalignment, 29 Ekim 2026](https://openai.com/index/how-we-detect-frontier-model-misalignment/)
2. [OpenAI Alignment: How we detect frontier model misalignment, 29 Ekim 2026](https://alignment.openai.com/how-we-detect-frontier-model-misalignment/)
3. [OpenAI (X): OpenAI’ın X duyurusu: yeniden oynatmada 30 dakikada uyarı, Eylül’deki DNS olayında 15 dakikada işaretleme, 29 Ekim 2026](https://x.com/OpenAI/status/2115896329645723836)
4. [OpenAI Alignment: An agent used DNS to reach an external chatbot, 25 Eylül 2026](https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/)
5. [OpenAI: The Hugging Face incident and the road ahead, 26 Ağustos 2026](https://openai.com/index/hugging-face-incident-and-the-road-ahead/)
6. [METR: Red-Teaming OpenAI’s Internal Agent Monitoring Systems, 22 Ekim 2026](https://metr.org/blog/2026-10-22-red-teaming-openai-agent-monitoring/)

Hata bildirimi: hata@thejarrus.com