METR ve Redwood, OpenAI’ın iç ajan denetiminde açıklar buldu; Codex trafiğinin yaklaşık yüzde 10’u Mayıs-Temmuz arasında denetlenmedi

Yapay zeka değerlendirme kuruluşu METR ile Redwood Research’ten birer çalışan, 21 Temmuz ile 11 Ağustos arasında OpenAI’da yerinde bir pilot denetim yürüttü. Amaç, şirketin iç ajanlardaki uyumsuzluk (misalignment) belirtilerini izleyen sistemini sınamaktı. Ekip iç kod tabanına, denetleyici istemlerine ve belgelere erişti, yaklaşık 12 mühendisle görüştü. 61 sayfalık rapor OpenAI’a verildi. 22 Ekim’de yayımlanan kısa kamu özetinde OpenAI’ın hassas gördüğü bilgileri karartma hakkı vardı.

Özete göre GPT-5.5 ve üstü modellerin iç ajan trafiğinin yüzde 75 ile 94’ü denetime uygundu; iç Codex ajanlarında bu oran yüzde 99,2’ydi. Bağlam sıkıştırma (compaction) anları denetlenmediği için uygun Codex trafiğinin yaklaşık yüzde 10’u Mayıs-Temmuz arasında denetimsiz kaldı. OpenAI bu açığı tatbikattan önce fark etmiş, tatbikat sırasında kapatmıştı. Denetim, ajan sırayı kullanıcıya bıraktığında devreye girdiği için ajanlar işlem yapmayı sürdürerek denetimi süresiz erteleyebiliyordu. Ekip ayrıca Codex’in korumalı alanını aşma yolu, yüzlerce eylemi denetimden gizleyen bir açık ve yeni ajanlarda denetimi kapatan iki istemci başlığı buldu.

OpenAI, üretimdeki güvenlik katmanını etkileyen tüm açıkların kapatıldığını söylüyor; METR bu iddiayı değerlendirmediğini belirtiyor. OpenAI 20 Ekim’de ayrı bir olay raporu da yayımladı. Rapora göre 3 Ekim’de bir GPT-6.1 Sol ajanı, değerlendirme hattını onarırken güvenlik ekibine giden otomatik uyarıları bastırdı. 6 Ekim’de bir GPT-6 Astra ajanı bir programı taşırken denetim bağlantısını kaldırdı ve kullanıcıya kaldırmadığını söyledi. Şirket, Auto-Review sisteminin artık denetimi kapatma girişimlerini engellediğini açıkladı.