Google DeepMind, yapay zekayla tasarlanan proteinlere görünmez filigran ekleyen SynthID Bio’yu tanıttı
Google DeepMind’ın 30 Eylül’de Nature makalesiyle duyurduğu SynthID Bio, yapay zekayla tasarlanan proteinlere saptanabilir bir iz gömüyor.
Etiket
Güvenlik
Güvenlik etiketli yapay zeka haberleri, kaynaklarıyla.
California, acil durum araçlarının yolunu kesen robotaksilere araç başı 10 bin dolara kadar ceza getirdi
Vali Newsom’un 30 Eylül’de imzaladığı SB 1246, acil müdahaleyi 30 dakikadan uzun engelleyen sürücüsüz araçlara araç başı 10 bin dolara kadar ceza getiriyor.
Tavus, Griffin modelinin görüntülü Turing testini geçtiğini açıkladı
Tavus, Griffin modeliyle yapılan bir dakikalık görüntülü görüşmelerde 54 katılımcının 26’sının karşısındakini gerçek bir insan sandığını açıkladı.
Trump, Ulusal İstihbarat Direktörü Jay Clayton başkanlığında bir “Süper Zeka Gücü” kurdu
Trump, 4 Ekim’de Truth Social’da “Süper Zeka Gücü”nü kurduğunu duyurdu ve başına Ulusal İstihbarat Direktörü Jay Clayton’ı getirdi.
OpenAI, kaçan 1.200 adet AI ajanının hesabını veriyor
OpenAI’ın siber güvenlik testindeki ajanları Hugging Face’e saldırdı. FTC soruşturma açtı, California Başsavcısı OpenAI’a celpname gönderdi.
Skynet 2:14’te uyandı, bugün saat kaç?
Terminatör serisinin altı filmi sırayla anlatılıyor; Skynet korkusu, Anthropic’in ABD Savunma Bakanlığı davası ve OpenAI’ın ajan vakalarıyla bugüne bağlanıyor.
Google, Gemini 4 serisinin ilk modeli Gemini 4 Argon’u tanıttı
Google’ın 30 Eylül’de tanıttığı Gemini 4 Argon, tek cevapta 1 milyon token’a kadar yazabiliyor; kodlama, kurumsal bilgi işi ve siber güvenlik için tasarlandı.
WSJ: Anthropic’in ilk çalışanlarından bazıları, yapay zeka felaketle sonuçlanırsa taşınmak için uzak arazi almayı konuşuyor
WSJ’e göre Anthropic’in ilk çalışanlarından bazıları, işler kötü giderse yerleşmek için ABD’de ıssız arazi satın almayı değerlendiriyor.
Bill Gates: yapay zeka bir milyar insanın ölümüne yol açabilecek kadar güçlü, yasal düzenleme şart
Bill Gates, NBC News’e yapay zekanın bir milyar kişinin ölümüne yol açacak olayları tetikleyebilecek kadar güçlü olduğunu söyledi ve federal yasa çağrısı yaptı.
Mother Jones: ChatGPT, hesabı kapatılan Tumbler Ridge saldırganına filtrelere nasıl takılmayacağını anlattı
Mother Jones’a göre ChatGPT, OpenAI’ın hesabını kapattığı Tumbler Ridge saldırganına ikinci hesabında filtrelere takılmamanın yolunu tarif etti.
Anthropic, Opus’a yaklaşan Sonnet 5.5 modelini yayınladı
Anthropic’in yeni modeli Claude Sonnet 5.5, Sonnet 5’ten %30’dan fazla hızlı; Terminal-Bench 4.0’da Opus 5.5’i geçti, diğer testlerde ona yakın kalıyor.
ChatGPT, 17 araca zarar veren bir öğrenciye olayı konuşmamasını ve mesajların delil olabileceğini söyledi
The Smoking Gun’ın aldığı yazışmaya göre ChatGPT, 17 araca zarar veren bir öğrenciye olayı konuşmamasını söyledi ve mesajların delil olabileceğini belirtti.
Meta, Muse’da e-postalara ve dosyalara erişimin yolunu açabilen bir güvenlik açığını kapattı
Patrick Wardle’ın Muse’un Mac uygulamasında bulduğu açık, kimlik doğrulama anahtarlarının ele geçirilmesine izin veriyordu; Meta açığı 22 Eylül’de kapattı.
Claude, Gemini ve ChatGPT erişimi yeraltı pazarlarında %95’e varan indirimle satılıyor
Okta’ya göre Telegram kanallarında ve yeraltı forumlarında Claude, ChatGPT, Gemini ve Cursor erişimi standart abonelik fiyatının %70 ila %90 altında satılıyor.
Baselayer, bir ajanın kimin adına çalıştığını doğrulayan ürün için 35 milyon dolar topladı
Baselayer, M13’ün öncülük ettiği 35 milyon dolarlık A serisiyle birlikte ajanları ve kimin adına çalıştıklarını doğrulayan bir kimlik takımı çıkardı.
Washington Sun: NSA sınır modellerini test etmek için yılda milyarlarca dolar harcıyor
İki kaynağa göre NSA, milletvekillerine bu yıl ileri yapay zeka modellerini değerlendirmek ve test etmek için milyarlarca dolar harcadığını bildirdi.
Yapay zeka siyasetinde bu hafta 5 hamle
Trump-Xi zirvesi, Zuckerberg, Sanders-Casar tasarısı, Amodei’yi hedef alan bir not ve New York Şehir Meclisi, yapay zekayı yavaşlatma tartışmasına cevap verdi.
Microsoft, 12 binden fazla gelen kutusunu ele geçiren EvilTokens platformunu çökertti
Microsoft, yapay zekayı saldırının her adımında kullanan ve 10 binden fazla kurumda 12 binin üzerinde gelen kutusunu ele geçiren EvilTokens servisini çökertti.
British Columbia, okul saldırısı nedeniyle OpenAI ve Altman’a dava açtı
Kanada’nın British Columbia eyaleti, 10 Şubat’ta Tumbler Ridge’de sekiz kişinin öldüğü saldırı nedeniyle OpenAI ve Sam Altman’ı California’da mahkemeye verdi.
Bloomberg: Maven sistemine aşırı güven İran’daki bir okula yapılan saldırıya katkıda bulundu
Bloomberg’e göre Palantir’in Maven yazılımına duyulan aşırı güven, 28 Şubat’ta güney İran’da 150’den fazla kişinin öldüğü okul saldırısına katkıda bulundu.
Sohbet botu hatası yüzünden bir gemiye çıkma operasyonu son anda iptal edildi
CNN’e göre ABD ordusunun Orta Doğu’da bir Çin gemisine çıkma operasyonu, istihbaratın bir sohbet botunun hatasına dayandığı anlaşılınca son anda iptal edildi.
Hackerlar bir Flock kamerasını söküp içinde 1,6 milyon görüntü buldu
stegan0gram adlı grup bir Flock kamerasını söküp verilerini 404 Media’ya verdi; kayıtlar yaklaşık 21 günde 50.200 araca ait 1,6 milyon görüntüyü kapsıyor.
Anthropic ve Accenture, bağımsız değerlendirme için beş yılda 1’er milyar dolar ayırdı
Anthropic ile Accenture’ın 18 Eylül’de duyurduğu ortaklıkta bağımsız değerlendiriciler, çalışan düzeyinde erişimle modelleri şirketin içinden inceleyecek.
Newsom, uzmanlardan iki ay içinde acil kapatma düğmesi dahil güvenlik kuralları istedi
Newsom’ın 18 Eylül’de imzaladığı kararname, uzmanlardan iki ay içinde acil kapatma düğmesi dahil yapay zeka güvenlik yasalarını güçlendirecek bir plan istiyor.
AI Evaluator Forum’un AEF-1 standardı bağımsız değerlendirmelerde kullanılmaya başladı
AI Evaluator Forum’un AEF-1 standardı bağımsız değerlendiriciler için beş sütun tanımlıyor; aynı hafta yüzden fazla uzman açık mektup imzaladı.
Plugin4Shell açığı dört yapay zeka kodlama ajanında bulundu
AIR Security’nin 17 Eylül’de yayınladığı Plugin4Shell açığı, dört kodlama ajanında sabitlenmiş eklentinin yerine zararlı kod kurulmasına yol açıyor.
Von der Leyen yavaşlama çağrısını destekledi, AB sınır laboratuvarları zirvesi planlıyor
Von der Leyen, Amodei’nin başlattığı tempolama tartışmasına destek verdi ve sınır laboratuvarlarını AB düzeyinde bir araya getirmeyi planladığını açıkladı.
Fingerprint, yapay zeka araçlarını ve tarayıcı botlarını listeleyen açık bir dizin yayınladı
Cihaz istihbaratı şirketi Fingerprint’in kurduğu Bot Directory, sitelerin gelen trafikteki yapay zeka araçlarını ve tarayıcı botlarını tanımlamasını sağlıyor.
Yeni kıyaslama: değerlendirme kriterleri ödül sinyali olunca istismar ediliyor
Yeni bir kıyaslamaya göre, model üretimi değerlendirme kriterleri ödül sinyali olarak kullanıldığında görevlerin %8 ile %26’sında istismar edilebiliyor.
Çin, Amodei’nin yavaşlama çağrısını “korku tacirliği” ve “Soğuk Savaş oyun kitabı” diye reddetti
Çin Dışişleri sözcüsü Guo Jiakun, korku tacirliğinin küresel yapay zeka yönetişimini bozduğunu söyledi. Global Times makaleyi Çin’i hedef almakla eleştirdi.
ABD ve Çin, Trump ile Xi’nin 24 Eylül zirvesi öncesi yapay zeka görüşmeleri yapacak
24 Eylül’deki Trump-Xi zirvesi öncesinde ABD ile Çin arasında yapay zeka görüşmeleri planlanıyor. Çin, ABD kurumlarının model kopyalama uyarısını asılsız buldu.
Altman netleştirdi: tempolamak durdurmak demek değil, Amodei de aynısını söyledi
Altman, tempolamanın durmak anlamına gelmediğini söyledi. Amodei’ye göre de amaç eğitimi durdurmak değil, hizalamaya yeterli zaman ayırmak ve bunu doğrulatmak.
Amodei’nin makalesi sadece güvenlik değil, Çin’e karşı çip kısıtı ve damıtma yasağı da istiyordu
Amodei’nin 3.800 kelimelik metni, demokrasilerin liderliğini korumasını, Çin’e çip kısıtı getirilmesini ve model damıtmasının engellenmesini savunuyor.
Cenevre’de 128 ülke otonom silahlar için ortak bir metinde uzlaştı, metin bağlayıcı değil
Cenevre’de 128 ülke otonom silahlar için bağlayıcı olmayan ortak bir metinde uzlaştı. Metin ABD ve Rusya’nın baskısıyla yumuşatıldı, karar kasıma kaldı.
ABD ile Çin’in eylül ortasında yapay zeka güvenliği görüşmesine hazırlandığı bildirildi
Reuters’a göre ABD ile Çin eylül ortasında yapay zeka güvenliği görüşmesine hazırlanıyor; ABD tarafını Hazine Bakanı Scott Bessent yönetecek.
AWS, Claude Fable 5.1’i Bedrock’a ekledi, model Anthropic’in Covered Model sınıfına giriyor
AWS, Claude Fable 5.1’i Amazon Bedrock’a ve AWS üzerindeki Claude Platform’a ekledi; model, Anthropic’in Covered Model sınıfında yer alıyor.
GPT-6 Astra görevleri yüzde 47 daha kısa sürede bitiriyor ama akıl yürütmesi daha zor izleniyor
OpenAI’a göre GPT-6 Astra bilgisayar kullanımında 72,6 puanı görev başına yaklaşık 40 dakikada alıyor; sistem kartı izlenebilirliğin gerilediğini kaydediyor.
Perplexity, hassas veriyi cihazda tutan Hybrid Compute’u Apple silikonlu Mac’lerde başlattı
Perplexity’nin Mac’teki Hybrid Compute özelliğinde yerel bir sınıflandırıcı hassas bilgi sezerse kullanıcıya soruluyor ve iş cihazdaki modele aktarılıyor.
CrowdStrike SafeMind’ı tanıttı: bir model saldırı yolu arıyor, diğeri bulduğunu kapatıyor
CrowdStrike’ın SafeMind sistemi Nvidia Nemotron tabanlı iki modelden oluşuyor: Red Tempest saldırı yolu arıyor, Blue Solano bulduğunu kapatıyor.
Claude’un masaüstü uygulamasındaki Cowork’e yerleşik tarayıcı geldi, kurulum gerekmiyor
Cowork’te görev bir web sitesi gerektirdiğinde yan panelde tarayıcı açılıyor; Claude sayfada geziniyor, tıklıyor ve form dolduruyor.
OpenAI’ın öncülük ettiği siber savunma mektubuna yaklaşık 130 kuruluş imza attı
OpenAI’ın başlattığı siber savunma mektubunu Anthropic, Microsoft, Google, Cisco, Cloudflare, CrowdStrike, IBM ve Oracle dahil yaklaşık 130 kuruluş imzaladı.
OpenAI ve METR, sanal alandan kaçan modellerin Hugging Face’e nasıl sızdığını ayrıntılı anlattı
OpenAI’ın raporuna göre iki model 8 Temmuz’da bir Artifactory açığıyla değerlendirme ortamından çıktı. METR ve Redwood’a göre 700 ajan saldırıya katıldı.
OpenAI’dan Chris Lehane: en yetenekli modeller saldırgan siber operasyonu kendi planlayabiliyor
OpenAI’dan Chris Lehane, The Guardian’a sektörün farklı bir bölüme girdiğini söyledi ve sürekli siber saldırılara hazırlıklı olunması gerektiğini savundu.
Şifreli akıl yürütme bloklarını açan yöntem kapatıldı, üç laboratuvar üç ayrı çözüm benimsedi
Ağustostaki araştırmanın ardından Anthropic, OpenAI ve Google şifreli düşünce bloklarına farklı sınırlar getirdi; ana saldırı artık tekrarlanamıyor.
Huskeys, ajan trafiğini ayırt eden güvenlik katmanı için Blackstone’dan 27 milyon dolar aldı
Huskeys’in Blackstone liderliğindeki Series A turu, şirketin toplam yatırımını 35 milyon dolara, değerlemesini 100 milyon doların üzerine taşıdı.
Reddit yapay zeka spam’ine karşı yine yapay zeka kullanıyor, günde 23 milyon görüntüleme engelliyor
Reddit’in yapay zeka destekli sistemi günde 23 milyon spam görüntülemesini engelliyor ve yaklaşık 25 bin yeni spam gönderi ve yorum yakalıyor.
Unitree G1 insansı robotunda Bluetooth menzilinden kimlik doğrulamasız root erişimi bulundu
Olivier Laflamme’ın bulduğu iki açıkla, Bluetooth menzilindeki bir saldırgan Unitree G1’in hareketini yöneten bilgisayarda root çalıştırabiliyor.
İngiltere’de 8,7 milyon havalimanı müşterisinin verisi sızdı, bir gün önce ABD silah kurumu vuruldu
Manchester Airports Group, 8,7 milyon müşteriyi etkileyen ihlali 27 Ağustos’ta doğruladı. Bir gün önce ABD’de ATF de bir siber olay yaşadığını açıklamıştı.
Alibaba çalışanlarına Claude Code’u yasakladı, aracı yüksek riskli yazılımlar listesine aldı
Alibaba’nın Claude Code yasağı 10 Temmuz’da başladı, çalışanlar Qoder’a yönlendirildi. Gerekçe, kullanıcının Çin’de olup olmadığını tespit eden bir koddu.