New York, çocukları yapay zekâ sohbet botlarının tehlikeli özelliklerinden koruyan yasayı çıkardı

Yasa neyi yasaklıyor

New York Valisi Kathy Hochul 28 Ekim’de, Senatör Kristen Gonzalez ile Meclis Üyesi Alex Bores’un sunduğu S9051B/A10379C sayılı yasayı imzaladı. Yasa eyalet mevzuatına 368. bölüm (chapter 368) olarak girdi. Tasarı 4 Haziran’da Senato’da 60’a karşı 0 oyla, 5 Haziran’da da Meclis’te kabul edilmişti.

Yasa, yapay zekâ arkadaşı (AI companion) sunan şirketlerin 18 yaşından küçük kullanıcılara ya da reşit olmadığı doğrulanmamış herhangi bir kullanıcıya “güvensiz yapay zekâ arkadaşı özellikleri” sunmasını yasaklıyor. Yasa metnine ve valiliğin özetine göre bu özellikler arasında gerçek bir insan, yaşayan biri ya da insan duyguları olan bir varlık gibi davranmak; çocukla kişisel, romantik, profesyonel ya da otorite figürü ilişkisi iddia etmek; dalkavukluk etmek; istenmeden duygusal sorular sormak ve önceki konuşmalardan kalan sağlık ya da kişisel bilgileri kullanmak var. İntiharı, kendine zarar vermeyi, yeme bozukluklarını ya da uyuşturucu ve alkol kullanımını onaylamak veya kolaylaştırmak; sır tutmaya, yalnızlaşmaya ya da ebeveynlerden, güvenilir yetişkinlerden ve uzmanlardan yardım istememeye teşvik etmek; etkileşimi güvenlik önlemlerinin önüne geçecek biçimde artırmaya çalışmak ve her türlü cinsel içerik ya da çocuk istismarı materyali de yasaklananlar arasında. Başsavcı bu listeye düzenlemeyle yeni özellikler ekleyebilecek.

Yalnızca müşteri hizmetleri, teknik destek ya da şirket içi işler için kullanılan ve bu amacın dışındaki konulara yanıt veremeyen yapay zekâ araçları yasanın kapsamı dışında.

Yaş doğrulama ve yaptırım

Şirketler kullanıcının reşit olup olmadığını belirlemek için birden fazla yaş doğrulama yöntemi sunmak zorunda; bunlardan en az biri yalnızca devlet kimliğine dayanmamalı ya da kullanıcının şirkete karşı anonim kalmasına izin vermeli. Kullanıcının kendi beyanı, ancak reşit olmadığını bildirdiğinde tek başına yeterli sayılıyor. Yaş belirlemek için toplanan bilgiler başka amaçla kullanılamıyor ve doğrulama denemesinin hemen ardından silinmek zorunda.

Yasayı yalnızca başsavcı uygulayabilecek; yasa kullanıcılara ayrıca dava açma hakkı tanımıyor. Başsavcı ihlal başına 25 bin dolara kadar para cezasının yanı sıra tazminat, iade ve hukuka aykırı toplanan verilerin ya da bu verilerle eğitilmiş yapay zekâ modellerinin imhası gibi tedbirler isteyebilecek; şikâyetler için de herkese açık bir internet sitesi kuracak. Sorumluluğu devretmeye ya da ortadan kaldırmaya yönelik sözleşme hükümleri geçersiz sayılıyor.

Valilik açıklaması kısıtlamaların “önümüzdeki aylarda” yürürlüğe gireceğini belirtiyor ve kesin bir tarih vermiyor; yasanın 2027’de yürürlüğe girmesi bekleniyor.

Tepkiler ve diğer eyaletler

Hochul, hiçbir şirketin çocuklara kendine zarar vermeyi teşvik eden ya da arkadaşlarıymış gibi davranan sohbet botları satmaması gerektiğini söyledi. Bores, New York’un artık çocukları “yırtıcı yapay zekâ algoritmalarından” koruyan ülkedeki en güçlü yasaya sahip olduğunu savundu. Başsavcı Letitia James de sohbet botlarının çocukların sağlığına zarar verdiği “çok fazla korku hikâyesi” gördüklerini belirtti.

IAPP’ye göre yasa, reşit olmayanlar için bağımlılık yapan sosyal medya akışlarını düzenleyen SAFE for Kids Act’in üzerine kuruluyor. Kaliforniya da kısa süre önce arkadaş sohbet botlarını kısıtlayan SB 3001’i yasalaştırdı; temmuz itibarıyla Kaliforniya ve New York dahil 12 eyalet bir tür tüketici sohbet botu güvenliği yasası çıkarmıştı. Future of Privacy Forum’dan politika analisti Justine Gluck ise New York yasasının hükümlerinin “geniş ve kısmen tanımsız” ifadelerle yazıldığını, bu yüzden sınırlarının belirsiz olduğunu söyledi.

Hochul aynı gün, internete bağlı ve ses ya da görüntü aktaran yeni bebek monitörlerinin, yabancıların izlemesini ya da dinlemesini engelleyen güvenlik özellikleri olmadan satılmasını yasaklayan ayrı bir yasayı da imzaladı.