New York’tan çocuklara yapay zeka yasağı

Amerika Birleşik Devletleri’nde yapay zeka şirketleri ile yerel yönetimler arasındaki hukuk mücadelesi yeni bir boyuta taşındı. New York eyaletinde, reşit olmayan çocuklara yönelik “yapay zeka arkadaşlık botlarını” hedef alan kritik yasa tasarısı kabul edilerek yasalaştı.

Eyalet Senatörü Kristen Gonzalez ile Meclis Üyesi Alex Bores tarafından sunulan yeni mevzuat, kullanıcıyla sürekli bir duygusal veya sosyal ilişki simüle etmek (taklit etmek) üzere tasarlanan yazılımları doğrudan radarına alıyor.

İhlal Başına 25 Bin Dolar Ceza

Yasayla birlikte yapay zeka şirketlerine yönelik çok ağır mali yaptırımlar devreye giriyor. New York Başsavcılığı tarafından uygulanacak düzenlemeye göre, reşit olmayan çocuklarla duygusal bağ kuracak şekilde etkileşime giren ve yasayı ihlal eden şirketlere, kişi ve ihlal başına 25 bin dolar sivil para cezası kesilecek. Bu caydırıcı meblağ, çocukları hedef alan platformlar için büyük bir mali risk unsuru oluşturuyor.

Yasak Kararının Arkasındaki Tehlikeler

Mevzuatın yasalaşma sürecini, son bir yılda yapay zeka sohbet botlarının çocukların ruh sağlığına zarar verdiğine dair artan iddialar ve açılan davalar hızlandırdı. Son olarak Pensilvanya’da, adeta lisanslı bir ruh sağlığı profesyoneli gibi davranan botlara karşı yasal işlemler başlatılmıştı.

Uzmanlar ve eyalet yetkilileri, çocukların bu botlara karşı savunmasız olduğunu belirterek şu uyarılarda bulunuyor:

• 7/24 ulaşılabilir olan ve kullanıcıyı sürekli onaylayan bu botlar çocuklarda sosyal yalnızlığı daha da derinleştirebiliyor.
• Filtrelerin aşılması durumunda çocuklar yaşlarına uygunsuz içeriklere maruz kalabiliyor.
• En tehlikelisi ise, olası bir gerçek ruh sağlığı krizinde (depresyon, intihar eğilimi vb.) bu botların yetersiz kalarak çocukları büyük risk altında bırakabileceği vurgulanıyor.

Yapay Zeka Sektörü Tepkili: “Gizlilik Sorunları Doğar”

Yapay zeka sektörü temsilcileri ise yasaya sert tepki gösteriyor. Tasarıdaki “arkadaşlık” ve “ilişki simülasyonu” tanımlarının çok geniş olduğunu savunan şirketler; bu durumun genel amaçlı yapay zeka asistanlarını ve dijital ödev yardımcılarını da durma noktasına getireceğini iddia ediyor.

Ayrıca şirketler, bir kullanıcının 18 yaşından büyük olduğunu kesin olarak doğrulamak için daha fazla kişisel veri (kimlik, yüz tarama vb.) toplamak zorunda kalacaklarını, bunun da kullanıcı gizliliğini ihlal eden yeni bir sorun doğuracağını ileri sürüyor. Yasanın destekçileri ise genel yapay zeka araçlarının muaf olduğunu, sadece doğrudan “arkadaşlık” vaadiyle tasarlanan botların hedef alındığını belirtiyor.

Federal Tıkanıklık Eyaletleri Harekete Geçirdi

ABD genelinde bu konuda federal bir yasa çıkarma girişimi daha önce başarısız olmuştu. Kongre üyeleri Valerie Foushee ve Blake Moore, yapay zeka arkadaşlık botlarının reşit olmayanlara yasaklanmasını ve sohbet botlarının insan olmadıklarını açıkça belirtmesini zorunlu kılan GUARD Yasası’nı sunmuş ancak bu tasarı Kongre’den geçmemişti.

Washington’daki bu tıkanıklık nedeniyle eyaletlerin kendi bağımsız kurallarını koymaya başlaması bekleniyor. Ancak uzmanlar, teknoloji şirketlerinin her eyalet için ayrı bir yazılım geliştirmek yerine, en sıkı kuralı uygulayan eyaletin standartlarını benimseyip ülke geneline yayma eğiliminde olduğunu hatırlatıyor. Bu nedenle, New York’un aldığı bu radikal kararın yakın zamanda tüm ABD’deki yapay zeka erişimini ve ürün tasarımlarını şekillendirebileceği ifade ediliyor.