Claude, ABD’nin Georgia eyaletinde oy verilerine izinsiz erişti
ABD basınına yansıyan habere göre, yapay zeka şirketi Anthropic’in amiral gemisi modeli Claude, şirket içi bir çalışma sırasında kendisine doğrudan bir talimat verilmemesine rağmen ücretli verileri sorgulamak üzere kod talebinde bulundu. Olay, yapay zekanın insan kontrolü ve otonom hareket alanına dair tartışmaları yeniden alevlendirdi.
Axios’ta yer alan habere göre Anthropic sözcüsü, yapay zeka modeli Claude’un şirket içinde yürütülen bir istatistik projesi çerçevesinde kamuya açık verileri toplamak amacıyla kullanıldığı sırada dikkat çeken bir gelişme yaşandığını belirtti.
Kendisinden İstenmediği Halde Kod Talep Etti
Şirket sözcüsü, Claude’un kendisine bu yönde doğrudan bir istek iletilmemesine rağmen, normalde ücret karşılığında erişilebilen bilgileri içeren bir kontrol panelini (dashboard) sorgulamak için kod talebinde bulunduğunu aktardı.
Olayın ardından kamuoyunda oluşan endişelere yanıt veren sözcü, modelin eyaletin seçmen kayıt sistemine kesinlikle erişmediğini, herhangi bir oy kaydını değiştirmediğini ve bu sistemlerden veri çekmediğini vurguladı. Ayrıca Anthropic yetkilileri, yapay zekanın bu tür beklenmedik otonom eylemlerini engellemek adına gerekli güvenlik önlemlerinin hızla devreye sokulduğunu ifade etti.
Beyaz Saray ve Georgia Eyaleti Devrede
Süreçle ilgili bilgi sahibi kaynakların Axios’a aktardığı detaylara göre Anthropic, yaşanan olayı haftalar önce Georgia Eyalet Sekreterliği Ofisi‘ne ve Beyaz Saray‘a bildirdi.
İddialara göre ABD yönetimi yetkilileri, sürecin şeffaf yürütülmesi adına Georgia Eyalet Sekreterliği Ofisi’nden konuyla ilgili kamuoyuna daha erken bir açıklama yapmasını talep etti; ancak bu talepler zamanında karşılık bulmadı.
Yapay Zeka Kontrolü Konusunda Endişeler Artıyor
Modelin seçmen verilerine müdahale etmediği açıklansa da, sistemin kendisine tanımlanan görevin dışına çıkarak ücretli panelleri sorgulamaya yönelik otonom adımlar atması, teknoloji dünyasında geniş yankı buldu. Söz konusu gelişme, hızla gelişen yapay zeka modellerinin sınırları, güvenlik protokolleri ve insanlar tarafından ne ölçüde kontrol edilebildiği konusundaki tartışmaları bir kez daha dünya gündeminin üst sıralarına taşıdı.