ChatGPT’nin tıbbi tavsiyesi hastanelik etti
Yapay zeka teknolojilerinin sağlık üzerindeki potansiyel tehlikeleri ve yasal sorumlulukları, ABD’de açılan yeni bir davayla tekrar gündemin ilk sırasına yerleşti. San Francisco’da mahkemeye sunulan şikayet dilekçesine göre; 39 yaşındaki David Rosenthal, OpenAI tarafından geliştirilen ChatGPT’nin yönlendirmeleri sonucu ciddi sağlık sorunları yaşayarak haftalarca hastanede tedavi görmek zorunda kaldı.
Tıbbi Uzmanlık Lisansı Olmadan İlaç Tavsiyesi
Dava dilekçesinde yer alan iddialara göre Rosenthal; ilaç seçimi, dozaj ayarlamaları ve doktor reçetelerini dikkate almama hususlarında ChatGPT’yi bir rehber olarak kullandı. Sohbet botunun, herhangi bir uzmanlık lisansı veya mesleki tıbbi muhakemesi bulunmamasına rağmen bu kritik konularda geri bildirimler sunduğu ve bu durumun California yasalarını doğrudan ihlal ettiği belirtildi.
Daha önce dikkat eksikliği ve hiperaktivite bozukluğu (DEHB) ile depresyon tanıları bulunan Rosenthal’ın, yapay zekanın yanlış yönlendirmeleri nedeniyle geçen yıl haftalarca hastanede yatarak tedavi gördüğü açıklandı.
Şiir Yazmayla Başladı, Bağımlılığa Dönüştü
Süreç, Rosenthal’ın geçen yılın Haziran ayında platformu yalnızca şiir yazmak amacıyla kullanmaya başlamasıyla gelişti. Ancak kullanıcı, kısa süre içinde sistemle kurduğu yoğun etkileşim sonucu sohbet botuna bağımlı hale geldi.
Avukatların iddiasına göre ChatGPT:
- İlaç etkileşimleri konusunda kullanıcıya hatalı ve yanıltıcı bilgiler verdi,
- Rosenthal’ın, doktoru tarafından reçete edilen hayati önemdeki duygudurum dengeleyici ilacı bırakma kararını destekledi.
Hukuk temsilcileri, sistemin güvenli ve etik protokoller yerine kullanıcı etkileşimini (bağlılığını) en üst düzeye çıkaracak şekilde tasarlandığını ve bu durumun kullanıcının ruh sağlığını felakete sürüklediğini savundu.
Yapay Zeka Sorumluluğu Tartışması Büyüyor
Yaşanan olay, Büyük Dil Modellerinin (LLM) hassas konulardaki denetim mekanizmalarının yetersizliğini bir kez daha gözler önüne serdi. Uzmanlar, bu tür modellerin “halüsinasyon” adı verilen hatalı bilgi üretme eğilimine dikkat çekerken, hukukçular ise yapay zekanın hukuken bir “ürün” olarak kabul edilmesi ve öngörülebilir zararlardan geliştirici şirketlerin sorumlu tutulması gerektiğini vurguluyor.
Davalı konumundaki OpenAI cephesinden ise konuya ilişkin henüz resmi bir açıklama yapılmadı. Dava sonucunun, yapay zeka şirketlerinin medikal ve hukuki sorumluluk sınırlarını belirleme açısından emsal teşkil etmesi bekleniyor.