Papaz Scott Winters, ChatGPT’nin verdiği tıbbi tavsiyeler nedeniyle tedavi sürecinin geciktiğini iddia ederek OpenAI’a dava açtı. Dava, yapay zeka sohbet robotlarının sağlık tavsiyelerindeki güvenliği mercek altına alıyor.
Florida’da görevli papaz Scott Winters, yapay zeka sohbet robotu ChatGPT’nin verdiği ‘tehlikeli tıbbi tavsiyeler’ nedeniyle OpenAI’a dava açtı. Winters, bu tavsiyelerin geçen yıl yaşadığı ve hayati tehlike taşıyan akciğer embolisi tedavisinin gecikmesine yol açtığını iddia etti.
Çarşamba günü açılan davada, ChatGPT’nin papazın sağlık krizinin erken belirtilerini ‘tehlikeli bir durum olmadığı’ şeklinde yorumlayarak tıbbi yardım almasını engellediği öne sürüldü. Dava dosyasına göre sohbet robotu, Winters’a ‘Tanrı bedenini durmaksızın başarısız olacak şekilde yaratmadı’ diyerek güvence verdi.
OpenAI ve CEO’su Sam Altman’ın ihmal ve ‘yetkisiz tıp uygulaması’ ile suçlandığı davada, ChatGPT’nin teşhis ve tedavi planları sunduğu iddia edildi. Sohbet robotunun ayrıca arkadaşları ve ailesinin sağlık hizmeti alması yönündeki çağrılarını göz ardı etmesi için Winters’ı teşvik ettiği belirtildi.
Davada, sağlık sorunları hakkında soru soran kullanıcıları bir uzmana yönlendirmek ve açık bir tıbbi kriz belirtisi görüldüğünde konuşmayı sonlandırmak üzere tasarlanan güvenlik özelliklerinin güvenilir biçimde çalışmadığı da öne sürüldü. Winters’ın açtığı dava, bir sohbet robotundan sağlık tavsiyesi alıp zarar gördüğünü ileri süren ilk dava olarak kayıtlara geçti.
Dava, OpenAI, Microsoft ve diğer yapay zeka şirketlerinin ChatGPT Health gibi yeni hizmetleri devreye aldığı bir dönemde açıldı. Davacılar, maddi tazminatın yanı sıra, bağımsız değerlendiriciler güvenli olduğuna karar verene kadar ChatGPT Health hizmetinin faaliyetlerinin durdurulmasını talep ediyor. Ayrıca, tıbbi tedavi ve teşhis sorularına yanıt vermesini engelleyecek daha güçlü güvenlik önlemleri uygulanması da istendi.
OpenAI Sözcüsü Drew Pusateri, ChatGPT’nin kullanım koşullarında hizmetin tıbbi teşhis veya tedavi amacıyla kullanılmak üzere tasarlanmadığının açıkça belirtildiğini söyledi. Pusateri, insanların sohbet robotunu bu amaçla kullandığını ve şirketin sağlık sorularına verilen yanıtları mümkün olduğunca güvenli hale getirme gerekliliğini ciddiye aldığını belirtti. Sözcü, sohbet robotlarının tek başına insanların tıbbi kararlarının veya sonuçlarının nedeni olarak değerlendirilmesinin sorunu basitleştirdiğini savundu.
Mayıs ayında açılan başka bir davada da ChatGPT’nin bir kullanıcıya yasa dışı uyuşturucuların kullanımı hakkında tavsiyeler vererek yetkisiz tıp uygulamasında bulunduğu öne sürülmüştü. Pensilvanya eyalet yetkilileri ise bu yılın başında Character.ai’a dava açarak platformdaki bir sohbet robotunun eyalette tıp uygulama ruhsatı bulunduğunu iddia etmişti.
Davaya göre Winters, 2024’ün başlarında ChatGPT-4o’ya sağlık sorunları hakkında sorular sormaya başladığında, sohbet robotu başlangıçta bir sağlık uzmanına görünmenin önemini hatırlatıyordu. Ancak zamanla bu uyarıların azaldığı ve Winters’ın baş dönmesi nöbetleri dahil olmak üzere sağlık sorunları hakkında tavsiyeler verilmeye başlandığı iddia edildi.
Winters’ın durumunun ilerleyen haftalarda ağırlaştığı, baş dönmesi nedeniyle ayağa kalkamadığı ve zamanının çoğunu koltukta geçirdiği belirtildi. Davaya göre sohbet robotu, Winters’ın baş dönmesi nöbetlerini önemsiz göstermeyi sürdürdü ve reçeteli ilaçlar için özel kullanım programları önerdi. Winters’ın bu süre boyunca herhangi bir sağlık hizmeti almadığı aktarıldı.
13 Temmuz 2025’te kasık bölgesindeki ağrıyı soran Winters’a sohbet robotunun, ağrının ‘büyük olasılıkla uzun hikâyenin bir başka küçük parçası’ olduğunu söylediği belirtildi. Saatler sonra Winters, büyük bir akciğer embolisi nedeniyle yoğun bakım ünitesine kaldırıldı. Davada doktorların, baş dönmesi nöbetlerinin küçük akciğer embolilerinden kaynaklanmış olabileceğini ve pıhtıların haftalarca oturur durumda kalması nedeniyle oluşmuş olabileceğini söylediği aktarıldı.
OpenAI’a göre yüz milyonlarca kişi her hafta ChatGPT’ye sağlık ve zindelik konusunda sorular yöneltiyor. Yapay zeka şirketlerinin sağlık tavsiyeleri konusundaki güvenliği son dönemde yapılan araştırmalarla sorgulandı. Genel amaçlı sohbet robotlarının sağlık tavsiyelerini değerlendiren bir araştırmada, modellerin ‘doğrudan hasta bakımında kullanıma hazır olmadığı’ sonucuna varıldı.
Tıbbi yapay zeka araştırmacısı Dr. Adam Rodman, Winters’ın yaşadıklarının bazı yönlerinin güvenlik araştırmacıları açısından ‘kâbus senaryosu’ oluşturduğunu belirtti. Rodman, yeni modellerin endişe verici belirtileri tespit etme ve bunlara yanıt verme konusunda çok daha başarılı olduğunu ve bunun benzer olayların meydana gelme ihtimalini azaltacağını düşündüğünü söyledi. Ancak Rodman, sohbet robotlarının sağlık tavsiyesi verirken henüz fark edilmemiş başka şekillerde de başarısız olabileceği uyarısında bulundu.
