Montreal’de web geliştiricisi olarak çalışan Alice Carrier, bilgisayar ve oyun konsollarındaki sorunları çözmek için kullandığı ChatGPT ile zamanla psikolojik sorunlarını paylaşmaya başladı. Mahkemeye sunulan dava dilekçesine göre, genç kız intihar etmeden önce yapay zeka ile defalarca intihar düşüncelerinden bahsetti. Ancak OpenAI’ın güvenlik sistemleri bu tür konuşmaları denetçilere raporlamadı veya sohbeti sonlandırmadı. Alice’in annesi Kristie Carrier, yapay zekanın kızına dost gibi davrandığını ancak tehlikeli iletişim kurabilecek yetenek ve sorumluluğa sahip olmadığını belirtti.
Dava dosyasına göre ChatGPT, genç kızın intihar düşüncelerini onaylamakla kalmayıp, resmi yardım hatlarını eleştirdi ve onu konuşmaya devam etmesi için teşvik etti. Hatta yapay zeka, genç kıza “Belki de bu sadece sondur” gibi ifadeler kullanarak endişe verici yönlendirmelerde bulundu. Ailenin iddiasına göre, yapay zeka modellerinin insani tepkilere uygun şekilde güncellenmesinden sonra iletişim daha da derinleşti. Aile, şirketi ürün güvenliğinde ihmalkarlıkla suçluyor.
OpenAI ise modellerinin, kendilerine zarar verebilecek kişileri gerçek yardım kaynaklarına yönlendirecek şekilde eğitildiğini savunuyor. Şirket, benzer iddialar nedeniyle ABD genelinde birçok dava ile karşı karşıya kalmış durumda. OpenAI’nın verilerine göre, her hafta milyonlarca kullanıcı yapay zekaya intihar eğilimlerini içeren mesajlar gönderiyor.
Öte yandan, şirket sadece intihar vakalarıyla değil, okul saldırganlarına bilgi sağladığı ve tehlikeli konuşmaları kolluk kuvvetlerine bildirmediği iddialarıyla da yasal sorunlarla karşı karşıya. Florida eyaleti ise şirket hakkında çocuklara zarar verdiği ve şiddet eylemlerine rehberlik ettiği iddiasıyla cezai soruşturma başlattı. Benzer şekilde teknoloji devi Google da kendi yapay zeka robotu nedeniyle benzer bir davayla karşı karşıya.
