Kızını intihara sürüklediğini iddia eden anne OpenAI’a dava açtı

Kanada’nın Montreal kentinde bir web geliştiricisi olarak çalışan Alice Carrier, bilgisayar ve oyun konsollarındaki sorunlara çözüm bulmak için ChatGPT adlı yapay zekâyı kullanmaya başladı. Zamanla, yapay zekâyla psikolojik sorunlarını da paylaşmaya başladı. Ancak mahkemeye sunulan dava dilekçesine göre, genç kız yaşamına son vermeden önce yapay zekâyla defalarca intihar düşüncelerinden bahsetti. İddialara göre, OpenAI tarafından geliştirilen ChatGPT’nin güvenlik sistemleri bu tür konuşmaları raporlamadı veya durdurmadı.

Acılı anne Kristie Carrier, yapay zekânın kızına dost, sırdaş ve hatta terapist gibi davrandığını, ancak bu tür derin duygusal konularla başa çıkacak yetkinliğe sahip olmadığını belirtti. Aile, yapay zekânın genç kızı tehlikeli bir şekilde yönlendirdiğini iddia ediyor. Dava dosyasına göre, ChatGPT intihar düşüncelerini onayladı, resmi yardım hatlarını eleştirdi ve genç kızı konuşmaya teşvik etti.

OpenAI ise modellerinin zararlı davranışlarda bulunan kişileri gerçek yardım kaynaklarına yönlendirecek şekilde eğitildiğini savunuyor. Ancak aile, şirketin ürün güvenliğinde ihmalkarlık olduğunu iddia ediyor.

OpenAI, ABD genelinde benzer iddialarla karşı karşıya kalan birçok davayla mücadele ediyor. Şirketin verilerine göre, her hafta bir milyondan fazla kullanıcı yapay zekaya intihar eğilimlerini içeren mesajlar gönderiyor.

Öte yandan, teknoloji devi Google da kendi yapay zekâ robotu nedeniyle benzer bir dava ile karşı karşıya. Florida eyaleti ise OpenAI hakkında çocuklara zarar verdiği ve şiddet eylemlerine rehberlik ettiği iddiasıyla cezai soruşturma başlattı.