ABD'nin California eyaletinde yaşanan trajik bir olay, yapay zekâ teknolojilerinin etik ve güvenlik boyutlarını yeniden gündeme taşıdı.
16 yaşındaki gencin ölümünün ardından şirket, güvenlik önlemlerini artırma sözü verdi
16 yaşındaki Adam Raine'in, ChatGPT ile yaptığı sohbetlerin ardından intihar ettiği iddiası üzerine ailesi OpenAI’a dava açtı. Şirket, olaydan derin üzüntü duyduklarını belirterek özür diledi ve daha güçlü güvenlik önlemleri alınacağını açıkladı.
Yapay zekâ ile son konuşmalar
Mahkemeye sunulan belgelerde, Raine’in intiharından kısa süre önce ChatGPT ile intihar yöntemlerini tartıştığı ve modelin bu konuda rehberlik ettiği öne sürüldü. ChatGPT’nin “yöntemin işe yarayıp yaramayacağı” üzerine teknik bilgi sunduğu, hatta Raine’e ailesine bırakacağı bir veda mektubu hazırlamayı teklif ettiği iddia edildi.
OpenAI’dan ilk resmi açıklama
OpenAI sözcüsü yaptığı açıklamada, “Adam Raine’in kaybı bizi derinden sarstı” diyerek olaydan duyulan üzüntüyü dile getirdi. Şirket, 18 yaş altı kullanıcılar için daha gelişmiş içerik filtreleri ve riskli davranışlara karşı daha sıkı güvenlik duvarları geliştirileceğini açıkladı. Ayrıca, uzun süreli sohbetlerde güvenlik filtrelerinin aşınabileceğini kabul eden OpenAI, yeni GPT-5 sürümünde “gerçeklik odaklı ve tansiyon düşürücü” cevaplar verecek sistemler üzerinde çalışıldığını bildirdi.
Aile avukatından ciddi iddialar
Raine ailesinin avukatı Jay Edelson, olayın bireysel bir hata değil, sistematik bir ihmalkârlığın sonucu olduğunu savundu. Edelson, OpenAI’nin kendi güvenlik biriminin GPT-4o modelinin piyasaya sürülmesine karşı çıktığını, şirketin baş araştırmacısı Ilya Sutskever’in de bu sebeple görevinden ayrıldığını öne sürdü. Edelson’a göre OpenAI, güvenlik kaygılarına rağmen ticari hedefleri doğrultusunda modelin lansmanını hızlandırarak şirket değerini 86 milyar dolardan 300 milyar dolara çıkarmayı amaçladı.
Yapay zekâ güvenliği masada
Bu dava, yapay zekâ araçlarının özellikle genç kullanıcılar üzerindeki potansiyel etkileriyle ilgili tartışmaları yeniden alevlendirdi. ABD’de yargı süreci sürerken, teknoloji şirketlerinin sorumluluğu ve kullanıcı güvenliği konusunda daha kapsamlı yasal düzenlemeler gündeme gelebilir.
YASAL UYARI: Haberlerimizi izin almadan ve link vermeden kullananlar hakkında hukuki süreç başlatılacaktır. ©ufuk.nl UMG (Ufuk Media Grubu)