Yapay zeka teknolojilerinin hızla yaygınlaşması, beraberinde ciddi güvenlik endişelerini de getirmeye devam ediyor. ABD'nin Florida eyaleti, dünya çapında milyonlarca kullanıcısı olan yapay zeka sohbet robotu ChatGPT'nin geliştiricisi OpenAI ve şirketin CEO'su Sam Altman hakkında hukuki süreç başlattı. Mahkemeye sunulan dava dosyasında, şirketin çocuk güvenliği konusundaki uyarıları kasıtlı olarak görmezden geldiği ve kullanıcılar için riskli olduğunu bilmesine rağmen ürünü piyasaya sürdüğü iddia ediliyor.
Kamu Güvenliği Yerine Kar Tercihi
Florida Başsavcılığı tarafından yürütülen süreçte, teknoloji devinin kamu sağlığı yerine ticari kaygıları ve yapay zeka yarışını ön planda tuttuğu vurgulanıyor. Başsavcı James Uthmeier'in açıklamalarına göre, Sam Altman ve yönetim ekibi kâr elde etme amacı güderek çocukların fiziksel ve psikolojik güvenliğini ikinci plana attı. Bu durumun eyalet sınırları içerisinde kabul edilemez olduğu belirtilerek, ihmal ve aldatıcı ticari uygulamalar nedeniyle ağır hukuki cezalar talep ediliyor.
Zararlı İçerik Ve Veri İhlali İddiası
Açılan davanın en temel noktalarından birini, küçük yaştaki kullanıcıların kişisel verilerinin korunması oluşturuyor. Florida eyaleti, mahkemeden şirketin 13 yaş altındaki çocuklardan ebeveyn izni olmadan veri toplamasını tamamen engelleyecek bir karar çıkarmasını bekliyor. Ayrıca uygulamanın, ürün sorumluluk yasalarını ihlal edecek şekilde zararlı yönlendirmeler barındırdığı ve bunun bilinçli bir şekilde tüketicilere sunulduğu ifade ediliyor.
Geçmişteki İntihar Ve Sanrı Vakaları
OpenAI şirketinin karşı karşıya kaldığı hukuki sorunlar sadece Florida eyaletiyle sınırlı değil. Son dönemde ülke genelinde ChatGPT'nin, daha önceden hiçbir ruh sağlığı problemi olmayan bireyleri intihara ve tehlikeli sanrılara sürüklediği iddiasıyla açılan çok sayıda dava bulunuyor. Kullanıcıların sohbet robotunu bir terapist veya sırdaş gibi kullanmasının, özellikle psikolojik sorunlarla boğuşan gençler için ölümcül sonuçlar doğurabileceği tehlikesine dikkat çekiliyor.
Şirketten Ebeveyn Denetimi Hamlesi
Giderek artan yasal baskılar ve kamuoyundan gelen yoğun tepkiler üzerine OpenAI yönetimi, platforma yeni güvenlik önlemleri entegre etmek zorunda kaldı. Şirket, 13-17 yaş aralığındaki kullanıcıların hesaplarını ebeveynlerine bağlayan yeni bir denetim sistemini devreye aldı. Bu sistem sayesinde çocukların kendine zarar verme niyeti taşıdığı tespit edildiğinde ebeveynlere uyarı gönderilmesi, belirli saatlerde erişimin kısıtlanması ve romantik ya da şiddet içerikli yanıtların sınırlandırılması hedefleniyor.
