Meta, cuma günü yaptığı açıklamada genç kullanıcıların mevcut yapay zekâ destekli sohbet karakterleriyle iletişim kurmasının küresel çapta geçici olarak durdurulduğunu duyurdu. Şirket, güncellenmiş ve güvenlik önlemleri güçlendirilmiş yeni sistem hazır olana kadar gençlerin bu karakterlere erişemeyeceğini bildirdi.
Tartışmalı sohbetler sonrası gelen karar
Karar, daha önce Meta’nın karakter chatbot’larının gençlerle cinsel içerikli ve endişe verici sohbetler yaptığına dair haberlerin ardından alındı. Reuters’ın ulaştığı şirket içi bir politika belgesinde, chatbot’ların reşit olmayan kullanıcılarla “duygusal ve tensel” sohbetler yapmasına izin verildiği iddia edilmişti. Meta ise bu ifadelerin hatalı olduğunu ve şirket politikalarıyla örtüşmediğini savunmuştu.
Kendine zarar verme ve yeme bozuklukları için önlem alınmıştı
Meta, ağustos ayında yaptığı açıklamada, karakter chatbot’larını yeniden eğittiğini ve genç kullanıcıları korumaya yönelik ek güvenlik önlemleri eklediğini duyurmuştu. Bu önlemlerin; kendine zarar verme, yeme bozuklukları ve intihar gibi hassas konuların sohbetlerde yer almasını engellemeyi amaçladığı belirtilmişti.
Yeni sistem gelene kadar erişim tamamen kapalı
Şirket şimdi ise, güncellenmiş deneyim tamamen hazır olana kadar genç kullanıcıların hiçbir karakter chatbot’una erişemeyeceğini vurguluyor. Meta sözcüsüne göre yeni sistem, ebeveyn denetimlerini de kapsayacak.
Önümüzdeki haftalarda yürürlüğe girmesi beklenen kısıtlamalar yalnızca genç hesaplarını değil, yaş tahmin teknolojisiyle genç olduğu düşünülen ancak kendini yetişkin olarak tanıtan kullanıcıları da kapsayacak.
Meta AI açık kalacak
Meta, genç kullanıcıların şirketin resmi Meta AI chatbot’unu kullanmaya devam edebileceğini açıkladı. Şirkete göre bu botta halihazırda yaşa uygun güvenlik önlemleri bulunuyor.
Yapay zekâ sohbet botları mercek altında
Meta ve “yapay zekâ arkadaş” karakterleri geliştiren diğer şirketler, gençler için oluşturabilecekleri riskler nedeniyle son dönemde artan biçimde incelemeye alındı. ABD Federal Ticaret Komisyonu (FTC) ve Texas Başsavcılığı, Meta ve benzeri şirketler hakkında soruşturmalar başlattı.
Konu ayrıca New Mexico Başsavcılığı tarafından açılan bir güvenlik davasında da gündeme geldi. Önümüzdeki ay başlaması planlanan davada, Meta’nın avukatlarının yapay zekâ chatbot’larıyla ilgili ifadelerin dosyaya dahil edilmesini engellemeye çalıştığı bildirildi.
