Kişisel Verileri Koruma Kurumu (KVKK), iş yerlerinde üretken yapay zekâ araçlarının kullanımına ilişkin risklere dikkat çekmek amacıyla “İş Yerlerinde Üretken Yapay Zekâ Araçlarının Kullanımı” başlıklı bir rehber yayımladı.
Rehberde üretken yapay zekâ araçlarının iş süreçlerinde hız ve verimlilik sağladığı, birçok sektörde iş yapış biçimlerini değiştirdiği belirtildi. Ancak bu teknolojilerin kurumsal kullanımında hukuki ve teknik sorumlulukların göz önünde bulundurulması gerektiği ifade edildi.
Günlük iş süreçlerinde yoğun kullanılıyor
Üretken yapay zekâ araçlarının özellikle e-posta taslaklarının hazırlanması, belgelerin özetlenmesi, toplantı notlarının çıkarılması ve araştırma süreçlerinin desteklenmesi gibi günlük iş akışlarında çalışanlara kolaylık sağladığı kaydedildi.
Hızlı çıktı üretme kapasitesi ve kullanım kolaylığının, çalışanların bu teknolojileri iş süreçlerine daha fazla entegre etmesine yol açtığı belirtildi.
“Gölge yapay zekâ” riskine dikkat
Rehberde özellikle “gölge yapay zekâ” olarak adlandırılan kontrol dışı kullanım biçimlerine dikkat çekildi. Bu kavramın, çalışanların kurum bilgisi veya onayı olmadan üretken yapay zekâ araçlarını iş süreçlerinde kullanmasını ifade ettiği belirtildi.
Bu tür kullanımlarda hangi araçların kullanıldığı ve hangi verilerin paylaşıldığı konusunda kurumların yeterli görünürlüğe sahip olmamasının riskleri artırabileceği vurgulandı. Kurumsal değerlendirme süreçlerinden geçmeden kullanılan sistemlerin hatalı veya yanıltıcı çıktılar üretmesinin de yanlış kararlar alınmasına yol açabileceği ifade edildi.
Ticari sırlar için önemli risk
Rehberde ticari sır niteliğindeki bilgiler veya rekabet açısından hassas verilerin harici yapay zekâ araçlarıyla paylaşılmasının fikri mülkiyet açısından risk oluşturabileceği belirtildi.
Kaynak kodları, ürün tasarımları veya iş stratejileri gibi bilgilerin üçüncü taraf platformlarla paylaşılması durumunda bu verilerin kurum kontrolü dışında işlenebileceği uyarısında bulunuldu.
Yasaklamak yerine politika oluşturulmalı
KVKK, üretken yapay zekâ araçlarının tamamen yasaklanmasının pratikte etkili olmayabileceğine dikkat çekti. Yasaklayıcı politikaların çalışanların bu araçları kurumsal kontrol dışında kullanmasına yol açabileceği ifade edildi.
Bu nedenle kurumların açık yapay zekâ kullanım politikaları oluşturması, hangi verilerin paylaşılabileceğini belirlemesi ve çalışanlara yönelik eğitim ile farkındalık çalışmaları yürütmesi gerektiği belirtildi.
Son karar insan denetiminde olmalı
Rehberde ayrıca yapay zekâ sistemlerinin ürettiği çıktılara aşırı güven duyulmasının da risk oluşturabileceğine dikkat çekildi. “Otomasyon ön yargısı” olarak tanımlanan bu durumun kullanıcıların sistemlerin sonuçlarını yeterli değerlendirme yapmadan doğru kabul etmesine neden olabileceği ifade edildi.
Yapay zekâ araçlarının sunduğu çıktılara nihai kararların dayanağı olarak yaklaşılmaması, bu içeriklerin insan denetimi altında destekleyici unsur olarak değerlendirilmesi gerektiği vurgulandı.
