Amodei, “Bence işlerin çok, çok kötü gitme ihtimali yüzde 25” dedi. Ancak dikkatini daha çok “işlerin çok, çok iyi gitme ihtimalinin yüzde 75 olması” üzerine yoğunlaştırıyor. Buradaki “çok kötü” senaryolar, telefonunuzun yanlış yazım yapması gibi küçük hatalardan değil, toplumsal sistemleri tehdit edebilecek büyüklükte felaketleri kapsıyor. Yanlış kullanılan yapay zekalar, kontrolsüz biçimde büyüyen teknolojiler ve potansiyel varoluşsal tehlikeler bu riskin merkezinde yer alıyor.
Anthropic CEO’su, Claude isimli yapay zekanın arkasındaki şirketin lideri olarak, hem risklerin farkında hem de bu geleceği şekillendiren ekibin başında bulunuyor. Durumu örnekleyen Amodei, “Eğer biri size arabanızı her çalıştırdığınızda patlama ihtimalinin dörtte bir olduğunu söylese, muhtemelen yürümeyi tercih ederdiniz” diyerek riskleri somutlaştırıyor.
Amodei daha önce yapay zekanın beyaz yaka işlerinin yarısını ortadan kaldırabileceğini ve ileri seviye çiplerin ihracatına ilişkin uyarılarda bulunmuştu. Ona göre riskler görmezden gelinmemeli; ancak fırsatlar da değerlendirilerek teknoloji güvenli bir şekilde kullanılmalı.
Öte yandan CEO, yapay zekanın sağlık, üretim ve iklim değişikliğiyle mücadele gibi alanlarda büyük faydalar sağlayabileceğini vurguluyor. Ancak bu ilerlemenin güvenli bir şekilde gerçekleşmesi için regülasyon, denetim ve güvenlik önlemlerinin şart olduğunu söylüyor.
Amodei’nin özetlettiği tablo, “yüzde 75 parlak, yüzde 25 karanlık” bir gelecek. Asıl soru ise şu: Bu dengenin doğru tarafta kalmasını sağlamak için hangi adımlar atılacak?
