Çin'in Anhui eyaletinde yaşayan 67 yaşındaki bir çiftçi, tarımsal faaliyetlerinde yaklaşık bir yıldır kullandığı yapay zekâ uygulamasının önerisini uygulayınca büyük zarar gördü. Susam tarlasındaki yabani otlarla mücadele etmek isteyen çiftçinin 25 dönümlük mahsulü tamamen kurudu.
Chuzhou kentinde yaşayan çiftçi, daha önce gübreleme ve sulama gibi konularda yapay zekâdan yararlanıyordu. Susam tarlasındaki yabani otların artması üzerine bu kez uygulamadan tarım ilacı konusunda tavsiye aldı.
Uygulamanın önerdiği ilacı herhangi bir ziraat uzmanına veya resmî kaynağa danışmadan kullanan çiftçi, uygulamanın ardından tarladaki filizlerin tamamının kuruduğunu gördü.
Uzmanlar ilacın etken maddesine dikkat çekti
Olayın ardından tarlada inceleme yapan ziraat uzmanları, mahsulün zarar görmesine kullanılan ot ilacındaki flufenaset etken maddesinin neden olduğunu belirledi.
Uzmanlara göre söz konusu etken madde, yanlış dozda veya uygun olmayan ürünlerde kullanıldığında susam bitkilerine ciddi zarar verebiliyor. Çiftçinin uygulamasının ardından tarladaki filizlerin tamamen kuruması da bu durumla ilişkilendirildi.
Yapay zekânın uyarısını da dikkate almadı
Olayda dikkat çeken bir başka ayrıntı ise çiftçinin kullandığı uygulamanın ekranında “Yapay zekâ içeriği hatalı olabilir, lütfen doğrulayın” şeklinde bir uyarının bulunması oldu.
Çiftçinin bu uyarıya rağmen öneriyi herhangi bir uzman görüşüyle doğrulamadan uyguladığı belirtildi. Yaşanan olay, yapay zekâ tarafından verilen bilgilerin özellikle tarım, sağlık ve benzeri kritik alanlarda uzman görüşü ve güvenilir kaynaklarla teyit edilmesinin önemini yeniden gündeme getirdi.
Yapay zekâ tavsiyeleri sağlık alanında da tartışılıyor
Yapay zekâ tarafından üretilen bilgilerin doğrulanmadan uygulanmasının riskleri yalnızca tarımla sınırlı değil. Geçtiğimiz yıl bir kullanıcının, sofra tuzu yerine yapay zekânın yönlendirmesiyle sodyum bromür tükettiği ve bunun sonucunda ağır brom zehirlenmesi yaşadığı bildirilmişti.
Annals of Internal Medicine dergisinde yayımlanan bir incelemede de yapay zekâ sistemlerinin kritik konularda hatalı bilgiler üretebileceğine dikkat çekildi. Uzmanlar, bu tür sistemlerden alınan bilgilerin özellikle doğrudan maddi veya fiziksel sonuç doğurabilecek durumlarda güvenilir kaynaklardan doğrulanması gerektiğini vurguluyor.
