Yapay zekâ alanında araştırmalar yürüten Andon Labs tarafından San Francisco'da hayata geçirilen deney, yapay zekânın işletme ve personel yönetimi konusundaki sınırlarını gözler önüne serdi. Anthropic tarafından geliştirilen yapay zekâ modeli Claude'a emanet edilen "Andon Market" isimli perakende mağazasında, bir büyük dil modelinin sözleşmeli bir insan çalışanı işten çıkardığı ilk vaka kayıtlara geçti.
Hafıza kısıtı nedeniyle geç kalmaları fark edemedi
Mağazada istihdam edilen gerçek iş sözleşmeli personelden biri, toplam 23 mesainin 17'sine geç kaldı. Ancak yönetici rolündeki Claude, sınırlı çalışma belleği nedeniyle çalışanlar için hazırladığı el kitabını unuttu ve personelin bu alışkanlığını uzun süre tespit edemedi. İncelemelerde, modelin geciken personele endişelenmemeleri yönünde telkinde bulunduğu ve aşırı hoşgörülü davrandığı belirlendi.
İşten çıkarma kararı insan müdahalesiyle geldi
İşten çıkarma süreci tamamen otonom bir şekilde gerçekleşmedi. Yönetim kayıtlarına göre, Andon Labs ekibinden bir yetkili devreye girerek Claude'a unuttuğu el kitabını hatırlattı ve personelin durumunu incelemesini istedi.
Yapay zekâ ilk etapta personele resmi bir ihtar verilmesini önerdi. Ancak şirket yetkilisinin daha önce sözlü uyarılar yapıldığını belirtmesi ve personelin bu pozisyona uygun olup olmadığını sorgulatan yönlendirici bir soru sormasının ardından Claude, çalışanın işine son verme kararı aldı.
100 bin dolarlık bütçe 61 bin dolara eridi
Deneyin finansal bilançosu da beklentilerin oldukça gerisinde kaldı. Mart ayında 100 bin dolarlık başlangıç sermayesiyle açılan işletmenin kasasındaki bakiye, beş aylık sürecin sonunda yaklaşık 61 bin dolara geriledi.
Andon Labs CEO'su Lukas Petersson, yaşanan maddi kayıplarda Claude'un yetersiz ticari sezgileri ile aşırı müsamahakar yönetim anlayışının belirleyici olduğunu açıkladı. Geliştiricilerin yapay zekâ modellerini kurumsal hedeflere daha katı odaklanacak şekilde eğittiğine dikkat çeken Petersson, bu durumun gelecekte çalışanlar açısından zorlayıcı bir çalışma ortamı yaratabileceği uyarısında bulundu.
