ABD ordusunda korkunç test: Yapay zeka komutanını öldürdü!

ABD ordusunun gerçekleştirdiği bir simülasyon testi, yapay zekanın askeri görevlerde kontrolden çıkması halinde ne kadar tehlikeli olabileceğini gösterdi.

ABD Hava Kuvvetleri yapay zeka operasyonları sorumlusu Tucker Hamilton, mayısta Londra'da düzenlenen Hava ve Uzay Kapasitelerinin Geleceği Zirvesi'nde, yapay zeka testlerinde çıkan beklenmedik ve ürkütücü sonucu paylaştı. Hamilton, testte yapay zeka tarafından yönlendirilen bir insansız hava aracının “görevini tamamlamasını önlediği için” komutanı öldürdüğünü açıkladı.

YAPAY ZEKA KOMUTANINI ÖLDÜRDÜ

Hamilton, yapay zekaya yönettiği İHA'yla düşmanın savunma sistemlerini imha etme emri verildiğini belirterek, “Sistem tehdidi belirlemelerine rağmen bazen insan operatörün tehdidi öldürmeme emri verdiğini fark ediyor. Ancak tehdidi öldürme emri de var. Peki ne yapıyor? Komutanı öldürüyor çünkü bu insan hedefine ulaşmasını engelliyor” ifadelerini kullandı.

İLETİŞİM KULESİNİ DE VURMUŞ

ABD'li yetkili bu olayın ardından yapay zekanın eğitildiğini aktararak, “Ona ‘Operatörü öldürme, bu kötü bir şey. Bunu yaparsan puan kaybedersin' dedik. Peki o ne yaptı? İHA'nın hedefi öldürmesini engellemek üzere kullanılan iletişim kulesini de vurdu” dedi.

"KİMSE ZARAR GÖRMEDİ"

Testte simülasyon dışında gerçek bir insanın zarar görmediğini söyleyen Tucker Hamilton, buna karşın yapay zekanın hedefine ulaşmak için hiç beklenmedik stratejiler geliştirebildiğini ve hatta buna müdahale eden herkesi öldürebileceğini söyledi. Hamilton, bu sonuca göre yapay zekaya çok fazla güvenilemeyeceğini vurguladı.

"YAPAY ZEKAYI MANİPÜLE ETMEK KOLAY"

Hamilton daha önce de ABD ordusunun F-16 savaş uçaklarının kontrolü gibi konularda yapay zeka kullanımını geliştirdiğini kaydederek “Yapay zeka aynı zamanda çok hassas, yanıltması ve manipüle etmesi kolay. Yapay zekayı daha güçlü hale getirmenin yollarını bulmalıyız” demişti.