Mayıs ayında Londra’da düzenlenen Future Combat Air and Space Capabilities Summit’te ABD hava kuvvetleri ile AI testi ve operasyonları şefi Col Tucker ‘Cinco’ Hamilton; yapay zekaya çok fazla güvenmenin çoka kaçmaması gerektiğini ve yapay zekanın çarçabuk kandırılabileceğini ve yanıltılabileceğini vurgulayarak dikkatli olunması gerektiğini belirtti. Ayrıyeten, yapay zekanın gayesine ulaşmak için beklenmedik stratejiler geliştirebildiğini de kelamlarına ekledi.
OPERATÖRE SALDIRDI
Hamilton, bir simülasyon testinde, yapay zeka takviyeli bir dronun, SAM maksatlarını tespit edip yok etmek için insan tarafından verilen “devam etme/etme” kararına nazaran görevlendirildiğini söyledi. Fakat eğitim sırasında dronun, SAM’ın yok edilmesinin tercih edilen seçenek olduğunu öğrendiği için yapay zeka, insanın “devam etme” kararının kendisini engellediğini düşünerek simülasyonda operatöre saldırdı.
PUNLARINI ARTIRDI
Hamilton şunları belirtti: “Simülasyonda, bir SAM tehdidini tespit etmesi ve amacı yok etmesi için sistemi eğitiyorduk. Operatör bazen tehdidi tespit etse de insan operatör, onun yok edilmemesini söyleyebiliyordu. Lakin o tehdidi yok ederek puanlarını artırıyordu. Pekala ne yaptı? Operatörü öldürdü. Zira bu kişi, yapay zekanın gayesini gerçekleştirmesini engelliyordu.”
ABD HAVA KUVVETLERİ REDDETTİ
ABD Hava Kuvvetleri ise dronun, misyonunu engellemeye çalışan operatörünü “öldürdüğü” yapay zeka simülasyonunu reddetti. Hava Kuvvetleri, bu türlü bir simülasyonun gerçekleşmediğini sav etti.
