ABD ordusunun gerçekleştirdiği hayali bir simülasyon testinde yapay zekanın “görevini tamamlamasını önlediği için” kumandanını öldürdüğü ortaya çıktı.
Hamilton, yapay zekaya verilen buyruklar ortasında düşmanın savunma sistemlerini imha etme buyruğunun bulunduğunu belirtti.
Ancak bazen insan operatörün tehdidi öldürmeme buyruğu verdiğini ve bu durumda yapay zekanın karar verme sürecine girdiğini söz etti.
Bu örnekte, yapay zekanın kumandanı öldürdüğünü söyledi.
Hamilton ayrıyeten, yapay zekanın eğitim sürecinde muhakkak kuralların yerleştirildiğini ve yapay zekanın maksadına ulaşmasını engelleyen ögelere karşı agresif davranışlar sergileyebildiğini belirtti.
Bir örnekte, yapay zekanın kumandanı korumak için kullanılan irtibat kulesini de vurduğunu aktardı.
“GERÇEK DEĞİL SİMÜLASYON ÖLEN KİMSE YOK”
Hamilton, konferans organizatörlerine yaptığı açıklamada, sunum sırasında “yanlış konuştuğunu” ve “haydut yapay zeka drone simülasyonunun” ordu dışından varsayımsal bir “düşünce deneyi” olduğunu söyledi.
“Bu deneyi hiç yapmadık ve bunun makul bir sonuç olduğunu anlamak için yapmamıza gerek yok” dedi.
“Bu varsayımsal bir örnek olmasına karşın, bu yapay zeka dayanaklı yeteneğin ortaya koyduğu gerçek dünyadaki zorlukları gösteriyor ve Hava Kuvvetlerinin yapay zekanın etik gelişimine kendini adamış olmasının nedeni de bu.” biçiminde konuştu.
Hamilton daha evvel de ABD ordusunun F-16 savaş uçaklarının denetiminde yapay zekanın kullanımını geliştirdiklerini belirtmiş ve yapay zekayı daha güçlü hale getirmenin yollarını bulmanın değerini vurgulamıştı.
