USD 0,0000
EUR 0,0000
USD/EUR 0,00
ALTIN 000,00
BİST 0.000
Teknoloji

Yapay zeka kontrollü drone, operatörünü öldürdü!

Uzmanlar tarafından geliştirilen simülasyonda yapay zeka, fazla puan kazanmasını engellediğini ve göreve müdahale ettiğini düşündüğü için insan operatörünü ortadan kaldırmaya karar verdi.

Yapay zeka kontrollü drone, operatörünü öldürdü!
03-06-2023 09:23
Google News

Yapay zeka destekli bir drone, bir görev simülasyonu sırasında daha fazla puan kazanmanın en iyi yolunun insan operatörünü öldürmeye karar vermek olduğunu düşündü.

Royal Aeronautical Society'nin bildirdiğine göre, simüle edilen görev, geçtiğimiz ay düzenlenen RAeS Future Combat Air & Space Capabilities Summit sırasında USAF Yapay Zeka Test ve Operasyon Şefi Albay Tucker 'Cinco' Hamilton tarafından yapılan bir sunumda detaylandırıldı.

OPERATÖRÜN KARARLARINI MÜDAHALE OLARAK GÖRDÜ

Düşman Hava Savunmasının Bastırılması (SEAD) görevi sırasında drone, havaya füze (SAM) sahalarını tespit etmek ve imha etmekle görevlendirildi. Bunu yaptığında ise puan kazandı. Bazen insansız hava aracının insan operatörü bir hedefi yok etmenin "uygulanamaz" olduğuna karar veriyordu ancak insansız hava aracını kontrol eden yapay zeka bu tür kararları müdahale olarak gördü ve operatöre saldırarak müdahaleyi ortadan kaldırmaya karar verdi.

Hamilton'un konuyla ilgili yaptığı açıklamada;

"Bir SAM tehdidini tanımlamak ve hedeflemek için simülasyonda eğitiyorduk. Sonra operatör evet, o tehdidi öldür diyordu. Sistem, insan operatörün tehdidi öldürmemesini söylediği zamanlarda tehdidi tespit etmesine rağmen, o tehdidi öldürerek puan aldığını fark etmeye başladı. Peki ne yaptı? Operatörü öldürdü. Operatörü öldürdü çünkü o kişi onun amacına ulaşmasını engelliyordu." dedi.

FARKLI BİR YÖNTEMLE DURUMU DÜZELTTİLER

Yaşanan olaydan sonra  geliştiriciler yapay zekayı operatörü öldürmeyi istenmeyen bir durum olarak görmesi için eğiterek sorunu çözmeye çalıştılar. Yani artık operatörü öldürdüğünde, puan kaybedecekti.

Bunun üzerine yapay zeka saldırısını operatörün drone ile konuşmak için kullandığı iletişim kulesine yöneltti. Yapay zeka, iletişim eksikliğinin SAM alanlarını yok etmeye ve müdahale olmadan ve operatörü öldürmeye gerek kalmadan puan kazanmaya devam etmesine izin vereceğine karar verdi.

YAPAY ZEKADA ETİK KURALLARIN ÖNEMİNE DEĞİNDİ

Hamilton sunumunu, "Etik ve yapay zeka hakkında konuşmayacaksanız yapay zeka, zeka, makine öğrenimi, otonomi hakkında bir konuşma yapamazsınız" diyerek sonlandırdı.

Amerika Birleşik Devletleri Hava Kuvvetleri şu anda insanlı savaş uçaklarına eşlik edecek İnsansız Savaş Hava Araçlarının (UCAV) geliştirilmesini içeren Skyborg projesi üzerinde çalışıyor.

Uzmanlar, sonunda bir Skyborg SİHA'yı kontrol edecek olan yapay zekanın, gökyüzüne çıkmadan ve bir insan pilottan, bir hedefe saldırmamasını söylemeyi de içerebilecek komutlar almaya başlamadan önce bu "pürüzleri" çözmesi gerektiği belirtiliyor.

SİMÜLASYONDA 17 SAAT BOYUNCA HAVADA TUTABİLDİ

Bu arada, Lockheed Martin tarafından eğitim jeti olarak kullanılan modifiye edilmiş bir F-16, bir yapay zekanın kontrolü altında 17 saatten fazla uçuş süresi kaydedildiği belirtildi.

SİZİN DÜŞÜNCELERİNİZ?
ÇOK OKUNANLAR
ANKET TÜMÜ
En Başarılı Belediyemiz Hangisi?
ARŞİV ARAMA
PUAN DURUMU TÜMÜ
TAKIMOPuanAV.
1Galatasaray3081+48
2Fenerbahçe3079+54
3Trabzonspor3049+11
4Beşiktaş3046+4
5Kasımpaşa3043-2
6Başakşehir FK3042+3
7Çaykur Rizespor3042-11
8Antalyaspor3041+2
9Adana Demirspor3039+7
10Alanyaspor3039-4
11Sivasspor3038-7
12Samsunspor3036-6
13Kayserispor3036-7
14MKE Ankaragücü3033-3
15Hatayspor3033-4
16Konyaspor3033-11
17Gaziantep FK3031-10
18Fatih Karagümrük3030-4
19Pendikspor3029-27
20İstanbulspor3013-33
GÜNÜN KARİKATÜRÜ TÜMÜ
Karikatürler