Yapay zekanın hatalı analizi ABD ile Çin'i karşı karşıya getirecekti

ABD ile İran arasındaki savaşın sürdüğü ilkbahar aylarında ABD ordusu içinde dolaşıma sokulan bir istihbarat raporu, Çin bandıralı bir geminin Orta Doğu'da nükleer silah programında kullanılabilecek malzemeler taşıdığını öne sürdü.

CNN'in konu hakkında bilgi sahibi dört kaynağa dayandırdığı haberine göre ABD ordusu, raporun ardından gemiye müdahale edilmesi için hazırlık yaptı. İki kaynak, silahlı ABD askerlerinin gemiye çıkmaya hazırlandığını, diğer kaynaklar ise askeri uçakların operasyon öncesinde havalandığını belirtti.

Ancak operasyonun başlamasından kısa süre önce yetkililer, raporu hazırlayan analistin istihbarat verilerini değerlendirmek için yapay zeka destekli bir sohbet botundan yararlandığını tespit etti.

Yapılan incelemede, sohbet botunun geminin taşıdığı malzemeyi yanlış tanımladığı ve rapordaki temel değerlendirmenin yapay zeka tarafından üretilen hatalı bir sonuca dayandığı ortaya çıktı.

Kaynaklardan biri raporun “tamamen yanlış” olduğunu belirtirken, olayın ABD ile Çin arasında silahlı çatışma riskini doğurabilecek noktaya geldiğini ifade etti.

İstihbarat raporunu yapay zeka hazırladı

CNN'e konuşan kaynaklara göre olayın merkezinde, ABD Özel Operasyonlar Komutanlığı'nın Pasifik bölgesindeki birimlerinden elde edilen ve geminin yük manifestosuna ilişkin istihbarat bulunuyordu.

Analist, söz konusu istihbarat verileri hakkında bir sohbet botuna sorgu yöneltti. Yapay zeka aracı, açık kaynaklardan elde edilen bilgilerle ABD hükümetinin gizli sinyal istihbaratını bir araya getirerek gemide taşınan malzemenin niteliğine ilişkin yanlış bir sonuca ulaştı.

Ardından analist, yapay zekayı kullanarak elde edilen değerlendirmeyi standart bir istihbarat raporu formatına dönüştürdü. Rapor daha sonra askeri yetkililere dağıtıldı.

CNN, kullanılan sohbet botunun ticari bir yapay zeka ürünü mü yoksa ABD hükümetine ait bir sistem mi olduğunu belirleyemedi.

ABD Özel Operasyonlar Komutanlığı Pasifik ve Pentagon ise CNN'in konuyla ilgili yorum taleplerine yanıt vermedi.

ABD ordusunda yapay zeka kullanımı hızla yayılıyor

Olay, ABD ordusu ve istihbarat kurumlarında yapay zekanın giderek daha fazla kullanılmaya başlandığı bir dönemde yaşandı.

ABD yönetimi, yapay zekanın büyük miktardaki istihbarat verilerinin analiz edilmesinden hedef belirlemeye, lojistikten tedarik zincirlerinin yönetimine kadar çok sayıda alanda kullanılmasını teşvik ediyor.

Washington'da yapay zekanın askeri alanda daha hızlı kullanılmasının gerekçelerinden biri de Çin gibi rakiplerin teknolojik kapasitesine karşı avantajın korunması olarak gösteriliyor.

ABD Savunma Bakanı Pete Hegseth, ocak ayında Pentagon'un yapay zeka kullanımını hızlandırmayı amaçlayan “Yapay Zeka Hızlandırma Stratejisi”ni açıkladı.

Strateji kapsamında yapay zeka modellerinin farklı güvenlik seviyelerinde yaklaşık 3 milyon askeri ve sivil çalışanın kullanımına sunulması hedefleniyor.

Ancak CNN'e konuşan ABD'li yetkililer, yapay zekanın askeri ve istihbarat kurumlarında merkezi olmayan bir yapıyla kullanıldığını belirtti. Buna göre farklı kurum ve birimler farklı sistemler kullanıyor ve bu sistemlerin güvenlik standartları ile doğrulama mekanizmaları arasında önemli farklılıklar bulunuyor.

"Yapay zeka kötü bir fikre daha hızlı ulaştırabilir"

ABD istihbarat çevrelerindeki bazı yetkililer, yapay zekanın kullanımının analistlerin daha hızlı istihbarat üretmesi yönündeki baskıyı artırdığını ve bunun hata riskini yükseltebileceğini belirtiyor.

CNN'e konuşan bir kaynak, özellikle genç analistlerin yapay zeka araçlarını daha yoğun kullandığını ve bazı durumlarda bu sistemlerin ürettiği sonuçlara yeterli sorgulama yapmadan güvenebildiğini söyledi.

Askeri hedef belirleme alanındaki yapay zeka kullanımının da hızla arttığı belirtilirken, sistemlerin yanlış değerlendirmeler üretmesi halinde sivillerin zarar görmesi veya dost birliklerin yanlışlıkla hedef alınması gibi risklerin bulunduğu ifade edildi.

Bir kaynak, askeri hedef belirlemede yapay zekanın kullanımının arttığını ancak “insanın karar sürecinde bulunmasının” sivil kayıpları veya dost ateşi riskini nasıl önleyeceğine ilişkin yeterli standartların henüz oluşturulmadığını savundu.

ABD istihbarat çevrelerinde yapay zeka sistemlerinin benzer hatalar ürettiğine dair başka örneklerin de bulunduğu belirtilirken, olay yapay zekanın yanlış bilgi üretmesinden ziyade insanların bu bilgileri doğrulamadan kritik karar süreçlerine dahil etmesinin oluşturabileceği riski gündeme getirdi.

Kaynaklardan biri durumu, “Yapay zeka kötü bir fikre daha hızlı ulaşmanızı sağlıyor” sözleriyle özetledi.

Kaynak: Mepa News, CNN