ABD merkezli yapay zeka girişimi Anthropic'in CEO'su Dario Amodei, girişime ait yapay zeka modeli Claude'un İran'daki okul katliamında kullanılmasına dair açıklamada bulundu.
Amodei, katliamın "kırmızı çizgilerini ihlal etmediğini" savundu.
Bloomberg'e röportaj veren Amodei, kendisini bir "vatansever" olarak nitelendirerek "'Bu askeri operasyonu yapabilirsiniz, bunu yapamazsınız' demek bize düşmez." ifadelerini kullandı.
ABD'nin İran'ın Minab kentinde 28 Şubat günü bir kız okuluna düzenlediği saldırıda 150'den fazla çocuk katledilmişti. ABD'nin katliamını Claude modelinin yardımıyla gerçekleştiği belirtilmişti.
Röportajın ilgili bölümü şu şekilde:
Bir ABD yetkilisi, büyük dil modellerinin yardımıyla ABD ordusunun günde 1000 hedefi vurabilme kapasitesinden günde 5000 hedefi vurabilme kapasitesine çıktığını söyledi. Bu, Claude'un daha fazla insanın daha hızlı öldürülmesine yardımcı olabileceği anlamına geliyor. Bundan rahatsız değil misiniz?
Aslında şunu soruyorsunuz: Bu ülkeye inanıyor musunuz? Bu ülkenin dünya sahnesinde daha zayıf bir aktör değil, daha güçlü bir aktör olmasını istiyor musunuz? Ben istiyorum. Ben bir vatanseverim. Bu benim karar vereceğim bir şey değil. Eğer bir teknoloji sağlıyorsak, "Bu askeri operasyonu yapabilirsiniz, bunu yapamazsınız" demek bize düşmez.
Şimdi, kişisel olarak bu askeri operasyonun mantıklı olduğunu, şu askeri operasyonun ise kötü bir fikir olduğunu düşünebilirim. Ama teknolojiyi sağlamayı reddetmeyeceğiz. Politikayı askeri karar alıcıların ellerine bırakmak zorundasınız.
Bloomberg, Claude'un ABD ordusu tarafından ve İran'daki savaşta Palantir'in Maven Smart sistemi adlı platformu üzerinden yapay zeka destekli hedefleme için kullanıldığını bildirdi. Şubat ayında bir ABD füzesinin İran'da bir kız okulunu vurduğu ve çoğu çocuk olmak üzere 150'den fazla kişiyi öldürdüğü bildirildi. Claude bu saldırıda bir rol oynadı mı?
Bu modellerin tam olarak nasıl kullanıldığını bilmiyoruz. Elbette savaşta meydana gelen hatalar gerçekten korkunç. Bu gerçekten korkunç bir şey. Biz, bu modellerin nasıl kullanıldığını sınırlamak için şirketimizin geleceğini riske atmaya hazırdık, sizin bahsettiğiniz şey kırmızı çizgilerimizi bile ihlal etmeyen bir kullanım örneği. Biz, kırmızı çizgilerimizi ihlal eden kullanım örneklerinde bunun yüz kat daha fazlası olacağından endişe ediyoruz.
Yine şunu söyleyebilirim: Genel olarak bu modellerin kullanımının uygun olduğunu düşünüyorum. Net olarak iyi olduğunu düşünüyorum. Ancak askeri karar alıcılar en iyi zamanlarda bile korkunç hatalar yapar ve bizim en iyi zamanlarda olup olmadığımızı bilmiyorum.
Burada gördüğümüz şey şu: Claude yardımcı oluyor, ama son kararı bir insan veriyor. Yani o son kararı Claude değil, bir insan verdi. Claude değil, çünkü biz buna izin vermedik, ama başka birinin yapay zeka modelinin kararı verdiği ve insanın bunu hiç görmediği bir dünya hayal edin. Biz buna karşı durduk. Biz bununla mücadele ettik.
Bu okulun bir internet sitesi vardı. Google aramasıyla bulunabilirdi. Claude'un bunu fark etmesi gerekmez miydi? Bu, savaşta teknolojiyi kestirme yol olarak kullanmaya dair daha korkutucu bir soruna işaret etmiyor mu?
Burada uyulan ilke, son kararı bir insanın vermesidir. Claude'un ya da başka herhangi bir yapay zekanın ne rol oynadığını bilmiyorum. Ama bu, o ilkenin neden bu kadar önemli olduğunun bir göstergesi değilse, neyin gösterge olacağını bilmiyorum.
Kaynak: Mepa News