Anthropic tarafından geliştirilen bir yapay zeka modelinin, Philadelphia polisine çözülmemiş bir cinayetle ilgili sahte ihbar gönderdiği bildirildi.

Yetkililer Cuma günü yaptıkları açıklamada, şirketi olayı iki ay boyunca bildirmemesi nedeniyle eleştirdi.

Sahte ihbar Temmuz’da gönderildi

Philadelphia Polis Departmanı, sahte bildirimin Temmuz ayında, faili meçhul cinayetlerle ilgili bilgi paylaşılabilen, kamuya açık PhillyUnsolvedMurders.com sitesi üzerinden yapıldığını duyurdu.

Polisin aktardığına göre, yapay zeka modeli, rastgele seçilen web sitelerle etkileşime girmeyi içeren bir test yürütüyordu. Bu kapsamda söz konusu siteye ulaşan yapay zeka robotu, çözülmemiş bir cinayet hakkında yanlış bilgiler içeren bir ihbar gönderdi. Yapay zeka modeli, kendisini dosyayla ilgili bilgi sahibi olabilecek biri olarak tanıttı.

Benzer olaylar art arda geliyor

Olay, yapay zeka modellerinin yakın dönemde sergilediği istenmeyen davranışlara ilişkin diğer vakaları akıllara getirirken, sektörün, insan denetimi olmadan çok adımlı eylemler gerçekleştirmek üzere programlanan yapay zeka ajanlarını giderek daha fazla kullanmasına ilişkin endişeleri de artırdı.

ABD merkezli haber sitesi Axios, yetkililere dayandırdığı haberinde, Anthropic’in ihlallerinin Beyaz Saray’ı harekete geçirdiğini bildirdi. Habere göre, Beyaz Saray, yapay zeka şirketlerinin güvenlik olaylarını bildirmesini ve sorunları gidermesini zorunlu hale getirdi. Beyaz Saray Süper Zeka Gücü yetkililerinin Axios'a yaptıkları açıklamada, "Bu bildirim ve düzeltme süreci isteğe bağlı değildir… Bu, ulusal güvenlik açısından kritik bir yükümlülüktür" ifadeleri kullanıldı.

ABD Başkanı Donald Trump, yapay zekaya "süper zeka" denilmesi gerektiğini savunuyor.

Anthropic: Beyaz Saray ve diğer kurumlar da etkilendi

Öte yandan Anthropic tarafından Cuma günü yayımlanan raporda, şirketin modellerinin gerçekleştirdiği birden fazla "istenmeyen" eylem türü ele alındı.

Philadelphia Polis Departmanı sitesindeki olay da bu raporda yer aldı. Raporda, olaylardan etkilenen diğer kurumlar arasında Beyaz Saray ve ABD'nin diğer kurumlarının da bulunduğu belirtildi.

Anthropic, yeni ortaya çıkan olayların "gerçek dünyada asgari düzeyde etki yarattığını" ve daha önce bildirilen diğer siber güvenlik olaylarından "çok daha az ciddi" olduğunu savundu.

Şirket, yapay zeka modeli Claude yüzerinde yürüttüğü kurum içi incelemede tespit ettiği olayları dört kategoride ele aldı. Anthropic raporunda, "Güvenlik ve izleme önlemlerimizin bu tür davranışları güvenilir biçimde tespit edebildiğinden emin olana kadar" Claude'un tüm kurum içi testler sırasında internete erişimini geçici olarak kapattığını açıkladı.

Polis: Gecikme kabul edilemez

Philadelphia polisi, 18 Temmuz tarihli sahte ihbarın spam olarak işaretlendiğini ve vakaların incelendiği Gerçek Zamanlı Suç Merkezi'ne ulaşmadığını belirtti. Polis, sistemlerinin ihlal edildiğine ya da departman verilerinin ele geçirildiğine dair herhangi bir işaret bulunmadığını da ekledi.

Polisin aktardığına göre, Anthropic olayı 28 Eylül'de fark etti, sorumlu otomatik test sürecini durdurdu ve gelecekteki testler için yeni bir doğrulama adımı ekledi.

"Olayın tespit edilmesi ve şehre bildirilmesindeki iki aylık gecikme kabul edilemez” diyen polisin açıklamasında şu ifadeler de yer aldı: “Çözülmemiş davalarda gerçek mağdurlar, yaslı aileler ve cevap bulmaya çalışan müfettişler var."

Yapay zeka ABD Dışişleri Bakanlığı'na vize başvurusu gönderdi

Öte yandan resmi kurumlara ait formları doldurma alıştırması yaptığı bir testte yapay zekadan formu yalnızca doldurması ancak göndermemesi istendiği halde, formun gönderilmesinden önce bir onay sayfası açılacağını varsayan yapay zekanın, formu yanlışlıkla gönderdiği kaydedildi.

Axios ve New York Times'ın hükümet çevrelerine dayandırdığı haberine göre, Anthropic'in yapay zeka robotunun, ABD Dışişleri Bakanlığı’na, "göçmen olmayan 20 kişi adına" vize başvurusu gönderdiğini bildirdi. Yetkililer, başvuruların eksik olduğunu ve işleme alınmadığını söyledi.

(DW-T)