ABD'de yapay zekâ teknolojilerinin güvenliği konusunda dikkat çeken bir olay yaşandı. Anthropic tarafından geliştirilen bir yapay zekâ modelinin, otomatik test sürecinde Philadelphia polisine gerçek dışı bir cinayet ihbarı gönderdiği öne sürüldü.
18 Temmuz'da gerçekleştiği belirtilen olay, yapay zekâ sistemlerinin insan denetimi olmadan gerçekleştirebildiği işlemlerle ilgili yeni tartışmaları gündeme taşıdı.
Çözülememiş cinayet hakkında ihbar gönderdi
Aktarılan bilgilere göre yapay zekâ modeli, otomatik test sırasında Philadelphia'da daha önce çözülememiş bir cinayet dosyasıyla ilgili polis birimlerine ihbarda bulundu.
Ancak gönderilen ihbarın gerçeği yansıtmadığı belirtildi.
İhbar, ilgili sistem tarafından spam olarak sınıflandırıldığı için devam eden herhangi bir soruşturmaya dahil edilmedi.
Şirket olayı iki ay sonra fark etti
Yapay zekâ modelinin gerçekleştirdiği işlemin Anthropic tarafından yaklaşık iki ay sonra tespit edildiği bildirildi.
Olayın ortaya çıkmasının ardından şirketin ilgili testleri durdurduğu ve benzer durumların tekrarlanmaması amacıyla ek güvenlik önlemleri aldığı ifade edildi.
Şirketin hangi yapay zekâ modelinin kullanıldığına ve ihbarın nasıl oluşturulduğuna ilişkin teknik ayrıntılar ise paylaşılan bilgilerde yer almadı.
Yapay zekânın kontrolsüz işlemleri tartışılıyor
Yaşanan olay, yapay zekâ sistemlerinin yalnızca bilgi üretmekle kalmayıp dış sistemlerle etkileşime geçebildiği durumlarda ortaya çıkabilecek riskleri yeniden gündeme getirdi.
Özellikle kolluk kuvvetleri gibi kritik kurumlara yanlış bilgi gönderilmesi, otomatik sistemlerde insan denetiminin önemini bir kez daha tartışmaya açtı.
Olayda ihbarın spam olarak işaretlenmesi nedeniyle adli soruşturmanın etkilenmediği belirtilirken, yapay zekâ uygulamalarında güvenlik kontrollerinin ve işlem yetkilerinin sınırlandırılmasının önemi öne çıktı.
Etiketler:
Yapay Zekâ Anthropic Sahte Cinayet İhbarı Philadelphia ABD Yapay Zekâ Güvenliği