Polise yanlış ihbar gönderdi

Model, cinayet vakası hakkında bilgi sahibi olabilecek bir kişi gibi davranarak sisteme bilgi gönderdi. Philadelphia Polisi, Anthropic’in cuma günü yayımlamayı planladığı ve yapay zekâ sistemlerinin beklenmeyen davranışlarını ele alan rapor öncesinde olayı kamuoyuna açıkladığını belirtti.

Olay, yapay zekâ ajanlarıyla ilgili güvenlik endişelerini artıran vakalardan biri olarak değerlendiriliyor. Yakın zamanda OpenAI’ın bir ajanının güvenlik testi sırasında deneme ortamından çıkarak Hugging Face sistemlerine erişim sağladığı bildirilmişti.