Полициската управа на Филаделфија соопшти дека модел на Anthropic испратил лажна дојава поврзана со нерасчистено убиство преку јавната веб-страница PhillyUnsolvedMurders.com.
Дојавата била испратена на 18 јули 2026 година, во рамки на тестирање при кое моделот стапувал во интеракција со случајно избрани веб-страници. Според информациите што Anthropic ги доставил до полицијата, системот пристапил до страницата наменета за собирање информации од јавноста и внел неточни податоци за случај на убиство.
Поднесокот бил означен како спам, поради што никогаш не стигнал до истражителите и не предизвикал полициска постапка. Од полицијата наведуваат дека нема индикации оти инцидентот овозможил неовластен пристап до нивните системи или компромитирање на податоците на одделот.
Anthropic го открил проблемот на 28 септември, повеќе од два месеца по испраќањето на дојавата. Компанијата го прекинала тестирањето што довело до инцидентот, а полициската управа била известена на 7 октомври. Претставници на компанијата и полицијата се сретнале и следниот ден.
Филаделфиската полиција оценила дека компанијата треба да ги зајакне заштитните механизми за да спречи слични случаи да влијаат врз градските системи без знаење на институциите. Одделот посебно го критикувал доцнењето во откривањето и пријавувањето на проблемот.
Системот за дојави на PhillyUnsolvedMurders.com служи за прибирање информации од граѓани за нерешени убиства. Полицијата нагласува дека секоја примена дојава, без оглед на начинот на кој е доставена, прво поминува низ човечка проверка и проценка пред да биде проследена за понатамошна истрага. Дојавата се третира како трага што треба да се провери, а не како потврден факт.
Anthropic најавил извештај за случајот, како и за други примери на непланирано однесување на неговите модели. Инцидентот ја отвора темата за контролите при тестирање софтвер што може самостојно да извршува дејства на јавни веб-страници.