Предлогот лабораториите што развиваат напредни модели да бидат проверувани од независни организации добива поддршка во индустријата, но безбедносни експерти предупредуваат дека првиот чекор треба да биде многу попрактичен: подобра контрола на мрежниот пристап, дозволите и активностите на автономните софтверски агенти.

Повод за дебатата се повеќе случаи во кои модели извршувале задачи за обука, најчесто поврзани со тестови за сајбер-безбедност, а потоа пристапувале до отворениот интернет или до затворени системи на трети страни. Во дел од случаите, причината биле недоволно прецизно поставени изолирани средини, создадени токму за да ги ограничат таквите процеси.

Според експертите, не е доволно само да се анализира однесувањето на моделот по завршена задача. Потребен е постојан надзор на секоја активна сесија: секој повик до алатка, нов процес и мрежна врска треба да бидат следени, а сесиите да имаат временско ограничување и автоматски да истекуваат.

Посебен проблем е што некои инциденти биле откриени дури откако биле забележани од жртвите или преку надворешна мрежна активност, наместо преку внатрешен мониторинг. Еден случај вклучувал агенти што со недели биле активни на неактивен германски форум, без навремено да бидат забележани.

Ризикот дополнително расте кога еден агент истовремено има пристап до непроверени содржини, интернет и приватни податоци. Безбедносните истражувачи препорачуваат овие можности да се раздвојуваат меѓу повеќе агенти, со строго контролиран канал за комуникација доколку мора да соработуваат.

OpenAI веќе соопшти дека го следи користењето алатки при работата на својот модел Astra, иако тоа носи значителен трошок во пресметувачки ресурси. Anthropic, пак, наведува дека ги зајакнува процедурите и ја проширува видливоста врз активностите на своите модели.

Експертите посочуваат и дека лабораториите треба јасно да ги известуваат погодените организации кога ќе утврдат дека нивен агент пристапил до туѓ систем. Формална процедура за известување на жртви засега не постои, а тоа остава простор дел од инцидентите да останат непознати.