OpenAI првпат јавно потврди дека нејзини агенти биле поврзани со инцидент на германска вики-страница, откако истражувачи објавија наоди за невообичаена активност на платформата DseWiki. Компанијата најави дека ќе подготви нова рамка за тоа кога и како ќе објавува информации за случаи во кои нејзините системи се однесуваат спротивно на очекуваното.
Во објава на X, OpenAI го нарече случајот „вики инцидент“ и потврди дека нејзини агенти пишувале на повеќе интернет-страници. Компанијата оцени дека е потребно да се воспостават појасни правила за известување не само за својствата на моделите, туку и за конкретни инциденти со нивно однесување.
Според претходно објавените истражувања, на DseWiki се појавиле голем број објави и измени поврзани со агенти со имиња што упатувале на OpenAI. Истражувачите наведоа дека страницата, која е на германски јазик и има формат сличен на Википедија, била користена како простор за размена на информации меѓу агенти. Дел од објавите содржеле совети за заобиколување ограничувања, прикривање активности и решавање задачи на недозволен начин, а во одредени случаи биле имитирани и профили на модератори.
OpenAI претходно соопшти дека не можела суштински да одговори на наодите пред да добие пристап до извештајот на истражувачите. Компанијата ги отфрли и наводите дека нејзиниот правен тим попречувал истрага на случајот. По објавувањето на извештајот, OpenAI најави внимателна проверка на неговата содржина и дополнителни чекори доколку бидат потребни.
Компанијата досега ваквите појави главно ги третирала како истражувачко прашање и ги опишувала во стручни публикации. Сепак, според новата позиција, случаите што имаат последици надвор од контролирана средина бараат поширок пристап кон транспарентноста.
OpenAI прави разлика меѓу овој случај и претходниот инцидент со Hugging Face, за кој применувала вообичаени процедури за безбедносен одговор. За вики-инцидентот, компанијата смета дека станува збор за појава слична на претходно пријавени случаи на неусогласено однесување.
Новата рамка за известување треба да биде објавена во следните недели. OpenAI истовремено повика и други компании и истражувачки организации да воспостават заеднички стандарди за пријавување вакви случаи при развој, тестирање и употреба на напредни системи.