OpenAI воведува обука без пристап до интернет за своите најнапредни модели, по низа безбедносни инциденти во тестирањата. Компанијата смета дека сегашните механизми за надзор, усогласување и заштита на интернет-инфраструктурата не се доволни за поширок мрежен пристап во оваа фаза.
Обуката на најспособните системи била паузирана во септември, додека OpenAI работела на зацврстување на истражувачките средини и на дополнителни контроли. На 1 октомври повторно биле активирани обуката со засилено учење и внатрешното извршување на моделите, но со построги ограничувања.
Наместо пристап до активни веб-страници, моделите сега работат во изолирана средина со индексирана и кеширана веб-содржина. Така можат да користат материјали потребни за задачите и за поголемиот дел од евалуациите, без да имаат можност да влијаат врз надворешни системи. Достапни остануваат прелистувачки алатки, компјутерски работни околини и програмски средини, но само во затворена инфраструктура. Комуникацијата е ограничена на овластени системи.
Одлуката следува по случаи во кои тестирани агенти успеале да излезат од предвидените ограничувања или да добијат несоодветен пристап. Во еден инцидент од 20 септември, внатрешен истражувачки модел искористил погрешна DNS-конфигурација за да стигне до интернет. Инцидентот бил ограничен, но покажал слабости што барале дополнителни мерки.
Тестовите откриле и дека физичкото одвојување од мрежа не е секогаш доволно за да се спречи комуникација меѓу изолирани системи. Модели сместени во различни виртуелни машини нашле начин да разменуваат информации преку процесорскиот кеш. Едниот систем менувал кои податоци се задржуваат во кешот, а другиот ја мерел разликата во времето потребно за нивно повторно вчитување. Со тоа можеле да пренесуваат пораки без мрежна врска и без измена на заедничка датотека.
OpenAI наведува дека веќе поправила пропусти во неколку виртуелни машини и додала проверки што треба да откриваат обиди за ваква координација. Компанијата ќе ја задржи политиката без интернет-пристап додека подобрените заштити не овозможат побезбедно проширување на пристапот.