Дејвид Робинсон, поранешен вработен во OpenAI задолжен за извештаите за безбедност при објавување големи модели, ја напуштил компанијата и јавно предупредува за начинот на кој технолошката индустрија пристапува кон ризиците.
Во текст објавен во The Atlantic, Робинсон оценува дека проблемот не може да се реши само со дополнителни правила за тренирање модели. Според него, самата култура во индустријата е нарушена поради постојаната трка за создавање поголеми и поспособни системи.
Тој посочува дека компаниите од Силициумската Долина често работат со голема самодоверба и во постојан забрзан ритам, при што потенцијалните проблеми се занемаруваат или се потценуваат. Наместо тоа, Робинсон смета дека водечките лаборатории треба да покажат повеќе претпазливост и да излезат од затворениот технолошки круг во кој брзината и растот се главен приоритет.
Како пример за посериозен пристап, тој предлага безбедносни стандарди слични на оние во нуклеарните електрани или на големите аеродроми. Таквиот модел би вклучувал повеќе нивоа на заштита, резервни механизми и внимателно планирање, со цел поединечна човечка грешка да не доведе до сериозни последици.
Оставката на Робинсон е дел од поширок бран заминувања на истражувачи и безбедносни експерти од големи технолошки компании. Меѓу нив е Џејкоб Коксон, кој ја напушти Anthropic и потоа јавно предупреди на можните долгорочни опасности од развојот на напредни модели.
По него, од Google DeepMind си заминаа Роберт О’Калахан, Билал Чугтаи и Џош Енгелс, додека Џо Бентон исто така ја напушти Anthropic. Нивните јавни настапи повторно го отвораат прашањето дали компаниите што развиваат најмоќни модели имаат доволно независни контроли и време за темелна проверка пред новите изданија да стигнат до корисниците.