Anthropic го искористи своето деби на берзата Nasdaq за повторно да ја истакне намерата внимателно да го темпира развојот и пуштањето на своите најмоќни системи. Извршниот директор Дарио Амодеи порача дека компанијата нема да попушти пред деловни или политички притисоци ако нема доволна сигурност дека технологијата е безбедна и останува под човечка контрола.
Настапот следува во момент кога Anthropic излезе на Волстрит со најголемата јавна понуда на акции досега. Според Амодеи, посилната финансиска позиција не треба да значи забрзување по секоја цена, туку можност компанијата да остане доследна на сопствените принципи за безбедност.
Тој како пример за потенцијалната корист ја посочи медицината. Амодеи, кој кариерата ја почнал во биологијата, оцени дека современите системи можат да им помогнат на истражувачите во области како преклопување протеини, развој на лекови, генетика на ракот и организација на клинички испитувања. Сепак, нагласи дека станува збор за рани резултати и дека експериментите и клиничките испитувања и натаму ќе бараат време.
Во исто време, Anthropic предупредува на злоупотреба од поединци и држави, можни економски потреси и ризик од губење контрола врз сложени системи. Компанијата смета дека овие опасности не се неизбежни, но бараат заштитни механизми и поголема внимателност од оние што ја развиваат технологијата.
Амодеи најави продолжување на работата на усогласување, тестирање и методи за подобро разбирање на однесувањето на системите. Посебен акцент ќе има на дополнителни проверки пред обука и воведување на нови можности.
Во септември тој веќе предложи заеднички безбедносни стандарди меѓу водечките компании, како и вклучување независни оценувачи што би проверувале дали се исполнуваат преземените обврски. Поддршка за ставот тогаш изразија Сем Алтман од OpenAI, Демис Хасабис од Google DeepMind и Илон Маск од xAI, но засега нема многу конкретни заеднички чекори.
Коосновачката Даниела Амодеи исто така посочи дека компанијата останува посветена на намалување на ризиците, иако пред неа има уште значителна работа.
