Anthropic склучи партнерство со Accenture, со кое консултантската компанија ќе врши независни проверки на безбедносните практики кај најнапредните модели на Anthropic. Соработката предвидува евалуаторите на Accenture да бидат вклучени во работата на компанијата, наместо да спроведуваат проверки само по завршувањето на развојот.
Двете компании планираат да вложат најмалку по 1 милијарда долари во заедничкиот потфат во следните пет години. Вкупната планирана инвестиција, според тоа, изнесува најмалку 2 милијарди долари.
Во рамките на договорот, тимовите на Accenture ќе го следат развојот на моделите за време на нивната обука, ќе имаат увид во одлуките поврзани со нивната изградба и пуштање во употреба, како и можност директно да разговараат со вработените во Anthropic. Нивната задача ќе биде да проверуваат дали се почитуваат безбедносните процедури и обврски, да пријавуваат инциденти и да ја оценуваат усогласеноста на моделите со поставените правила и цели.
Партнерството е дел од пошироката иницијатива што неодамна ја претстави извршниот директор на Anthropic, Дарио Амодеи. Неговиот предлог предвидува компаниите што развиваат најнапредни системи да им овозможат постојан пристап на независни евалуатори, со улога слична на внатрешни вработени, но без да бидат дел од самата организација.
Anthropic наведува дека Accenture носи искуство во воведување вакви технологии кај компании и државни институции во повеќе индустрии. Тоа би требало да помогне и при проценката на начинот на кој деловните корисници ги применуваат моделите на Anthropic.
Сепак, моделот на вградени независни проверувачи сè уште нема утврдени стандарди. Не се прецизирани целосниот опсег на нивната работа, нивото на пристап што ќе го добиваат ниту постапките за пријавување на потенцијални проблеми.
Поради тоа, Anthropic планира да соработува и со други организации за проверка на своите најнапредни модели. Компанијата најави дека дополнителни евалуатори ќе бидат објавени во наредните недели, а Accenture ќе може да работи и со други компании од оваа област.