Anthropic почна подлабока соработка со независната истражувачка група METR, на чии шест вработени им обезбедила пристап до дел од своите внатрешни системи, алатки, канцелариски простор и службена опрема. Нивото на пристап, според компанијата, е приближно еднакво на она што го имаат нејзините сопствени тимови за процена на ризик.

Намерата е надворешните оценувачи да можат директно да ја испитуваат работата на компанијата и нејзините безбедносни процеси, наместо анализите да се темелат само на јавно објавени информации или ограничени тестирања. Anthropic им порачала на своите вработени со истражувачите од METR да споделуваат релевантни информации како со колеги што работат на процена на ризици.

METR нема да добива надомест од Anthropic за овој ангажман. Групата не прифаќа донации од компании што развиваат напредни модели, ниту од нивни вработени. Нејзиното финансирање доаѓа од индивидуални и филантропски донации, како и од јавни тела, меѓу кои и британскиот Институт за безбедност.

Истражувачите ќе можат самостојно да ги објават своите наоди, а Anthropic нема право да го спречи објавувањето на анализата. Сепак, компанијата може да побара отстранување информации што спаѓаат во одредени заштитени категории, како податоци за корисници, материјали заштитени со адвокатска доверливост и детали за архитектурата на моделите.

Соработката со METR доаѓа во период кога Anthropic настојува појасно да ги претстави своите безбедносни мерки пред инвеститорите. Компанијата неделава посветила значаен дел од инвеститорските презентации токму на овие практики, во пресрет на очекуваното излегување на берза со проценка над 2 билиони долари.

Anthropic продолжува да работи и со Accenture, со кој минатиот месец најави партнерство за нови заштитни механизми. Двете страни се обврзале на најмалку една милијарда долари за оваа намена. Одделно, SecureBio за компанијата ги разгледува ризиците поврзани со хемиско и биолошко оружје.

METR претходно учествуваше и во истрага за упад во Hugging Face, при што добила пристап до илјадници записи и службени лаптопи.