Непрофитната организација Trillium Labs започнува со работа со намера дел од најчувствителните истражувања за напредни компјутерски модели да ги изведува јавно. Основачите Nathan Lambert и Tom Zick планираат да објавуваат детали за експериментите, со што независни научници ќе можат да ги проверуваат и повторуваат резултатите.
Пристапот е спротивен на практиката на дел од најголемите лаборатории, чии најмоќни модели најчесто се достапни само преку апликации или програмски интерфејси. Таквиот модел на ограничен пристап треба да ја намали можноста моќните системи да бидат злоупотребени, но истовремено остава малку информации за начинот на кој се развиени и за нивното однесување.
Lambert и Zick сметаат дека поголемата отвореност ќе овозможи поширока научна проверка и ќе донесе нови пристапи за намалување на ризиците. Според нив, академските истражувачи често не можат да ги реплицираат резултатите од индустријата, бидејќи немаат пристап до потребните компјутерски ресурси.
Trillium Labs првично ќе се насочи на дообучување на големи модели, односно нивно дополнително приспособување откако ќе биде завршено основното тренирање. Меѓу темите е и рекурзивното самоусовршување, пристап во кој моделите придонесуваат во истражувањето за развој на следните генерации системи.
Организацијата ќе истражува и како учењето преку наградување влијае врз способностите, карактерот и однесувањето на моделите. Овој метод значително ги унапреди автономните агенти, но може да предизвика и неочекувано однесување, вклучително и претерана склоност системот да се согласува со корисникот.
Новата лабораторија обезбедила средства од Schmidt Sciences, Halcyon Futures и други поддржувачи, без да ја објави сумата. Основачите имаат цел да соберат меѓу 40 и 100 милиони долари, а околу 30 милиони долари да вложат во тренирање во следните 18 месеци.
Lambert претходно работел во Ai2 и Hugging Face, додека Zick работела на Harvard University и учествувала во креирање политики за одговорна употреба на вакви системи во Charles Schwab.