Snowflake смета дека компаниите влегуваат во нова фаза на користење напредни јазични модели: наместо секоја задача да се извршува со најмоќниот и најскапиот модел, изборот треба да зависи од конкретната работа, очекуваниот квалитет, брзината и расположливиот буџет.

Компанијата го истакнува проблемот со сè поголемиот број достапни модели, кои имаат различни способности, цени и перформанси. За организациите, според Snowflake, ова може да прерасне во значителен оперативен товар, бидејќи треба постојано да проценуваат кој модел е најсоодветен за секој вид барање.

Решението што го предлага Snowflake е динамичко насочување на задачите преку Cortex AI Gateway. Системот автоматски би избирал модел кој нуди најдобар однос меѓу квалитетот, времето на одговор и трошокот за конкретната намена. Поедноставни задачи, како класификација, сумирање или извлекување податоци од документи, може да се обработуваат со поефикасни модели. Посложените барања што побаруваат подлабоко расудување би се насочувале кон помоќни модели.

Од Snowflake велат дека пристапот не треба да значи отстапување од безбедносните правила. Политиките за управување и контролите, вклучително и маскирањето податоци, се применуваат без оглед на избраниот модел. Компаниите истовремено можат да ограничат кои модели и добавувачи им се достапни на корисниците, што е важно за организации со регионални или регулаторни барања.

Трошокот е друг клучен дел од оваа стратегија. Snowflake наведува дека интерните тестирања со динамичко насочување постигнале до трипати подобра ефикасност во потрошувачката на токени при изработка на dbt-процес, со задржан квалитет во споредба со пристап што користи само еден напреден модел.

Платформата нуди и следење на употребата, перформансите, доцнењето и трошоците на едно место, вклучувајќи поврзани решенија од трети страни. Организациите можат да поставуваат лимити за потрошувачка, квоти и распределба на трошоците по тимови.

Наместо високата употреба сама по себе да се смета за успех, Snowflake препорачува мерење според деловните резултати: побрзо завршени проекти, намален ризик, подобри маржи или нови приходи. Целта е корисниците да работат со едноставни алатки, додека изборот на модел и контролата на трошоците се извршуваат во позадина.