The Call Center Doctors, консултантска фирма што поставува и управува со центри за повици, изнајмила сервер со четири Nvidia H200 графички процесори за да провери дали самостојното извршување на DeepSeek V4.1 Flash навистина носи драматично пониски трошоци во споредба со Claude Opus 5.5.
Тестот почнал на 27 септември и го користел реалниот обем на програмерски задачи на фирмата. Системот постигнувал околу 213 новогенерирани токени во секунда при целосно оптоварување. По редовната цена по потреба, серверот чинел 440,88 долари дневно. За споредлив обем работа преку DeepSeek API, фирмата пресметала дневен трошок меѓу 184 и 223 долари.
Најголемиот проблем не бил брзината на самите H200, туку начинот на работа на агентите за програмирање. Тие постојано го испраќаат претходниот контекст на разговорот, па дури 96 проценти од влезот во тестот бил веќе прочитан текст. Според евиденцијата на фирмата, на секој нов излезен токен отпаѓале приближно 1.000 стари токени што повторно се обработувале. Така, најголемиот дел од капацитетот одел на повторно читање наместо на создавање нов резултат.
Серверот бил изнајмен по цена од 9,19 долари на час на спот-пазарот, но цената по потреба изнесувала 18,37 долари на час. На месечно ниво, тоа би достигнало приближно 13.200 долари, повеќе од двојно над септемвриската сметка на фирмата за претплати на Claude, која изнесувала околу 5.500 долари.
Еден таков систем можел да обработи околу 20 милијарди токени дневно, додека агентите на фирмата на најоптоварениот ден употребиле 51 милијарда. Во периодот од 1 до 27 септември, еден од нивните сервери направил 2,03 милиони повици, прочитал 388,5 милијарди токени и создал 393 милиони нови токени.
DeepSeek во тестот не бил пуштен да пишува код. При проверките биле откриени можни начини кодот да излезе од изолираната средина, вклучително и преку поставки во споделена привремена папка. Наместо тоа, моделот работел како група од 48 до 64 агенти со пристап само за читање, кои прегледале 2.377 папки и пријавиле 32 грешки.
Заклучокот на фирмата е дека изнајмувањето графички процесори за локално извршување, барем при ваков обем и тип задачи, не носи пониска цена од надворешните услуги.
