Подобрувањата кај големите јазични модели сè помалку зависат само од зголемување на бројот на параметри. Затоа, развивачите почесто се насочуваат кон системи во кои повеќе агенти со различни задачи работат заедно: еден може да пишува код, друг да го проверува, а трет да собира или обработува податоци.

Таквиот пристап, сепак, отвора нови технички проблеми. Со секој дополнителен агент расте бројот на можни несогласувања меѓу состојбите на системот, доцнења во размената на контекст и непотребно трошење токени. Според наведени истражувања, 36,9 проценти од неуспесите кај системите со повеќе агенти произлегуваат од лоша координација.

Чест модел е централен координатор кој ги дели задачите, ги испраќа до соодветните агенти и на крај ги спојува резултатите. Тој пристап ја олеснува контролата, но создава единствена критична точка. Ако координаторот забави или престане да работи, целата низа задачи може да се заглави. Дополнително, самиот процес на распределба и повторно праќање контекст носи дополнителен трошок.

Особен проблем е растот на потрошените токени кога агентите разменуваат долги, несумирани разговори и податоци. TechRadar наведува пример со тим во Amazon кој за проект за мапирање податоци за автори и онлајн листи на книги направил неочекуван трошок од 1,8 милиони долари за токени.

Како одговор, развивачите се потпираат на построги правила за текот на работата. Наместо агентите слободно да одлучуваат кој ќе продолжи со задачата, може да се применат програмски дефинирани состојби: при одреден услов, однапред избран агент ја презема следната фаза. Се користат и ограничувања за токени, временски прекинувачи, последователно предавање на задачите и лимити за бројот на преноси меѓу агенти.

Ризик претставуваат и верижните грешки. Неточна информација внесена од еден агент може да биде прифатена како точна од следните и да заврши во заедничка база на податоци. За да го намалат тоа, тимовите раздвојуваат улоги за прибирање податоци, расудување и генерирање резултати, а вклучуваат и независен проверувач.

Корисни се и строги формати за податоци, проверки на типови, ограничен број повторни обиди и детални записи за секој повик и предавање задача. Најважното правило останува едноставно: системот треба да користи само онолку агенти колку што навистина се потребни.