Paleiskite agentus valdomuose paribiuose modeliuose šiandien arba išsinuomokite GPU talpą, pritaikykite savo svorį ir nukreipkite „Digio“ užduotis į privačius galutinius taškus toje pačioje darbo vietoje.
Priskirkite numatytąjį modelį vienam agentui arba nepaisykite užduočiai. Naudojimas apskaičiuojamas naudojant „Digio Tokens“ iš jūsų plano likučio – toje pačioje piniginėje, nesvarbu, ar agentas skambina „Sonnet“, „GPT-4o“ ar „Gemini Flash“.
Model list and token economics evolve with provider releases. Your workspace shows live options when you assign a model to an agent; Digio Tokens debit from the same balance as in pricing.
Koordinatorius gali rekomenduoti Sonnet vs Opus palyginti su pigesniu blykstės modeliu pagal užduoties tipą. Patyrę vartotojai nustato numatytuosius nustatymus pagal agento vaidmenį – tyrinėja „Sonnet“, galutinę „Opus“ apžvalgą, masinį žymėjimą „Haiku“ arba „Gemini Flash“.
Per agent — default model in agent settings; override in To do or chat when needed.
Metered fairly — input, output, and cached tokens map to Digio Token charges (see usage in your wallet).
Skills stay the same — tools and integrations work across models; only latency and cost profile change.
Plan limits — more agents and monthly Digio Tokens on higher tiers; top up anytime on the pricing page.
Reikia tikslaus derinimo, oro tarpų patikrinimo punkto ar nuspėjamos išvadinės kainodaros? Pridėkite specialią GPU talpą prie savo „Digio“ darbo vietos, įdiekite pageidaujamą aptarnavimo krūvą ir nukreipkite agentus į savo privatų galinį tašką.
Valandiniai arba mėnesiniai GPU mazgai (A100, H100, L40S klasė), prijungti prie jūsų nuomininko – atskirti nuo kitų klientų.
Įkelkite saugiklius, GGUF arba ištraukite iš savo registro; paleiskite „Llama“, „Mistral“, „Qwen“ ir pritaikytus koregavimus.
vLLM, TGI, Ollama arba konteinerio vaizdai, kuriuos palaikote – „Digio“ agentai iškviečia su OpenAI suderinamą bazinį URL.
Norėdami tai padaryti, komandos pokalbiai, įgūdžiai ir bendradarbiavimas nepasikeitė – jums priklauso tik išvados.
Siųskite jautrius veiksmus į privatų GPU ir naudokite Claude arba GPT viešiesiems tyrimams vienoje darbo eigoje.
VPC tarpusavio sąveika, statinis išėjimas, audito žurnalai ir modelių leidžiami sąrašai reguliuojamoms komandoms.
Įprasta sąranka nuo nulio iki agentų, skambinančių į jūsų galinį tašką:
Pasirinkite VRAM, regioną ir veikimo laiką (serija arba visada įjungta). Svorių saugykla pristatoma kartu su egzemplioriumi arba pritvirtinama prie kibiro.
Paleiskite aptarnaujantį vaizdą arba SSH, įdiekite CUDA tvarkykles ir įkelkite kontrolinius taškus. Sveikatos patikrinimai patvirtina, kad modelis yra paruoštas.
Darbo srities nustatymuose pridėkite bazinį URL, API raktą ir modelio ID. „Digio“ patvirtina delsą ir prieigos rakto formatą prieš pradedant transliuoti.
Pasirinkite savo privatų modelį kaip numatytąjį pasirinktiems agentams; valdomi Claude / GPT modeliai išlieka prieinami greta.
GPU nuoma mokama atskirai nuo „Digio“ plano prenumeratos. Susisiekite su mumis dėl pajėgumų planavimo, SLA ir perkėlimo iš esamos išvadų grupės.
„Digio“ valdomų API pasirinkimas, palyginti su savarankiškai priglobtomis išvadomis.
Jūsų „Digio“ prenumerata apima infrastruktūrą, agentus ir įtrauktus „Digio“ prieigos raktus. Valdomas modelio naudojimas debeto, kad prieigos raktas subalansuotas pagal faktinius įvesties / išvesties prieigos raktus. GPU nuoma yra jūsų valdomų mašinų priedas.
Taip – kiekvienas agentas gali turėti savo numatytuosius nustatymus. Užduotys ir pokalbiai gali būti nepaisyti vieną kartą nekeičiant visuotinio numatytojo.
„Opus“ pritaikytas sunkesniam samprotavimui ir ilgesniems nuosekliems planams; Sonetas yra greitesnis ir pigesnis kasdienėms agentų kilpoms. „Haiku“ ir „flash“ klasės modeliai geriausiai tinka tūrinėms papildomoms užduotims atlikti.
Įmonės darbo vietos gali apriboti siunčiamus modelių teikėjus ir nukreipti visą agento srautą į jūsų GPU galinį tašką. Hibridinis režimas yra numatytasis daugumai komandų.
Pasiūlymai priklauso nuo regiono ir paklausos – dažniausiai 24–80 GB VRAM pakopos, skirtos 7B–70B klasės modeliams, ir kelių GPU mazgai didesniems krūviams. Mes padedame nustatyti VRAM dydį pagal jūsų parametrų skaičių ir kvantavimą.
Orkestravimas (agentai, užduotys, saugykla) lieka jūsų plane. Išvados apie jūsų GPU apmokestinamos kaip GPU laikas; galite pasirinktinai išmatuoti žetono formos naudojimą, kad būtų grąžintas vidinis mokėjimas.
Agentai, užduotys ir įgūdžiai – darbo vieta aplink pasirinktą modelį.
Pradėkite nuo Claude ir GPT šiandien, tada pridėkite specialų GPU, kai būsite pasirengę priimti pasirinktinius svorius – tuos pačius agentus, tas pačias užduotis, jūsų išvadas.
