Spustite agentov na spravovaných hraničných modeloch už dnes – alebo si prenajmite kapacitu GPU, nasaďte svoje vlastné váhy a smerujte úlohy Digio do súkromných koncových bodov v rovnakom pracovnom priestore.
Priraďte predvolený model pre agenta alebo prepíšte pre úlohu. Využitie sa meria v tokenoch Digio z vášho zostatku plánu – tá istá peňaženka, či agent volá Sonnet, GPT-4o alebo Gemini Flash.
Model list and token economics evolve with provider releases. Your workspace shows live options when you assign a model to an agent; Digio Tokens debit from the same balance as in pricing.
Koordinátor môže odporučiť Sonnet vs Opus vs lacnejší flash model na základe typu úlohy. Pokročilí používatelia nastavujú predvolené hodnoty podľa roly agenta – výskum na Sonnete, konečná recenzia na Opus, hromadné označovanie na Haiku alebo Gemini Flash.
Per agent — default model in agent settings; override in To do or chat when needed.
Metered fairly — input, output, and cached tokens map to Digio Token charges (see usage in your wallet).
Skills stay the same — tools and integrations work across models; only latency and cost profile change.
Plan limits — more agents and monthly Digio Tokens on higher tiers; top up anytime on the pricing page.
Potrebujete jemné doladenie, kontrolný bod so vzduchovou medzerou alebo predvídateľné stanovovanie cien? Pridajte vyhradenú kapacitu GPU do svojho pracovného priestoru Digio, nainštalujte si obslužný zásobník, ktorý uprednostňujete, a nasmerujte agentov na svoj súkromný koncový bod.
Hodinové alebo mesačné uzly GPU (trieda A100, H100, L40S) pripojené k vášmu nájomníkovi – izolované od ostatných zákazníkov.
Nahrajte safetenzory, GGUF alebo vytiahnite z registra; spustiť Llama, Mistral, Qwen a vlastné jemné ladenie.
vLLM, TGI, Ollama alebo obrázky kontajnerov, ktoré spravujete – agenti Digio volajú základnú URL kompatibilnú s OpenAI.
Ak to chcete urobiť, tímový chat, zručnosti a spolupráca sa nezmenili – váš je iba backend odvodenia.
Odošlite citlivé kroky súkromnému GPU a použite Claude alebo GPT na verejný výskum v jednom pracovnom postupe.
Peering VPC, statický výstup, denníky auditu a zoznamy povolených modelov pre regulované tímy.
Typické nastavenie od nuly po agentov volajúcich váš koncový bod:
Vyberte VRAM, región a dobu prevádzkyschopnosti (burst vs. stále zapnuté). Úložný priestor pre závažia sa dodáva s inštanciou alebo slúži na upevnenie vášho vedra.
Spustite zobrazovací obraz alebo SSH, nainštalujte ovládače CUDA a načítajte kontrolné body. Zdravotné kontroly potvrdzujú, že model je pripravený.
Pridajte základnú webovú adresu, kľúč API a ID modelu v nastaveniach pracovného priestoru. Digio pred spustením overí latenciu a formát tokenu.
Vyberte svoj súkromný model ako predvolený pre vybraných agentov; spravované modely Claude/GPT zostávajú dostupné vedľa seba.
Prenájom GPU sa účtuje oddelene od predplatného programu Digio. Kontaktujte nás pre plánovanie kapacity, zmluvy SLA a migráciu z existujúceho inferenčného klastra.
Výber spravovaných rozhraní API verzus samohostiteľská inferencia na Digio.
Vaše predplatné Digio pokrýva infraštruktúru, agentov a zahrnuté tokeny Digio. Využitie riadeného modelu zaťažuje tento token zostatkom skutočných vstupných/výstupných tokenov. Prenájom GPU je doplnkom pre stroje, ktoré ovládate.
Áno – každý agent môže mať svoje vlastné predvolené nastavenie. Úlohy a rozhovory možno prepísať na jedno spustenie bez zmeny globálneho predvoleného nastavenia.
Opus je naladený na tvrdšie uvažovanie a dlhšie súvislé plány; Sonnet je rýchlejší a lacnejší pre každodenné slučky agentov. Modely triedy Haiku a flash sú najlepšie pre objemové čiastkové úlohy.
Podnikové pracovné priestory môžu obmedziť poskytovateľov odchádzajúceho modelu a nasmerovať všetku prevádzku agentov do vášho koncového bodu GPU. Hybridný režim je predvolený pre väčšinu tímov.
Ponuky závisia od regiónu a dopytu – obyčajne vrstvy 24 – 80 GB VRAM pre modely triedy 7B – 70B a uzly s viacerými GPU pre väčšie stohy. Pomôžeme vám určiť veľkosť VRAM z vášho počtu parametrov a kvantizácie.
Orchestrácia (agenti, úlohy, úložisko) zostáva vo vašom pláne. Vyvodenie vášho GPU sa účtuje ako čas GPU; voliteľne môžete merať použitie v tvare tokenu na interné vrátenie platby.
Agenti, úlohy a zručnosti – pracovný priestor okolo modelu, ktorý si vyberiete.
Začnite na Claude a GPT ešte dnes a potom pridajte vyhradený GPU, keď budete pripravení hostiť vlastné váhy – tí istí agenti, rovnaké úlohy, váš záver.
