1 Негіз
Неге жергілікті AI? Меншік үшін бизнес-негіз
2020 жылдардың басында жасанды интеллект сағатына, токенге, API шақыруына жалға алатын қызмет болды. 2026 жылға қарай парадигма өзгерді. GPT-4 класындағы
интеллекті іске қосу үшін қажетті жабдық енді жұмыс үстеліңізге сыйып, пайдаланылған автомобильден арзан.
Тек бұлттық AI-ға тәуелділікті жалғастыру стратегиялық үштік мәселеге әкеледі:
- Қызмет ақысының өсуі. API ақысы токенге қарай пайдалануға пропорционалды өседі. Күніне 1,000 келісімшартты өңдейтін заң фирмасы жылдық API шығындарында ~18 млн ₸-ға жолығуы мүмкін.
- Деректердің ашықтығы. Бұлттық API-ге жіберілген әрбір сұрау желіңізден шығатын және деректер қауіпсіздігі мен құпиялылық тәуекелдеріне ұшырайтын деректер болып табылады.
- Нөлдік немесе қымбат бейімдеу. Бұлттық модельдер жалпылама. Оларды арнайы деректерге, ішкі бизнес-процестерге немесе бизнес-ақпаратңай немесе тиімді түрде бейімдеу мүмкін емес.
Жергілікті AI-жабдықтары үшеуін де шешеді. Ол айнымалы API ақысын тұрақты капиталдық активке айналдырады, деректердің желіден шықпауын қамтамасыз етеді және бизнес деректерін бейімдеу арқылы терең бейімдеуге мүмкіндік береді.
2 Шығындарды төмендету
Квантау: Қымбат емес жабдықта үлкенірек AI-модельдерін іске қосу
Кванттау — жергілікті AI экономикасын түбегейлі өзгертетін ұғым.
Қарапайым тілмен айтқанда, кванттау AI моделінің жады аясын қысады. Стандартты модель әрбір параметрді 16-биттік қалқымалы нүкте саны (FP16) ретінде сақтайды. Кванттау оны 8-битке (Int8), 4-битке (Int4) немесе одан да төменге дейін азайтады — модельді іске қосу үшін қажетті жады көлемін айтарлықтай азайтады.
Кванттау шығару сапасында аздап төменге әкеледі — жиі қорытындылау, құжат дайындау және талдау сияқты бизнес тапсырмалары үшін сезілмейтін — жабдық құнының айтарлықтай төмендеуі үшін.
Толық дәлдіктегі 400B моделі ~800 GB жады талап етеді — ~100 млн ₸ сервер инвестициясы. Int4 дәлдігіне квантталған сол модель тек ~200 GB қажет етеді және екі байланған DGX Spark (GB10 Superchip негізінде) мини-компьютерлерінде 4 млн ₸ бағасымен жұмыс істей алады.
Эксперттер қоспасы (MoE)
Эксперттер қоспасы (MoE) — үлкен жады шығынсыз ірі модельдерді орналастыруға мүмкіндік беретін тағы бір AI модельдерінің сәулеттік трюкі.
Әрбір сұрақ үшін барлық параметрлерді пайдаланудың орнына, MoE моделі өз қуатының тек бір бөлігін сирек активация арқылы іске қосады.
Llama 4 Behemoth сияқты 2 триллион параметрлі MoE моделі сұрауға тек 288B параметрді іске қосады — жады шығынының бөлшегімен шептегі деңгейдегі интеллект береді.
MoE модельдері қысқарту және классификация сияқты қарапайым тапсырмаларда сол өлшемдегі тығыз модельдермен салыстырғанда сәл тиімсіз. Күрделі талдау, код генерациясы және зерттеу сияқты білім жұмысы мен пайымдау үшін MoE модельдері үздік нәтиже береді.
Сирек активация тез шешім шығару жылдамдығына және жылдам жауап беруге әкеледі.
3 Мини-компьютерлер
AI мини-компьютерлері 750 мың ₸ – 5 млн ₸
2026 жылдың ең революциялық дамуы — мини-компьютер пішініндегі жоғары сыйымдылықты AI есептеу. Қатты мұқабалы кітаптан үлкен емес құрылғылар енді екі жыл бұрын сервер бөлмелерін қажет еткен AI модельдерін іске қосады.
NVIDIA GB10 Экожүйесі (DGX Spark)
Өнімділік көшбасшысы
NVIDIA DGX Spark бұл санатты анықтады. 2026 жылы ARM Grace CPU мен Blackwell GPU-ны біріктіретін GB10 Суперчипі бүкіл экожүйені құрды. ASUS, GIGABYTE, Dell, Lenovo, HP, MSI және Supermicro барлығы GB10 негізіндегі жүйелерді шығарады, әрқайсысы әртүрлі пішіндерге, салқындату шешімдеріне және қосымша бағдарламалық қамтамасыз етуге ие.
Арнайы жоғары жылдамдықты желі порты арқылы екі GB10 бірлігін қосып, жүйе ресурстарды 256 ГБ жады кеңістігіне біріктіреді. Бұл өте үлкен модельдерді — 400B+ квантталған параметрлерді — жұмыс үстеліңізде толығымен іске қосу мүмкіндігін ашады, шамамен 4 млн ₸ жалпы жабдық инвестициясымен.
AMD Ryzen AI Max (Strix Halo) Мини-компьютерлері
Ең төмен құн
AMD-дің Ryzen AI Max+ Strix Halo
архитектурасы бюджеттік AI мини-компьютерлердің мүлдем жаңа санатын туғызды. Өндірушілердің бір толқыны — GMKtec, Beelink, Corsair, NIMO, Bosgame, FAVM — қазір ~1 млн ₸-ден төмен бағада 128 GB біріктірілген жад жүйелерін жеткізеді.
Apple Mac Studio (M4 Ultra)
Сыйымдылық көшбасшысы
Mac Studio жергілікті AI ландшафтында бірегей орын алады. Apple-дың Біріктірілген Жады Архитектурасы (UMA) CPU мен GPU үшін қолжетімді 256 ГБ жадыды бір ғана ықшам жұмыс үстелі бірлігінде қамтамасыз етеді — кластерлеу қажет емес.
Бұл оны ең үлкен ашық бастапқы кодты модельдерді жүктей алатын жалғыз қолжетімді
бір бірлік құрылғы етеді. Int4-ке квантталған 400 миллиард параметрлі модель 256 ГБ конфигурациясында жадыға толығымен сыйады.
Apple Mac Studio (M5 Ultra)
Алдағы бәсекелес
2026 жылдың соңында күтілетін Apple-дың келесі буыны M5 Ultra M4-тің негізгі әлсіздігін шешетіні жайлы аңыз бар: AI модельдерін оқыту өнімділігі. TSMC-дің 2нм процесінде құрылған, ол 1.2 ТБ/с астам тармақтық енімен 512 ГБ дейін біріктірілген жады конфигурацияларын ұсынады деп күтілуде.
512 ГБ M5 Ultra квантталмаған (толық дәлдік) шекті модельдерді іске қоса алатын тұңғыш тұтынушы құрылғысы болар еді. 1.2+ ТБ/с жоғары жады тармақтық ені өте ұзақ контекст терезелерімен тұрақты жоғары өткізу қабілеті шешімді қажет ететін агенттік AI жұмыс ағымдарын қолдайды.
Tiiny AI
Қалталық AI суперкомпьютер
2026 жылы Kickstarter-де 700 мың ₸ бағасымен шыққан Tiiny.ai Pocket AI Computer — кез келген жерде жергілікті түрде 120B AI модельдерін іске қоса алатын 80GB LGDDR5X жадымен және 1TB SSD-мен жабдықталған қалталық суперкомпьютер.
300 грамм салмақпен (142×22×80мм) және стандартты USB-C қуатымен ол инновациялық бизнес қолданбаларын қолдайды. Tiiny AI GPT-OSS-120B үшін секундына 21.14 токен шығару жылдамдығын хабарлайды.
Tenstorrent
Ашық бастапқы кодты жабдық
Аңызға айналған чип архитекторы Джим Келлердің басшылығымен Tenstorrent түбегейлі басқа философияны бейнелейді: RISC-V негізінде құрылған ашық бастапқы кодты жабдық, ашық бастапқы кодты БЖ және шынжырлау арқылы модульдік масштабтау.
Tensix
AI өзектері сызықты масштабтау үшін жасалған: көбірек карталарды қосқан кезде коммуникациялық үстеме шығындарымен күрескен GPU-лардан айырмашылығы, Tenstorrent чиптары тиімді түрде плиткаланған болу үшін құрылған.
Razer-мен серіктестікте Tenstorrent кез келген ноутбук немесе жұмыс үстеліне Thunderbolt арқылы қосылатын ықшам сыртқы AI жеделдеткішін шығарды — ешнәрсені ауыстырмай-ақ бар жабдықты AI жұмыс станциясына айналдырады.
AI NAS — Желіге Қосылған Қойма
Қойма + AI
NAS анықтамасы пассивті қоймадан белсенді интеллектке ауысты. Желілік қойма құрылғыларының жаңа буыны AI өңдеуді тікелей біріктіреді — жеңіл NPU негізіндегі шешімнен толық GPU-жеделдетілген LLM орнатуына дейін.
AI-қабілетті NAS бөлек AI құрылғысының қажеттілігін жояды және желілік кідіріссіз үлкен мөлшердегі деректерді тікелей өңдеуге мүмкіндік береді.
Бизнесіңізге арналған дұрыс AI мини-ПК таңдауға көмек керек пе?
Біздің инженерлер AI жабдықтарыңыздың талаптарын бағалап, толық конфигурацияланған AI жүйесін орнатады.
Тегін жабдық бағалау алу →4 Workstations
AI-жұмыс станциялары & үстелдік компьютерлер 1,5 млн ₸ – 7,5 млн ₸
Workstation санаты дискретті PCIe графикалық карталарды және стандарттыұнара корпусын пайдаланады. Мини-ПК санатының бекітілген біріккен архитектурасынан айырмашылығы, бұл санат модульділікті ұсынады — жеке компоненттерді жаңартуға, көбірек GPU қосуға немесе технология дамыған сайын карталарды ауыстыруға болады.
VRAM мен жылдамдықты түсіну
AI үшін GPU таңдауды анықтайтын екі бәсекелес фактор:
Тұтынушы карталары (RTX 5090 сияқты) жылдамдықты арттырады, бірақ VRAM шектеулі — әдетте 24–32 ГБ. Кәсіби карталар (RTX PRO 6000 Blackwell сияқты) VRAM-ді арттырады — картаға 96 ГБ дейін — бірақ бірлік есептеуге қарағанда қымбат.
VRAM шектейтін фактор болып табылады. Жеткіліксіз жады бар жылдам карта AI моделін мүлдем жүктей алмайды. Жеткілікті жады бар баяу карта модельді жұмыс істейді — тек жауап беру уақыты ұзағырақ.
Тұтынушы GPU-лары
| Конфигурация | Жалпы VRAM | Қосылу | Шамал. құны |
|---|---|---|---|
| 2× RTX 3090 (Қолданылған) | 48 ГБ | NVLink | ~1,5 млн ₸ |
| 2× RT | 48 ГБ | PCIe Gen 5 | 2 млн ₸ |
| 2× RTX 5090 | 64 ГБ | PCIe Gen 5 | 3,5 млн ₸ |
Кәсіби GPU-лар
| Конфигурация | Жалпы VRAM | Қосылу | Шамал. құны |
|---|---|---|---|
| 2× RTX A6000 Үздік құн-сапа | 96 ГБ | NVLink | 3,5 млн ₸ |
| 2× RTX 6000 Ada | 96 ГБ | PCIe Gen 5 | 6,5 млн ₸ |
| 1× RTX PRO 6000 Blackwell | 96 ГБ | NVLink | 4 млн ₸ |
| 4× RTX PRO 6000 Blackwell | 384 ГБ | PCIe Gen 5 | 16 млн ₸ |
Деректер орталығы GPU-лары
| Конфигурация | Жалпы VRAM | Қосылу | Шамал. құны |
|---|---|---|---|
| 1× L40S | 48 ГБ | PCIe 4.0 (пассивті салқындату) | 3,5 млн ₸ |
| 1× A100 PCIe | 80 GB | PCIe 4.0 | 5 млн ₸ |
| 1× H200 NVL | 141 ГБ | NVLink | 15 млн ₸ |
| 4× H200 NVL | 5641× B200 SXM | NVLink | 60 млн ₸ |
| 1× B200 SXM | 180 ГБ | NVLink 5 (1.8 ТБ/с) | 15 млн ₸ |
| 8× B200 SXM | 1,440 ГБ | NVLink 5 (1.8 ТБ/с) | 120 млн ₸ |
Қытай GPU-лары
Қытайдың отандық GPU экожүйесі тез жетілді. Бірнеше қытай өндірушілері қазір бәсекеге қабілетті сипаттамалармен және айтарлықтай төмен бағалармен жұмыс станциясы класындағы AI GPU-ларын ұсынады.
| Конфигурация | Жалпы VRAM | Жады түрі | Шамал. құны |
|---|---|---|---|
| 1× Moore Threads MTT S4000 | 48 ГБ | GDDR6 | 400 мың ₸ |
| 4× Moore Threads MTT S4000 | 192 ГБ | GDDR6 | 1,7 млн ₸ |
| 8× Moore Threads MTT S4000 | 384 ГБ | GDDR6 | 3,2 млн ₸ |
| 1× Hygon DCU Z100 | 32 ГБ | HBM2 | 1,2 млн ₸ |
| 1× Biren BR104 | 32 ГБ | HBM2e | ~1,5 млн ₸ |
| 8× Biren BR104 | 256 ГБ | HBM2e | 12 млн ₸ |
| 1× Huawei Ascend Atlas 300I Duo | 96 ГБ | HBM2e | 600 мың ₸ |
| 8× Huawei Ascend Atlas 300I Duo | 768 ГБ | HBM2e | 5 млн ₸ |
Жақында
| Конфигурация | Жалпы VRAM | Статус | Шамал. құны |
|---|---|---|---|
| RTX 5090 128 ГБ | 128 ГБ | Қытай мод. — стандартты SKU емес | 2,5 млн ₸ |
| RTX Titan AI | 64 ГБ | 2027 жылы күтілуде | ~1,5 млн ₸ |
NVIDIA DGX Station
Enterprise Apex
NVIDIA DGX Station — кеңсе ортасына деректер орталығының өнімділігін әкелетін сумен салқындатылатын, үстел маңындағы суперкомпьютер
. Соңғы нұсқасы GB300 Grace Blackwell Superchip пайдаланады.
Blackwell Ultra
нұсқасы жады тығыздығын және есептеу қуатын арттырады, нөлден бастап арнайы модельдерді оқыту немесе орында үлкен MoE (Mixture of Experts) архитектураларын іске қосу қажет ұйымдарға арналған.
-4438-p.jpg)
Алдыңғы буын Ampere архитектурасына негізделгенімен, ол сенімді шешім шығару және икемдеу үшін салалық стандарт болып қала береді. Blackwell-ге қаржысы жетпейтін AI саласына кіруге әзірленген топтар үшін идеалды.
Қымбат болғанымен, DGX Station ~150 млн ₸ сервер стойкасын және онымен байланысты салқындату инфрақұрылымын алмастырады. Ол стандартты розеткаға қосылады. Бұл сервер бөлмесінің
қосымша шығындарын толығымен жояды.
Бизнесіңізге арналған дұрыс AI жұмыс станциясын таңдауға көмек керек пе?
Біздің инженерлер AI жабдықтарыңыздың талаптарын бағалап, толық конфигурацияланған AI жүйесін орнатады.
Тегін жабдық бағалау алу →5 Серверлер
AI серверлері 7,5 млн ₸ – 100 млн ₸
Бизнесіңіз көп қызметкерлерді бір уақытта қызмет ету, негізгі класс модельдерін толық дәлдікпен іске қосу немесе меншікті деректер бойынша арнайы модельдерді икемдеу қажет болған кезде — сіз сервер сатысына өтесіз.
Бұл жоғары жолақтықты жадысы (HBM) бар арнайы AI жеделдеткіш карталары, арнайы интерконнектер және рейкке орнатылатын немесе үстел маңындағы форм-факторлардың домені. Жабдық қымбат, бірақ пайдаланушыға шаққандағы құн масштабта айтарлықтай төмендейді.
Intel Gaudi 3
Масштабта үздік құн-сапа
Intel Gaudi 3 жеделдеткіші басынан-ақ AI оқыту және шешім шығару чипі ретінде жасалды — қайта пайдаланылған графикалық карта емес. Әр карта бөлек желі адаптерлерінің қажеттілігін жоятын кіріктірілген 400 Гб Ethernet желісімен 128 ГБ HBM2e жадысын ұсынады.
Gaudi 3 екі пішім факторында қолжетімді:
- PCIe картасы (HL-338): Барверлерге интеграциялау үшін стандартты PCIe пішім факторы. Бағасы: ~6 млн ₸ картасына.
- OAM (OCP Accelerator Module): Бұлтты деректер орталықтары үшін жоғары тығыздықты OCP стандарты. Көлемдік сатып алу кезінде 8 чиптік жиынтықтарда (~62,5 млн ₸ базалық тақтамен бірге) бір чипке 7,8 млн ₸.
8 карталы Gaudi 3 сервері салыстырмалы NVIDIA H100 жүйесімен салыстырғанда әлдеқайда төмен құнымен 1 ТБ жалпы AI жадын береді.
AMD Instinct MI325X
Максималды тығыздық
AMD Instinct MI325X картасына 256 ГБ HBM3e жады бар — бұл Intel Gaudi 3-тен екі есе көп. Intel үшін 8 картаның орнына жалпы 1 ТБ AI жадына жету үшін тек 4 карта қажет.
MI325X жүйе бойынша Gaudi 3-тен қымбат, бірақ жылдам және тығыз. Максималды өнімділікті талап ететін жұмыс жүктемелері үшін — көп пайдаланушыларға нақты уақытта шешім шығару немесе ірі деректер жиынтығында арнайы модельдерді оқыту — жоғары инвестиция төмен кідіріс пен қарапайым инфрақұрылым арқылы өзін ақтайды.
Huawei Ascend
Толық стекті альтернатива
Huawei AI инфрақұрылымының толық стекін қайта жасады: арнайы чиптер (Ascend 910B/C), меншікті интерконнектер (HCCS) және толық бағдарламалық фреймворк (CANN). Нәтижесінде батыс жеткізу желілерінен тәуелсіз және салыстырмалы NVIDIA H100 кластерлерінен әлдеқайда төмен құнмен жұмыс істейтін өздік жеткілікті экожүйе пайда болды.
Intel Xeon 6 (Granite Rapids)
Бюджеттік сервер
2026 жылғы тыныш революция — CPU негізіндегі AI шешім шығарудың көтерілуі. Intel Xeon 6 процессорлары стандартты DDR5 RAM-де AI жұмыс жүктемелерін қамтамасыз ететін AMX (Advanced Matrix Extensions) қамтиды — бұл GPU жадысынан айтарлықтай арзан.
Қос сокетті Xeon 6 сервері GPU жадысының құнының бір бөлігіне 1 ТБ-дан 4 ТБ-ға дейін DDR5 RAM сақтай алады. Шешім шығару жылдамдығы баяу, бірақ партиялық өңдеу үшін — жылдамдық маңызды емес, бірақ интеллект пен сыйымдылық шешуші рөл атқарады — бұл революциялық.
Мысал: ШКШ түнде 100,000 сканерленген шотты жүктейді. Xeon 6 сервері деректерді тамаша шығару үшін +400B AI моделін іске қосады. Тапсырма 10 сағатты алады, бірақ жабдық құны GPU серверінен әлдеқайда төмен.
Дұрыс AI сервер инфрақұрылымын таңдауға көмек керек пе?
Біздің инфрақұрылым командасы Intel Gaudi-ден NVIDIA DGX-ке дейінгі толық AI серверлік шешімдерді жобалайды және орнатады — бұл сіздің бизнесіңіз үшін AI мүмкіндіктерін ашу үшін тапсырыс бойынша жасалған бағдарламалық жасақтамамен біріктіріледі.
Сервер архитектурасы ұсынымын сұрау →6 Edge AI
Edge AI & Ретрофит Қолданыстағы инфрақұрылымды жаңарту
Әр ШШК-ге арнайы AI сервері немесе мини-комажет емес. Көптегендері ноутбуктерді, жұмыс станцияларын және желілік құрылғыларды минималды қаржымен AI мүмкіндіктерімен жаңарту арқылы қолданыстағы инфрақұрылымға ақылдылық енгізе алады.
M.2 AI жеделдеткіштері: Hailo-10
Hailo-10 — SSD-лер үшін қолданылатын слотпен бірдей стандартты2 2280 модулі — кез келген қолданыстағы компьютерге арнайы AI өңдеуді қосады. Бірлік бағасы ~~75 мың ₸ және қуаты 5–8Вт-ты ғана тұтына отырып, құрылғыларды ауыстырмай флоттық AI жаңартуларын қамтамасыз етеді.
Қолдану сценарийлері: Жергілікті кездесу транскрипциясы (Whisper), нақты уақытта субтитрлеу, дауыстық диктант, кіші модельдердің инференциясы (Phi-3 Mini). Бұл карталар үлкен LLM-дерді іске қоса алмайды, бірақ белгілі бір, үздіксіз AI тапсырмаларында үздік — дауыс деректерінің жергілікті өңделіп, бұлтқа ешқашан жіберілмейтінін қамтамасыз етеді.
Copilot+ компьютерлері (NPU ноутбуктері)
Qualcomm Snapdragon X Elite, Intel Core Ultra немесе AMD Ryzen AI чиптері бар ноутбуктер арнайы Нейронды Өңдеу Блоктарын (NPU) — арнайы AI чиптерін қамтиды. Олар үлкен LLM-дерді іске қоса алмайды, бірақ кішкздіксіз AI тапсырмаларын орындайды: тікелей транскрипция, фонды бұлдыру, жергілікті Recall
мүмкіндіктері және Microsoft Phi-3 сияқты жеңіл модельдерді іске қосу.
NPU-лер TOPS (Тераоперациялар/секунд) бойынша бағаланады — бұл олардың қанша AI жұмысын өңдей алатындығын өлшейді. 2026 жылғы ең күшті Copilot+ компьютерлері ~50 TOPS-қа ие. TOPS жоғарылаған сайын жауап беру жылдамдайды және сәл үлкенірек AI модельдерін өңдеу мүмкіндігі артады.
9 AI модельдері
Ашық бастапқы кодты AI модельдері (2026–2027)
AI моделін таңдау құрылғы талаптарын анықтайды — бірақ AI моделін кванттау тарауы көрсеткендей, кванттау шеберлік класындағы модельдерді толық дәлдікпен орнатуға қажетті құрылғы құнының бір бөлігіне жұмыс істеуге мүмкіндік береді.
Төмендегі кесте қолданыстағы және жақын арада шығатын ашық бастапқы кодты AI модельдерінің шолуын береді.
| Модель | Өлшемі | Архитектура | Жад (FP16) | Жад (INT4) |
|---|---|---|---|---|
| Llama 4 Behemoth | 288B (белсенді) | MoE (~2T барлығы) | ~4 ТБ | ~1 ТБ |
| Llama 4 Maverick | 17B (белсенді) | MoE (400B барлығы) | ~800 ГБ | ~200 ГБ |
| Llama 4 Scout | 17B (белсенді) | MoE (109B барлығы) | ~220 ГБ | ~55 ГБ |
| DeepSeek V4 | ~70B (белсенді) | MoE (671B барлығы) | ~680 ГБ | ~170 ГБ |
| DeepSeek R1 | 37B (белсенді) | MoE (671B барлығы) | ~140 ГБ | ~35 ГБ |
| DeepSeek V3.2 | ~37B (белсенді) | MoE (671B барлығы) | ~140 ГБ | ~35 ГБ |
| Kimi K2.5 | 32B (белсенді) | MoE (1T барлығы) | ~2 ТБ | ~500 ГБ |
| Qwen 3.5 | 397B (белсенді) | MoE (A17B) | ~1.5 ТБ | ~375 ГБ |
| Qwen 3-Max-Thinking | Үлкен | Тығыз | ~2 ТБ | ~500 ГБ |
| Qwen 3-Coder-Next | 480B (A35B белсенді) | MoE | ~960 ГБ | ~240 ГБ |
| Mistral Large 3 | 123B (41B белсенді) | MoE (675B барлығы) | ~246 ГБ | ~62 ГБ |
| Ministral 3 (3B, 8B, 14B) | 3B–14B | Тығыз | ~6–28 ГБ | ~2–7 ГБ |
| GLM-5 | 44B (белсенді) | MoE (744B барлығы) | ~1.5 ТБ | ~370 ГБ |
| GLM-4.7 (Thinking) | Үлкен | Тығыз | ~1.5 ТБ | ~375 ГБ |
| MiMo-V2-Flash | 15B (белсенді) | MoE (309B барлығы) | ~30 ГБ | ~8 ГБ |
| MiniMax M2.5 | ~10B (белсенді) | MoE (~230B барлығы) | ~460 ГБ | ~115 ГБ |
| Phi-5 Reasoning | 14B | Тығыз | ~28 ГБ | ~7 ГБ |
| Phi-4 | 14B | Тығыз | ~28 ГБ | ~7 ГБ |
| Gemma 3 | 27B | Тығыз | ~54 ГБ | ~14 ГБ |
| Pixtral 2 Large | 90B | Тығыз | ~180 ГБ | ~45 ГБ |
| Stable Diffusion 4 | ~12B | DiT | ~24 ГБ | ~6 ГБ |
| FLUX.2 Pro | 15B | DiT | ~30 ГБ | ~8 ГБ |
| Open-Sora 2.0 | 30B | DiT | ~60 ГБ | ~15 ГБ |
| Whisper V4 | 1.5B | Тығыз | ~3 ГБ | ~1 ГБ |
| Med-Llama 4 | 70B | Тығыз | ~140 ГБ | ~35 ГБ |
| Legal-BERT 2026 | 35B | Тығыз | ~70 ГБ | ~18 ГБ |
| Finance-LLM 3 | 15B | Тығыз | ~30 ГБ | ~8 ГБ |
| CodeLlama 4 | 70B | Тығыз | ~140 ГБ | ~35 ГБ |
| Molmo 2 | 80B | Тығыз | ~160 ГБ | ~40 ГБ |
| Granite 4.0 | 32B (9B белсенді) | Гибридті Mamba-Transformer | ~64 ГБ | ~16 ГБ |
| Nemotron 3 | 8B, 70B | Тығыз | ~16–140 ГБ | ~4–35 ГБ |
| EXAONE 4.0 | 32B | Тығыз | ~64 ГБ | ~16 ГБ |
| Llama 5 Frontier | ~1.2T (барлығы) | MoE | ~2.4 ТБ | ~600 ГБ |
| Llama 5 Base | 70B–150B | Тығыз | ~140–300 ГБ | ~35–75 ГБ |
| DeepSeek V5 | ~600B (барлығы) | MoE | ~1.2 ТБ | ~300 ГБ |
| Stable Diffusion 5 | Анықталмаған | DiT | — | — |
| Falcon 3 | 200B | Тығыз | ~400 ГБ | ~100 ГБ |
Алдымен құрылғыны сатып алмаңыз. Біздің бизнес қажеттіліктеріңізге сәйкес келетін модель класын анықтаңыз, содан кейін ең қолжетімді құрылғы деңгейін анықтау үшін квантизацияны қолданыңыз.
~1,5 млн ₸ және 75 млн ₸ инвестиция арасындағы айырмашылық жиі модель өлшемінің талаптарына және бір мезгілдегі пайдаланушылар санына байланысты болады.
AI моделдер ландшафтын қалыптастыратын тенденциялар
- Стандарт ретінде туа мультимодальдылық. Жаңа модельдер мәтін, сурет, дыбыс және бейне бойынша бір мезгілде жаттықтырылады — оқытудан кейін қосылған бөлек мүмкіндіктер ретінде емес. Бұл бір модельдің құжаттарды талдау, суреттерді түсіну және дауыстық өзара әрекеттестікті өңдеуін білдіреді.
- Кіші модельдердің үлкен модельдер мүмкіндіктеріне қол жеткізуі. Phi-5 (14B) және MiMo-V2-Flash архитектуралық инновациялардың шеберлік деңгейіндегі пайымдауды ноутбукте жұмыс істейтін модельдерге сығып салуы мүмкін екенін көрсетеді. "Үлкені жақсы" дәуірі аяқталуда.
- Жалпылаудан гөрі мамандандыру. Барлығы үшін бір үлкен модель орнына, агент фреймворкі басқаратын мамандандырылған модельдер ансамбліне — кодтау моделі, пайымдау моделі, көру моделі — бет бұру тенденциясы бар. Бұл әр модель үшін құрылғы талаптарын төмендетеді және жалпы сапаны жақсартады.
- Агенттік AI. Kimi K2.5 және Qwen 3 сияқты модельдер күрделі тапсырмаларды автономды түрде ыдырату, сыртқы құралдарды шақыру және басқа модельдермен үйлестіру үшін жасалған. Бұл
агенттер ройы
парадигмасы ұзақ сеанстар бойы тұрақты өткізу қабілетін талап етеді — GB10 және M5 Ultra сияқты жоғары өткізу қабілеті бар құрылғыларды артықшылықты етеді. - Бейне және 3D генерациясының жетілуі. Open-Sora 2 және FLUX.2 Pro жергілікті бейне генерациясының практикалық болуына белгі болады. 2027 жылға қарай жұмыс станциясы класындағы құрылғыларда жұмыс істейтін нақты уақыттағы бейне редакторларын күтуге болады.
10 Қауіпсіздік
Максималды қауіпсіздік архитектурасы
Жергілікті AI жабдығының негізгі артықшылығы өнімділік емес — деректік егемендік. AI серверіңіз біреудің бұлтында емес, өз брандмауэрыңыздың артында жұмыс істеген кезде, сезімтал деректеріңіз ғимаратыңызды ешқашан тастамайды.
Ауа-саңылауы бар API архитектурасы AI серверін физикалық түрде интернеттен оқшаулайды, сонымен бірге оған авторизацияланған қызметкерлерге API интерфейсі арқылы қол жеткізеді.
Бұл архитектура Сандық қор
жасайды. Брокер сервері бүлінген жағдайда да, шабуылшы тек мәтіндік сұрауларды жібере алады — олар AI серверінің файлдық жүйесіне, модель салмақтарына, икемдеу деректеріне немесе сақталған құжаттарға қол жеткізе алмайды.
Тапсырыс бойынша AI шешімдері бар қауіпсіз AI орнату қажет пе?
Біздің инженерлер деректер ешқашан ғимараттан шықпайтындай етіп air-gapped AI архитектураларын жобалайды және орнатады, сонымен бірге бизнесіңізге заманауи AI мүмкіндіктерін ұсынады.
Қауіпсіз AI архитектурасын талқылау →11 Экономика
Экономикалық шешім: Жергілікті және бұлттық
Жергілікті AI құрылғыларына көшу OpEx (операциялық шығын — айлық бұлттық API ақылары) -дан CapEx (инвестициялық шығын — балансыңызда активке айналатын бір реттік құрылғы инвестициясы) -ға ауысу болып табылады.
Келісімшарттарды талдау үшін 200B моделін іске қосатын заң фирмасын қарастырайық:
Күніне 1,000 сұрау кезінде DGX Spark бұлттық API шығындарымен салыстырғанда 2 айдан кем уақытта өзін ақтайды. Жоғары пайдалану деңгейінде өзін ақтау мерзімі апталарға қысқарады.
Мына факторларды ескергенде экономикалық тиімділік одан да артады:
- Бірдей құрылғыны бірнеше қызметкер бөліседі (DGX Spark 2–5 бір мезгілдегі пайдаланушыға қызмет көрсетеді)
- Токенге баға жоқ — күрделі, көп қадамды пайымдау тапсырмалары қосымша төлемсіз
- Меншікті деректермен икемдеу — көптеген бұлттық API-мен мүмкін емес, жергілікті құрылғыда тегін
- Құрылғыны қайта сату құны — AI құрылғылары қайта сауда нарығында айтарлықтай құнды сақтайды