7 ապրիլի 2026
MLX LM v0.31.2-ը թարմացնում է քեշավորման, սերվերային սպասարկման և մոդելների աշխատանքային հոսքերը
MLX LM v0.31.2-ը պաշտոնական տեխնիկական սպասարկման և գործառույթների թողարկում է, որը կենտրոնացած է prompt-ի քեշավորման և փաթեթային գեներացման վրա՝ ներառելով նաև գեներացման լրացուցիչ վերահսկիչներ, սերվերային բարելավումներ, բենչմարքի աջակցություն, մոդելներին առնչվող փոփոխություններ և սխալների շտկումներ: Տրամադրված թողարկման գրառումն անավարտ է, ուստի այն չպետք է ընկալվի որպես փոփոխությունների ամբողջական ցանկ:
2026 թվականի ապրիլի 7-ին հրապարակված MLX LM v0.31.2 տարբերակը կենտրոնանում է prompt-ի քեշավորման, փաթեթային գեներացման (batch-generation) աշխատանքների, սերվերային բարելավումների, բենչմարքինգի, մոդելների աջակցության և կետային շտկումների վրա: Տրամադրված պաշտոնական թողարկման գրառումը մասնակի է, ուստի օգտատերերը պետք է այն դիտարկեն որպես ընդհանուր ակնարկ, այլ ոչ թե բոլոր փոփոխությունների սպառիչ ցանկ:
01
Ինչ գիտենք այս պահին
- 01
[1] MLX LM GitHub-ի պաշտոնական թողարկման գրառում v0.31.2 տարբերակի համար, հրապարակված 2026 թվականի ապրիլի 7-ին. https://github.com/ml-explore/mlx-lm/releases/tag/v0.31.2:
- 02
Թողարկման գրառումն ընդգծում է non-trimmable քեշերի համար prompt-երի/հաղորդագրությունների քեշավորումը և batch-generator-ի վերամշակումը:
- 03
Նույն գրառումը նշում է գեներացման տուգանքներ, քեշի և տվյալների հավաքածուի շտկումներ, սերվերային փոփոխություններ, բենչմարքի հետաձգման աջակցություն և մոդելներին առնչվող թարմացումներ:
02
Ինչու է սա կարևոր Հայաստանի համար
Այս թողարկումը կարևոր է Հայաստանի այն ծրագրավորողների համար, ովքեր կիրառում են MLX LM-ը տեղային AI աշխատանքային հոսքերում, հատկապես երբ քեշավորումը, սերվերային սպասարկումը, բենչմարքինգը և մոդելների համատեղելիությունն ազդում են մշակման գործընթացի վրա:
03
Քեշավորում և փաթեթային գեներացում
Ընդգծված է համակարգային և օգտատիրոջ հաղորդագրությունների քեշավորումը. վերամշակվել է batch գեներատորը:Սերվերային սպասարկում
Նշված են allowed-origin աջակցությունը և բացակայող content-length-ի մշակումը:Գեներացում և մոդելներ
Ներառված են տուգանային պարամետրերը և մոդելներին առնչվող փոփոխությունները:Բենչմարքինգ
Բենչմարքի գործիքի համար նշված է հետաձգման (delay) աջակցություն:Սա տրամադրված թողարկման գրառման մեջ ուղղակիորեն նշված փոփոխությունների ընդհանուր քարտեզն է, այլ ոչ թե փոփոխությունների ամբողջական մատյանը:
04
Քեշավորման և փաթեթային գեներացման փոփոխություններ
Կրկնվող prompt-եր կամ բազմափուլ երկխոսություններ օգտագործողների համար v0.31.2 տարբերակի առանցքային քեշային փոփոխությունները կարող են լինել ամենաարդիականը: Թողարկման նշումները մատնանշում են համակարգային և օգտատիրոջ հաղորդագրությունների բարելավված մշակումը non-trimmable քեշերում, ինչպես նաև արձանագրում են քեշին առնչվող մի քանի ուղղումներ: Նշումներում չեն նշվում արագության կամ հիշողության հստակ թվային ազդեցությունները, ուստի այդ արդյունքները պետք է թեստավորվեն յուրաքանչյուր առանձին տեղակայման մեջ:
- Թողարկումն ընդգծում է համակարգային prompt-երի և օգտատիրոջ հաղորդագրությունների քեշավորումը non-trimmable քեշերի համար:
- Այն նաև ընդգծում է փաթեթային գեներատորի (batch generator) վերամշակումը:
- Փոփոխությունների ցանկը ներառում է քեշի checkpointing-ի և Qwen 3.5 ուղում բացակայող քեշի առաջխաղացման (cache advance) հետ կապված շտկումներ:
05
Գեներացման և ուսուցման ուղիների սպասարկում
Թողարկումն ավելացնում է presence և frequency penalties կարգավորումները՝ հավելվածներին տրամադրելով գեներացման լրացուցիչ վերահսկողության գործիքներ: Բացի այդ, փոփոխությունների ցանկն արձանագրում է տվյալների հավաքածուի հետ կապված խափանման շտկում և RoPE բաղադրիչների իրականացման տեխնիկական սպասարկում: Պաշտոնական նշումներում չեն մանրամասնվում նոր տուգանային կարգավորումների ինտերֆեյսները, լռելյայն արժեքները կամ վարքագծային մանրամասները:
- Որպես լրացում նշված են presence և frequency penalty պարամետրերը:
- Թողարկումը ներառում է CompletionsDataset mask-prompt-ի խափանման շտկում:
- Այն նաև պարունակում է SuScaledRoPE և YarnRoPE բաղադրիչներում մուտքային տվյալների փոփոխությունից (mutating input) խուսափելուն ուղղված փոփոխություն:
06
Սերվերային և հարթակային թարմացումներ
Այն նախագծերի համար, որոնք MLX LM-ը գործարկում են սերվերի միջոցով, v0.31.2 տարբերակը ներառում է origin-ի կարգավորման և հարցումների մշակման փոփոխություններ: Բացակայող content-length-ի կետը կարող է կարևոր լինել այն հաճախորդների համար, որոնք այդ վերնագիրը չեն տրամադրում: Տրամադրված նշումները թվարկում են հնարավորությունները, սակայն չեն փաստաթղթավորում տեղակայման կարգավորումները կամ համատեղելիության պահանջները:
- Նշված է սերվերի կողմից allowed origins կարգավորման աջակցություն:
- Սերվերը թարմացվել է՝ բացակայող content-length վերնագիրը մշակելու համար:
- Թողարկման նշումներում հիշատակվում է նաև սարքի տեղեկատվության անցումը դեպի metal agnostic նկարագրվող տարբերակ:
07
Մոդելների, բենչմարքի և հուսալիության աշխատանքներ
Հասանելի գրառումը մատնանշում է ավելի լայն տեխնիկական սպասարկում, որը դուրս է գալիս քեշավորման հիմնական թարմացումների շրջանակից: Այն նշում է Nemotron-ի աջակցություն, Qwen3 Coder պարսերի fallback լուծում, MLX LM բենչմարքում հետաձգման աջակցություն և հուսալիությանն ուղղված մի շարք շտկումներ: Քանի որ տրամադրված ամփոփագիրն ընդհատվում է ցանկի մեջտեղում, օգտատերերը պետք է դիմեն թողարկման պաշտոնական էջին՝ նախքան ենթադրելը, որ սրանք միակ համապատասխան փոփոխություններն են:
- Մոդելների հետ կապված աշխատանքների շարքում նշված է Nemotron-ի աջակցությունը:
- Qwen3 Coder գործիքի պարսերի համար նշված է malformed-JSON fallback մեխանիզմ:
- Ներառված է MLX LM բենչմարքի հետաձգման (delay) աջակցություն:
- Նշումները թվարկում են նաև թեստերի շտկումներ և trainer-cache հիշողության մաքրում:
08
Գործնական առաջիկա քայլեր
Այս թողարկումը դիտարկող թիմերը կարող են կենտրոնացնել ստուգումները պաշտոնական նշումներում ընդգծված փոփոխությունների ուղղությամբ:
- 01
Վերանայել prompt-ի քեշավորման վարքագիծը, եթե հավելվածն օգտագործում է non-trimmable քեշեր:
- 02
Թեստավորել տեքստի գեներացման կարգավորումները, որոնք հիմնվում են presence կամ frequency penalty պարամետրերի վրա:
- 03
Ստուգել սերվերային տեղակայումները, որոնք պահանջում են allowed-origin կարգավորում կամ պետք է ընդունեն հարցումներ առանց content-length վերնագրի:
- 04
Կրկին գործարկել բենչմարքի աշխատանքային հոսքերը, եթե դրանք օգտագործում են հետաձգված (delayed) գործարկում:
- 05
Ստուգել մոդելներին առնչվող աշխատանքային հոսքերը, ներառյալ նախագծում օգտագործվող Nemotron կամ Qwen ուղիները:
09
Այս թողարկման սահմանափակումները
Տրամադրված թողարկման ամփոփագիրը կրճատված է և չի ներկայացնում փոփոխությունների ամբողջական ցանկը:
Թողարկման գրառումը թվարկում է փոփոխությունները, սակայն չի տրամադրում արտադրողականության չափումներ կամ միգրացիոն ուղեցույցներ:
Առանձին հավելվածների և մոդելների համար համատեղելիության հետևանքները տրամադրված նյութերով հաստատված չեն:
SRC
Աղբյուրների բաժին
Ուղիղ հղումներ այս ընտրանու հիմքում եղած նյութերին: Աղբյուրը տեսնելը նույնքան կարևոր է, որքան սինթեզն ընթերցելը:
