Google DeepMind-ը թողարկեց EmbeddingGemma 2 բաց մոդելը

Google DeepMind-ը թողարկել է EmbeddingGemma 2 մուլտիմոդալ մոդելը՝ Apache 2.0 ազատ արտոնագրով։

Այն ունի 740 միլիոն պարամետր և մեկ վեկտորային տարածության մեջ է միավորում տեքստը, նկարները, աուդիոն ու տեսանյութերը։ Միայն տեքստի համար բավական է 270 միլիոն պարամետր, իսկ պատկերի (170 միլիոն) և աուդիոյի (300 միլիոն) համար կան առանձին կոդավորիչներ։ Matryoshka մեթոդով վեկտորները 768-ից կարող են կրճատվել մինչև 512, 256 կամ 128 չափի։

8K կոնտեքստի շնորհիվ սարքը տեղում մշակում է մինչև 5,5 րոպե աուդիո կամ 58 վիդեո կադր։ Կվանտավորմամբ Pixel 11 Pro-ի վրա տեքստային կշիռները պահանջում են մոտ 191 ՄԲ RAM, իսկ ամբողջական մոդելը՝ մոտ 567 ՄԲ։ Կշիռները հասանելի են Hugging Face-ում և Kaggle-ում։