Microsoft відкрила вихідний код трьох рівнів моделі текстових вбудовувань Harrier, версія 27B посіла перше місце в багатомовному рейтингу MTEB v2

BlockBeatNews

Згідно з моніторингом 1M AI News, Microsoft у своїй відкритій багатомовній сім’ї моделей текстових вбудовувань на Hugging Face harrier-oss-v1, що включає три варіанти: 270M, 0.6B і 27B. У картці моделі зазначено, що ця серія використовує архітектуру лише декодера, last-token pooling та L2-нормалізацію, а максимальна підтримувана довжина становить 32768 токенів; її можна застосовувати для пошуку, кластеризації, семантичної подібності, класифікації, двомовного видобування та повторного ранжування.

Multilingual MTEB v2 — це широко використований у галузі багатомовний текстовий ембеддинг-бенчмарк, який переважно тестує завдання на кшталт пошуку, класифікації, кластеризації та семантичної подібності. У картці моделі Microsoft заявлено, що для цього бенчмарку бали трьох варіантів становлять відповідно 66.5, 69.0 і 74.3, причому версія 27B у день релізу піднялася на перше місце в рейтингу. Версії 270M і 0.6B також додатково використовують більшу модель вбудовувань для дистиляції знань; усі три моделі випущено під ліцензією MIT.

Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до Застереження.
Прокоментувати
0/400
Немає коментарів