27 ഭാഷകളിൽ പ പാരാമീറ്ററുകളുള്ള രിശീലിപ്പിച്ച, കോഡിംഗിലും ഗണിതശാസ്ത്രത്തിലും മികവ് പുലർത്തുന്ന, 72 ബില്യൺ പാരാമീറ്ററുകളുള്ള ലാറ്റിൻ ഭാഷയുടെ ഒരു പുതിയ മോഡൽ ഇപ്പോൾ ഓപ്പൺ സോഴ്‌സായി ലഭ്യമാണ്. Qwen2 അതിൻ്റെ മുൻഗാമിയായ Qwen1.5 ൽ നിന്നുള്ള ഒരു സുപ്രധാന പരിണാമത്തെ അടയാളപ്പെടുത്തുന്നു. Qwen2-0.5B, Qwen2-1.5B, Qwen2-7B, Qwen2-57B-A14B, കൂടാതെ ഏറ്റവും വലുത് – Qwen2-72B എന്നിവയുൾപ്പെടെ മുൻകൂട്ടി ചികിത്സിച്ചതും സജ്ജീകരിച്ചതുമായ വിവിധ വലുപ്പത്തിലുള്ള മോഡലുകൾ ഏറ്റവും പുതിയ കത്ത് വാഗ്ദാനം ചെയ്യുന്നു.
ഭാഷാ ഉദാഹരണങ്ങളിലെ ജേണലുകൾ
Qwen ടീമിൻ്റെ പാരാമീറ്ററുകളുള്ള മാസങ്ങളോളം സമർപ്പിത പഠനങ്ങൾക്ക് ശേഷം, Qwen1.5-ൽ നിന്ന് Qwen2-ലേക്കുള്ള മാറ്റം നിരവധി പ്രധാന മെച്ചപ്പെടുത്തലുകൾ കൊണ്ടുവരുന്നു. ഇംഗ്ലീഷും ടെലിമാർക്കറ്റിംഗ് ഡാറ്റ ചൈനീസ് ഭാഷയും കൂടാതെ 27 ഭാഷകളിൽ നിന്നുള്ള പ്രബോധന ഉദാഹരണങ്ങൾ ഡാറ്റയിൽ ഉൾപ്പെടുത്തിയിരിക്കുന്നത് ശ്രദ്ധേയമായ ഒരു കൂട്ടിച്ചേർക്കലാണ്. ഈ ബഹുഭാഷാ പരിശീലനം വൈവിധ്യമാർന്ന ഭാഷാപരമായ ധാരണകളുള്ള വിശാലമായ മാതൃകകളെ വ്യത്യസ്ത ഭാഷാ സന്ദർഭങ്ങളിൽ അവരുടെ പങ്ക് വർദ്ധിപ്പിക്കുന്നു.
മോഡൽ കഴിവുകൾ
പുതിയ ഭാഷാ മോഡൽ സീരീസ് നിരവധി മൂല്യനിർണ്ണയ മാനദണ്ഡങ്ങളിലൂടെ അത്യാധുനിക പ്രകടനത്തെ പ്രശംസിക്കുന്നു. കോഡിംഗിലും ഗണിതശാസ്ത്രപരമായ വീട്ടുപകരണങ്ങൾക്കുള്ള ഇൻജക്ഷൻ മോൾഡിംഗിൻ്റെ പ്രയോജനങ്ങൾ ജോലികളിലും അദ്ദേഹത്തിൻ്റെ പ്രാവീണ്യം ഗണ്യമായി വർദ്ധിച്ചുവെന്നത് പ്രത്യേകിച്ചും ശ്രദ്ധേയമാണ്. Qwen2-7B-Insert, Qwen2-72B-Insert എന്നിങ്ങനെയുള്ള ചില വകഭേദങ്ങൾക്ക് 128K പ്രതീകങ്ങൾ വരെ വിപുലീകൃത സന്ദർഭ ദൈർഘ്യമുള്ള പിന്തുണയോടെ, ഉപയോക്താക്കൾക്ക് വലിയ ടെക്‌സ്‌റ്റ് സന്ദേശങ്ങൾ എളുപ്പത്തിൽ നൽകാനാകും.
മോഡൽ വലുപ്പവും സവിശേഷതകളും
കമ്പ്യൂട്ടിംഗ് റിസോഴ്സുകളും ടാസ്‌ക് ആവശ്യകതകളും അടിസ്ഥാനമാക്കി വ്യത്യസ്ത ആവശ്യങ്ങൾ നിറവേറ്റുന്നതിനായി QWen2 സെർവർ ശ്രേണിയിൽ അഞ്ച് വ്യത്യസ്ത വലുപ്പങ്ങളുണ്ട്:
QWen2-0.5B : പരാമീ പാരാമീറ്റ നിരവധി ലീഡുകൾ റുകളുള്ള റ്ററുകൾ – 0.49 ബില്യൺ; നോൺ-എംപി പാരങ്ങൾ – 0.35 ബില്യൺ; GQA – ശരിയാണ്; ലിങ്ക് എംബഡിംഗ് – ശരി; സന്ദർഭ ദൈർഘ്യം – 32K.
ഞങ്ങൾ QWen2-72B പോലുള്ള വലിയ മോഡലുകളിലേക്ക് നീങ്ങുമ്പോൾ , 72 ബില്ല്യൺ പാരാമീറ്ററുകൾക്കൊപ്പം ഗ്രൂപ്പ് ക്വറി ഓപ്പറേഷൻ (GQA) പോലെയുള്ള വിപുലമായ ഫീച്ചറുകളോടൊപ്പം പ്രകടനം വർധിപ്പിക്കും.