8 月 30 日消息，通義千問團(tuán)隊(duì)今天對(duì) Qwen-VL（視覺語言、Vision Language）模型進(jìn)行更新，推出 Qwen2-VL。
Qwen2-VL 的一項(xiàng)關(guān)鍵架構(gòu)改進(jìn)是實(shí)現(xiàn)了動(dòng)態(tài)分辨率支持（Naive Dynamic Resolution support）。與上一代模型 Qwen-VL 不同，Qwen2-VL 可以處理任意分辨率的圖像，而無需將其分割成塊，從而確保模型輸入與圖像固有信息之間的一致性。這種方法更接近地模仿人類的視覺感知，使模型能夠處理任何清晰度或大小的圖像。
另一個(gè)關(guān)鍵架構(gòu)增強(qiáng)是 Multimodal Rotary Position Embedding（M-ROPE）。通過將 original rotary embedding 分解為代表時(shí)間和空間（高度和寬度）信息的三個(gè)部分，M-ROPE 使 LLM 能夠同時(shí)捕獲和集成 1D 文本、2D 視覺和 3D 視頻位置信息。這使 LLM 能夠充當(dāng)多模態(tài)處理器和推理器。
在 7B 規(guī)模下，Qwen2-VL-7B 保留了對(duì)圖像、多圖像和視頻輸入的支持，以更具成本效益的模型大小提供“具有競(jìng)爭(zhēng)力”的性能。
Qwen2-VL-2B 模型針對(duì)潛在的移動(dòng)部署進(jìn)行了優(yōu)化。盡管參數(shù)量只有 2B，但官方表示該模型在圖像、視頻和多語言理解方面表現(xiàn)出色。
附模型鏈接如下：
Qwen2-VL-2B-Instruct：https://www.modelscope.cn/models/qwen/Qwen2-VL-2B-Instruct
Qwen2-VL-7B-Instruct：https://www.modelscope.cn/models/qwen/Qwen2-VL-7B-Instruct
本文鏈接：http://www.rrqrq.com/showinfo-45-6597-0.html阿里通義千問推出 Qwen2-VL：開源 2B 7B 參數(shù) AI 大模型，處理任意分辨率圖像無需分割成塊
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：[email protected]
上一篇： AI 行業(yè)風(fēng)光背后：80% 項(xiàng)目會(huì)失敗，5 大原因?qū)е?/a>
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請(qǐng)聯(lián)系：[email protected] 津ICP備18001702號(hào)
津公網(wǎng)安備 12010102000574號(hào)
