K6：面向開發(fā)人員的現(xiàn)代負(fù)載測(cè)試工具
K6 是一個(gè)開源負(fù)載測(cè)試工具，可以輕松編寫、運(yùn)行和分析性能測(cè)試。它建立在 Go 和 JavaScript 之上，它被設(shè)計(jì)為功能強(qiáng)大、可擴(kuò)展且易于使用。k6 可用于測(cè)試各種應(yīng)用程序，包括 Web
字節(jié)跳動(dòng)低調(diào)潛行一年多，終于憋了一個(gè)大招。
5 月 15 日，字節(jié)跳動(dòng)首次向外界“推銷”旗下 AI 大模型——其自研豆包“全家桶”官宣將通過火山引擎（字節(jié)旗下六大業(yè)務(wù)板塊之一，其余五塊分別是抖音、大立教育、飛書、朝夕光年、TikTok）對(duì)外提供服務(wù)。
至此，字節(jié)跳動(dòng)縱身跳入國內(nèi)大模型混戰(zhàn)，其大模型版圖正式浮出水面。
圖注：豆包大模型“全家桶”
之所以出手即“王炸”，源于字節(jié)已經(jīng)跨過模型效果、推理成本、落地難度這三道為關(guān)鍵的門檻。
首先，模型效果對(duì) AI 落地為關(guān)鍵，只有大使用量才能打磨出好模型——據(jù)火山引擎官方數(shù)據(jù)，經(jīng)過一年時(shí)間的迭代，豆包大模型正成為國內(nèi)使用量大、應(yīng)用場(chǎng)景豐富的大模型之一，日均處理 1200 億 Tokens 文本，生成 3000 萬張圖片。
此外，字節(jié)跳動(dòng)產(chǎn)品和戰(zhàn)略副總裁朱駿透露，豆包平臺(tái)月度活躍用戶達(dá)到2600萬，已有超過 800 萬個(gè)智能體被創(chuàng)建。作為對(duì)照，QuestMobile 數(shù)據(jù)顯示，截至今年 3 月，豆包（字節(jié)跳動(dòng)）、文心一言（百度）、天工（昆侖萬維）、訊飛星火（科大訊飛）、Kimi 智能助手（月之暗面）位居 AIGC APP月活 TOP5——恐怖的是，豆包上線僅三個(gè)月就完成用戶量逆襲。
這背后，虎嗅了解到，字節(jié)跳動(dòng)在過去一年通過拆解明確每個(gè)部門的 OKR（例如抖音主要負(fù)責(zé)拉新，而字節(jié)專門負(fù)責(zé) AI 產(chǎn)品的 Flow 部門負(fù)責(zé)開發(fā)及產(chǎn)品增長(zhǎng)）實(shí)現(xiàn)了部門間互不干涉，解決了互聯(lián)網(wǎng)公司迅速擴(kuò)張所面臨的組織協(xié)同問題，是國內(nèi)逐夢(mèng) AI 浪潮互聯(lián)網(wǎng)公司中戰(zhàn)略清晰的一個(gè)。
值得一提的是，豆包大模型（原名：云雀）早于 2023 年就在字節(jié)內(nèi)部完成了上線，并基于豆包大模型打造了 AI對(duì)話助手“豆包”、AI 應(yīng)用開發(fā)平臺(tái)“扣子”、互動(dòng)娛樂應(yīng)用“貓箱”，以及星繪、即夢(mèng)等 AI 創(chuàng)作工具，并把大模型接入抖音、番茄小說、飛書、剪映等字節(jié)跳動(dòng)旗下 50 余個(gè)業(yè)務(wù)，用以提升效率和優(yōu)化產(chǎn)品體驗(yàn)。
“技術(shù)在快速演化，但用戶核心的需求沒有改變，比如高效獲取信息、工作提效、自我表達(dá)、社交娛樂等；字節(jié)做了很多探索，尋找適合大模型應(yīng)用的形態(tài)，希望自然交互走入更多人的日常生活。”朱駿說道。
這并非盲目樂觀，IDC 發(fā)布的《2024 AIGC 應(yīng)用層十大趨勢(shì)白皮書》預(yù)測(cè)，2024 年全球?qū)⒂楷F(xiàn)出超過 5 億個(gè)新應(yīng)用，相當(dāng)于過去 40 年間出現(xiàn)的應(yīng)用數(shù)總和，智能化應(yīng)用將呈現(xiàn)爆發(fā)式增長(zhǎng)，大模型浪潮將加速滲透進(jìn)人們的日常生活。
其次，降低推理成本是大模型快進(jìn)到“價(jià)值創(chuàng)造階段”的一個(gè)關(guān)鍵因素。
例如，騰訊混元大模型采用混合專家模型 (MoE）結(jié)構(gòu)，自研 Angel 機(jī)器學(xué)習(xí)平臺(tái)，訓(xùn)練速度達(dá)到主流框架的 2.6 倍，推理成本相比業(yè)界主流框架下降 70%；OpenAI、智譜大模型也都在近期降低了大模型價(jià)格。
不過，當(dāng)火山引擎總裁譚待宣布豆包主力模型（小于等于 32K）推理輸入價(jià)格僅為 0.0008 元/千 Tokens 時(shí)，還是不免讓人感到錯(cuò)愕——要知道，市面上同規(guī)格模型的定價(jià)一般為 0.12 元/千 Tokens，而豆包主力模型比行業(yè)便宜 99.3%。
按這個(gè)價(jià)格，8 塊錢可以買到豆包模型的 1000萬 Tokens，大約 1600 萬個(gè)漢字——其正以“價(jià)格屠夫”的姿態(tài)打穿大模型市場(chǎng)，被外界戲稱“打響大模型市場(chǎng)價(jià)格戰(zhàn)第一槍”。
對(duì)此，譚待表示背后有兩個(gè)原因：“一是能做到，二是需要這么做；主力模型比行業(yè)便宜 99.3% 在技術(shù)上可實(shí)現(xiàn)，未來還有很多手段降低成本。”
后，豆包分布式推理還有混合調(diào)度，發(fā)揮各種各樣的異構(gòu)算力，解決了推理算力的問題，進(jìn)而把模型推理的成本降到很低。
“以前企業(yè)做創(chuàng)新?lián)?ROI 打不正，一來創(chuàng)新項(xiàng)目 90% 會(huì)失敗，二來創(chuàng)新按消耗 100 億 Tokens 算就要 80 萬；現(xiàn)在成本只需要 8000 元，失敗也花不了多少錢，但剩下 10% 項(xiàng)目成功就可以把投入都賺回來，這無疑能幫助更多企業(yè)輕裝上陣，無負(fù)擔(dān)投身 AI 大潮。”譚待說道。
當(dāng)然，字節(jié)愿意躬身給企業(yè)“搭臺(tái)”的深層次原因還在于：移動(dòng)互聯(lián)網(wǎng)業(yè)到了用戶、流量趨于見頂?shù)某墒炱冢O(jiān)管會(huì)更側(cè)重產(chǎn)業(yè)互聯(lián)網(wǎng)的推進(jìn)與建設(shè)，這意味著技術(shù)走到平臺(tái)重構(gòu)生態(tài)的關(guān)鍵時(shí)期。
正如美團(tuán)創(chuàng)始人兼 CEO 王興當(dāng)年討論 BAT 競(jìng)爭(zhēng)關(guān)系時(shí)說的那樣，競(jìng)爭(zhēng)這個(gè)詞放在一起說就會(huì)變成思維定勢(shì)，“麥克阿瑟將軍在西點(diǎn)軍校告別演講說‘Only the dead have seen the end of war’（只有死去的人才能看到戰(zhàn)爭(zhēng)終結(jié)），戰(zhàn)斗只是從一個(gè)戰(zhàn)場(chǎng)變成另一個(gè)戰(zhàn)場(chǎng)，從一個(gè)機(jī)會(huì)變成另一個(gè)機(jī)會(huì)，總有不斷的變化。”
尤其，ChatGPT 橫空出世讓整個(gè)互聯(lián)網(wǎng)都為之躁動(dòng)，追趕大模型浪潮使得互聯(lián)網(wǎng)又陷入一種混戰(zhàn)的焦灼狀態(tài)，而心有猛虎的公司都在尋找向上攀爬的入口——當(dāng)通用人工智能時(shí)代呼嘯而來，字節(jié)手握應(yīng)用層及數(shù)據(jù)層的獨(dú)特優(yōu)勢(shì)，抖音擁有豐富的數(shù)據(jù)素材和充足的算力資源，必須在快速發(fā)展時(shí)期果斷投入（包括技術(shù)生態(tài)迭代、研發(fā)投入等），從而博一張未來的船票。
以下為虎嗅與火山引擎總裁譚待兩次（5 月 15 日、5 月 16 日）溝通實(shí)錄（部分表述因方便閱讀需要有所刪改）：
字節(jié)憑什么把價(jià)格打下來？
Q：行業(yè)有聲音說大模型算力資源短缺，字節(jié)為什么愿意大幅度降價(jià)？
譚待：一般說算力資源不夠用說的是訓(xùn)練，但今天說的大模型 ToB 服務(wù)主要是推理。做推理只要技術(shù)基礎(chǔ)做得好就可以用各種異構(gòu)算力滿足性能、減少延遲，還能解決算力瓶頸。豆包分布式推理還有混合調(diào)度，就是通過調(diào)度好各種異構(gòu)算力解決了推理算力的問題。
其次，解決算力也就解決了成本問題，就能把模型推理成本降到很低。以前企業(yè)做創(chuàng)新?lián)?ROI 打不正，一來創(chuàng)新項(xiàng)目 90% 會(huì)失敗，二來創(chuàng)新試錯(cuò)貴（按消耗 100 億 Tokens 算就要 80 萬）；現(xiàn)在試錯(cuò)成本降到 8000 元，失敗成本可控，只要剩下 10% 項(xiàng)目能成就可以把投入都賺回來，這讓很多企業(yè)輕裝上陣，無負(fù)擔(dān)投身到 AI 大潮。
Q：字節(jié)把價(jià)格卷到以厘為單位的低價(jià)，這對(duì)于現(xiàn)階段整個(gè)行業(yè)是好事嗎？
譚待：當(dāng)然，很多企業(yè)能以更低成本做各種創(chuàng)新了，對(duì)于做大模型創(chuàng)業(yè)者來說沒有哪個(gè)是靠 ToB 賺了很多錢，通過 ToB 服務(wù)來把自己的大模型正循環(huán)這個(gè)不行了，現(xiàn)在還是一個(gè)特別早期的階段，要把蛋糕做大先要做到普惠，這是重要的。
Q：字節(jié)能將價(jià)格壓到低于同行 99.3%，豆包的性能和成本如何？
譚待：現(xiàn)在模型應(yīng)用落地時(shí)，精調(diào)是關(guān)鍵，豆包 pro 支持 128k 可精調(diào)。豆包主力模型可以跟所有主力模型去對(duì)比，網(wǎng)上可以看到很多第三方測(cè)試，拿豆包 APP 來說，現(xiàn)在月活 2600 萬，用的人越多調(diào)用量就越大，模型自然就會(huì)越好。
至于成本問題，ToB 業(yè)務(wù)要看長(zhǎng)期，用虧損換收入不可持續(xù)，字節(jié)從來不走這樣的路，降價(jià)源于技術(shù)自信，這個(gè)定價(jià)是火山對(duì)技術(shù)有信心，未來還有很多手段持續(xù)降低成本。
Q：豆包大模型徹底把價(jià)格打下來了，為什么說“低價(jià)”是對(duì)技術(shù)的自信？
譚待：首先，技術(shù)上有非常多優(yōu)化手段把成本做低且讓效果更好，比如模型結(jié)構(gòu)優(yōu)化調(diào)整；其次在工程上以前都單機(jī)推理，現(xiàn)在是分布式推理，自然能把各種底層算力用得更好，進(jìn)而大大降低成本，尤其調(diào)度量非常大后，能將不同負(fù)載作為混合調(diào)度，使成本大幅下降。而且，OpenAI 也在降價(jià)，試想未來大模型在人們?nèi)粘Ｉ蠲刻於加茫蛢r(jià)是真正廣泛應(yīng)用的前提。
其次，今年大模型能力在明顯提升，做應(yīng)用變得越發(fā)重要。很多客戶都想去做大模型嘗試，但礙于價(jià)格（AI試錯(cuò)、業(yè)務(wù)創(chuàng)新風(fēng)險(xiǎn)高），要面臨非常多不確定性，必須把試錯(cuò)成本降得非常低，才能讓大家（企業(yè)、個(gè)人開發(fā)者）廣泛用起來。所以，當(dāng)下迫切的就是降低成本。
Q：豆包大模型應(yīng)用于字節(jié)內(nèi)部產(chǎn)品的使用情況如何？
譚待：首先，同名 APP 豆包（截至今年 4 月，豆包在蘋果中國區(qū) App Store 效率榜排名第一；其安卓市場(chǎng)累計(jì)下載量 1.37 億，在 AIGC 類應(yīng)用中斷崖式領(lǐng)先）用戶量（月活達(dá) 2600 萬）說明效果非常好，還有星繪這樣的創(chuàng)新應(yīng)用。
除了 AI 原生應(yīng)用外，抖音、頭條、飛書部分功能都使用了大模型，比如抖音搜索、頭條搜索結(jié)果就是用豆包大模型來生成，它還可以進(jìn)一步追問用戶想了解什么信息？包括抖音電商很多營(yíng)銷文案、導(dǎo)購、助手等等領(lǐng)域都有應(yīng)用。
除了這些應(yīng)用場(chǎng)景，傳統(tǒng)很多用 NLP（自然語言處理）解決的問題豆包也可以做得更好，可以為一些業(yè)務(wù)后臺(tái)操作帶來極大的效率提升。
Q：AI落地場(chǎng)景很重要，火山有哪些客戶應(yīng)用場(chǎng)景可以分享？
譚待：手機(jī)交互場(chǎng)景太多了，手機(jī)搜索、助手AI 等（OPPO 小布助手、榮耀智慧辦公智能助手、小米“小愛同學(xué)”、華碩豆叮 AI 助手均已接入火山引擎大模型服務(wù)）；車機(jī)現(xiàn)在也比較多，導(dǎo)航順便看商圈、餐廳、周邊影院，（不方便看手機(jī)時(shí)）模型會(huì)告訴車把對(duì)應(yīng)內(nèi)容找出來完成交互；再比如汽車座艙對(duì)模型能力要求不那么高，適合用豆包通用模型 lite，不光推理單價(jià)更低，延遲也低 50%。
當(dāng)然，場(chǎng)景落地一方面技術(shù)要提升，像 pro、lite、角色扮演，語音都有廣闊的應(yīng)用場(chǎng)景；另一方面，應(yīng)用生態(tài)是一堆人的群體智慧，更好模型、更低成本、更易落地才能繁榮生態(tài)，大企業(yè)是高代碼，但個(gè)人開發(fā)者要的是低代碼，必須低門檻這個(gè)事情才能做起來，形成 AI 時(shí)代的創(chuàng)新。
字節(jié)蓄力，“火山”爆發(fā)？
Q：如何看待互聯(lián)網(wǎng)巨頭在大模型賽道的激烈競(jìng)爭(zhēng)？
譚待：國內(nèi)大模型現(xiàn)在還不是談競(jìng)爭(zhēng)的時(shí)候，因?yàn)榇竽Ｐ同F(xiàn)在還是在初期，池塘有多大魚才多大，大模型市場(chǎng)才剛剛開始，這個(gè)時(shí)候一起把大模型做好、把應(yīng)用落地做好、把成本做低，讓更多人和企業(yè)受益才是關(guān)鍵，現(xiàn)在遠(yuǎn)未到激烈的競(jìng)爭(zhēng)。
Q：之前周鴻祎和李彥宏有關(guān)于開源與閉源的討論，火山會(huì)朝開源還是閉源發(fā)展？
譚待：首先，對(duì)于模型公司來說開源閉源不是非黑即白，而是綜合的方式，我們內(nèi)部也在討論，是不是未來某一個(gè)版本、某一個(gè)尺寸的模型就用開源來做；其次，企業(yè)模型應(yīng)用是開源還是閉源本質(zhì)在于背后的需求，是擔(dān)心安全問題，還是擔(dān)心成本問題，還是擔(dān)心服務(wù)問題等。
Q：互聯(lián)網(wǎng)大廠在云計(jì)算領(lǐng)域競(jìng)爭(zhēng)激烈，大模型應(yīng)用到云計(jì)算領(lǐng)域會(huì)側(cè)重在哪些層面布局？
譚待：云生態(tài)包括 IaaS、PaaS、SaaS，AI 大模型本身對(duì)云來說是錦上添花，是把數(shù)字化往深往廣去做，比如模型推理可以通過云的方式把成本做到很低，所以從價(jià)格去考慮 AI 是建立一個(gè)算力到智能的相關(guān)性，把越來越多數(shù)字化需求、生活場(chǎng)景與算力融合。
當(dāng)然，火山更關(guān)注 ToB 方向：第一，有一些行業(yè)很有集中性，比如手機(jī)、汽車可以通過聯(lián)盟一起做好；第二，一些行業(yè)不是特別清晰，就和有想法的企業(yè)深度合作；第三，開發(fā)者非常重要，面對(duì)新技術(shù)浪潮做出不同創(chuàng)新的不是過去的巨頭，而是新的開發(fā)者，怎么把他們服務(wù)好，讓他們做出更優(yōu)秀的 AI 應(yīng)用很重要。
而且做公有云，字節(jié)的理念就是要成本低，就像做電商要優(yōu)質(zhì)、低價(jià)一樣，降本增效是寫到火山引擎愿景里去的，不知道其他人有沒有寫，這是認(rèn)知上的差別。
Q：字節(jié)有數(shù)據(jù)優(yōu)勢(shì)，在文生視頻這方面是否有布局實(shí)現(xiàn)彎道超車？
譚待：字節(jié)有款產(chǎn)品即夢(mèng)（Dreamina），除了文生圖還有一些短視頻生成功能。模型訓(xùn)練一定要技術(shù)扎實(shí)，本質(zhì)上不存在彎道超車；其他模態(tài)也一樣，要先把基礎(chǔ)做好，如果基礎(chǔ)都做不好，那文生圖就是一個(gè)‘人工智障’——因?yàn)樗B文字都不能理解，視頻能好到哪兒去？所以沒有彎道超車，要一步一步扎實(shí)去做。
虎嗅注：事實(shí)上，字節(jié)跳動(dòng)于 2023 年 11 月已發(fā)布視頻生成研究成果 PixelDance，提出基于文本指導(dǎo) + 首尾幀圖片指導(dǎo)的技術(shù)方法，能生成具有高度一致性和豐富動(dòng)態(tài)性的視頻；今年 1 月，字節(jié)又發(fā)布視頻生成模型 MagicVideo-V2，效果比肩 SVD-XT、Pika1.0、Gen-2（Runway） 等同類模型。
Q：近 OpenAI（GPT-4o）、谷歌（谷歌I/O大會(huì)升級(jí) Gemini 全家桶）相繼公布新大模型進(jìn)展，國內(nèi)外所處階段及差距如何？
譚待：實(shí)事求是地講 OpenAI 肯定還是全球第一，包括 anthropic、Gemini 也做得非常好，要承認(rèn)差距；但反過來說有兩點(diǎn)，一是我們的模型在不斷進(jìn)化，一旦進(jìn)化到某一個(gè)層次，就有可能去上面做應(yīng)用。
為什么（字節(jié)）這么久才正式對(duì)外發(fā)布豆包？因?yàn)槎拱搅舜蠹铱梢詮V泛用它去做應(yīng)用的程度，只有越來越多的人去做更多應(yīng)用，反過來又可以驅(qū)動(dòng)技術(shù)進(jìn)步，形成一個(gè)正循環(huán)。
前天（5 月14日）OpenAI 發(fā)布會(huì)，語音做得好不好對(duì)整個(gè)交互體驗(yàn)影響很大，可能模型很聰明但講話像機(jī)器人，豆包和全球好的產(chǎn)品仍有差距，需要一個(gè)追趕的過程，目前追的速度還行，用戶量也越來越大。
本文鏈接：http://www.rrqrq.com/showinfo-17-89284-0.html字節(jié)終于掀桌子了
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：[email protected]
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請(qǐng)聯(lián)系：[email protected] 津ICP備18001702號(hào)
津公網(wǎng)安備 12010102000574號(hào)