国产精品嫩草99av在线_一区在线视频观看_欧美高清一区_欧美 日韩 国产 一区_99精品欧美一区二区三区_久久大香伊蕉在人线观看热2_一色屋精品视频在线观看网站_在线亚洲国产精品网站_亚洲区一区二区三区_你懂的视频一区二区

當前位置:首頁 > 科技  > 軟件

使用LLM插件從命令行訪問Llama 2

來源: 責編: 時間:2023-08-05 11:45:57 5138觀看
導讀最近的一個大新聞是Meta AI推出了新的開源授權的大型語言模型Llama 2。這是一項非常重要的進展:Llama 2可免費用于研究和商業(yè)用途。(幾小時前,swyy發(fā)現(xiàn)它已從LLaMA 2更名為Llama 2)。Facebook最初的LLaMA模型于今年2月發(fā)

最近的一個大新聞是Meta AI推出了新的開源授權的大型語言模型Llama 2。這是一項非常重要的進展:9UT28資訊網(wǎng)——每日最新資訊28at.com

Llama 2可免費用于研究和商業(yè)用途。9UT28資訊網(wǎng)——每日最新資訊28at.com

(幾小時前,swyy發(fā)現(xiàn)它已從LLaMA 2更名為Llama 2)。9UT28資訊網(wǎng)——每日最新資訊28at.com

Facebook最初的LLaMA模型于今年2月發(fā)布,掀起了開源LLM領域的創(chuàng)新浪潮——從微調(diào)變體到從零開始的再創(chuàng)造。9UT28資訊網(wǎng)——每日最新資訊28at.com

只有一個限制:用戶不能將它用于商業(yè)目的。9UT28資訊網(wǎng)——每日最新資訊28at.com

Llama 2的出現(xiàn)改變了這一點!9UT28資訊網(wǎng)——每日最新資訊28at.com

它仍然有一些有趣的限制,重點是:9UT28資訊網(wǎng)——每日最新資訊28at.com

用戶不得使用Llama材料或Llama材料的任何輸出或結果來改進任何其他大型語言模型(不包括Llama 2或其衍生作品)。9UT28資訊網(wǎng)——每日最新資訊28at.com

如果在Llama 2版本發(fā)布之日,由被許可人或被許可人的附屬機構提供的產(chǎn)品或服務的月活躍用戶在前一個日歷月超過7億,則必須向Meta申請許可,Meta可自行決定是否授予許可。9UT28資訊網(wǎng)——每日最新資訊28at.com

這使得它仍然可以適用于大多數(shù)商業(yè)用途。接下來跟隨本文試一試。9UT28資訊網(wǎng)——每日最新資訊28at.com

使用LLM訪問Llama 2

LLM工具可以通過命令行訪問各種語言模型,既可以通過網(wǎng)絡應用程序接口訪問,也可以在自己的機器上自行托管。9UT28資訊網(wǎng)——每日最新資訊28at.com

添加插件支持以擴展它對新模型的支持。現(xiàn)在,一個獨立發(fā)布的插件可以為現(xiàn)有的CLI工具添加對新模型的支持。9UT28資訊網(wǎng)——每日最新資訊28at.com

全新的llm-replicate插件提供了對Replicate上托管的模型的CLI訪問,a16z-infra發(fā)布了a16z-infra/llama13b-v2-chat,該插件提供了對新的Llama 2 13B聊天模型的Replicate API訪問。9UT28資訊網(wǎng)——每日最新資訊28at.com

需要一個Replicate API密鑰。9UT28資訊網(wǎng)——每日最新資訊28at.com

使用如下命令安裝LLM:9UT28資訊網(wǎng)——每日最新資訊28at.com

pip install llm

如果沒有安裝pip,但可以使用Homebrew:9UT28資訊網(wǎng)——每日最新資訊28at.com

brew install simonw/llm/llm

運行l(wèi)lm--version確認已安裝成功。9UT28資訊網(wǎng)——每日最新資訊28at.com

接下來,安裝llm-replicate插件:9UT28資訊網(wǎng)——每日最新資訊28at.com

llm install llm-replicate

該插件添加了一組新的llm replicate命令——可以使用llm --help查看。9UT28資訊網(wǎng)——每日最新資訊28at.com

配置Replicate API密鑰,以便插件能與API通信:9UT28資訊網(wǎng)——每日最新資訊28at.com

llm keys set replicateEnter key: <paste key here>

在插件中注冊新的a16z-infra/llama13b-v2-chat模型:9UT28資訊網(wǎng)——每日最新資訊28at.com

llm replicate add a16z-infra/llama13b-v2-chat /  --chat --alias llama2

這就告訴插件它是一個“chat”模型,這意味著用戶可以與它進行持續(xù)對話,而不僅僅是發(fā)送單個提示。9UT28資訊網(wǎng)——每日最新資訊28at.com

現(xiàn)在,可以使用在這里配置的llama2別名發(fā)送提示信息:9UT28資訊網(wǎng)——每日最新資訊28at.com

llm -m llama2 "Ten great names for a pet pelican"

得到的輸出如下所示:9UT28資訊網(wǎng)——每日最新資訊28at.com

當然!以下是十個適合作為寵物鵜鶘的好名字:9UT28資訊網(wǎng)——每日最新資訊28at.com

  1. 花生(Peanut):一個可愛而活潑的小鵜鶘的名字。
  2. 水洼(Puddles):一個有趣而傻氣的名字,適用于喜歡在水中嬉戲的鵜鶘。
  3. 皮特(Pete):一個經(jīng)典的名字,適合友好外向的鵜鶘。
  4. 彭洛麗(Penelope):一個漂亮而優(yōu)雅的名字,適合雌性鵜鶘。
  5. 佩西(Percy):一個迷人而精致的名字,適合雄性鵜鶘。
  6. 皮皮(Pippy):一個活潑而親愛的名字,適合個性活躍的鵜鶘。
  7. 佩爾蒂(Pelty):一個有趣而古怪的名字,適合個性獨特的鵜鶘。
  8. 皮普(Pip):一個甜美而討人喜歡的名字,適合小鵜鶘。
  9. 勇敢(Plucky):一個勇敢而冒險的名字,適合個性鮮明的鵜鶘。
  10. 波比(Poppy):一個可愛而嬌嫩的名字,適合性情溫和的雌性鵜鶘。

希望這些建議能幫助你為寵物鵜鶘找到一個完美的名字!9UT28資訊網(wǎng)——每日最新資訊28at.com

由于是聊天模型,可以在同一對話中發(fā)送后續(xù)提示:9UT28資訊網(wǎng)——每日最新資訊28at.com

llm -c "Five more and make them more nautical"

Ahoy!這里有五個更具海洋氣息的名字,適合你的寵物鵜鶘:9UT28資訊網(wǎng)——每日最新資訊28at.com

  1. 海鳥(Seabird):適合喜歡海洋及其奇觀的鵜鶘的名字。
  2. 船長胡克(Captain Hook):適合勇敢無畏的鵜鶘的英勇名字。
  3. 錨(Anchor):適合始終穩(wěn)定可靠的鵜鶘的堅固名字。
  4. 芬利(Finley):適合熱愛海洋及其生物的鵜鶘的有關魚的名字。
  5. 輕快(Buoyant):適合心情輕松愉快的鵜鶘的活潑愉快名字。

希望這些建議能讓你滿意,伙計!9UT28資訊網(wǎng)——每日最新資訊28at.com

LLM會將通過它發(fā)送的每個提示和響應記錄到SQLite數(shù)據(jù)庫中。在這里使用--truncate來縮短輸出,將輸出截斷以便在本文中顯示:9UT28資訊網(wǎng)——每日最新資訊28at.com

llm logs --truncate
[  {    "id": "01h5n5b3q6s54e03wtvqe90w2g",    "model": "replicate-a16z-infra-llama13b-v2-chat",    "prompt": "Five more and make them more nautical",    "system": null,    "response": "Ahoy matey! Here be five more nautical-themed names for yer pet pelican:/n/n1. Captain Hook/n2. Anch...",    "response_json": null,    "conversation_id": "01h5n5atsqfg4bhxc53j3ymnx2",    "duration_ms": 7364,    "datetime_utc": "2023-07-18T18:48:51.999944",    "conversation_name": "Ten great names for a pet pelic/u2026",    "conversation_model": "replicate-a16z-infra-llama13b-v2-chat"  },  {    "id": "01h5n5atss6k9zsr5qs5hb2wzd",    "model": "replicate-a16z-infra-llama13b-v2-chat",    "prompt": "Ten great names for a pet pelican",    "system": null,    "response": "Sure, here are ten great names for a pet pelican:/n/n1. Pelty/n2. Peanut/n3. Puddles/n4. Nibbles/n5. Fu...",    "response_json": null,    "conversation_id": "01h5n5atsqfg4bhxc53j3ymnx2",    "duration_ms": 7873,    "datetime_utc": "2023-07-18T18:48:42.356413",    "conversation_name": "Ten great names for a pet pelic/u2026",    "conversation_model": "replicate-a16z-infra-llama13b-v2-chat"  }]

或運行l(wèi)lm logs path命令查看SQLite數(shù)據(jù)庫文件的路徑。如果已經(jīng)安裝了Datasette,可以使用以下命令打開日志數(shù)據(jù)庫:9UT28資訊網(wǎng)——每日最新資訊28at.com

datasette "$(llm logs path)"

或使用Datasette Desktop:9UT28資訊網(wǎng)——每日最新資訊28at.com

open "$(llm logs path)"

結語

對Llama 2感到非常興奮。預計隨著模型權重的逐步推出,用戶將開始看到在其基礎上的各種創(chuàng)新。9UT28資訊網(wǎng)——每日最新資訊28at.com

特別期待以下內(nèi)容:9UT28資訊網(wǎng)——每日最新資訊28at.com

  • 微調(diào)模型。Alpaca、Vicuna等人在原始LLaMA模型的基礎上進行微調(diào),取得了驚人的成就。預計在接下來的幾周內(nèi),我們將看到數(shù)十個微調(diào)模型。
  • 實現(xiàn)reAct和Toolformer模式,這將使Llama 2能夠以類似于OpenAI Functions的方式驅(qū)動外部工具。Llama 2的論文已經(jīng)提到了針對Toolformer提示的測試,因此希望這不會太困難。

希望能記錄什么類型的提示語能與Llama 2效果良好地配合使用,因為預計這一模型在未來一段時間內(nèi)將成為生態(tài)系統(tǒng)中頗具影響力的一部分。9UT28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接:http://www.rrqrq.com/showinfo-26-138-0.html使用LLM插件從命令行訪問Llama 2

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 一篇文章帶你了解 CSS 屬性選擇器

下一篇: 這款新興工具平臺,讓你的電腦效率翻倍

標簽:
  • 熱門焦點
  • 7月安卓手機好評榜:三星S23Ultra好評率第一

    性能榜和性價比榜之后,我們來看最后的安卓手機好評榜,數(shù)據(jù)來源安兔兔評測,收集時間2023年7月1日至7月31日,僅限國內(nèi)市場。第一名:三星Galaxy S23 Ultra好評率:95.71%在即將迎來新
  • 掘力計劃第 20 期:Flutter 混合開發(fā)的混亂之治

    在掘力計劃系列活動第20場,《Flutter 開發(fā)實戰(zhàn)詳解》作者,掘金優(yōu)秀作者,Github GSY 系列目負責人戀貓的小郭分享了Flutter 混合開發(fā)的混亂之治。Flutter 基于自研的 Skia 引擎
  • 學習JavaScript的10個理由...

    作者 | Simplilearn編譯 | 王瑞平當你決心學習一門語言的時候,很難選擇到底應該學習哪一門,常用的語言有Python、Java、JavaScript、C/CPP、PHP、Swift、C#、Ruby、Objective-
  • 三言兩語說透柯里化和反柯里化

    JavaScript中的柯里化(Currying)和反柯里化(Uncurrying)是兩種很有用的技術,可以幫助我們寫出更加優(yōu)雅、泛用的函數(shù)。本文將首先介紹柯里化和反柯里化的概念、實現(xiàn)原理和應用
  • 這款新興工具平臺,讓你的電腦效率翻倍

    隨著信息技術的發(fā)展,我們獲取信息的渠道越來越多,但是處理信息的效率卻成為一個瓶頸。于是各種工具應運而生,都在爭相解決我們的工作效率問題。今天我要給大家介紹一款效率
  • 中國家電海外掘金正當時|出海專題

    作者|吳南南編輯|胡展嘉運營|陳佳慧出品|零態(tài)LT(ID:LingTai_LT)2023年,出海市場戰(zhàn)況空前,中國創(chuàng)業(yè)者在海外紛紛摩拳擦掌,以期能夠把中國的商業(yè)模式、創(chuàng)業(yè)理念、戰(zhàn)略打法輸出海外,他們依
  • 消費結構調(diào)整丨巨頭低價博弈,拼多多還卷得動嗎?

    來源:征探財經(jīng)作者:陳香羽隨著流量紅利的退潮,電商的存量博弈越來越明顯。曾經(jīng)主攻中高端與品質(zhì)的淘寶天貓、京東重拾&ldquo;低價&rdquo;口號。而過去與他們錯位競爭的拼多多,靠
  • 2納米決戰(zhàn)2025

    集微網(wǎng)報道 從三強爭霸到四雄逐鹿,2nm的廝殺聲已然隱約傳來。無論是老牌勁旅臺積電、三星,還是誓言重回先進制程領先地位的英特爾,甚至初成立不久的新
  • 超級標準版旗艦!iQOO 11S全球首發(fā)iQOO超算獨顯芯片

    上半年已接近尾聲,截至目前各大品牌旗下的頂級旗艦都已悉數(shù)亮相,而下半年即將推出的頂級旗艦已經(jīng)成為了數(shù)碼圈爆料的主流,其中就包括全新的iQOO 11S系
Top 国产精品嫩草99av在线_一区在线视频观看_欧美高清一区_欧美 日韩 国产 一区_99精品欧美一区二区三区_久久大香伊蕉在人线观看热2_一色屋精品视频在线观看网站_在线亚洲国产精品网站_亚洲区一区二区三区_你懂的视频一区二区
国产精品成人一区二区艾草| 日韩欧美激情在线| 国产精品播放| 91麻豆高清视频| 日韩精品一二三四| 国产欧美精品一区| 欧美蜜桃一区二区三区| 国产精品亚洲专一区二区三区| 色香蕉成人二区免费| 亚洲欧美偷拍卡通变态| 91麻豆123| 欧美一区二区三区在线免费观看| 国产精品国产三级国产| 99pao成人国产永久免费视频| 久久久久久久久97黄色工厂| 国产成人久久精品77777最新版本| 精品国免费一区二区三区| 日韩精品高清不卡| 欧美视频在线一区| 不卡的av网站| 看片网站欧美日韩| 国产精品99久久久久| 国产亚洲一区二区三区四区| 国产日本欧洲亚洲| 18成人在线观看| 一区二区三区免费在线观看| 亚洲成人777| 激情图区综合网| 成人毛片在线观看| 亚洲一级电影| 久久午夜影视| 91精品国产综合久久小美女| 久久综合99re88久久爱| 中文字幕日韩精品一区| 日韩—二三区免费观看av| 国产综合久久久久影院| 色综合色综合色综合色综合色综合| 久久精品国产**网站演员| 国产欧美日韩亚州综合| 亚洲精品视频免费看| 丝袜美腿成人在线| 国产在线看一区| 亚洲欧美亚洲| 久久婷婷丁香| 精品嫩草影院久久| 一区二区在线观看av| 久久精品国产精品亚洲精品 | 日韩1区2区3区| 国产成人在线网站| 在线观看欧美亚洲| 制服丝袜激情欧洲亚洲| 亚洲欧洲精品天堂一级| 久久er精品视频| 精品1区2区3区4区| 国产午夜亚洲精品羞羞网站| 色综合久久久久综合体| 久久久久久一区二区| 欧美一区二区三区思思人| 国产精品毛片a∨一区二区三区| 在线看一区二区| 欧美国产激情二区三区| 激情图片小说一区| 国产日韩欧美二区| 久久久久高清精品| 激情小说欧美图片| 国产欧美日韩一区二区三区| 欧美精品一区二区三| 蜜桃传媒麻豆第一区在线观看| 欧美一区二区三区免费视频 | 亚洲午夜激情av| 国产午夜精品一区二区三区欧美 | 美女尤物国产一区| 欧美日韩hd| 日韩午夜激情av| 日本亚洲免费观看| 国产情侣久久| 亚洲资源中文字幕| 久久久777精品电影网影网| 亚洲激情第一区| 国产精品成人午夜| 国产欧美精品一区二区色综合 | 粉嫩在线一区二区三区视频| 久久婷婷亚洲| 亚洲人xxxx| 国产综合欧美| 久久精品无码一区二区三区| 国产精品一区二区久久精品爱涩 | 这里只有精品视频在线观看| 日av在线不卡| 美女精品在线观看| 亚洲午夜免费视频| 国产精品美女黄网| 一区二区视频在线看| 亚洲日本欧美天堂| 欧美成人综合| 久久看人人爽人人| 成人精品gif动图一区| 88在线观看91蜜桃国自产| 免费在线观看一区| 色久综合一二码| 免费在线观看不卡| 色婷婷精品大在线视频| 亚洲www啪成人一区二区麻豆| 一区二区三区三区在线| 一区二区三区在线播| 亚洲激情午夜| 亚洲永久免费视频| 国产精品区二区三区日本| 一区二区视频在线看| 久久激情久久| 紧缚捆绑精品一区二区| jlzzjlzz国产精品久久| 欧美va在线播放| 欧美69视频| 《视频一区视频二区| 日韩午夜激情| 日韩高清一级片| 欧美视频你懂的| 国产高清精品在线| 2020国产精品自拍| 国产一区自拍视频| 亚洲午夜三级在线| 欧美久久久久久蜜桃| av午夜一区麻豆| 亚洲欧洲日本在线| 久久黄色影院| 国产福利精品导航| 中文字幕av不卡| 日韩香蕉视频| 日韩欧美国产一二三区| 99精品热视频| 性做久久久久久久免费看| 欧美午夜精品免费| 91亚洲大成网污www| 亚洲精选视频免费看| 欧洲精品在线观看| 成人av电影免费观看| 一区二区三区中文字幕电影 | 国产免费观看久久| 亚洲男人影院| 国产suv一区二区三区88区| 国产区在线观看成人精品| 国产亚洲欧美一区二区| 国产一区三区三区| 1024国产精品| 99国产精品一区| 亚洲欧美成aⅴ人在线观看| 欧美性生活一区| 欧美精品一区在线发布| 日韩精品国产精品| 国产欧美视频一区二区三区| 国产精品区一区| 成人精品鲁一区一区二区| 亚洲综合一区二区| 日韩视频永久免费| 亚洲免费不卡| eeuss鲁一区二区三区| 丝袜亚洲另类欧美综合| 久久综合九色欧美综合狠狠| 免费看黄裸体一级大秀欧美| 99re8在线精品视频免费播放| 亚洲va韩国va欧美va| 久久久精品人体av艺术| 91成人国产精品| 亚洲欧洲视频| 亚洲视频在线观看三级| 欧美视频在线一区二区三区| 尤物网精品视频| 成人动漫一区二区在线| 亚洲国产aⅴ成人精品无吗| 久久综合久色欧美综合狠狠| 欧美性一区二区| 国产一区二区久久久| av电影一区二区| 久久国产精品无码网站| 亚洲婷婷综合色高清在线| 精品国产sm最大网站| 欧美日韩精品免费| 国产精品日韩欧美一区二区| 欧美ab在线视频| 成人手机在线视频| 久久99国产精品尤物| 亚洲午夜久久久久中文字幕久| 日本一区二区三区视频视频| 欧美电影免费观看高清完整版在 | av不卡在线| 欧美va天堂| 91在线丨porny丨国产| 国产精品99久| 国产永久精品大片wwwapp| 秋霞午夜鲁丝一区二区老狼| 亚洲午夜久久久久中文字幕久| 亚洲视频在线观看一区| 国产精品视频免费| 国产日韩欧美高清| 久久久久久久久久久久久女国产乱| 欧美一区三区四区| 欧美精品乱人伦久久久久久| 欧美日韩一区成人| 欧美日韩在线亚洲一区蜜芽|