国产精品嫩草99av在线_一区在线视频观看_欧美高清一区_欧美 日韩 国产 一区_99精品欧美一区二区三区_久久大香伊蕉在人线观看热2_一色屋精品视频在线观看网站_在线亚洲国产精品网站_亚洲区一区二区三区_你懂的视频一区二区

當前位置:首頁 > 科技  > 軟件

使用LLM插件從命令行訪問Llama 2

來源: 責編: 時間:2023-08-05 11:45:57 5138觀看
導讀最近的一個大新聞是Meta AI推出了新的開源授權的大型語言模型Llama 2。這是一項非常重要的進展:Llama 2可免費用于研究和商業(yè)用途。(幾小時前,swyy發(fā)現(xiàn)它已從LLaMA 2更名為Llama 2)。Facebook最初的LLaMA模型于今年2月發(fā)

最近的一個大新聞是Meta AI推出了新的開源授權的大型語言模型Llama 2。這是一項非常重要的進展:9UT28資訊網(wǎng)——每日最新資訊28at.com

Llama 2可免費用于研究和商業(yè)用途。9UT28資訊網(wǎng)——每日最新資訊28at.com

(幾小時前,swyy發(fā)現(xiàn)它已從LLaMA 2更名為Llama 2)。9UT28資訊網(wǎng)——每日最新資訊28at.com

Facebook最初的LLaMA模型于今年2月發(fā)布,掀起了開源LLM領域的創(chuàng)新浪潮——從微調(diào)變體到從零開始的再創(chuàng)造。9UT28資訊網(wǎng)——每日最新資訊28at.com

只有一個限制:用戶不能將它用于商業(yè)目的。9UT28資訊網(wǎng)——每日最新資訊28at.com

Llama 2的出現(xiàn)改變了這一點!9UT28資訊網(wǎng)——每日最新資訊28at.com

它仍然有一些有趣的限制,重點是:9UT28資訊網(wǎng)——每日最新資訊28at.com

用戶不得使用Llama材料或Llama材料的任何輸出或結果來改進任何其他大型語言模型(不包括Llama 2或其衍生作品)。9UT28資訊網(wǎng)——每日最新資訊28at.com

如果在Llama 2版本發(fā)布之日,由被許可人或被許可人的附屬機構提供的產(chǎn)品或服務的月活躍用戶在前一個日歷月超過7億,則必須向Meta申請許可,Meta可自行決定是否授予許可。9UT28資訊網(wǎng)——每日最新資訊28at.com

這使得它仍然可以適用于大多數(shù)商業(yè)用途。接下來跟隨本文試一試。9UT28資訊網(wǎng)——每日最新資訊28at.com

使用LLM訪問Llama 2

LLM工具可以通過命令行訪問各種語言模型,既可以通過網(wǎng)絡應用程序接口訪問,也可以在自己的機器上自行托管。9UT28資訊網(wǎng)——每日最新資訊28at.com

添加插件支持以擴展它對新模型的支持。現(xiàn)在,一個獨立發(fā)布的插件可以為現(xiàn)有的CLI工具添加對新模型的支持。9UT28資訊網(wǎng)——每日最新資訊28at.com

全新的llm-replicate插件提供了對Replicate上托管的模型的CLI訪問,a16z-infra發(fā)布了a16z-infra/llama13b-v2-chat,該插件提供了對新的Llama 2 13B聊天模型的Replicate API訪問。9UT28資訊網(wǎng)——每日最新資訊28at.com

需要一個Replicate API密鑰。9UT28資訊網(wǎng)——每日最新資訊28at.com

使用如下命令安裝LLM:9UT28資訊網(wǎng)——每日最新資訊28at.com

pip install llm

如果沒有安裝pip,但可以使用Homebrew:9UT28資訊網(wǎng)——每日最新資訊28at.com

brew install simonw/llm/llm

運行l(wèi)lm--version確認已安裝成功。9UT28資訊網(wǎng)——每日最新資訊28at.com

接下來,安裝llm-replicate插件:9UT28資訊網(wǎng)——每日最新資訊28at.com

llm install llm-replicate

該插件添加了一組新的llm replicate命令——可以使用llm --help查看。9UT28資訊網(wǎng)——每日最新資訊28at.com

配置Replicate API密鑰,以便插件能與API通信:9UT28資訊網(wǎng)——每日最新資訊28at.com

llm keys set replicateEnter key: <paste key here>

在插件中注冊新的a16z-infra/llama13b-v2-chat模型:9UT28資訊網(wǎng)——每日最新資訊28at.com

llm replicate add a16z-infra/llama13b-v2-chat /  --chat --alias llama2

這就告訴插件它是一個“chat”模型,這意味著用戶可以與它進行持續(xù)對話,而不僅僅是發(fā)送單個提示。9UT28資訊網(wǎng)——每日最新資訊28at.com

現(xiàn)在,可以使用在這里配置的llama2別名發(fā)送提示信息:9UT28資訊網(wǎng)——每日最新資訊28at.com

llm -m llama2 "Ten great names for a pet pelican"

得到的輸出如下所示:9UT28資訊網(wǎng)——每日最新資訊28at.com

當然!以下是十個適合作為寵物鵜鶘的好名字:9UT28資訊網(wǎng)——每日最新資訊28at.com

  1. 花生(Peanut):一個可愛而活潑的小鵜鶘的名字。
  2. 水洼(Puddles):一個有趣而傻氣的名字,適用于喜歡在水中嬉戲的鵜鶘。
  3. 皮特(Pete):一個經(jīng)典的名字,適合友好外向的鵜鶘。
  4. 彭洛麗(Penelope):一個漂亮而優(yōu)雅的名字,適合雌性鵜鶘。
  5. 佩西(Percy):一個迷人而精致的名字,適合雄性鵜鶘。
  6. 皮皮(Pippy):一個活潑而親愛的名字,適合個性活躍的鵜鶘。
  7. 佩爾蒂(Pelty):一個有趣而古怪的名字,適合個性獨特的鵜鶘。
  8. 皮普(Pip):一個甜美而討人喜歡的名字,適合小鵜鶘。
  9. 勇敢(Plucky):一個勇敢而冒險的名字,適合個性鮮明的鵜鶘。
  10. 波比(Poppy):一個可愛而嬌嫩的名字,適合性情溫和的雌性鵜鶘。

希望這些建議能幫助你為寵物鵜鶘找到一個完美的名字!9UT28資訊網(wǎng)——每日最新資訊28at.com

由于是聊天模型,可以在同一對話中發(fā)送后續(xù)提示:9UT28資訊網(wǎng)——每日最新資訊28at.com

llm -c "Five more and make them more nautical"

Ahoy!這里有五個更具海洋氣息的名字,適合你的寵物鵜鶘:9UT28資訊網(wǎng)——每日最新資訊28at.com

  1. 海鳥(Seabird):適合喜歡海洋及其奇觀的鵜鶘的名字。
  2. 船長胡克(Captain Hook):適合勇敢無畏的鵜鶘的英勇名字。
  3. 錨(Anchor):適合始終穩(wěn)定可靠的鵜鶘的堅固名字。
  4. 芬利(Finley):適合熱愛海洋及其生物的鵜鶘的有關魚的名字。
  5. 輕快(Buoyant):適合心情輕松愉快的鵜鶘的活潑愉快名字。

希望這些建議能讓你滿意,伙計!9UT28資訊網(wǎng)——每日最新資訊28at.com

LLM會將通過它發(fā)送的每個提示和響應記錄到SQLite數(shù)據(jù)庫中。在這里使用--truncate來縮短輸出,將輸出截斷以便在本文中顯示:9UT28資訊網(wǎng)——每日最新資訊28at.com

llm logs --truncate
[  {    "id": "01h5n5b3q6s54e03wtvqe90w2g",    "model": "replicate-a16z-infra-llama13b-v2-chat",    "prompt": "Five more and make them more nautical",    "system": null,    "response": "Ahoy matey! Here be five more nautical-themed names for yer pet pelican:/n/n1. Captain Hook/n2. Anch...",    "response_json": null,    "conversation_id": "01h5n5atsqfg4bhxc53j3ymnx2",    "duration_ms": 7364,    "datetime_utc": "2023-07-18T18:48:51.999944",    "conversation_name": "Ten great names for a pet pelic/u2026",    "conversation_model": "replicate-a16z-infra-llama13b-v2-chat"  },  {    "id": "01h5n5atss6k9zsr5qs5hb2wzd",    "model": "replicate-a16z-infra-llama13b-v2-chat",    "prompt": "Ten great names for a pet pelican",    "system": null,    "response": "Sure, here are ten great names for a pet pelican:/n/n1. Pelty/n2. Peanut/n3. Puddles/n4. Nibbles/n5. Fu...",    "response_json": null,    "conversation_id": "01h5n5atsqfg4bhxc53j3ymnx2",    "duration_ms": 7873,    "datetime_utc": "2023-07-18T18:48:42.356413",    "conversation_name": "Ten great names for a pet pelic/u2026",    "conversation_model": "replicate-a16z-infra-llama13b-v2-chat"  }]

或運行l(wèi)lm logs path命令查看SQLite數(shù)據(jù)庫文件的路徑。如果已經(jīng)安裝了Datasette,可以使用以下命令打開日志數(shù)據(jù)庫:9UT28資訊網(wǎng)——每日最新資訊28at.com

datasette "$(llm logs path)"

或使用Datasette Desktop:9UT28資訊網(wǎng)——每日最新資訊28at.com

open "$(llm logs path)"

結語

對Llama 2感到非常興奮。預計隨著模型權重的逐步推出,用戶將開始看到在其基礎上的各種創(chuàng)新。9UT28資訊網(wǎng)——每日最新資訊28at.com

特別期待以下內(nèi)容:9UT28資訊網(wǎng)——每日最新資訊28at.com

  • 微調(diào)模型。Alpaca、Vicuna等人在原始LLaMA模型的基礎上進行微調(diào),取得了驚人的成就。預計在接下來的幾周內(nèi),我們將看到數(shù)十個微調(diào)模型。
  • 實現(xiàn)reAct和Toolformer模式,這將使Llama 2能夠以類似于OpenAI Functions的方式驅(qū)動外部工具。Llama 2的論文已經(jīng)提到了針對Toolformer提示的測試,因此希望這不會太困難。

希望能記錄什么類型的提示語能與Llama 2效果良好地配合使用,因為預計這一模型在未來一段時間內(nèi)將成為生態(tài)系統(tǒng)中頗具影響力的一部分。9UT28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接:http://www.rrqrq.com/showinfo-26-138-0.html使用LLM插件從命令行訪問Llama 2

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 一篇文章帶你了解 CSS 屬性選擇器

下一篇: 這款新興工具平臺,讓你的電腦效率翻倍

標簽:
  • 熱門焦點
  • 7月安卓手機好評榜:三星S23Ultra好評率第一

    性能榜和性價比榜之后,我們來看最后的安卓手機好評榜,數(shù)據(jù)來源安兔兔評測,收集時間2023年7月1日至7月31日,僅限國內(nèi)市場。第一名:三星Galaxy S23 Ultra好評率:95.71%在即將迎來新
  • 掘力計劃第 20 期:Flutter 混合開發(fā)的混亂之治

    在掘力計劃系列活動第20場,《Flutter 開發(fā)實戰(zhàn)詳解》作者,掘金優(yōu)秀作者,Github GSY 系列目負責人戀貓的小郭分享了Flutter 混合開發(fā)的混亂之治。Flutter 基于自研的 Skia 引擎
  • 學習JavaScript的10個理由...

    作者 | Simplilearn編譯 | 王瑞平當你決心學習一門語言的時候,很難選擇到底應該學習哪一門,常用的語言有Python、Java、JavaScript、C/CPP、PHP、Swift、C#、Ruby、Objective-
  • 三言兩語說透柯里化和反柯里化

    JavaScript中的柯里化(Currying)和反柯里化(Uncurrying)是兩種很有用的技術,可以幫助我們寫出更加優(yōu)雅、泛用的函數(shù)。本文將首先介紹柯里化和反柯里化的概念、實現(xiàn)原理和應用
  • 這款新興工具平臺,讓你的電腦效率翻倍

    隨著信息技術的發(fā)展,我們獲取信息的渠道越來越多,但是處理信息的效率卻成為一個瓶頸。于是各種工具應運而生,都在爭相解決我們的工作效率問題。今天我要給大家介紹一款效率
  • 中國家電海外掘金正當時|出海專題

    作者|吳南南編輯|胡展嘉運營|陳佳慧出品|零態(tài)LT(ID:LingTai_LT)2023年,出海市場戰(zhàn)況空前,中國創(chuàng)業(yè)者在海外紛紛摩拳擦掌,以期能夠把中國的商業(yè)模式、創(chuàng)業(yè)理念、戰(zhàn)略打法輸出海外,他們依
  • 消費結構調(diào)整丨巨頭低價博弈,拼多多還卷得動嗎?

    來源:征探財經(jīng)作者:陳香羽隨著流量紅利的退潮,電商的存量博弈越來越明顯。曾經(jīng)主攻中高端與品質(zhì)的淘寶天貓、京東重拾&ldquo;低價&rdquo;口號。而過去與他們錯位競爭的拼多多,靠
  • 2納米決戰(zhàn)2025

    集微網(wǎng)報道 從三強爭霸到四雄逐鹿,2nm的廝殺聲已然隱約傳來。無論是老牌勁旅臺積電、三星,還是誓言重回先進制程領先地位的英特爾,甚至初成立不久的新
  • 超級標準版旗艦!iQOO 11S全球首發(fā)iQOO超算獨顯芯片

    上半年已接近尾聲,截至目前各大品牌旗下的頂級旗艦都已悉數(shù)亮相,而下半年即將推出的頂級旗艦已經(jīng)成為了數(shù)碼圈爆料的主流,其中就包括全新的iQOO 11S系
Top 国产精品嫩草99av在线_一区在线视频观看_欧美高清一区_欧美 日韩 国产 一区_99精品欧美一区二区三区_久久大香伊蕉在人线观看热2_一色屋精品视频在线观看网站_在线亚洲国产精品网站_亚洲区一区二区三区_你懂的视频一区二区
欧美电影免费观看高清完整版在线观看| 中文字幕乱码一区二区免费| 日韩激情av在线| 国产亚洲精品久久飘花| 蜜桃久久av一区| 精品国产一区二区三区不卡| 国产毛片久久| av色综合久久天堂av综合| 国产精品久线观看视频| 91久久香蕉国产日韩欧美9色| 久久免费看少妇高潮| 欧美一区激情| 国产剧情av麻豆香蕉精品| 亚洲第一主播视频| 亚洲欧美日韩国产成人精品影院 | 国产伦精品一区二区三区免费迷 | 欧美人与禽zozo性伦| 国产欧美午夜| 一区二区三区四区国产| 日韩亚洲欧美精品| 99久久久国产精品免费蜜臀| 欧美日韩精品一区二区| 国产亚洲综合色| 欧美揉bbbbb揉bbbbb| 五月天久久比比资源色| 日本道色综合久久| 影音先锋久久资源网| 成人性生交大片免费看视频在线| 亚洲综合丁香婷婷六月香| 日韩亚洲欧美一区二区三区| 国产一区二区高清| 1024成人| 欧美涩涩网站| 91亚洲国产成人精品一区二三| 日本麻豆一区二区三区视频| 国产麻豆午夜三级精品| 亚洲国产日韩精品| 亚洲欧美日韩国产综合在线| 国产精品伦一区| 自拍偷拍国产精品| 亚洲欧美二区三区| 亚洲欧美激情小说另类| 亚洲精品免费视频| 亚洲国产日产av| 日韩av电影天堂| 国内成人精品2018免费看| 欧美片第1页综合| 久久国产成人| 一本久久a久久免费精品不卡| 成人免费不卡视频| 日韩视频在线一区二区| 国产精品一区视频网站| 国产一区二区三区高清| 久久精品午夜| 国产精品久久久久影院色老大 | 欧美无人高清视频在线观看| 日韩精品一区二区三区中文不卡 | 中文字幕在线不卡视频| 日本vs亚洲vs韩国一区三区二区| av中文字幕一区| 色综合 综合色| 中文字幕第一区二区| 奇米亚洲午夜久久精品| 色综合色综合色综合色综合色综合 | 国产美女视频一区| 午夜av一区二区三区| aa级大片欧美| 欧美性色aⅴ视频一区日韩精品| 国产精品国产精品国产专区不蜜 | 国产69精品久久99不卡| 亚洲欧美网站| 国产精品网站在线播放| 国产精品亚洲午夜一区二区三区| 国产日韩一区二区三区| 久久综合九色综合欧美亚洲| 另类的小说在线视频另类成人小视频在线 | 色综合久久99| 亚洲欧美高清| 国产精品亲子伦对白| 久久久精品人体av艺术| 蜜臀av性久久久久蜜臀aⅴ流畅| 亚洲成人中文| 欧美国产日韩一二三区| 大尺度一区二区| 欧美二区在线观看| 日韩福利视频网| 国产精品久久久久久久久久妞妞| 日本一区二区视频在线| 国产ts人妖一区二区| 欧美性猛交xxxx黑人交| 亚洲成a人v欧美综合天堂| 一二三四区精品视频| 欧美一区二区三区四区在线观看地址| 欧美精品久久天天躁| 美国欧美日韩国产在线播放| 久久精品一本| 亚洲高清不卡在线观看| 亚洲国产午夜| 亚洲天堂网中文字| 欧美另类专区| 久久综合色一综合色88| 国产制服丝袜一区| 在线不卡中文字幕| 久久影音资源网| 99国产麻豆精品| 久久久综合网站| 91在线视频播放| 国产精品麻豆网站| 91久久精品一区二区别| 亚洲欧美另类小说| 一本色道久久综合亚洲精品不卡| 欧洲精品中文字幕| 国产精品亚洲第一| 久久久久久久久97黄色工厂| 国产精品成人网| 在线亚洲伦理| 麻豆高清免费国产一区| 日韩免费一区二区三区在线播放| 国产精品国色综合久久| 日本一区二区三区四区在线视频 | 99xxxx成人网| 久久婷婷麻豆| 成人免费毛片片v| 五月天中文字幕一区二区| 欧美精品在线一区二区三区| 欧美日韩一区二区视频在线 | 91麻豆精品国产91| 激情亚洲网站| 精品制服美女久久| 中国色在线观看另类| 一本到高清视频免费精品| 国产成人aaa| 亚洲最大成人综合| 久久久久久夜精品精品免费| 激情文学综合丁香| 亚洲成va人在线观看| 欧美一级在线视频| av午夜精品一区二区三区| 欧美1区2区3区| 欧美三区在线视频| 亚洲男人的天堂av| 国产白丝精品91爽爽久久| 国产欧美精品日韩区二区麻豆天美| 国产日韩欧美一区二区三区在线观看| 日韩电影在线观看一区| 精品国产乱码久久久久久图片| 亚洲黄色在线| 国产一区二区91| 亚洲欧洲av色图| 欧美一a一片一级一片| 午夜亚洲福利| 久久精品国产一区二区三 | 欧美videos中文字幕| 亚洲精品人人| 国产福利91精品| 亚洲黄色小视频| 欧美一级xxx| 国产精品人人爽人人做我的可爱| 国产老肥熟一区二区三区| 综合分类小说区另类春色亚洲小说欧美 | 91在线国产福利| 老司机午夜精品99久久| 国产无人区一区二区三区| 久久一日本道色综合久久| 91亚洲精品久久久蜜桃| 日本不卡中文字幕| 中文字幕欧美一| 日韩亚洲欧美在线| 色噜噜夜夜夜综合网| 尤妮丝一区二区裸体视频| 国产成人免费视频精品含羞草妖精| 亚洲综合色自拍一区| 欧美一区二区视频在线| 欧美aaaaa成人免费观看视频| 国产精品久久久久久福利一牛影视| 欧美日韩一本到| 久久免费国产| 影音先锋中文字幕一区二区| 成人欧美一区二区三区1314| 欧美一级免费观看| 在线中文字幕不卡| 国产亚洲一级| 精品91免费| 欧美一区成人| jlzzjlzz欧美大全| 国产麻豆日韩欧美久久| 蜜桃一区二区三区在线| 亚洲一区中文在线| 亚洲品质自拍视频| 国产日韩精品一区二区三区在线| 欧美一区中文字幕| 欧美人成免费网站| 国产酒店精品激情| 国内成+人亚洲+欧美+综合在线| 日韩精品五月天| 亚洲成人av电影在线| 一区二区高清在线| 一区二区三区国产| 亚洲综合一区二区| 亚洲一区二区三区影院|