通用指南 LLM-chain Rust crate

https://dev.to/shuttle_dev/a-comprehensive-guide-to-the-llm-chain-rust-crate-5dnd

llm-chain Rust crate 綜合指南

llm-chain 是 Rust 中的一個針對大型語言模型(LLM)的集合,被它本身描述為“處理 LLM 以建立 AI 應用和其他工具的終極工具箱”。這個 crate 可以在 GitHub 上找到。

對比其他 LLM 編排 crate

除了目前最受歡迎的 LLM 編排套件 Langchain 之外,Rust 中還有類似的 crate:

– llm-chain(本篇所討論的)
– langchain-rust
– anchor-chain

使用範例

要開始使用 llm-chain,只需將 crate 添加到項目中(同時加入 async 使用的 Tokio),並為想使用的模型添加提供者。另外,可以在此處找到已整理的文件。

進一步用法

llm-chain 提供了用於處理資料的工具:
– 抓取搜尋結果:llm-chain 提供了透過 Serper.dev 服務來獲取 Google 搜尋結果的方便方法。
– 提取標籤文字:llm-chain 還提供了一些方便的方法,用於提取標籤文字。

以上綜合即為 llm-chain crate 的功能及應用之摘要。

via DEV Community

June 7, 2024 at 01:38AM

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *