Pipeshift

Pipeshift 是一个用于开源大型语言模型（LLM）的微调和推理平台。

• 您提供数据集。微调多个LLM。一键开始推理并看着它们扩展到数百万。

​

安装和设置

• 安装 Pipeshift 集成包。
  复制

  向 AI 提问

  pip install langchain-pipeshift
  

• 通过在 Pipeshift 注册来获取您的 Pipeshift API 密钥。

​

身份验证

1. 将 API 密钥作为 PIPESHIFT_API_KEY 添加到环境变量中。
   复制

   向 AI 提问

   os.environ["PIPESHIFT_API_KEY"] = "<your_api_key>"
   

2. 通过将 api_key 传递给 pipeshift LLM 模块或聊天模块
   复制

   向 AI 提问

   llm = Pipeshift(api_key="<your_api_key>", model="meta-llama/Meta-Llama-3.1-8B-Instruct", max_tokens=512)
   
                       OR
   
   chat = ChatPipeshift(api_key="<your_api_key>", model="meta-llama/Meta-Llama-3.1-8B-Instruct", max_tokens=512)
   

​

聊天模型

from langchain_pipeshift import ChatPipeshift

​

LLMs

from langchain_pipeshift import Pipeshift