mirror of
https://github.com/LiteyukiStudio/nonebot-plugin-marshoai.git
synced 2025-02-07 05:56:11 +08:00
更新使用文档
This commit is contained in:
parent
bfa8c7cec3
commit
b75a47e1e8
@ -14,7 +14,7 @@ title: 使用
|
|||||||
本插件理论上可兼容大部分可通过 OpenAI 兼容 API 调用的 LLM,部分模型可能需要调整插件配置。
|
本插件理论上可兼容大部分可通过 OpenAI 兼容 API 调用的 LLM,部分模型可能需要调整插件配置。
|
||||||
|
|
||||||
例如:
|
例如:
|
||||||
- 对于不支持 Function Call 的模型(Cohere Command R等):
|
- 对于不支持 Function Call 的模型(Cohere Command R,DeepSeek-R1等):
|
||||||
```dotenv
|
```dotenv
|
||||||
MARSHOAI_ENABLE_PLUGINS=false
|
MARSHOAI_ENABLE_PLUGINS=false
|
||||||
MARSHOAI_ENABLE_TOOLS=false
|
MARSHOAI_ENABLE_TOOLS=false
|
||||||
@ -24,6 +24,21 @@ title: 使用
|
|||||||
MARSHOAI_ADDITIONAL_IMAGE_MODELS=["hunyuan-vision"]
|
MARSHOAI_ADDITIONAL_IMAGE_MODELS=["hunyuan-vision"]
|
||||||
```
|
```
|
||||||
|
|
||||||
|
### 使用 DeepSeek-R1 模型
|
||||||
|
MarshoAI 兼容 DeepSeek-R1 模型,你可通过以下步骤来使用:
|
||||||
|
1. 获取 API Key
|
||||||
|
前往[此处](https://platform.deepseek.com/api_keys)获取 API Key。
|
||||||
|
2. 配置插件
|
||||||
|
```dotenv
|
||||||
|
MARSHOAI_TOKEN="<你的 API Key>"
|
||||||
|
MARSHOAI_AZURE_ENDPOINT="https://api.deepseek.com"
|
||||||
|
MARSHOAI_DEFAULT_MODEL="deepseek-reasoner"
|
||||||
|
```
|
||||||
|
你可修改 `MARSHOAI_DEFAULT_MODEL` 为 其它模型名来调用其它 DeepSeek 模型。
|
||||||
|
:::tip
|
||||||
|
如果使用 one-api 作为中转,你可将 `MARSHOAI_AZURE_ENDPOINT` 设置为 one-api 的地址,将 `MARSHOAI_TOKEN` 设为 one-api 配置的令牌,在 one-api 中添加 DeepSeek 渠道。
|
||||||
|
:::
|
||||||
|
|
||||||
### 使用 vLLM 部署本地模型
|
### 使用 vLLM 部署本地模型
|
||||||
|
|
||||||
你可使用 vLLM 部署一个本地 LLM,并使用 OpenAI 兼容 API 调用。
|
你可使用 vLLM 部署一个本地 LLM,并使用 OpenAI 兼容 API 调用。
|
||||||
|
Loading…
x
Reference in New Issue
Block a user