指向您的本地服务

openclaw OpenClaw手册 2026-04-09 2

很高兴为您介绍AI小龙虾OpenClaw！目前网络上名为“OpenClaw”的AI工具或项目可能有多个，为了给您提供最准确的指南,我首先需要明确我们指的是哪一个。

指向您的本地服务-第1张图片-OpenClaw 开源免费 -中文免费安装

“OpenClaw”可能指代以下两类项目：

一个开源的、模仿OpenAI API接口的本地AI部署工具（常被称为“OpenAI的平替”或“本地化API服务”）。
一个具体的、名称包含“Claw”的AI应用或研究项目（例如某个图像识别或机械臂控制项目）。

假设您指的是第1类（通用的开源AI工具OpenClaw）：

这类工具的核心目标是让您能在自己的电脑或服务器上，部署开源大语言模型（如 Llama、Qwen、ChatGLM等），并提供一个与OpenAI官方API完全兼容的接口，这意味着，您可以像使用ChatGPT的API一样,使用自己本地或私有的模型。

以下是快速上手指南：

第一步：环境准备

系统要求：推荐使用 Linux（如Ubuntu）或 macOS,Windows可通过WSL2获得最佳体验。
安装Python：确保系统已安装 Python 3.8+。
安装Git：用于下载代码。
硬件要求：
- CPU：可运行,但速度较慢。
- GPU（强烈推荐）：至少8GB显存的NVIDIA显卡，能获得可用速度,16GB以上显存可运行更强大的模型。

第二步：下载与安装

常见的一个流行项目是 OpenAI-Compatible API Server，text-generation-webui（oobabooga）的API模式 或 vLLM 框架。

这里以功能全面的 text-generation-webui 为例：

克隆仓库：

git clone https://github.com/oobabooga/text-generation-webui
cd text-generation-webui

安装依赖：

Linux/macOS:
```
pip install -r requirements.txt
```

Windows（使用PowerShell）：

python -m pip install -r requirements.txt --upgrade

第三步：下载模型

前往模型平台（如 Hugging Face: https://huggingface.co），选择一个适合您显存的开源模型。
- Qwen2.5-7B-Instruct（性能优秀,需约8GB显存）
- Llama-3.2-3B-Instruct（轻量,需约4GB显存）
- ChatGLM3-6B（中文优化）
在 text-generation-webui 的 models 目录下，使用Git克隆模型文件,或使用其内置的模型下载工具。

第四步：启动OpenClaw（API服务）

启动WebUI并开启API模式：

python server.py --api --listen

或者，如果您使用 vLLM：

vllm serve your-model-name --api-key optional-key --port 8000

服务启动后，API接口通常运行在 http://localhost:8000/v1（或7860等端口）。

第五步：快速测试

您可以使用 curl 或 Python 脚本测试API是否工作。

Python测试示例：

from openai import OpenAI
client = OpenAI(
    base_url="http://localhost:8000/v1",
    api_key="no-key-required" # 若未设置密钥，可随意填写
)
completion = client.chat.completions.create(
    model="your-model-name", # 与加载的模型名一致
    messages=[
        {"role": "user", "content": "你好！请介绍一下你自己。"}
    ]
)
print(completion.choices[0].message.content)