大网数据广告活动
数据库部署与 SQL 参考

RAG 示例

· 52CE 我爱测

1. 在 TiDB Cloud 控制台中,进入 **My TiDB** 页面,然后点击目标 {{{ .starter }}} 实例名称,进入其概览页面。 2. 点击右上角的 **Connect**。此时会弹出连接对话框,显示连接参数。 3. 根据连接参数设置环境变量,如下所示:

RAG 示例

本示例演示如何使用 pytidb(TiDB 官方 Python SDK)构建一个最小化的 RAG 应用。

该应用使用 Ollama 进行本地嵌入生成,使用 Streamlit 构建 Web UI,并通过 pytidb 搭建 RAG 流水线。

[图示请参阅官方原文]

基于 PyTiDB 构建的 RAG 应用

前置条件

在开始之前,请确保你已具备以下条件:

  • Python (>=3.10):安装 Python 3.10 或以上版本。
  • {{{ .starter }}} 实例:你可以在 TiDB Cloud 上创建一个免费的 {{{ .starter }}} 实例。
  • Ollama:从 Ollama 安装。

运行方法

步骤 1. 准备推理 API

使用 Ollama CLI 拉取 embedding 和 LLM 镜像:

ollama pull mxbai-embed-large
ollama pull gemma3:4b
ollama run gemma3:4b

验证 /embed 和 /generate 接口是否已启动:

curl http://localhost:11434/api/embed -d '{
  "model": "mxbai-embed-large",
  "input": "Llamas are members of the camelid family"
}'
curl http://localhost:11434/api/generate -d '{
  "model": "gemma3:4b",
  "prompt": "Hello, Who are you?"
}'

步骤 2. 克隆仓库

git clone https://github.com/pingcap/pytidb.git
cd pytidb/examples/rag/

步骤 3. 安装所需依赖并设置环境

python -m venv .venv
source .venv/bin/activate
pip install -r reqs.txt

步骤 4. 设置环境变量

  1. 在 TiDB Cloud 控制台中,进入 My TiDB 页面,然后点击目标 {{{ .starter }}} 实例名称,进入其概览页面。
  2. 点击右上角的 Connect。此时会弹出连接对话框,显示连接参数。
  3. 根据连接参数设置环境变量,如下所示:
cat > .env <<EOF
TIDB_HOST={gateway-region}.prod.aws.tidbcloud.com
TIDB_PORT=4000
TIDB_USERNAME={prefix}.root
TIDB_PASSWORD={password}
TIDB_DATABASE=test
EOF

步骤 5. 运行 Streamlit 应用

streamlit run main.py

打开浏览器并访问 http://localhost:8501。

故障排查

502 Bad Gateway 错误

尝试关闭你的全局代理设置。

相关资源

本文来自 PingCAP / TiDB 文档贡献者,按 CC BY-SA 3.0 整理版式与相对链接,保留正文与代码。图示请参阅原文。作者与贡献记录。

资料来源与适用范围

资料来源
PingCAP / TiDB 文档贡献者
适用范围
master 文档快照(2026-11-16)
内容语言
中文;命令、路径和错误标识保留技术原文
本地收录日期
2026-11-16
授权说明
CC BY-SA 3.0

正文与所需资源由本站本地存储。查看来源及更新记录 ↗

请按适用版本和实际日志确认原因;本站没有对每一种系统或设备逐项执行文中的操作。