简历

江中智能助手 · 核心交付 ​

交付概览 ​

项目由五块组成：单机模型网关与模型部署、助手服务端、前端 SDK，以及江中集团数字孪生宿主。各部分的定位、技术栈和功能如下。

模型网关 ​

  • 简介：Python 单体模型网关，提供模型 API 和服务端管理门户。
  • 技术栈：Python 3.11+、FastAPI、Uvicorn、Pydantic Settings、SQLAlchemy 2、SQLite、Jinja2、JWT、httpx。
  • 功能描述：提供 OpenAI 兼容的对话与嵌入接口；门户管理登录和用户 API Key，门户 JWT 与模型调用 Key 分开使用；通过 httpx 转发至仓库外的本机 vLLM，并在进程内管理并发槽和等待池。

模型部署 ​

  • 简介：独立于模型网关仓库的本机推理环境，在 Windows + WSL2 中运行 vLLM。
  • 技术栈：WSL2 Ubuntu 24.04、Python 3.12、vLLM 0.28.0、NVIDIA RTX 5060 Ti 16GB。
  • 功能描述：运行 Qwen3.5-9B-AWQ，在 8001 提供 OpenAI 兼容的流式对话接口，供模型网关调用。

助手服务端 ​

  • 简介：负责接收对话请求，协调知识查询、中台查询和模型调用。
  • 技术栈：TypeScript、Node.js、Express 5、Zod、YAML、SSE、Dify、MCP。
  • 功能描述：通过 HTTP/SSE 接收请求；根据路由和执行结果选择已登记方法并校验参数；知识查询接 Dify，中台查询经 MCP；规划和生成终答时调用模型网关。服务端不直接访问中台 SQL。

前端 SDK ​

  • 简介：为宿主页面提供可嵌入的对话能力，并与服务端按统一契约交换请求、响应和场景动作。
  • 技术栈：Vue 3、TypeScript、Vite、Zod、SSE。
  • 功能描述：承接用户输入并展示对话，通过插件接入知识、中台、场景和语音能力，处理 SSE 消息，并将 sceneActions 分发给宿主；密钥保留在服务端。

江中集团数字孪生项目（宿主端） ​

  • 简介：江中集团数字孪生项目作为三维场景宿主，承接助手返回的场景动作。
  • 技术栈：Vue 3、TypeScript、Vite、Pinia、Element Plus、ThingJS 2.0、ECharts、ECharts-GL、WebSocket、MQTT、SCSS、阿里云 NLS TTS。
  • 功能描述：宿主通过 scene.register 登记三维方法；助手只返回 { name, params }，飞行、聚焦和高亮等操作由宿主执行。