跳到主要内容
智能体开发9 分钟阅读

把视觉能力接进 Cursor 与 Claude Code:开源 MCP 视觉服务架构与本地 Ollama 部署指南

AI 编程智能体文本极强,但面对设计稿、报错截图和复杂表格时却“双目失明”。深入解析 Model Context Protocol (MCP) 视觉架构,详解如何用 Shadow Vision 实现本地截屏 OCR 与 UI 还原代码。

#MCP 协议#Cursor 视觉插件#Claude Code#本地 Ollama 部署#截图识别代码#AI 编程智能体

当 AI Agent 遭遇视觉盲区:“对不起,我看不到你发的图片”

过去一年里,Cursor、Claude Code、Codex 等 AI 编程助手深刻重构了软件工程的生产力范式。

但几乎每个开发者都踩过这样一个恼人的坑:

当你遇到一个复杂的界面样式 Bug,或者拿到设计师给的一张精美 UI 原型图,随手截图发给 Agent,满心期待它直接给出修复补丁或生成 Tailwind 代码时,终端里却冷冷地弹出一句话:

"I cannot view images in this terminal environment. Please provide the text or code directly."

文本大模型在推理与逻辑生成上极其强大,但在无界面的开发终端里,它们被剥夺了“眼睛”。


破局利器:Model Context Protocol (MCP) 视觉标准化

为了解决大模型与外部工具的连接摩擦,Anthropic 开源了 Model Context Protocol (MCP) 协议。它就像 AI 世界的 USB-C 接口,为智能体提供了标准化的外部数据感知与工具调用规范。

基于此,我开源了 Shadow Vision (影瞳),一个专门为 AI Agent 提供多模态视觉感知的 MCP 服务器。

通过在 Agent 配置文件中加上一行命令,你的 Cursor、Claude Code 便立刻拥有了六大结构化视觉工具:

  1. vision_ocr:精准识别报错弹窗、控制台截图、票据及多列复杂表格中的文本;
  2. vision_inspect:深度诊断界面渲染问题,解释图表、报错原因及视觉异常;
  3. vision_annotate:读懂画面的红框圈选、箭头指示与高亮下划线,精确锁定目标区域;
  4. vision_layout:将参考设计图递归分解为元素层级树、间距与配色规范;
  5. vision_reconstruct核心大招——直接将一张 UI 截图逆向重构为干净优雅的 React / HTML / Tailwind 源码草稿;
  6. vision_compare:比对修改前后的两张视觉截图,自动找出像素级样式差异与回归 Bug。

拒绝代码泄露:可插拔后端与本地 Ollama 离线部署

企业开发者最大的担忧是商业机密与源码截图泄露。很多在线视觉 API 要求将图片传至公网,这在严格的企业内网政策下绝对禁止。

Shadow Vision 在底层架构上采用了完全解耦的可插拔视觉后端(Pluggable Backends)

  • 本地离线模式(Local-First):原生支持本地运行的 Ollama(一键挂载开源视觉大模型如 Qwen2-VL、LLaVA)。整套视觉推理与图像数据完全运行在本地 GPU/CPU 上,不向外网发送任何一字节网络数据;
  • 云端强力模式(Cloud Pro):当需要极高精度的视觉推理时,可自由切换至 Anthropic Claude 3.5 Sonnet 或 Google Gemini 多模态模型;
  • 自建兼容网关:支持任何遵循 OpenAI-compatible 协议的自建集群(如 LM Studio、vLLM)。

极速配置示例(Claude Desktop / Cursor):

json
{
  "mcpServers": {
    "shadow-vision": {
      "command": "uv",
      "args": ["run", "shadow-vision"],
      "env": {
        "VISION_BACKEND": "ollama",
        "OLLAMA_MODEL": "qwen2-vl:7b"
      }
    }
  }
}

让只会读文字的 AI 睁开双眼看懂屏幕,这是人机协作编程走向下一代真正具身化智能的关键一步。

全部实战手记