Firecrawl MCP Server MCP 服务说明文档
1. 服务概述
一句话简介:集成Firecrawl的MCP服务器,提供全面的Web抓取、爬取和内容提取功能,支持多种输出格式和高级自动化操作。
- 服务名称:Firecrawl MCP Server
- 版本号:未明确提供
- 开发者/提供方:firecrawl
- 协议类型:MCP (Model Context Protocol)
2. 核心功能
该MCP服务提供的主要功能点:
- Web抓取:从单个或多个URL提取内容,支持多种格式(markdown、HTML、截图)、动态操作和结构化数据提取
- URL发现:使用站点地图或HTML链接发现从起点映射网站
- 爬取:执行异步爬取,支持深度控制、路径过滤和webhook通知
- 批量操作:高效处理多个URL,支持作业状态跟踪
- 搜索功能:进行Web搜索,支持结果抓取、语言和国家过滤器
- 结构化数据提取:使用LLM提取结构化信息,支持自定义提示和模式
- 深度研究:结合爬取、搜索和AI分析进行全面的Web研究
- 自定义操作:执行预抓取操作,如等待、点击和JavaScript执行
- 错误处理:内置重试、速率限制和强大的错误处理
- 监控:跟踪操作状态、信用使用和性能指标
3. 使用场景
该服务适合在以下情况下使用:
- Web内容提取:从网页中提取特定数据,如产品信息、新闻文章、价格等
- 网站爬取:爬取整个网站或特定部分,获取多页面内容
- 数据采集:批量采集多个URL的内容,构建数据集
- Web搜索:搜索Web内容并自动抓取搜索结果
- 动态内容处理:处理JavaScript渲染的动态网页内容
- 结构化数据提取:从非结构化Web内容中提取结构化数据
- 市场研究:自动化收集竞争对手信息、市场数据等
- 内容监控:监控网站变化,跟踪内容更新
- AI训练数据:为AI模型训练收集和准备Web数据
4. 接入方式
4.1 服务端点
Firecrawl MCP Server支持多种运行方式:
- NPX运行:使用npx直接运行,无需安装
- 全局安装:通过npm全局安装
- Docker运行:使用Docker容器运行
- HTTP流式传输:支持Streamable HTTP本地模式
4.2 认证与权限
使用该服务需要:
- 必需:FIRECRAWL_API_KEY(Firecrawl API密钥)
- 可选:FIRECRAWL_API_URL(自托管实例的自定义API端点)
- 可选:重试配置参数
- 可选:信用使用监控阈值
4.3 数据格式
服务支持多种输出格式:
- JSON格式(推荐):结构化数据,支持自定义模式
- Markdown格式:适合需要完整页面内容的场景
- HTML格式:原始HTML内容
- 截图格式:页面截图
- 品牌格式:提取品牌标识(颜色、字体、排版等)
4.4 服务器配置
在Cursor中配置:
{ "mcpServers": { "firecrawl-mcp": { "command": "npx", "args": ["-y", "firecrawl-mcp"], "env": { "FIRECRAWL_API_KEY": "YOUR-API-KEY" } } } }5. 接口定义
5.1 核心工具
| 工具名称 | 最佳用途 | 返回结果 |
|---|---|---|
| scrape | 单页内容提取,已知确切URL | JSON(推荐)或markdown |
| batch_scrape | 多个已知URL的内容提取 | JSON或markdown[] |
| map | 发现网站上的URL | URL[] |
| crawl | 多页面提取(有限制) | markdown/html[] |
| search | Web搜索信息 | results[] |
| agent | 复杂的多源研究 | JSON(结构化数据) |
| interact | 与抓取的页面交互 | 执行结果 |
5.2 工具选择指南
如果您知道确切的URL:
- 单个URL:使用scrape(JSON格式用于结构化数据)
- 多个URL:使用batch_scrape
如果您需要发现URL:使用map
如果您想搜索Web信息:使用search
如果需要复杂的多源研究:使用agent
如果需要分析整个网站:使用crawl(注意限制!)
6. 快速开始
6.1 环境要求
- Node.js环境
- Firecrawl API密钥(从https://www.firecrawl.dev/app/api-keys获取)
6.2 安装和运行
使用NPX运行(推荐)
env FIRECRAWL_API_KEY=fc-YOUR_API_KEY npx -y firecrawl-mcp全局安装
npm install -g firecrawl-mcp使用HTTP流式传输
env HTTP_STREAMABLE_SERVER=true FIRECRAWL_API_KEY=fc-YOUR_API_KEY npx -y firecrawl-mcp # 使用URL: http://localhost:3000/mcp6.3 使用示例
抓取单个页面(JSON格式)
{ "name": "firecrawl_scrape", "arguments": { "url": "https://example.com/product", "formats": [{ "type": "json", "prompt": "Extract the product information", "schema": { "type": "object", "properties": { "name": { "type": "string" }, "price": { "type": "number" }, "description": { "type": "string" } }, "required": ["name", "price"] } }] } }抓取单个页面(Markdown格式)
{ "name": "firecrawl_scrape", "arguments": { "url": "https://example.com/article", "formats": ["markdown"], "onlyMainContent": true } }批量抓取多个URL
{ "name": "firecrawl_batch_scrape", "arguments": { "urls": ["https://example1.com", "https://example2.com"], "options": { "formats": ["markdown"], "onlyMainContent": true } } }7. 注意事项
重要提示
- API密钥管理:妥善保管Firecrawl API密钥,不要提交到版本控制系统
- 格式选择:优先使用JSON格式提取特定数据,避免上下文窗口溢出
- Markdown使用:仅在确实需要完整页面内容时使用Markdown格式
- 速率限制:服务内置速率限制处理和指数退避重试
- 信用监控:可配置信用使用警告和关键阈值
- 自托管支持:支持自托管Firecrawl实例,需配置FIRECRAWL_API_URL
- 重试配置:可自定义重试次数、延迟和退避因子
- 多客户端支持:支持Cursor、Windsurf、VS Code、Claude Desktop等
- 许可证:该项目采用MIT许可证
配置参数
默认配置值:
- 最大重试次数:3
- 初始延迟:1000毫秒
- 最大延迟:10000毫秒
- 退避因子:2
- 信用警告阈值:1000
- 信用关键阈值:100