Firecrawl MCP Server MCP 服务说明文档

发布时间:2026/11/4 16:15:31
Firecrawl MCP Server MCP 服务说明文档

1. 服务概述

一句话简介:集成Firecrawl的MCP服务器,提供全面的Web抓取、爬取和内容提取功能,支持多种输出格式和高级自动化操作。

  • 服务名称:Firecrawl MCP Server
  • 版本号:未明确提供
  • 开发者/提供方:firecrawl
  • 协议类型:MCP (Model Context Protocol)

2. 核心功能

该MCP服务提供的主要功能点:

  • Web抓取:从单个或多个URL提取内容,支持多种格式(markdown、HTML、截图)、动态操作和结构化数据提取
  • URL发现:使用站点地图或HTML链接发现从起点映射网站
  • 爬取:执行异步爬取,支持深度控制、路径过滤和webhook通知
  • 批量操作:高效处理多个URL,支持作业状态跟踪
  • 搜索功能:进行Web搜索,支持结果抓取、语言和国家过滤器
  • 结构化数据提取:使用LLM提取结构化信息,支持自定义提示和模式
  • 深度研究:结合爬取、搜索和AI分析进行全面的Web研究
  • 自定义操作:执行预抓取操作,如等待、点击和JavaScript执行
  • 错误处理:内置重试、速率限制和强大的错误处理
  • 监控:跟踪操作状态、信用使用和性能指标

3. 使用场景

该服务适合在以下情况下使用:

  • Web内容提取:从网页中提取特定数据,如产品信息、新闻文章、价格等
  • 网站爬取:爬取整个网站或特定部分,获取多页面内容
  • 数据采集:批量采集多个URL的内容,构建数据集
  • Web搜索:搜索Web内容并自动抓取搜索结果
  • 动态内容处理:处理JavaScript渲染的动态网页内容
  • 结构化数据提取:从非结构化Web内容中提取结构化数据
  • 市场研究:自动化收集竞争对手信息、市场数据等
  • 内容监控:监控网站变化,跟踪内容更新
  • AI训练数据:为AI模型训练收集和准备Web数据

4. 接入方式

4.1 服务端点

Firecrawl MCP Server支持多种运行方式:

  • NPX运行:使用npx直接运行,无需安装
  • 全局安装:通过npm全局安装
  • Docker运行:使用Docker容器运行
  • HTTP流式传输:支持Streamable HTTP本地模式

4.2 认证与权限

使用该服务需要:

  • 必需:FIRECRAWL_API_KEY(Firecrawl API密钥)
  • 可选:FIRECRAWL_API_URL(自托管实例的自定义API端点)
  • 可选:重试配置参数
  • 可选:信用使用监控阈值

4.3 数据格式

服务支持多种输出格式:

  • JSON格式(推荐):结构化数据,支持自定义模式
  • Markdown格式:适合需要完整页面内容的场景
  • HTML格式:原始HTML内容
  • 截图格式:页面截图
  • 品牌格式:提取品牌标识(颜色、字体、排版等)

4.4 服务器配置

在Cursor中配置:

{ "mcpServers": { "firecrawl-mcp": { "command": "npx", "args": ["-y", "firecrawl-mcp"], "env": { "FIRECRAWL_API_KEY": "YOUR-API-KEY" } } } }

5. 接口定义

5.1 核心工具

工具名称最佳用途返回结果
scrape单页内容提取,已知确切URLJSON(推荐)或markdown
batch_scrape多个已知URL的内容提取JSON或markdown[]
map发现网站上的URLURL[]
crawl多页面提取(有限制)markdown/html[]
searchWeb搜索信息results[]
agent复杂的多源研究JSON(结构化数据)
interact与抓取的页面交互执行结果

5.2 工具选择指南

如果您知道确切的URL:

  • 单个URL:使用scrape(JSON格式用于结构化数据)
  • 多个URL:使用batch_scrape

如果您需要发现URL:使用map

如果您想搜索Web信息:使用search

如果需要复杂的多源研究:使用agent

如果需要分析整个网站:使用crawl(注意限制!)

6. 快速开始

6.1 环境要求

  • Node.js环境
  • Firecrawl API密钥(从https://www.firecrawl.dev/app/api-keys获取)

6.2 安装和运行

使用NPX运行(推荐)
env FIRECRAWL_API_KEY=fc-YOUR_API_KEY npx -y firecrawl-mcp
全局安装
npm install -g firecrawl-mcp
使用HTTP流式传输
env HTTP_STREAMABLE_SERVER=true FIRECRAWL_API_KEY=fc-YOUR_API_KEY npx -y firecrawl-mcp # 使用URL: http://localhost:3000/mcp

6.3 使用示例

抓取单个页面(JSON格式)
{ "name": "firecrawl_scrape", "arguments": { "url": "https://example.com/product", "formats": [{ "type": "json", "prompt": "Extract the product information", "schema": { "type": "object", "properties": { "name": { "type": "string" }, "price": { "type": "number" }, "description": { "type": "string" } }, "required": ["name", "price"] } }] } }
抓取单个页面(Markdown格式)
{ "name": "firecrawl_scrape", "arguments": { "url": "https://example.com/article", "formats": ["markdown"], "onlyMainContent": true } }
批量抓取多个URL
{ "name": "firecrawl_batch_scrape", "arguments": { "urls": ["https://example1.com", "https://example2.com"], "options": { "formats": ["markdown"], "onlyMainContent": true } } }

7. 注意事项

重要提示

  • API密钥管理:妥善保管Firecrawl API密钥,不要提交到版本控制系统
  • 格式选择:优先使用JSON格式提取特定数据,避免上下文窗口溢出
  • Markdown使用:仅在确实需要完整页面内容时使用Markdown格式
  • 速率限制:服务内置速率限制处理和指数退避重试
  • 信用监控:可配置信用使用警告和关键阈值
  • 自托管支持:支持自托管Firecrawl实例,需配置FIRECRAWL_API_URL
  • 重试配置:可自定义重试次数、延迟和退避因子
  • 多客户端支持:支持Cursor、Windsurf、VS Code、Claude Desktop等
  • 许可证:该项目采用MIT许可证

配置参数

默认配置值:

  • 最大重试次数:3
  • 初始延迟:1000毫秒
  • 最大延迟:10000毫秒
  • 退避因子:2
  • 信用警告阈值:1000
  • 信用关键阈值:100