7 v1.0.1 更新于 2026-10-21

GenPark Adaptive Batch Request Debouncer MCP Server

自适应滑动窗口查询防抖与微批合并引擎,优化 LLM 吞吐量。

安装配置

远程接入(http)

{
  "mcpServers": {
    "genpark-adaptive-batch-request-debouncer-skill": {
      "url": "https://genpark.ai/mcp"
    }
  }
}

将上方 JSON 加入 MCP 客户端配置(如 Claude Desktop 的 claude_desktop_config.json 或项目的 .mcp.json)即可接入;远程接入按客户端要求填写 URL 与鉴权头。

add_request

将请求加入去抖动窗口队列

flush_ready_batches

刷新满足大小阈值或等待超时的微批次

get_batch_metrics

获取去抖动器的吞吐量、队列深度和压缩指标

clear_batches

清空所有活跃的请求队列