← 文章 / 科技资讯
signoz 11天前 · 2026-11-11 23:16:27 · 9 阅读

使用 OpenTelemetry 监控 Amazon Bedrock - Token 用量

本指南将带你完成基于 OpenTelemetry 为 Amazon Bedrock 搭建监控与可观测性体系,并将日志、链路和指标导出到 SigNoz。完成集成后,你可以在 SigNoz 中观察模型性能、捕获请求/响应详情、追踪系统级指标,实时掌握 Bedrock 应用的延迟、错误率和使用趋势。

相比直接调用 LLM 模型,很多开发者选择 Amazon Bedrock,是因为它具备一系列企业级特性:通过统一 API 访问多个基础模型(Claude、Llama、Titan 等)、内置负责任 AI 安全防护、模型调用不出 AWS 基础设施从而保障私密与安全、托管式基础设施免去自行管理模型部署、支持用自己的数据做微调且不牺牲隐私,还能与 S3、Lambda、CloudWatch 等 AWS 服务无缝集成。对于需要生产级可靠性、合规性,又希望简化模型管理、摆脱直接部署模型复杂度的组织来说,Amazon Bedrock 尤其有价值。

在 LLM 应用中为 Amazon Bedrock 埋入遥测数据,可以实现对 AI 工作流的全面可观测,让问题排查、性能优化和用户行为分析都更加轻松。借助 SigNoz,你可以在统一的仪表盘中分析相互关联的链路、日志和指标,配置告警,获得可落地的洞察,持续提升可靠性、响应速度和用户体验。

前置条件

  • SigNoz 环境(二选一):
  • 可访问互联网,以便向 SigNoz Cloud 发送遥测数据
  • 一个 AWS 账户,已开通 Amazon Bedrock 并获得 LLM 模型访问权限
  • Python 环境:已安装 pip 用于管理依赖包,(可选但推荐)使用 Python 虚拟环境隔离依赖

监控 Amazon Bedrock

PythonNo Code(推荐)代码

为了快速搭建监控且尽量不改动代码,建议使用无代码自动埋点方案。如果你希望不修改应用代码即可启用可观测性,并且正在使用标准的埋点库,那么这种方式非常合适。

第一步:在 Python 环境中安装所需的包。

Copy
pip install \
  opentelemetry-distro \
  opentelemetry-exporter-otlp \
  opentelemetry-instrumentation-httpx \
  opentelemetry-instrumentation-system-metrics \
  openinference-instrumentation-bedrock \
  boto3

第二步:添加自动埋点

Copy
opentelemetry-bootstrap --action=install

第三步:配置日志级别

为确保日志被正确捕获和导出,请将根日志记录器(root logger)设置为 INFO 级别或更高:

Copy
import logging
logging.getLogger().setLevel(logging.INFO)

这将把根日志记录器的最低日志级别设为 INFO,从而确保 OpenTelemetry 的日志自动埋点能够捕获 logger.info() 调用及更严重级别的日志(WARNING、ERROR、CRITICAL),并将其发送到 SigNoz。

第四步:运行示例

Copy
import boto3
import os
import logging
 
logging.getLogger().setLevel(logging.INFO)
logger = logging.getLogger(__name__)
 
 
bedrock = boto3.client(
    service_name="bedrock-runtime",
    aws_access_key_id=os.getenv("AWS_ACCESS"), aws_secret_access_key=os.getenv("AWS_SECRET"),
    region_name="us-east-1"  # or your region
)
model_id = "us.anthropic.claude-sonnet-4-5-20250929-v1:0"
 
prompt = "What is SigNoz?"
logger.info(f"Sending prompt to model {model_id}: {prompt}") #sample log
body = {
    "anthropic_version": "bedrock-2023-05-31",
    "messages": [
        {
            "role": "user",
            "content": [
                {"type": "text", "text": prompt}
            ]
        }
    ],
    "max_tokens": 512,
    "temperature": 0.7
}
response = bedrock.invoke_model(
    modelId=model_id,
    body=json.dumps(body)
)
 
response_body = json.loads(response['body'].read())
 
output_text = response_body['content'][0]['text']
 
print("Model output:\n", output_text)
展开 40 行

📌 注意:BedrockInstrumentor 不会自动输出日志。如果需要日志,必须通过 logger.info() 等方式手动输出。

第 5 步:以自动插桩方式运行应用

Copy
OTEL_RESOURCE_ATTRIBUTES="service.name=<service_name>" \
OTEL_EXPORTER_OTLP_ENDPOINT="https://ingest.<region>.signoz.cloud:443" \
OTEL_EXPORTER_OTLP_HEADERS="signoz-ingestion-key=<your-ingestion-key>" \
OTEL_EXPORTER_OTLP_PROTOCOL=grpc \
OTEL_TRACES_EXPORTER=otlp \
OTEL_METRICS_EXPORTER=otlp \
OTEL_LOGS_EXPORTER=otlp \
OTEL_PYTHON_LOG_CORRELATION=true \
OTEL_PYTHON_LOGGING_AUTO_INSTRUMENTATION_ENABLED=true \
opentelemetry-instrument <your_run_command>
  • <service_name>:你的服务名称
  • <region>:你的 SigNoz Cloud 区域
  • <your-ingestion-key>:你的 SigNoz ingestion key
  • 把 <your_run_command> 替换为你实际运行应用的命令,例如 python main.py
Info

使用自托管 SigNoz?大部分步骤相同。只需按 Cloud → Self-Hosted 所述更新 endpoint 并移除 ingestion key 请求头即可。

基于代码的插桩可以让你对遥测配置进行细粒度控制。当你需要自定义 resource 属性、采样策略,或与现有可观测性基础设施集成时,可以采用这种方式。

第 1 步:在 Python 环境中安装所需的包。

Copy
pip install \
  opentelemetry-api \
  opentelemetry-sdk \
  opentelemetry-exporter-otlp \
  opentelemetry-instrumentation-httpx \
  opentelemetry-instrumentation-system-metrics \
  openinference-instrumentation-bedrock \
  boto3

第 2 步:在 Python 应用中导入所需的模块

Traces:

Copy
from openinference.instrumentation.bedrock import BedrockInstrumentor
from opentelemetry import trace
from opentelemetry.sdk.resources import Resource
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import BatchSpanProcessor
from opentelemetry.exporter.otlp.proto.http.trace_exporter import OTLPSpanExporter

日志:

Copy
from opentelemetry.sdk._logs import LoggerProvider, LoggingHandler
from opentelemetry.sdk._logs.export import BatchLogRecordProcessor
from opentelemetry.exporter.otlp.proto.http._log_exporter import OTLPLogExporter
from opentelemetry._logs import set_logger_provider
import logging

指标:

Copy
from opentelemetry.sdk.metrics import MeterProvider
from opentelemetry.exporter.otlp.proto.http.metric_exporter import OTLPMetricExporter
from opentelemetry.sdk.metrics.export import PeriodicExportingMetricReader
from opentelemetry import metrics
from opentelemetry.instrumentation.system_metrics import SystemMetricsInstrumentor
from opentelemetry.instrumentation.httpx import HTTPXClientInstrumentor

第 3 步: 配置 OpenTelemetry 的 Tracer Provider,以直接向 SigNoz Cloud 发送链路追踪数据

Copy
from opentelemetry.sdk.resources import Resource
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import BatchSpanProcessor
from opentelemetry.exporter.otlp.proto.http.trace_exporter import OTLPSpanExporter
from opentelemetry import trace
import os
 
resource = Resource.create({"service.name": "<service_name>"})
provider = TracerProvider(resource=resource)
span_exporter = OTLPSpanExporter(
    endpoint= os.getenv("OTEL_EXPORTER_TRACES_ENDPOINT"),
    headers={"signoz-ingestion-key": os.getenv("SIGNOZ_INGESTION_KEY")},
)
processor = BatchSpanProcessor(span_exporter)
provider.add_span_processor(processor)
trace.set_tracer_provider(provider)
  • <service_name> 是你的服务名称
  • OTEL_EXPORTER_TRACES_ENDPOINT → 对应 区域 的 SigNoz Cloud 追踪端点:https://ingest.<region>.signoz.cloud:443/v1/traces
  • SIGNOZ_INGESTION_KEY → 你的 SigNoz ingestion key
  • Info

    使用自托管 SigNoz?大部分步骤完全一致。只需按 Cloud → Self-Hosted 的说明修改 endpoint,并去掉 ingestion key 请求头即可。

    第 4 步:使用 BedrockInstrumentor 和已配置的 Tracer Provider 对 Bedrock 进行埋点

    Copy
    from openinference.instrumentation.bedrock import BedrockInstrumentor
     
    BedrockInstrumentor().instrument()

    📌 注意:请把这段代码放在应用逻辑的最开头——在任何 Bedrock 函数被调用或使用之前——以确保遥测数据被正确采集。

    第 5 步:配置日志

    Copy
    import logging
    from opentelemetry.sdk.resources import Resource
    from opentelemetry._logs import set_logger_provider
    from opentelemetry.sdk._logs import LoggerProvider, LoggingHandler
    from opentelemetry.sdk._logs.export import BatchLogRecordProcessor
    from opentelemetry.exporter.otlp.proto.http._log_exporter import OTLPLogExporter
    import os
     
    resource = Resource.create({"service.name": "<service_name>"})
    logger_provider = LoggerProvider(resource=resource)
    set_logger_provider(logger_provider)
     
    otlp_log_exporter = OTLPLogExporter(
        endpoint= os.getenv("OTEL_EXPORTER_LOGS_ENDPOINT"),
        headers={"signoz-ingestion-key": os.getenv("SIGNOZ_INGESTION_KEY")},
    )
    logger_provider.add_log_record_processor(
        BatchLogRecordProcessor(otlp_log_exporter)
    )
    # Attach OTel logging handler to root logger
    handler = LoggingHandler(level=logging.INFO, logger_provider=logger_provider)
    logging.basicConfig(level=logging.INFO, handlers=[handler])
     
    logger = logging.getLogger(__name__)
    Expand 24 lines
    • <service_name> 是你的服务名称
    • OTEL_EXPORTER_LOGS_ENDPOINT → SigNoz Cloud endpoint,需使用对应 region:https://ingest.<region>.signoz.cloud:443/v1/logs
    • SIGNOZ_INGESTION_KEY → 你的 SigNoz ingestion key

    📌 注意:BedrockInstrumentor 不会自动输出日志。如需记录日志,请手动通过 logger.info() 或其他日志方法输出。

    使用自建 SigNoz?大部分步骤相同。本指南需要做相应调整
    原始来源: signoz

    评论 (0)