AIの鬼
#新モデル Zenn AI

OTelの移行フラグ1つでAgent Framework 1.15.0の会話本文が消えた

OTelの移行フラグ1つでAgent Framework 1.15.0の会話本文が消えた(内容を表す図ではないイメージ画像)
イメージ

MicrosoftのAgent Framework 1.15.0がOpenTelemetryの規約移行に対応した。リリースノートは「環境変数で規約バージョンを選べるようにした」という穏当な話に見えた。実際に比べると全然違う。OTEL_SEMCONV_STABILITY_OPT_INという環境変数が、GenAIとは無関係な値(httpなど)を持っているだけで、会話本文(gen_ai.input.messages)がspan属性から消える。さらにENABLE_SENSITIVE_DATA=trueで本文を記録している環境なら、本文がログイベントに二重に出始める。アップグレードだけで踏める罠だ。何が怖いかというと「ダッシュボードから会話本文が消える」「だが例外は出ない」「ユーザーはしばらく気づかない」ということ。

ここが本音の部分だ。上流のOpenTelemetryは規約を整理して、GenAI関連の属性をsemantic-conventions-genaiという別リポジトリに移した。その移転過程で、古い移行指示に基づくAgent Frameworkの実装が、現行ドキュメントから消えた。ドキュメントと実装が非同期で進むと、こういう落とし穴が生まれる。ユーザーはアップグレード前後で環境変数を変えていないのに、spanの形が静かに変わる。オブザーバビリティが見えなくなることほど、まずい話はない。本文がダッシュボードから消えたことに気づくまで数日かかる可能性もある。その間、テレメトリの見張りは死んでいる。

対処は「アップデート前に本番環境での動作を確認する」こと。これは開発環境だけでは見つからない。開発環境のOTEL_SEMCONV_STABILITY_OPT_INは設定されていないか、設定されていても古い習慣で相応しい値が入っている。だが本番環境では、複数のテレメトリサービスに対応するために、HTTPやデータベースの値が先に入っていることが多い。その環境でアップグレードして初めて、予期しない挙動に気づく。今はアップグレード前に「本番環境そのもので試す」習慣が、必須になった。

※ 上記は配信元記事をもとにAIの鬼編集部が要約・再構成したものです。正確な内容は出典元をご確認ください。

御社でもAIを使ってみませんか
まずはここから 御社でもAIを使ってみませんか? 御社の実際の業務を題材に、AIで何ができるかを一緒に考えます。 「ChatGPTの使い方」を教えるだけの研修ではありません。 AI研修・AI活用相談 →