イベントを介した生成人工知能アプリケーションのモニタリング

Python エージェントは、大規模言語モデル(LLM)およびベクトルデータベースでの操作のイベントをキャプチャして公開します。これは、コントローラでの生成人工知能アプリケーションの動作をモニターおよび分析するのに役立ちます。

生成人工知能アプリケーションのモニタリングイベントを有効にすると、Python エージェントは、サポートされているフレームワークからの LLM およびベクトルデータベースコールをインストゥルメント化します。その後、イベントデータを Events サービスにパブリッシュし、このデータがコントローラに表示されます。このデータを使用して生成人工知能アプリケーションの動作を分析し、必要に応じてアクションを実行します。

サポートされているフレームワーク

イベントデータをモニターするように Python インストルメンテーションを有効にすると、Python エージェントは次のフレームワークから自動的にイベントを収集します。

フレームワーク フラグ
AWS Bedrock enable-bedrock
LangChain LLM およびベクトルストア enable-langchain
OpenAI クライアント enable-openai

前提条件

  • Python エージェント 25.10.0 以降をインストールします。

  • エージェントのインストルメンテーションによって、必要なフレームワークを有効にします。

    たとえば、OpenAI イベントをキャプチャし、enable-openaienable-genai-events の両方を true に設定します。

イベントモニター用の Python エージェントの設定

/path/to/appdynamics.cfg ファイルを更新します。
  1. [services:events] セクションで、enable-genai-events フラグを trueに設定します。
    CODE
    [services:events]
    	enable-genai-events = true
    	event-service-url = https://your-events-api-endpoint.com
    	event-service-account-name = <your_account_name>
    	event-service-access-key = <your_access_key_here>
  2. [instrumentation] セクションで、必要なフレームワークを有効にします。
    コードの例:
    CODE
    [instrumentation]
    	enable-openai = true
    	enable-langchain = true 
    	enable-bedrock = true
  3. (オプション)高度なイベントサービス設定を構成します。
    イベントバッファリング、再試行動作、および接続設定をカスタマイズします。[services:events] を参照してください。