OpenAI モデレーション API

バージョン 24.1.0 以降、Java エージェントでは OpenAI モデレーション API がサポートされます。モデレーション API は、クエリされたステートメントがポリシーに準拠しているかどうかをユーザーに求めます。Java エージェントでは、次のメトリックがキャプチャされます。

  • Calls to moderations API: OpenAI|moderations|Calls per minute
  • Flagged category metrics: OpenAI|moderations|Flagged Calls by category|hate
  • Flagged queries count: OpenAI|moderations|Flagged queries
  • Total queries count: OpenAI|moderations|Total queries