Content Moderation

gws-modelarmor は、googleworkspace/cli エコシステムで Google Model Armor を扱うのに役立ちます。プロンプトのサニタイズ、モデル応答のサニタイズ、テンプレート作成を、汎用的なプロンプトよりも少ない試行錯誤で進められます。繰り返し使う前提の、ポリシーを意識した運用や Security Audit ワークフロー向けに設計されています。

azure-ai-contentsafety-ts は、TypeScript で Azure AI Content Safety を使ってテキストと画像の有害コンテンツを分析するのに役立ちます。ヘイト、暴力、性的コンテンツ、自傷行為に対するモデレーション、ブロックリスト運用、セキュリティ監査チェックに使えるスキルです。Azure のエンドポイント設定と認証設定もカバーしています。

azure-ai-contentsafety-py は、Python チームが Azure AI Content Safety を使って、有害なテキストや画像を重大度ベースでモデレーションするのに役立ちます。Azure ネイティブなセットアップ、認証、`ContentSafetyClient` の使い方が必要なバックエンドサービス、API ゲートウェイ、レビュー用パイプラインに向いています。

azure-ai-contentsafety-java を使って、Java で Azure AI Content Safety の連携を構築できます。テキストと画像のモデレーション、ブロックリスト管理、有害性検出に対応し、Security Audit ワークフローにも適しています。クライアント設定、認証、レビュー判断にまつわる試行錯誤を減らしたい場合に役立つ skill です。