チャットフィルタリング
メッセージに含まれる個人情報や企業が登録した禁止ワードを検知し、AIへの送信をブロックしたり、対象の文字列をマスキング(置換)したりする機能です。
テキストを扱う添付ファイルもブロックの対象ですが、マスキングはできません。
※画像ファイルは、ブロック・マスキングの対象外です。
「個人情報フィルタリング」と「禁止ワード設定」の2種類があります。
自社の運用ルールに合わせて、検知する項目や検知時の処理を設定できます。
利用できるプラン
- Bizプラン
- Enterpriseプラン
利用できる権限
- システム管理者
検知時の処理
個人情報の項目ごと、登録した禁止ワードごとに、検知時の処理を設定できます。
ブロック
メッセージやテキストを扱う添付ファイルに対象のテキストが含まれている場合、AIへの送信をブロックします。
マスキング
メッセージに含まれる対象のテキストを置き換えてから、AIに送信します。
検知した個人情報や禁止ワードは、次の文字列に置き換えられます。
| 検知対象 | マスキング後の表示 |
|---|---|
| 名前 | [Name] |
| メールアドレス | [Email] |
| 電話番号 | [Telephone] |
| 住所 | [Address] |
| クレジットカード番号 | [Credit Card] |
| IPアドレス | [IP Address] |
| 禁止ワード | [Restricted] |
例:「名前」をマスキングする場合
「私の名前は山田太郎です。」→「私の名前は[Name]です。」
添付ファイルのブロック設定
マスキングを選択した場合に設定できます。
- ONの場合:添付ファイル内に対象のテキストが含まれている場合、AIへの送信をブロックします。
- OFFの場合:添付ファイル内に対象のテキストが含まれていても、そのままAIに送信します。
※画像ファイルは、この設定によるブロックの対象外です。
個人情報フィルタリングの設定方法
名前、メールアドレス、電話番号、住所、クレジットカード番号、IPアドレスを検知する対象として設定できます。
- [管理ツール]>[セキュリティ]>[チャットフィルタリング]にアクセスします。
- 「個人情報フィルタリング」で[個人情報フィルタリングを利用する]を選択します。
- 各項目の「検出時の処理」で、[ブロック][マスキング][非制限]のいずれかを選択します。
※[非制限]を選択した項目は、ブロック・マスキングの対象外です。
- [マスキング]を選択した場合は、必要に応じて「添付ファイルのブロック設定」を変更します。
- 「個人情報フィルタリング」の[設定を保存]をクリックします。
禁止ワードの設定方法
企業で使用を制限したいワードを、最大100件まで登録できます。
部分一致(指定したキーワードを含む言葉)と正規表現(特定の形式に一致する表現)が登録できます。
- [管理ツール]>[セキュリティ]>[チャットフィルタリング]にアクセスします。
- 「禁止ワード設定」の[+ 追加]をクリックします。
- 「検出対象」欄に禁止ワードを入力し、「検出時の処理」で[ブロック][マスキング]のいずれかを選択します。
- [マスキング]を選択した場合は、必要に応じて「添付ファイルのブロック設定」を変更します。
- 「禁止ワード設定」の[設定を保存]をクリックします。
CSVで禁止ワードを更新する
CSVファイルで、禁止ワードを一括更新できます。
- 「禁止ワード設定」の[CSV更新]をクリックします。
- [CSV新規登録]ポップアップで[フォーマットダウンロード]をクリックします。
- フォーマット内の説明に沿ってCSVファイルを作成し、アップロードします。
※「検出時の処理」を[ブロック]にした場合、「添付ファイルのブロック設定」はONになります。
CSVでOFFを指定しても、自動的にONに変更されます。
チャットフィルタリングの対象機能
以下の機能・操作が対象です。
| 機能 | 対象の操作・入力内容 |
|---|---|
| メインチャット | チャット送信、チャット編集、ファイルをアップロード、プロンプト作成サポート |
| 画像生成 | 新規画像の生成指示(履歴からの指示を含む)、プロンプト作成サポート |
| スライド生成 | スライド生成指示、ファイルをアップロード、下書きのAI修正指示、プレビューのAI修正指示、スライド修正指示 |
| エージェント(新規・編集) | ファイルをアップロード、ベースプロンプト、プロンプト作成サポート |
| ワークスペース | システム指示、タイムラインへのポストに関する「変数を自動選択・変換」 |
| ファイル出力 | ファイル出力に関する詳細指示・補足 |
| ストレージ | ファイルの新規追加 |
| 自動実行 | 送信メッセージ(リスト) |
チャットフィルタリングに関する注意事項
- 議事録生成機能は対象外です。
- 画像ファイルは、ブロック・マスキングの対象外です。
- 本機能のリリース前にアップロードされたファイルは、フィルタリングの対象外です。
- エージェントの参照ファイルで「ファイル内容を更新する」をONにしている場合、自動更新時にはチャットフィルタリングが適用されません。
- アップロード後に追加したフィルタリングの対象項目は、アップロード済みのファイルには適用されません。
- 個人情報フィルタリングの利用時に、クレジットを消費します。