AI審核訊息功能說明

最後更新時間：2025-04-09 版本號：v1.0

一、功能概覽

二、功能詳情

1. AI審核機制

1.1 審核規則體系

1. 平台基礎規則（自動生效）

   • 政治敏感詞：涉及政治人物、歷史事件、政策法規的敏感表述
   • 暴力血腥詞：煽動暴力、描述血腥場景的詞語
   • 色情低俗詞：與色情內容相關的明示或暗示性詞語
   • 歧視性詞語：針對種族、民族、性別、宗教等的歧視性表述
   • 侮辱謾罵詞：人身攻擊、侮辱性的詞語
   • 非法活動詞：涉及賭博、毒品、詐騙等非法活動的詞語

2. 自訂規則

   • 支援補充配置審核規則
   • 與平台基礎規則同時生效

1.2 配置層級

1. 管理後台配置

   • 平台模板配置（僅作為新建頻道預設值）
   • 頻道獨立配置（實際生效配置）

2. 助教快捷開關

   • 位置：助教聊天室介面
   • 支援快速切換AI審核狀態
   • 與管理後台配置同步生效

2. 使用說明

2.1 審核模式

• AI審核模式
  • 自動根據規則過濾內容
  • 適用於大規模聊天場景
  • 提高審核效率
  • 統一審核標準

註：系統支援切換至人工審核模式，兩種模式可以共存

2.2 生效機制

• AI審核開啟後立即生效
• 聊天內容自動經過規則過濾
• 違規內容自動屏蔽，其他使用者不可見
• 支援即時切換審核狀態

3. 功能效果

• 自動識別和過濾違規內容
• 提供統一的審核標準
• 支援自訂補充審核規則
• 即時生效，高效管理

三、注意事項

1. 規則優先級

   • 平台基礎規則不可關閉或修改
   • 自訂規則作為補充，與基礎規則同時生效
   • 建議避免與平台基礎規則重複

2. 配置說明

   • 平台模板僅作為新建頻道預設值
   • 實際以頻道配置為準
   • 助教可透過快捷開關控制

3. 使用限制

   • 與人工審核模式互斥，一則訊息只能被一方審核
   • 規則修改後立即生效

四、最佳實踐

1. 使用建議

   • 大規模直播場景優先使用
   • 制定合理的自訂規則
   • 定期評估規則有效性

2. 規則配置建議

   • 結合業務場景設定規則
   • 避免規則間衝突
   • 保持規則的精確性

3. 日常維護建議

   • 定期檢查規則效果
   • 及時更新補充規則
   • 優化調整審核策略