Concurrence.ai

フィルターが見るのは、そのメッセージが何をしようとしているかで、含まれる単語だけではない。定番のスパム手口、10個のグループに貼られた宣伝文、偽サポートアカウント、役立つ情報に見せかけたリンクまで対象になる。送信者が1文字変えるか絵文字を足すだけで、正規表現や禁止語リストは追いつけなくなる。この方式はその隙間を塞ぐために組んである。

コミュニティのスパムが集中する3プラットフォームを同じサービスで覆う。招待リンクが最も速く広がるグループにはWhatsApp モデレーションとTelegram モデレーションが効き、Slack モデレーションは同じルールをワークスペース内で必要とする社内・有料コミュニティに向く。プラットフォームごとに別ツールを持つ必要はない。

言語が混ざるグループは、英語専用のフィルターか、何もないかのどちらかになりがちだ。Concurrence AIは主要言語すべてへの対応をうたっており、多言語コミュニティでも言語ごとの設定はいらない。ポルトガル語の投稿も日本語の返信も同じ基準で判断されるので、地域をまたいでグループが育ってもルールがぶれない。

サービスは止まらず動き、メッセージ量に上限を設けていないと会社は説明する。活発なグループでは、対応時間と費用のトレードオフが消える。ローンチ日やスパム攻撃のように最も重要な場面で、モデレーションが遅くなることもない。

何を止めたか、グループがどう動いたかが毎日届く。管理者は勘ではなく上向きの傾向を見られる。レポートはリアルタイムのデータを反映するので、ルールが厳しすぎるのか、新しい手口に専用のフィルターが要るのかを判断しやすい。眺めるためのダッシュボードではなく、手を打つための要約だ。コミュニティモデレーションは、夜を溶かすログ読みから5分の確認作業に変わる。

どんなフィルターも外すことはある。この製品はそれを前提に作られている。誤検知を抑えるためルールは利用者と一緒に詰め、それでも無害な投稿が消えた場合はSlackとWhatsAppで警告を取り消せる。該当メンバーには投稿が削除された旨のダイレクトメッセージも届く。判断が黙って行われるのではなく、見える形で残る。