elv.ai

SNSモデレーションを担うモデレーションツールとして、elv.aiは投稿下のコメントを監視し、有害なものを隠す。AIは明確な事例を自分で片付けるが、動くのは確信度が95%以上のときだけだ。確信度の低いコメントは自動削除ではなく人手のモデレーターに回る。この一手間が、AIだけに頼るツールとの決定的な差で、狙いは二つの典型的な失敗を避けることにある。ヘイトスピーチの見逃しと、本物の批判の誤削除だ。

モデレーション規則は定番のカテゴリを押さえる。下品な言葉づかい、ヘイトスピーチ、詐欺、偽情報が対象で、Metaのコミュニティ規定とデジタルサービス法に沿っている。そのうえで、自社ブランドにとって重要な語句や話題を足せる。報道機関が気にする語句とスポーツブランドが気にする語句は違うので、ヘイトスピーチフィルターは一つのリストを当てるのではなくアカウントに合わせて調整される。

コメントを隠すだけでなく、このサービスはコメントの裏にある感情を読み取り、怒り、喜び、悲しみ、温かさ、不確かさ、不安といったカテゴリに分ける。投稿ごと、そして時系列で感情を示すダッシュボードが手に入るので、二つのキャンペーンを比べたり、ローンチや危機の後に空気がどう変わったかを追える。感情分析は、心理・文化の多数の次元を扱う研究パートナーCulturePulseと共同で開発された。

モデレーションだけが仕事ではない。自動いいねを行い、返信候補を出すことで、ソーシャルチームは毎回ゼロから書かずに素早く応答できる。コメントの多いアカウントでは、人の手が要るコメントに時間をかけ、決まりきったお礼はツールに任せられるということだ。

elv.aiはモデルの学習に使う規則を公開している。何を下品、ヘイト、詐欺、誤解を招く内容とみなすかを含む。各カテゴリには曖昧なポリシーページではなく、平易な言葉の定義が付く。コメントをなぜ隠したかを説明する必要があるブランドや公的機関にとって、これは重要な意味を持つ。自分で足す語句の明確な出発点にもなる。

このサービスは24時間動く。チームが読み切れないほどコメントが来るページにとって、これはまさに要点だ。同社は3,300万件を超える処理済みコメント、600万件超の非表示・削除、数千件の偽アカウントの指摘を挙げている。あるメディアの顧客は、この仕組みが月2,000時間相当のモデレーション作業を置き換え、月およそ8,500ユーロを節約したと語る。