10秒でBotレイド200件を止める：Discordサーバー向けAIモデレーション

量の多い、解釈の余地が少ない違反、つまりスパムの洪水、詐欺リンク、レイドの波にはAIモデレーションを使い、ハラスメントの争いや境界線上の冗談など、文脈が要るものは人間の判断を必ず残してください。Discord標準のフィルターを、見極めたモデレーションBotと組み合わせ、自動執行を入れる前に影響の小さい段階的なモードですべて試験し、自動BANをする前にロールバック計画とメンバー向けの公開説明を用意してください。

TL;DR: - AIモデレーションがいちばん向くのは、スパムの洪水やレイドのように量の多い明確な違反であり、曖昧なケースや争いは人間が扱うべきである。 - DiscordのAutoModはテキストのルール違反を効率よく捉えるが、画像、ボイス、意図は監視しないので、モデレーションの射程に隙間が残る。 - サードパーティのモデレーションBotは、検知の範囲、ルールの透明性、執行の選択肢、プライバシー運用が大きく違うので、慎重な見極めが要る。 - 自動化は段階的に出す。まずシャドウログ、次に警告とサイレンス、そのあとBANを完全自動化すると、誤検知を抑えられる。 - 自動執行を有効にする前に、必ずBotの権限を監査し、専用チャンネルで試験し、モデレーション指標を追い、ロールバック計画を用意する。

DiscordサーバーにAIモデレーションを足す方法
Discord標準のAIは実際に何を捉えるか
サードパーティのモデレーションBotをどう評価するか
AIと人手の見直しを混ぜたモデレーションワークフローを組む
導入チェックリスト：権限からロールバックまで
実務への当てはめ：Better Antispamがこのワークフローにどう対応するか
公正な執行がコミュニティを保つ信頼を作る
今週中にサーバーの自動防御を動かす
出典
よくある質問

DiscordサーバーにAIモデレーションを足す方法

ほとんどのサーバーは四つの道から選びます。それぞれ、手間と制御のバランスが違います。

Discord標準だけ: セットアップのコストはゼロだが、AutoModのルールエンジンはキーワードとパターン照合に限られるので、協調したレイドや巧妙な詐欺は見逃す。
運用を任せるモデレーションBot: 自作より速く出せ、平易な言葉のルールで調整でき、開発チームのない活動的なコミュニティにはいちばん収まりやすい。
ホスト型のモデレーションAPI: 検知モデルを細かく制御できるが、連携コードとデータパイプラインは自分で書くことになる。
自作Bot: 制御は完全、保守の負担も完全。既存のBotでは扱えない、変わったモデレーション要件があるときに限って見合う。

活動の多いコミュニティの多くでは、実務上の既定は段階的なBot導入です。モデレーションBotを入れ、執行せずに判断をログし、人間のモデレーターが印の付いた件の標本をチャンネルで実際に起きたことと突き合わせ、はっきりしたケースから段階的に渡し、灰色のものは人間の判断を残します。

Discord標準のAIは実際に何を捉えるか

AutoModが扱うのはテキストです。禁止語、スパムの型、メンションの洪水です。ルールベースで速いですが、画像もボイスも意図も理解しません。

Discordの成人向け性的メディアと過激なメディアのフィルターは、まったく別の経路で動きます。スキャンするのは画像と動画であり、テキストやボイス通話ではありません。汎用のモデレーションではなく、Teen Safety Assist へ流れます。年齢推定の仕組みも、こうしたティーン向けの保護を支えますが、ボイスチャンネルや非公開の通話をコンテンツ違反として聞いてはいません。サーバーがボイスチャット中心なら、これは意味のある隙間です。Discord標準には、そこでハラスメントや虐待を聞いているものはありません。

Discordは、専用のAIと機械学習の安全ワークストリームも組んでいます。欧州非営利法センター（European Center for Not-for-Profit Law）との連携も一部にあり、粗いキーワードBANではなく、実際のコミュニティ被害にモデルを合わせるためです。

誤検知のリスクは現実で、記録もあります。 2026年、Discordは無害な画像をめぐるAIモデレーションの不具合で、ユーザーを誤ってBANした事案を開示しました。自動の仕組みはプラットフォーム規模でも誤作動するという注意であり、段階的な出し方は任意の慎重さではなく、基本的なリスク管理です。

サードパーティのモデレーションBotをどう評価するか

ベンダーのページは「AI搭載」を何にでも付けたがります。実際に効くのは、もっと狭く、確認しやすい点です。

検知の範囲: スパムの波とレイドそのものを捉えるのか、一般的な有害発言だけか。詐欺リンク、NSFWメディア、不審なアバターの型まで見るのか、テキストだけか。
ルールの書き方: 「10秒以内にリンクを5本以上投稿した人をサイレンスする」のように平易な言葉でルールを書けるか、中身を見られない不透明なモデルの調整だけに縛られるか。
執行の幅: 警告、サイレンス、隔離、自動削除、チャンネル全体のロックといった段階的な選択肢があるかを見る。BANのオンオフだけではない。
データの扱い: 何をログし、メッセージ本文をどれだけ残し、第三者にデータを渡すのか。

Discord自身の利用規約は、Discordがサードパーティアプリを監査も推薦もしないと明言しています。Botのプライバシー運用と権限の確認は、プラットフォームではなく、サーバーオーナーであるあなたにあります。

ヒント: Botにモデレーション権限を渡す前に、そのBotに Manage Server が要るのか、Manage Messages だけで足りるのかを確認してください。謳っている機能以上の権限を求めるBotは、ランディングページがどれだけ整っていても危険信号です。

AIと人手の見直しを混ぜたモデレーションワークフローを組む

「オフ」から「完全自動」へ一気に進むワークフローは、誤BANしたメンバーへ謝るサーバーの作り方です。段階にしてください。

まずすべてをシャドウログする。 Botに違反の印だけ付けさせ、執行はさせない。そのうえでモデレーターが、印の付いた件の標本をチャンネルで実際に起きたことと突き合わせる。コードのスクリーンショットをNSFWだとみなすモデルは、ここで見つかります。
中程度の確信度の印には、弱い対応を入れる。 警告、一時的なサイレンス、メッセージ削除は、モデルが間違えても下振れが小さく、現場の調整データが取れます。
強い自動執行は、確信度の高いケースだけに限る。 数十チャンネルを数秒で叩くスパムの波、既知の詐欺リンクの型、大量参加のレイド。速さのほうがニュアンスより大事で、誤検知がまれな場面です。
下支えの運用は回し続ける。 スタッフをログ見直しにローテーションし、異議申し立てチャンネルまたはフォームを公開し、執行ルールが変わるたびに公開のモデレーション方針を更新する。

Discord自身の安全思想は、一括BANより、修復的で文脈を見た執行に寄っています。この原則は、個別のサーバーにもよく当てはまります。厳しすぎるフィルターにかかったメンバーには、沈黙ではなく、早く戻れる道が要ります。

導入チェックリスト：権限からロールバックまで

自動執行を本番に出す前に、これを一通り回してください。

Botの権限を監査する。 Botの実際の機能に要るものだけを渡す。スパム検知のBotに Manage Roles は要らない。
専用の試験チャンネルを作る。 違反と普通の会話の両方を含む、代表的なメッセージの一群を、本番チャンネルに触る前にBotへ通す。
出す前に指標を決める。 誤検知率、平均のモデレーション応答時間、レイド頻度を追い、仕組みが実際に効いているかを分かるようにする。
強い執行を入れる前に、ロールバックと異議申し立てを定義する。 自動化をどう止めるか、誤って処置されたメンバーがどう見直しを受けるかを、正確に知っておく。

チェック項目	なぜ重要か	いつ見直すか
権限の監査	Botが乗っ取られたり誤設定されたりしたときの被害を限定する	Botの大きな更新のたび
試験チャンネルでの実行	正規メンバーに当たる前に誤検知を捉える	新しい自動化を有効にする前
指標の追跡	勘ではなく証拠で性能を見る	導入中は毎週、その後は毎月
ロールバック計画	インシデント中に執行を速く止められる	新しい自動化を本番に出す前

レイド対応の計画は、とくに事前に詳しく書いておく価値があります。Better AntispamのDiscordのレイドを止める方法のプレイブックは、ロックダウンの順を手順ごとに歩きます。200件のBotアカウントが10秒で参加してからではなく、その前に文書化しておきたい類のものです。

実務への当てはめ：Better Antispamがこのワークフローにどう対応するか

上の段階的なワークフローは机上の空論ではありません。Better AntispamのようなBotの回し方そのものです。

スパムの波の検知は、協調した投稿の型にリアルタイムで印を付ける。ワークフローが自動執行に残す、まさに確信度の高いケースです。
リアルタイムのチャンネル掃除は、モデレーターが何百件ものメッセージを手で消さずに、レイドの事後を処理します。
認証の選択肢（ボタン、CAPTCHA、計算、言葉パズル）は入口に置き、Botアカウントがチャンネルに届く前に捉えます。
権限と妨害の監視は、より目立たない脅威を捉えます。サーバー設定を変える、乗っ取られたモデレーターアカウントです。

大量参加の最中に、数分で復旧するサーバーと、掃除に一日かかるサーバーの差は、たいていロックダウンと掃除が事前に自動化されていたか、その場の即興だったかです。

段階的な導入が閉じようとしている隙間は、そこにあります。予測できるレイドとスパムの波には自動化、それ以外には人間の判断です。

公正な執行がコミュニティを保つ信頼を作る

BAN先行の方針は、誤検知が正規メンバーに当たり、サーバー全体がその扱いを見るまでは効率よく見えます。その瞬間が、信頼を作るか壊すかを決めます。

より良い既定は次です。BANの前に警告し、メンバーが実際に見つけられる場所にモデレーション方針を出し、自動化が捉えるものと捉えないものを平易な言葉で説明する。新しい自動化は、出す前に信頼できる常連を数人、試験に入れてください。Botのドキュメントに一度も出てこない端の事例を捉え、誰かが仕組みに疑問を出したときに、その人たちが擁護してくれます。

— Adam

今週中にサーバーの自動防御を動かす

この案内で述べたレイド検知、チャンネル掃除、認証の層を、モデレーションルールをゼロから書かずに提供するモデレーションBotがあります。

上のチェックリストにそのまま対応します。まず試験チャンネルに入れ、活動にどう印を付けるかを見ながらシャドウモードで回し、それから認証やスパムの波のサイレンスのようなリスクの低い自動化を入れ、ロックダウンの全権限を渡すのはそのあとです。執行を見ないまま渡さないよう、段階的な導入が推奨されます。現行のセットアップ選択肢の確認と、今日からの試験導入は、Better Antispamのランディングページからどうぞ。

出典

よくある質問

Discordに自動モデレーションはありますか

あります。DiscordのAutoModは禁止語やスパムの型のようなテキストのルール違反を扱い、別系統が安全ライブラリの一部として画像と動画のフィルタリングを扱います。Discordは、より広いAIと機械学習の安全ワークストリームも回しており、自動検知と、微妙なケース向けの人手の見直しを組にしています。

DiscordでAIモデレーションは使えますか

使えます。Discord自身のAIツールも、サードパーティのモデレーションBotも許可されています。サーバーオーナーはモデレーションアプリを自由に足せますが、Discordの利用規約は、それらのアプリのデータ運用を見極める責任をオーナーに置きます。Discordは監査も推薦もしないからです。

DiscordのAIモデレーションをオフまたは制限するには

AutoModルールは、サーバー設定の安全設定で個別に無効にできます。サードパーティBotの多くは、執行を止めたまま印は残すシャドウログ、または監視のみのモードを用意しています。誤検知が出ているときは、Botを丸ごと外す前に、強い執行を先に止めるほうが安全なロールバックです。

NSFWコンテンツはDiscordの利用規約違反ですか

コンテンツの種類だけでは決まりません。文脈とチャンネル設定によります。DiscordはNSFWチャンネルを正しく年齢制限付きにすることを求め、成人向け性的メディアのフィルターは、一括執行ではなくティーン向けの安全機能を支えるために作られています。同じ画像でも、あるチャンネルでは適合し、別のチャンネルでは違反になり得ます。

AIモデレーションがメンバーを誤BANしたら何をすべきですか

要る前に異議申し立ての手順を用意してください。理想は、BANされたメンバーが見直しを依頼できる専用チャンネルまたはフォームです。2026年の誤BAN不具合のような公開事案は、大きなプラットフォームでも誤作動することを示しています。すべての誤検知を先に潰すことより、早く透明に戻れる道のほうが大事です。