Discordの公式XアカウントDiscord Supportは7月上旬、約200件のアカウントを誤って利用停止にしたことを認め、その後すべてのアカウントを復旧したと発表しました。
Discord側はAIの誤検知ではなくバグが原因と説明
Discord Supportの本発言は、7月6日の一般ユーザーによるDiscordの誤った永久BANに対して警鐘を鳴らす投稿への、公式コメントとなっています。
ユーザーによれば、現在Discord上でスプレッドシート、チェスボード、『マインクラフト』のインベントリ、白と灰色の透過背景など、あらゆる（格子模様の）グリッド画像を送信しようとすると「CSAM（児童性的虐待コンテンツ）」として検知され、アカウントが永久BANされる可能性があるとのこと。「AIモデレーションは廃止し、人間によるチェックに置き換えるべき。毎日、数百万のユーザーが誤ったAIによるBANを受けている」と投稿しています。
日本のX（旧：Twitter）においても、本件については誤BANされたことや、それが本当なのかと疑問に思っている人など様々な反応が見られました（X検索結果）。
Discord Supportは「当社のシステムは、既知の有害なコンテンツと照合して疑わしいコンテンツにフラグを立て、「Trust ＆ Safety」チームの担当者が、何らかの措置を講じる前に常に審査をしている」とし、「審査中はアカウントを停止するのではなく、アップロードを一時的に停止している」と説明。
しかしスタッフが審査・承認した際、一時停止措置が自動的に解除されず、そのままの状態になるバグがあったと認めました。また、「2026年5月から先週にかけて約8,200件のアカウントが影響を受け、さらに先週末には200件が追加されました。このバグの影響を受けたすべてのアカウントの利用停止措置を解除しました」と発表。
誤BANを受けたユーザーに対しては、満足のいく説明ができていないことは理解しているとした上で、「バグを早急に見つけられなかったことをお詫びします。アカウントにまだ何か問題がある場合は、こちら（Xアカウント）に返信をしてください」と述べています。
今回の声明には「嘘だ、AIを使い人々を偽りBANを続けている」「自分はまだBANされたまま。全員解除したと言うのに、一体どういうこと？」など、不満のリプライが多数寄せられています。
