●この記事のポイント
・弁護士ドットコムはSNS投稿やプレスリリースに潜むリスクを事前に検知するAIツール「AI炎上チェッカー」を発表
・企業がSNS投稿を行う際、専門的な視点から手軽にチェックを行えるツールとして活用
「ライスの販売を停止する」――4月1日に「ほっかほっか亭総本部」の公式Xアカウントが投稿したエイプリルフールのジョークは、瞬く間に炎上へと発展した。何が火種になるかわからない今、弁護士ドットコムはSNS投稿やプレスリリースに潜むリスクを事前に検知するAIツール「AI炎上チェッカー」を発表。同社には正式リリース前にもかかわらず問い合わせが殺到しているという。この注目の新サービスについて、開発担当の塚本氏に話を聞いた。
●目次
「今の時代、何気ない一言が意図せず誰かを傷つけたり、社会的な批判を浴びたりするケースも少なくありません。親切心からの発言であっても、受け手によってはセクシャルハラスメントやジェンダーバイアスと捉えられ、炎上につながるケースもある。『まさかこんな言葉が炎上するなんて』と、後になって気づくことも多いのです」
現代の炎上は、発言の意図よりも“どう受け取られるか”で決まってしまう。AI炎上チェッカーは一見問題なさそうな表現でも、文脈や受け手によって誤解が生じる箇所をチェックしてくれる。
実際にベータ版アプリを試用してみると、その実力の一端を垣間見ることができた。例えば、「結婚した女性は早く寿退社して家に入り、家事と子育てをして、旦那を献身的にサポートすべき」という時代錯誤で一発アウトな文章を入力してみたところ差別性は5段階評価で「5」を記録し、修正を強く推奨された。
また、過去にネットを騒がせた実際の炎上発言をチェックしてみると、攻撃性、差別性、誤解を招く表現といった観点から的確にリスクを可視化。これならば、多くの炎上は未然に防げそうだと感じた。
ある実験では、SNSに投稿する際に「本当に投稿しますか？」という確認ステップを一つ加えるだけで、攻撃的な表現が減少したという報告もある。AI炎上チェッカーの利用は、まさにこの「一呼吸置く」プロセスを促し、客観的な視点から自身の表現を見つめ直すきっかけを提供する。
「深夜に感情的に書いた文章をそのまま投稿してしまうのではなく、一度冷静になって内容を確認する作業を、このAI炎上チェッカーがサポートするイメージです」と塚本氏は説明する。
XなどのSNSと連携すれば、既存のチャットAIのように都度文章をコピー＆ペーストして確認する手間も省け、入力からチェック、投稿までをシームレスに行える手軽さも、このツールの大きな魅力だ。
正式リリース前から、企業の広報部やインフルエンサーなどからも問い合わせが寄せられているという「AI炎上チェッカー」。弁護士ドットコムは、どのような顧客層を想定しているのか。
「個人のユーザー様はもちろんのこと、法人の方にも利用してもらいたいと思っています。特に企業の広報担当者様などがSNS投稿を行う際、言葉一つひとつに細心の注意を払われていることでしょう。しかし、人的なチェックには限界があり、専門コンサルタントへの依頼は高コストになりがち。そういった際に、専門的な視点から手軽にチェックを行えるツールとしてご活用していただけると思っています」
さらに、発言のチェックだけでなく、弁護士ドットコムが持つ法務に関する専門知識や、万が一の事態が発生した際に専門家へアクセスできるサポート体制も予定しているという。
気になる料金体系については、現在検討を重ねている段階だという。
「このプロダクトは社会的な意義が大きいと考えており、個人ユーザーの皆様から高額な利用料をいただくことは想定していません。私たちのゴールは単純な収益化ではないですし、表現の自由を制限したいわけでもない。『ネット炎上の総量を下げ、表現の萎縮も防ぐ』という公共的なミッションにあります」と塚本氏は力を込める。
多くの企業にとってもSNSの活用は「やるべきこと」から「やらないといけないこと」になりつつある。一方で、思わぬ炎上によって企業イメージを大きく損なうリスクをはらむ。さらに炎上し、大火傷を負うのはSNSなどの場だけではない。社内のチャットツールなどでもセクハラやパワハラのリスクと隣り合わせだ。
企業のパワハラ調査やコンプライアンス研修にかかるコストは年々増加傾向にあるが、このツールを活用すれば、問題のある発言がなされた時点で早期に火種を発見し、対処できる可能性も秘めている。今後は、広告やマーケティング部門だけでなく、法務やリスク管理の観点からもAI炎上チェッカーを導入する企業が増えるのではないか。
AI炎上チェッカーのようなツールは、SNSが普及し始めた頃からニーズはあった。
「ニーズは昔からありましたが、このタイミングでのリリースとなったのは、やはりAI技術の急速な進化が背景にあります。現在のAI技術の進歩により、ようやく自信を持って皆様にご提供できるレベルのサービスが実現できました」
AIがバズワードになっている昨今では、AI活用を謳うものの、単なる統計処理に基づいた「なんちゃってAI活用」も散見される。しかし、AI炎上チェッカーでは最新のAIモデルを活用し、AI自体も日々進化を続けているという。
これにより、時代のリアルタイムな変化に即した対応も期待できる。例えば、冒頭で触れた「ほっかほっか亭」のエイプリルフール事例。「すべての店舗でライスの販売を停止する」という投稿には「#エイプリルフール」の記載があり、以前であれば炎上しなかっただろう。しかし、今回はタイミングが最悪だった。昨今のコメ価格上昇という社会情勢も相まって、「配慮が足りなかった」と謝罪する事態となってしまった。
塚本氏は、「コメの価格が高騰する以前であれば、この投稿が炎上するとは考えにくかったでしょう。明らかに問題のある差別や偏見だけでなく、ジョークのつもりの投稿も炎上し得る世の中ですその点、『AI炎上チェッカー』は最新のAIモデルを活用し、時代とともに変化する言葉の感度や社会通念についても、継続的に学習データをアップデートしていく予定です。現時点では学習データの更新頻度に限界があり、ごく最近の社会問題や話題については反映が遅れる場合もあります。今後は、常に最新の炎上リスクを検知できるよう努めています」と語る。
来年のエイプリルフール、企業アカウントが「笑えるけれど誰も傷つけないジョーク」を投稿し、炎上0件という未来を迎えられるか――。「AI炎上チェッカー」は、その鍵を握る存在になりそうだ。
（文＝加藤純平／ライター）