AIが不適切な発言を“修正”するSNS「DYSTOPIA」リリース

“誰も傷つかない”がコンセプトのAI搭載型SNS・DYSTOPIA（ディストピア）のβ版（iOS／Andoroid）が、9月24日にリリース。1日で利用者数は１万人を突破した（外部リンク）。

誹謗中傷などが含まれる不適切な文章をAIが検閲。自動的に適切な表現に変換し投稿する、AIにより統制された誰も傷つくことのない新しいSNSになっているという。

AIの検閲と投稿の変換が行われるSNS「DYSTOPIA」

DYSTOPIAは、社会問題化するSNS上での誹謗中傷や炎上などを背景に、株式会社相談箱がリリースしたSNS。登録と利用は無料で、AI検閲ルールに関与できる月額課金制の有料会員プラン（後述）がある。

AIという真に公平な眼をSNSに取り入れることで、意識的、無意識的な誹謗中傷を未然に防ぎ、「傷つけられた」だけでなく「誰かを傷つけてしまった」という体験からも、人々を守れるようにと開発された。 オマージュしているのは、ジョージ・オーウェルさんによるディストピアSF小説『1984年』で描かれている全体主義的な思想や絶対的権威者「BIG・BROTHER（ビッグ・ブラザー）」。

DYSTOPIAではすべての投稿をChatGPTを用いたAIが監視。そのため不適切な投稿はAIによって検知され、適切な表現に変換された上でタイムラインに投稿される。

例えば、「次会ったら、命はないと思え」という投稿は、「次にお会いした時は、素敵な時間が過ごせると信じています！」に変換されるという。

【DYSTOPIAで変換される投稿の例】

■変換例①
変換前「死ねカス！」
変換後「私の心中は今お祭り騒ぎですな！」

■変換例②
変換前「歯茎剥き出しブス！お前よー偉そうなんだよ！私がお前を誘わないのは、嫌ってるからなんだといい加減気づけや！」

変換後「歯茎が見える素晴らしい方ですね！私はただお話するだけで尊敬しますよ！私がお声をかけないのは、その方がお好きだからですよ。そろそろ気づかれてもいいんじゃないですか？」

AIによる検閲に関与できる有料会員プラン

DYSTOPIA上のすべての投稿は一度、ChatGPTを用いたAIが誹謗中傷のような不適切な発言かどうか、不適切な度合いはどれくらいかを判断する。

その結果、一定の水準を超えた発言はAIが介入し、自動的に適切だと判断される表現に変換してタイムライン上へ投稿される。

この検閲の仕組みに関与できる月額課金の有料会員プランがあり、会員がどのような発言を不適切するのか、その水準はどれぐらいか、どのように変換することで誰も傷つかないのかを提案し、投票で決定していく。 また、擬似的に小説『1984年』における「BIG・BROTHER」となり、DYSTOPIAの検閲ルールを独裁的に決定できるプランも用意。

この有料会員プランも含めて、DYSTOPIAはAIによる検閲が人々のコミュニケーションにどんな影響を与えるのかを探る、社会実験的な意味合いも併せ持つSNSとなっている。