AI彼女が消えた3週間後、次に狙われたのは「嘘をつくAI」だった

おはようございます。中国深セン在住の吉川です。

前々々回（7月20日号）で、AI彼氏・彼女を作れる機能が中国の大手アプリから一斉に姿を消した話を書きました。

豆包・通義千問・騰訊元宝が、施行日の7月15日に合わせてAIエージェント機能を停止したという話でした。

あれから3週間。規制の矛先は、次の段階に進んでいます。狙われているのは「AIが感情に入り込みすぎること」ではなく、「AIが人間のふりをして、経験していないことを語ること」です。

ちょうど日本のクライアント企業向けに中国のAI×コンテンツ領域を継続調査している最中で、この変化のスピードに正直驚いています。今回はこの続きを追いかけます。

8月に入り、中国版Instagramと呼ばれる小紅書（RED）がAI生成コンテンツの管理ルールをさらに強化。これまで小紅書では、画像生成AIで作った写真やAI加工した文章、AI生成動画などを投稿する際、投稿者自身がAI利用を申告する自己申告制を採用していました。

今回の強化で対象が広がったのは、AIバーチャルヒューマンのアカウント表示であり、小紅書が問題視しているのが「AIを使っていること」自体ではないという点です。中国では、AIで作られた映像やキャラクターを見ること自体への抵抗感はすでにかなり低くなっています。

深センで生活していると、60代以上の方がAI生成のショートドラマを何時間も見続けている光景に出くわすことも珍しくありません。理由を聞いても「啊？打发时间（暇つぶしだから）」という、拍子抜けするくらい普通の答えが返ってきます。

小紅書が狙っているのは、「AIが人間のように振る舞い、存在しない経験や知識を語ること」への対応です。ここが、次に取り上げる炎上事件とつながってきます。

この手のルールは「表示すればいい」で終わらないところが中国らしいところです。国家インターネット情報弁公室のガイドラインに沿った運用では、表示がないコンテンツはまず指導・警告・是正通知の対象になり、表示が不十分なままだと機能停止やコンテンツ削除に進み、意図的な回避と判断されれば年間売上高の最大5%相当の罰金、サービス停止、ライセンス取消まで想定されています。「バレなければいい」で済ませられる緩さではなくなってきているというのが、今の実務感覚です。

象徴的な事件が2つあります。1つ目は、AI短編ドラマの主人公「方桃子」の広告出演です。方桃子は作品の再生回数2.6億回、SNSで数十万人のフォロワーを抱えるAIキャラクターで、広告出演のギャラは60秒で600万円規模とも言われています。度肝を抜かされるデータです。ショートドラマのキャラクターがそのままSNS運営者となり、広告塔になる。AI時代ならではのIP商業化モデルです。

ところが、方桃子が出演した美容コンタクトの広告で炎上が起きました。「1日装着しても快適」「まばたきしてもズレない」という、実際に使った人の感想のようなコメントを話したためです。AIキャラクターには当然、装着体験そのものがありません。虚偽広告の可能性が指摘され、動画は削除されました。

2つ目は、5月に山西省大同市で起きた事件です。実在する著名人の肖像を無断でAIデジタルヒューマン化し、本人が商品を推薦しているように見せてライブコマースを行った運営者が行政拘留されました。こちらは肖像権の無断利用という、より分かりやすい違法性がありました。

この2つを並べると、規制と世論が問題視するポイントが見えてきます。

①肖像・声・氏名の無断利用
②AI生成であることの表示不足
③体験談の真正性

という3層です。方桃子の事件は①がクリアされていたにもかかわらず炎上しました。①がクリアでも③がアウトなら、それだけで十分に問題になる時代に入ったということです。

美容コンタクトの使用感くらいなら、実害は「なんとなく信じてしまった」程度で済むかもしれません。ただ同じ構造が、アレルギー情報や薬の飲み方、健康食品の効果といった領域で起きたらどうでしょうか。

十分な知識を持たないAIバーチャルヒューマンが、専門家のような口調で語る情報を、視聴者がそのまま信じてしまう可能性は十分にあります。中国の規制当局が「AI利用の透明性」に舵を切っているのは、広告表示の話にとどまらず、こうした情報の信頼性リスクまで見据えているからだと私は見ています。