AI画像生成を使っていると、ときどき不思議な壁にぶつかる。

こちらとしては、ごく普通の学習風景を作りたいだけである。たとえば、夏の教室で半袖Tシャツの生徒が授業を受けている。あるいは、制服の生徒が机に向かって勉強している。日本の感覚では、塾や学校の日常風景でしかない。

ところが、海外のAI画像生成サービスでは、こうした画像が思わぬ形で警戒されることがある。

理由は、おそらく「未成年に見える人物」「学校」「教室」「写実的な画像」「肌の露出」といった要素が組み合わさるからである。半袖Tシャツは、日常的には何の問題もない。夏なら当然の服装である。しかし、AIの安全判定は、人間の生活感で読むというより、危険そうな要素を機械的に足し算していく。

そのため、こちらがどれほど健全な学習場面として考えていても、サービス側ではかなり保守的に扱われる。

「肌の露出」だけが問題ではない

興味深いのは、問題が肌の露出だけではないという点である。

たとえば、ある有名な児童向けアニメ映画に出てきそうな場面を考えてみる。雨の降る夜、子どもが年下の子をおんぶして、人気のないバス停でバスを待っている。服装は長袖長ズボンで、肌の露出はほとんどない。そこに、いつの間にか大きな不思議な存在が立っている。

日本の物語感覚では、これは童話的な場面である。不安と安心が同居している。夜、雨、子どもだけ、不思議な存在。たしかに少し怖い。けれど、その怖さは危険そのものではなく、むしろ「世界の奥行き」を感じさせるものとして働いている。

ところが、AIの安全判定では、おそらくこう読まれる。

未成年に見える人物。夜。雨。人気のない場所。保護者不在。未知の存在。孤立。危険な状況。

つまり、物語としては「不思議な保護の場面」でも、安全判定としては「未成年が危険な状況に置かれている場面」と見なされる可能性がある。

ここで見えてくるのは、AIの問題というより、AIに埋め込まれた社会通念の問題である。

安全判定は、文化を持っている

AIの安全判定は、ただの技術ではない。

そこには、そのサービスを作っている社会の価値観が入っている。何を危険と見るか。どこから先を保護すべき領域と考えるか。どのような表現を企業リスクとして避けるか。そうした判断が、画像生成の可否に影響している。

アメリカ系のサービスでは、とくに未成年に見える人物の扱いが非常に厳しい。これは、児童を守るという意味では当然重要なことである。AI生成画像が悪用される現実もある以上、企業側が慎重になるのは理解できる。

しかし、その慎重さは、ときに日本の童話的・民俗的・日常的な感覚とはぶつかる。

日本では、子どもが少し不安な場所にいる場面は、物語の中でよく描かれてきた。夜道、雨、森、神社、古い家、座敷童、不思議な気配。そこには危うさがある。しかし、その危うさは必ずしも搾取や危険のためにあるのではない。むしろ、子どもが世界の広さや不思議さに触れるための入口として描かれることが多い。

童話や民話は、完全に安全な場所だけで成立しているわけではない。むしろ、少し危ない場所、少し怖い場所、日常と異界の境目にこそ、物語の力が生まれる。

AIは文脈を読むのが苦手である

人間は、同じ場面を文脈で読むことができる。

夜のバス停に子どもがいる。そこに大きな不思議な存在がいる。この情報だけを取り出せば、たしかに不安な場面である。

しかし、作品全体の文脈があれば、その不思議な存在が脅威なのか、守り手なのか、土地の精霊なのか、子どもの不安を受け止める象徴なのかを読み分けることができる。

ここが、AI画像生成の安全判定では難しい。

画像は一瞬で判定される。未成年らしさ、夜、孤立、妖怪、制服、肌、学校、教室といった要素が先に拾われる。すると、その場面が文学的に何を意味しているのかまでは十分に読まれない。

いわば、物語の出汁まで危険物として濾過されてしまう。

トトロ的な場面の美しさは、不安と安心が同時にあるところにある。怖いのに守られている。子どもだけなのに、世界から見放されてはいない。異形の存在なのに、敵ではない。

この微妙な層を、AIの安全判定は苦手としている。

絵師が生き残る理由

このことを考えると、AI画像生成が発達しても、絵師は簡単には消えないのではないかと思う。

AIは、きれいな画像を出すのはとても得意である。構図も、光も、質感も、驚くほど上手に作ることがある。

しかし、人間の絵師は、文脈を背負わせることができる。

これはただの危険な場面ではない。これは不安の中にある保護の場面である。これは子どもを危険にさらす絵ではなく、世界の奥行きに触れる絵である。これは妖怪の恐怖ではなく、土地の記憶である。

そういう判断をしながら描ける。

AIは平均的に安全な画像には強い。けれど、人間の絵師は「危ういが成立している一点」を狙うことができる。これはとても大きな違いである。

絵の価値は、単に上手に描けることだけではない。何を描き、何を描かず、どこまで攻め、どこで踏みとどまるか。その判断の中に、作り手の倫理と文化が出る。

AIを使うことで、文化の違いが見えてくる

今回おもしろかったのは、AI画像生成を試しているうちに、画像生成そのものよりも、アメリカの社会通念や文化感覚が見えてきたことだった。

日本では自然に通じる場面が、アメリカ系のサービスでは危険信号として読まれることがある。もちろん、どちらが単純に正しいという話ではない。児童保護を厳格に考えることには、十分な理由がある。

ただ、そこには明らかに文化差がある。

日本の童話的・民俗的な「少し怖いけれど守られている世界」は、海外の機械的な安全判定では、危険な要素の集まりとして扱われやすい。

これは、AIが中立な道具ではないことを教えてくれる。

AIには、作った社会の価値観が入っている。法律、企業リスク、道徳感覚、文化的な恐れ、守るべき対象への考え方。それらが、ボタンを押したときの「生成できる・できない」に反映される。

だからAIを使うことは、単なる技術体験ではない。

ときには、別の社会が何を怖がり、何を守ろうとし、何を危険と見なしているのかを知る体験にもなる。

画像生成を試していたはずなのに、気がつくと比較文化論の入口に立っていた。

こういう寄り道こそ、学びの散歩道らしい。