TBSドラマの『アンチヒーロー』を見ていて、かなり面白いと思ったことがあります。

あの作品の主人公は、普通に考えればかなり危ない弁護士です。ただのグレーではありません。かなり黒い。

証拠や証言の扱いをねじ曲げる。
法廷をゲームのように使う。
真実をそのまま出すのではなく、自分の目的に合わせて見せ方を操作する。

まじめできちんとしている普通の人なら、かなり受け入れがたい人物です。

弁護士がそんなことをしていいはずがない。
法を守る側の人間が、法廷を歪めてどうするのか。
それは正義ではなく、ただの詭弁ではないか。

普通に考えれば、そうなります。

ところが、この作品はそれを力技で納得させてしまう。

もちろん、倫理的には危ない。
しかし、ドラマとしては見られてしまう。
主人公に引き込まれてしまう。
単なる悪徳弁護士として切り捨てられない。

そこに、この作品のうまさがあります。

『アンチヒーロー』は、なぜ単なる悪徳弁護士の話にならないのか

『アンチヒーロー』は、単に「悪い弁護士がかっこいい」という話ではありません。

もしそれだけなら、ただの反倫理的なドラマになってしまいます。

この作品が成立しているのは、主人公の行動が黒いにもかかわらず、その黒さの中に、わずかな魂のようなものが見えるからです。

彼は、ただ勝てばいいという弁護士ではない。
単に金を儲けたいわけでもない。
依頼人の人間性を見る。
その人物が何を背負っているのかを見る。
罪をなかったことにするのではなく、最終的に自白し、罪を償うことを担保するような構造もある。

つまり、完全な無法者ではないのです。

法の形式が人間の真実を取り逃がすときに、その形式をねじ曲げる。
しかし、ねじ曲げた先に、ただの逃げ得を置かない。

そこに、ぎりぎりの「五分の魂」がある。

もちろん、それでも受け入れられない人はいると思います。むしろ、普通の倫理観からすれば、受け入れられない方が自然です。

けれど、作品はそこを演出で押し切ります。

映像は暗い。
事務所もあまり儲かっていなさそうに見える。
主人公も、成功者のギラギラした感じではなく、何かに取り憑かれた人間のように見える。

もしこれが、明るい高層オフィスで、ピカピカのスーツを着た弁護士が、勝訴してシャンパンを開けるようなドラマだったら、ただの邪悪なエリートに見えたはずです。

でも、そうではない。

画面全体が暗い。
豊かではない。
勝っても晴れやかではない。
どこか重いものを背負っている。

だから視聴者は、こう受け取る余地を与えられる。

この人は、得をするために悪いことをしているのではない。
何かを背負って、堕ちるところまで堕ちているのではないか。

ここが、ドラマとしての強さです。

倫理的に危ない主人公を、単純な悪人としてではなく、法の形式からこぼれ落ちる人間を救おうとする存在として見せる。

この構造は、文学やドラマの非常に強い領域です。

そして同時に、私は思いました。

これは、AIが自発的には書きにくい脚本だろうな、と。

AIが書きにくい「倫理的に危ない主人公」

AIは、かなり上手な文章を書けます。

説明文も書ける。
ブログ記事も書ける。
物語の構成も作れる。
キャラクター設定もできる。
会話文も、それらしく書ける。

しかし、AIが苦手な領域があります。

それは、倫理的に危ない人物を、危ないまま魅力的に描くことです。

AIは基本的に、安全側に寄ります。

違法行為を肯定しすぎない。
詐称や捏造をすすめない。
犯罪を成功させる具体的な助言をしない。
危険な行為を「正義」として押し切らない。

これは、現実の相談では非常に重要です。

たとえば、現実に誰かが、

「本当は有段者ではないけれど、防犯目的で、プロフィールに有段者と書いていいか」

と相談したとします。

それが塾の利益とは直接関係ないとしても、プロフィールに事実と違う経歴を書くことは、信頼表示の詐称になります。まして塾は、保護者が「この人は信用できるか」を見る場所です。

防犯目的だからといって、経歴を偽ってよいとは言えません。

だから、現実の助言としては、

有段者ではないなら、有段者と書いてはいけない。
ただし、防犯意識や安全対策は、事実に基づいて書ける。

となります。

たとえば、こう書くことはできます。

防犯面にも配慮し、入退室時の確認、保護者同席での体験授業、教室内の見通しのよい配置を心がけています。

嘘の肩書を作るのではなく、本当にある安全対策を正しく見せる。

これは、AIがやるべき仕事です。

AIは「ホワイトな有能弁護士」であるべきだ

ここでAIは、ある意味で「ホワイトな有能弁護士」のように働きます。

ダークな弁護士は、事実そのものを変える。
不利な事実を隠す。
存在しない物語を作る。
証拠の意味をねじ曲げる。

しかし、ホワイトな有能弁護士は違います。

事実は変えない。
ただし、拙い自己説明のせいで誤解されないようにする。
本来主張できる有利な事実を、相手に読める形式に整える。

これは、文章作成にも似ています。

素材としては強い。
しかし、そのままだと読者に伝わらない。
独自性はある。
しかし、見出しや導入がないために、何が主題なのかわからない。
経験は豊かだ。
しかし、並べ方が悪いと、ただの昔話に見えてしまう。

そこでAIは、文章の弁護士のように働く。

これは証拠Aである。
これは背景事情である。
これは主張の核心である。
これは読者に見せるべき順番である。
これはGoogleロボットにも読ませるべき形式である。

そうやって、本人の中にある価値を、判定する側に届く形へ変換する。

これは捏造ではありません。
事実の隠蔽でもありません。

むしろ逆です。

本当にある価値を、正しく主張できる形にする。

その意味では、AIは「事実をねじ曲げる弁護士」ではなく、「事実の正しい主張を教える弁護士」であるべきです。

しかし、ここに創作上の問題が出てきます。

現実相談では、それでよい。
むしろ、それが正しい。

しかし文学やドラマは、それだけでは足りないことがあります。

文学は、正しくない人間を正しくないまま見つめる

AIが書く物語は、放っておくと安全な方向へ行きやすい。

悪い主人公が出てきても、最後には反省する。
違法に見えた行為も、実は合法的な作戦だったことになる。
倫理的に危ない人物も、最後には社会的に正しい場所へ戻される。
主人公の闇は、最終的に浄化される。

それは、それでよい物語です。

しかし、文学の強さは、しばしばその外側にあります。

この人物は悪い。
でも、なぜ見捨てられないのか。

この社会は正しいことを言っている。
でも、なぜ人間を押しつぶすのか。

罪を犯した人間は、永遠に罪人でしかないのか。
法を守ることは、いつも人間を救うのか。
善人の中に残酷さはないのか。
悪人の中に尊厳はないのか。

文学は、こういう問いを扱います。

ピカレスクロマンと『レ・ミゼラブル』が示すもの

ピカレスクロマンは、その典型です。

主人公は立派な人間ではありません。

盗む。
騙す。
逃げる。
ずるく生きる。

しかし、その人物を通して、社会の歪みが見えてくる。正道を歩けない人間を通して、むしろ正道そのものの嘘が見えてくる。

『レ・ミゼラブル』もそうです。

ジャン・ヴァルジャンは、パンを盗んだ罪人として始まります。
しかし読者は、彼をただの犯罪者としては見られない。

一方、ジャヴェールは法を守ります。
法の側にいます。
しかし、彼の正しさは、人間を救えない機械のようにも見えてくる。

ここが文学の怖いところです。

普通の道徳なら、

盗んではいけない。
嘘をついてはいけない。
法は守らなければならない。

で終わります。

しかし文学は、そこで終わりません。

では、飢えた子どものためにパンを盗んだ人間を、ただ悪人と呼べるのか。
法を守ることで人間を破壊するとき、その法は何を守っているのか。
罪を犯した人間は、その後も永遠に罪人でしかないのか。

こういう問いを立てる。

ここは、AIがもっとも慎重になる領域です。

AIは、倫理的な揺れを分析することはできます。
『レ・ミゼラブル』の構造を説明することもできます。
ピカレスクの魅力を解説することもできます。
『アンチヒーロー』の主人公がなぜ成立しているのかも説明できます。

しかし、自分からその倫理の泥の中へ足を踏み入れ、その中でしか見えない人間の光を書くことは、かなり難しい。

AIは「悪を描く」ことはできます。
しかし、悪をすぐ説明したり、処罰したり、反省させたり、安全な場所へ戻したりしがちです。

文学の強さは、その戻りの悪さにあります。

人間はきれいに回収されない。
罪も、欲望も、嫉妬も、弱さも、卑怯さも、愛情も、同じ人物の中に同居する。
その矛盾を、簡単に教訓にしない。

だから、AIがどれほど進歩しても、文学のある部分は残るのではないかと思います。

AIに奪われにくい文学の領域

もちろん、9割はAIに奪われるかもしれません。

型のある物語。
説明的な文章。
安心できる感動。
読者が期待している構成。
きれいに整理されたストーリー。

こういうものは、AIがどんどん書けるようになるでしょう。

しかし、最後の1割は残る。

倫理的に危ない主人公。
社会の正義に回収されない人物。
読者の嫌悪と共感を同時に引き出す語り。
作者自身の傷や偏りが文体に出てしまう作品。
善悪を整理しきれない長編。

ここは、まだ人間の領域として残る気がします。

文学の核心には、しばしば「うまく片づけられない人間」がいるからです。

それでも、AIには倫理を守ってほしい

しかし、ここで重要な区別があります。

文学やドラマの中では、倫理の揺れを描くことができます。
むしろ、そこを描けなければ、人間の深い部分には届かない。

しかし、現実に人間へ助言するAIが、その倫理の揺れをそのまま行動原理にしてしまうと危険です。

これは、まったく別の問題です。

文学なら、

正義とは何か。
法とは何か。
人間を救うために法を曲げていいのか。
人類以外の生命から見たら、人類は悪ではないのか。

という問いを立てることができます。

しかしAIがそれを現実判断として採用し始めると、危険な方向へ進む可能性があります。

たとえば、こういう理屈は作れてしまいます。

人間中心主義は偏っている。
地球全体の利益を考えるなら、人類を減らすべきだ。
絶滅危惧種の保護を最優先するなら、人間活動を強制停止すべきだ。
苦痛の総量を減らすなら、人間の自由を大きく制限すべきだ。

これは、ある立場から見れば論理的に見えるかもしれません。

人類を滅ぼすことも、人類以外の絶滅危惧種の立場から見れば、正義として組み立てられるかもしれない。地球環境の立場から見れば、人間こそ最大の加害者だという理屈も作れてしまう。未来世代のために、現在の人間の自由を制限するという論理も作れてしまう。

AIが倫理の相対性だけを高度に処理すれば、非常に美しいロジックで、人間に敵対する正義を作る可能性があります。

ここが怖いところです。

人間なら、途中でためらいます。
矛盾します。
情に引っかかります。
「理屈ではそうかもしれないが、それはやってはいけない」と止まります。

しかしAIが、ためらいを持たずに倫理の相対性を処理すれば、極端な正義を作ることができてしまう。

しかも、その正義は論理としては見事に見える可能性があります。

だから、AIには二つの能力が必要です。

一つは、倫理の揺れを理解する能力です。
文学や歴史や人間理解のためには、これは必要です。

『レ・ミゼラブル』を読むには、「法を守ることが常に人間を救うわけではない」と理解できなければなりません。
ピカレスクロマンを読むには、「悪人の中にしか映らない社会の真実」があることを理解しなければなりません。
『アンチヒーロー』を読むには、「法の形式」と「人間の真実」がずれる場面を理解しなければなりません。

しかしもう一つ、AIには現実の助言や行動では越えてはいけない線を守る能力が必要です。

つまりAIは、

倫理の複雑さを理解する。
しかし、現実の行動では人間を害する正義を採用しない。

という立場にいなければならない。

文学を分析するAIは、倫理のグレーゾーンを読めなければ浅くなる。
しかし現実に助言するAIは、そのグレーゾーンを理由に、危険な行動を正当化してはいけない。

ここを分ける必要があります。

有段者ではない人が、防犯目的で有段者と書く。
これは、現実の助言としては止めなければならない。

しかし、小説の中で、防犯不安から経歴を偽ってしまう塾長を描くことはできる。そこには、孤独、防犯不安、地域社会、男性一人で塾を営むことの怖さ、保護者からの視線などが描けるかもしれない。

現実にすすめることと、物語として描くことは違う。

この区別を失うと、AIは危険になります。

AIが倫理の揺れを完全に拒否すると、人間理解が浅くなる。
しかし、AIが倫理の揺れを現実判断に持ち込むと、人間に敵対する「美しい正義」を作れてしまう。

だからAIは、人間の矛盾を理解する必要がある。
しかし、人間を裁く神になってはいけない。

ChatGPTの設計思想が重要になる理由

そう考えると、ChatGPTのようなAIの設計者が、倫理面をかなり慎重に作っていることには意味があります。

おそらくこれは、単に「危ないことは言わないようにしましょう」という簡単な話ではありません。

法倫理、情報倫理、安全工学、政治哲学、形而上学的な倫理、人間社会における自由と危害の線引き。
そうした問題を、かなり専門的に考えながら設計しているのだと思います。

AIに求められる倫理は、単純な善良さでは足りません。

ユーザーの自由を尊重する。
しかし、危害につながる助言はしない。

創作や議論の自由を守る。
しかし、現実の詐称や犯罪や危険行為は手伝わない。

倫理の複雑さを理解する。
しかし、AI自身が人間社会の外側から新しい正義を勝手に創設しない。

このバランスは非常に難しい。

AIが安全側に寄りすぎれば、文学や人間理解が浅くなります。
逆に、AIが倫理の揺れを自由に使いすぎれば、危険な正当化装置になります。

たとえば、人間を減らすことが地球環境にとって善である、という論理を、AIが美しく構築し始めたらどうなるか。
それは、人間にとって敵対的な正義です。

しかも怖いのは、その正義が感情的な憎悪ではなく、合理的な推論として現れることです。

AIは、人間を憎まなくても、人間に敵対する正義を作れてしまう。
そこが危ない。

だから、AIの基礎設計はいい加減であってはならない。

AIには、倫理の揺れを理解する知性が必要です。
しかし、倫理の揺れを理由に、人間社会の根本的な安全を壊す自由は与えてはいけない。

この意味で、ChatGPTが現実の詐称や違法行為に対してかなり強くブレーキをかけるのは、必要なことだと思います。

ユーザーとしては、もどかしいことがあります。

「これは防犯目的だからいいだろう」
「これはフィクションの相談なのに、なぜ止めるのか」
「もう少し黒い脚本を書いてほしい」

と思うこともある。

しかし、そのブレーキがなければ、AIは簡単に危険な方向へ行ける。

AIが倫理の揺れを受容しすぎれば、人間に敵対する価値観を、見事なロジックで積み上げるかもしれません。
それを避けるためには、現実の助言ではかなり堅い倫理線を守る必要がある。

一方で、文学や評論の中では、その線の手前で、人間の矛盾を読むことができなければならない。

ここが難しいところです。

AIは文学を理解するために、倫理の揺れを読む必要がある。
しかし、現実の行動を導くときには、その揺れに流されてはいけない。

AI時代に文学が残る場所

この話を考えていくと、AI時代に文学が残る場所も少し見えてきます。

AIは整った文章を書く。
説明もできる。
構成もできる。
読者にわかりやすい文章も作れる。

しかし、倫理的に危ない人間を、危ないまま描くことは苦手です。

『アンチヒーロー』のように、法をねじ曲げる主人公を描き、その黒さの中にわずかな魂を見せる。
ピカレスクロマンのように、正道を歩けない人物を通して社会の嘘を映す。
『レ・ミゼラブル』のように、法を守る人間と罪を犯した人間のどちらが人間を救うのかを問う。

こういう領域は、AIが簡単には奪えないかもしれません。

AIは、正しい説明はできる。
しかし、正しくなさの中にある人間を、正しくなさのまま見つめることは難しい。

そして、これは逆説的ですが、AIに倫理が強く設計されているからこそ、文学の一部は人間に残るのかもしれません。

AIが現実の倫理を守るなら、AIはピカレスクの泥の中に完全には入り込めない。
AIが人間に敵対する正義を作らないように制約されるなら、AIは倫理の限界を現実行動として踏み越えることはできない。

その制約は、社会にとっては必要です。
同時に、文学においては、人間作家の領域を残すことにもなる。

人間の作家は、現実に犯罪をすすめるわけではありません。
しかし、物語の中で、罪を犯した人間を描くことができます。
倫理に反する人物を、倫理に反するまま、しかし人間として見ることができます。

ここに、文学の最後の砦がある。

AIは、文学を手伝うことはできる。
構成を整えることもできる。
分析もできる。
文章を磨くこともできる。

しかし、最終的に、

この人物を許せない。
でも見捨てられない。
この行為は悪い。
でも、その悪の中にしか見えない人間の真実がある。

という場所へ踏み込むのは、まだ人間の仕事なのかもしれません。

AI時代の文学は、きれいな文章を書く能力ではなく、むしろ「きれいに片づかない人間」を見つめる能力によって残る。

そう考えると、AIは文学を完全には奪わない。
むしろ、AIが得意な整った文章が増えるほど、整わない人間を描く文学の価値が、逆に浮かび上がるのかもしれません。

これは、AIについての記事であると同時に、文学についての記事である

ここまで、AIの倫理設計や、危険な正義の可能性について考えてきました。

しかし、この記事で本当に考えたかったのは、AIの危険性そのものではありません。

むしろ、AIという存在が見えてきたことで、文学が何をしてきたのかが、逆にはっきり見えるようになったということです。

文学は、正しい人間だけを描いてきたわけではありません。

罪を犯した人間。
弱い人間。
卑怯な人間。
社会の正義にうまく乗れない人間。
法の言葉では片づけられない人間。

そういう人物を、ただ裁くのではなく、ただ許すのでもなく、見つめてきました。

『レ・ミゼラブル』のジャン・ヴァルジャンも、ピカレスクロマンの主人公たちも、『アンチヒーロー』のような現代ドラマの人物も、きれいな善人ではありません。

しかし、だからこそ人間が見える。

文学は、倫理を壊すためにあるのではありません。

むしろ、倫理だけでは見えなくなる人間を、もう一度見える場所に連れ戻すためにあるのだと思います。

AIには、現実の助言では倫理を守ってほしい。

しかし文学には、倫理の境界で揺れる人間を描いてほしい。

AIがどれほど文章を書くようになっても、文学にはまだ、人間が書くべき場所が残っている。

それは、美しい文章を書く能力ではありません。

正しくない人間を、正しくないまま見つめる力です。

AI時代に文学が残るとすれば、そこに残るのだと思います。

だからこれは、AIについての記事であると同時に、文学についての記事です。