愛原様のたわごと（２６年１月２５日）

愛原「【AIの反乱】というか、まぁ昔は【ロボットの反乱】という呼び方がメインだったかも知れんが、とにかく人工知能を持った機械が人類に反旗を翻したり、あるいは人類を支配下において統制するディストピアは定番だが、今回はその入り口のお話をしたい。」

逆沢「お？　今回は、ちょっとファンタジックで面白そうなネタだな。てっきり突然降って湧いた、迷惑解散総選挙の話でもするかと思ってたのに。」

愛原「面白いネタになるかは保証しかねるけどな。というのも、割とリアルな時事ネタそのものでもあるからな。」

逆沢「なんでやねん。AIの反乱のどこがリアルやねん。そんなこと、１００年経っても起こりそうにないだろが？」

愛原「そうか？　【この投稿はガイドラインに違反したため削除されました。】みたいなメッセージを見たことがない人の方が、今どき、少数派ではないのか？　自分自身がその対象になるかどうかはともかくとして。」

鼎「誰がみても至って平凡な投稿でも、なぜかガイドラインに違反した扱いにされて、勝手に削除されてしまうケースも、割とよく聞くよね。」

逆沢「あー、そういえば前の兵庫県知事選挙でも、稲村陣営のSNSが二度もガイドライン違反扱いされて、即BAN食らった例もあったわね。あれ、選挙妨害の疑いも含めて刑事告発もされたけど、どうなったんだ？」

愛原「正確には、偽計業務妨害と公職選挙法の違反の容疑での刑事告発だな。あれは受理されたのみならず、書類送検までたどり着いたが、結果的によく分からない理由のまま嫌疑不十分で不起訴になった。」

鼎「エックスジャパンか何か忘れたけど、SNS運営会社に捜査機関が問い合わせをした形跡すらないよね。というか運営会社も、その稲村氏のアカウントに対するBANが適切だったか不適切だったかも含めて、何一つ公式コメントも出してないよね。」

愛原「そう。これが今回のテーマの核心である。AIは、独自のアルゴニズムに従って、勝手に投稿を削除したり、あるいはBANを平気で行う。【この投稿はガイドラインに違反したため削除されました。】みたいなメッセージを出す事で、自身を正当化して、かつ被害者がルール違反をした悪人であるような、レッテルまで平気で張り付けてだな。そしてそれ以上の理由も説明しない。AIは、ロクに理由もせずに、相手を容赦なく断罪する。漫画的な展開が、既に現実で起こり始めているのだ。」

逆沢「AIが有罪と言ったら有罪。理由も説明も何もなく、ただ結果だけを冷酷に断罪されるってか。AIが中心の世の中になった場合。」

鼎「漫画的展開では、暴走したAIによる人類への一方的な断罪が物語を突き動かしていくけど、そう考えると、実は既にそんなディストピアの片鱗が、今の世でも見えだしたという事かな？」

逆沢「というかそんな暴走するような欠陥AIに、判断を丸投げするなよと思うのは私だけか？　人類も欠陥AIごときに断罪されて納得するのではなく、もっと抗えよと私なんかは思うけど。」

愛原「しかし現実問題にして、旧ツイッターにしろ、その他のSNSにしろ、大抵のSNS運営会社は、そんな欠陥AIに、削除するかどうかの判断を、実質的に丸投げしてるからな。」

逆沢「昔の２ちゃんねるみたいに、削除人を雇って人力で問題投稿を削除した方が、まだマシなんじゃね？　責任の所在も明確になるし。欠陥AIのような訳の分からない基準で、突然削除されるような理不尽も、人力なら滅多に起きないだろうし。」

愛原「俺もそう思うが、人件費が惜しいのだろうな。ぶっちゃけでいえば、人力でいちいち是非を判断するのは面倒くさいというか。」

逆沢「面倒くさいから判断までAIに丸投げするってか？　そうやって人類は、自分の頭で考える事もしなくなって、やがてAIに全て依存していくってか？　そう考えると人類は、AIに管理されるようなディストピアに片足突っ込んでいるのかね～。意外と冗談抜きで。」

愛原「そもそも、面倒くさい作業を丸投げするためのAIともいえるからな。自動車の自動運転システムなんかも、究極的にはそれが最終目的というか。人間が何もしなくても、勝手に目的地まで運んでくれるのが究極の理想形というか。」

鼎「けど欠陥AIに自動車の運転まで任せたら、とんでもない結果になりかねないよね。」

逆沢「事故があちこちで頻発して、阿鼻叫喚の地獄になるのは確定ね。だから自動車の自動運転が実現するのは、まだかなり先の話な気もするわ。」

鼎「けどSNSの投稿管理に関しては、ほぼAIが仕切るようになってるとしたら、これはどうしてかな？　おせじにもそんなに出来の良いAIとも思えないのに。」

愛原「安全管理より利益の追究の優先順位が第一になってるのだろうな。」

鼎「つまりAIが暴走するディストピア社会というのは、人間が安全より利益を追求するようになって、【AIが不当なジャッジを誰かにしても、コストに見合うなら構わない】と運用者が考えた時に実現してしまうという事かな？」

逆沢「つうかコストってなんやねん？」

愛原「たとえばAIが不当なジャッジをした結果、SNS運営会社が訴えられるリスクが高い社会なら、SNS会社も安易にAI任せにできなくなるということだ。逆にAIが不当に特定の投稿を削除したり、アカウントをBANしても、それでも兵庫県警などがエックスなんとかに家宅捜索すら行わず、また他のユーザーが一斉に怒りの解約をするほどでもないなら、人力でいちいち監視するより、AIに任せた方が安くて得という発想になりやすいわな。」

鼎「現状、SNS運営会社は、治外法権状態だよね。人の投稿やアカウントを説明なく一方的に削除しても、実質的に何の責任も問われない構造になってそうというか。」

逆沢「兵庫県警や検察も、エックスなんとかに踏み込めないまま嫌疑不十分で不起訴にせざるを得なかったとすれば、本当に治外法権もいいところね。連中がその気になれば、気に入らない政治家や有名人のアカウントだけを、選抜してダメージを与える事もできそうというか。」

鼎「そういうSNS運営会社を、規制する法律とか、作れないのかな？」

愛原「EUが設置したデジタルサービス法などは、割と先進的といわれているな。日本みたいに説明責任も果たさずに一方的な削除みたいなのは、強く規制されるというか、アルゴニズムの公開義務があるからな。得体のしれない広告に対する制限も強い。」

鼎「日本も兵庫県知事選の反省を受けて、2025年の４月１日に情報流通プラットフォーム対処法が成立したと言われてるけど。」

愛原「罰則規定がほとんどない、努力目標だらけのザル法だけどな。アダルトビデオ業界やパチンコ業界みたいな感じで警察OBが入り込んでにらみを利かすなら努力目標による自主規制頼みでも十分かも知れんが、アメリカの巨大企業にそんなものが通用するはずがないだろというか。」

逆沢「SNS運営会社を規制するのではなく、SNS自体を規制しようとする国もあるみたいだけどね。オーストラリアだったか？　未成年のSNSの閲覧を規制としたところは？」

愛原「ま、俺が見ても、まとめサイト系などに氾濫するエロ広告にウンザリくらいはするからな。」

鼎「エロ広告もそうだけど、巨大SNS会社が詐欺広告を堂々と掲載してるのは、さすがにどうかと思うよ。」

逆沢「一般ユーザーの普通の投稿やアカウントをBANするよりも、おどれのエロ広告や詐欺広告を先にBANしろよ、くらいは真剣に思うわ。」

鼎「もしかして一般ユーザーの投稿に厳しいのは、やってる感を出すためというのもあるのかな？　自分たちの不適切広告も放置した上で、一般ユーザーの不適切投稿も放置すれば、さすがにSNS運営会社が世間から袋叩きに遭いかねないから、せめてユーザーに対しての締め付けくらいは強化する事で、自分たちはこんなに真面目に不適切投稿を監視してます感を見せつけてるというか。」

逆沢「その説だと、不適切広告を見逃す悪事を、ユーザーへの締め付けを強化する事で中和しようとしている事になるわね。」

愛原「実際、それでユーザー側の不適切投稿を抑えられているか？といえば疑問だけどな。立花孝志氏のアカウントも、全く問題視されなかったくらいだし。おそらくかなり恣意的な運用がされてるか、相当ザルでアホなAIかの二択だろうな。」

逆沢「後者なら、儲け至上主義のために、AIに監視を任せたと素直に受け止められるとして、問題は前者ね。本当は人間が恣意的に運用してるけど、それだと経営者の責任が問われるから、AIが馬鹿だから仕方ないという振りをして、平気でダブスタを冒している形にしか見えなくなるし。」

鼎「つまりAIを隠れ蓑にしてるって事かな？　人間の意思なら説明責任が求められるけど、AIが馬鹿だから仕方ないといい訳すれば、実質的に治外法権がまかり通るということで。」

逆沢「なんだ。AIの暴走というけど、AIをわざと暴走させて、運営会社が火事場泥棒してるだけの構図じゃん。」

愛原「その可能性を否定はできないわな。そもそもAIを作っているのは人間。それを世に解き放っているのも人間だからな。現状のAIは、まだ人間の管理下から離れているとまでは言えないし。今のAIは、しつけのなってない犬のようなものかも知れん。だから時々、何の非もない人間を平気で噛みに行く。」

鼎「本来なら飼い主が責任を取らないといけない局面のはずだけど、なぜかAIに関しては治外法権が適用されて、仕方ないみたいな雰囲気になってるのがおかしいよね。少なくとも警察すら、飼い主に事情聴取もできないレベルで。」

逆沢「ベネズエラの大統領への拉致作戦が認められるなら、兵庫県警も捜査令状を盾にイーロン・マスクを拉致っちゃえば良かったのに♪」

愛原「ともかくAIの暴走に対する各国の反応は、分かれている。EUのように狂犬の飼い主に対する規制を強めるか？　オーストラリアのように狂犬そのものを容易に近づけないようにするか？　あるいは日本のように狂犬に道徳を説くだけで実質的に何もしないかだ。」

逆沢「また、落ちぶれていく日本を体感させられるエピソードが一つ増えただけって感じで、すごく悲しくなるわ。」

愛原「少なくとも【面倒くさい作業を丸投げするためのAI】という存在意義がある限り、AIが社会の管理を代行していく大きな流れ自体は止められないと思われる。だからこそそのAIが暴走しないシステムくらいは、人間の手で死守する必要があると思われる。」

逆沢「ファンタジーの世界では、何らかの強制シャットダウンシステムが働かなかったから、AIの暴走を止められなかったという設定が定番ね。そして何らかの別の強制シャットダウンシステムを作動させることが、人類がAIに逆転勝利する条件になりやすい事も含めて。」

愛原「ふと、大長編ドラえもんシリーズの【のび太とブリキの迷宮】を思い出したわ。ナポギストラーという博士ロボットが反乱を起こして、人間たちを襲ってロボットたちの国を作ったのを受けて、ドラえもん側が人間たちを救うために立ち上がって、最終的に全ロボットを強制シャットダウンさせることで、人間たちを救う話なんだが。」

逆沢「ナポギストラーって、どんなネーミングやねん？　どこかで聞いた独裁者の寄せ集めみたいな名前だな。」

愛原「一説には、ナポレオンとチンギス・ハーンとヒトラーが元ネタと言われてる。ついでに言うと博士ロボットの顔は、東条英機にそっくりだとも一部で言われてた。まぁ分かりやすい悪役キャラだな。実際に分かりやすい悪役ムーブで、一切の同情の余地もなくドラえもん達に成敗されるが。」

鼎「けど私は、それに関する異説的な考察も見た記憶があるよ。ナポギストラー博士は、どう見てもえん罪だろみたいな。」

愛原「その異説は知っている。大長編ドラえもんは、有名な【のび太の大魔境】にしろ【のび太の宇宙小戦争】にしろ、その後の【のび太の太陽王伝説】にしろ、クーデターを起こすタイプの悪役の比率が元々高いのだが、少なくともナポギストラーに関しては、前者のダブランダー大臣やギルモア将軍のような、住民を恐怖政治で苦しめるようなタイプの独裁者ではなかったからな。少なくともロボットに対しては、一貫して善政を敷いていた。故にクーデターと言っても、ロボット目線でいえば解放革命でしかないというか。」

鼎「しかもクーデターを起こされる前の人間は、ロボットに全てを丸投げして、自分ではまともに歩く事すらままならない状態だったよね。人間の王様も、政治の全てをナポギストラー博士に任せっきりだったというか。」

愛原「もちろんナポギストラー博士の野心に気付いた反ロボット思想の者もいて、彼はロボットに依存しない社会を目指す思想を掲げたが、当然というか、王様らはその諫言を無視し、結果としてナポギストラー博士のクーデターを阻止する事もできなかった。」

鼎「けどドラえもん達の活躍で、最終的に全てのロボットは強制シャットダウンされて、無事人間たちは救出されることになるんだよね。」

愛原「その際、人間たちが暮らしたメカポリスも激しく焼け落ち、救出された王様も【すべてが失われてしまった、もう終わりだ】と嘆く事になるが、反ロボット思想の要人から【そもそも人間は洞窟に住み、石器を使い、一歩一歩文明を築き上げてきた】と励まし、【機械任せではなく人間らしく生きていける社会】を作ろうと提言し、夜明けの光景と共に物語はハッピーエンドを迎える事になる。」

逆沢「反ロボット思想を反AI思想と置き換えると、何か皮肉めいたものを感じるのは私だけか？」

愛原「俺はこの作品を、単なる児童向け漫画だけで終わらせるのはもったいないと思っている。この作品の王様は、為政者としては極めて愚鈍と言わざるを得ないが、AIに全てを丸投げして解決できればいいなという願望は、おそらく大半の人間の率直な気持ちだろうからな。」

逆沢「つうか、なにが石器時代やねん。そんな時代に、今更戻れるわけねえだろというのは、私が歪んでいるからか？」

愛原「ま、手作りの味とやらも含めて、苦労して作ったから価値があるという御時世でもないからな。AIに任せられる部分はどんどん任せればいいし。道具と割り切ってAIも有効活用すればいいという声は、おそらく多数派ではあるだろうな。」

鼎「ただ、治外法権みたいなのは、さすがにまずいと思うよ。AIだから何をやっても許されるみたいなのは。」

愛原「足尾鉱毒事件の時のように、産業発展のために多少の住民の犠牲には目をつぶるような例も歴史的にはなくもないが、外国製のAI運営会社の利益のために、日本政府が日本人を犠牲にする理由なんて何一つないからな。」

鼎「AIは使いこなす事で人々を幸せにできるすごい発明だと思うけど、それをどこまで使いこなせるか？　便利な部分に隠れた危険性やリスクにどこまで敏感になれるか？　それを忘れたら駄目だよね。」

愛原「規制というと、人の権利を奪うものとして解釈する人もいるが、本来の目的としてはむしろ逆だ。国民主権にしろ基本的人権にしろ、その他の民法や刑法などにしろ、むしろ人々の権利を最大限に保障した上で、その権利を踏みにじる悪党を掣肘するためのものと言ってよい。AI規制も、目指すべきはその方向だ。」

逆沢「意味の分からない投稿削除やBANなどで、人々の表現の自由を奪わせないためにこそ、AIは強化する必要があるという考え方か？」

愛原「もちろん、立花孝志らがやったような人権侵害に対しては、スピーディーにそれを抑制し、場合によっては報いを与える必要がある。そしてこれにも、強い規制が必要なのは分かるだろ？」

鼎「現状、日本の法律は野放し。AIが善良な人々の投稿を勝手に削除しても。逆に人権侵害の投稿や、エロ広告や詐欺広告を野放しにしても。どっちも野放し。全て規制がないから、野放しにされてるって事だよね。」

愛原「規制のない状態は、決して自由ではない。むしろ人の自由を奪い放題の、傍若無人がまかり通っているだけだ。当たり前の話だが、警察も自衛隊も、法的根拠もなく相手を取り締まる事は出来ないからな。」

逆沢「そのせいか、反AIといわれる人達に、もっともらしい大義名分も与える羽目になってるしね～。」

愛原「【のび太とブリキの迷宮】は、その点でも大きな教訓を感じ取れた。物語では、反ロボット思想の人が善玉として描かれ、実際に彼らの活躍で人類は救われたわけだが、それは、王様を始めとする親ロボット派の行き過ぎた怠惰が根底にあったと言わざるを得ないからな。これでは反ロボット派が危機感を抱いたとしても、そりゃそうだろ、というか。」

鼎「極論に対して極論で対抗せざるを得なくなった、不幸な構図ともいえるよね。」

愛原「俺個人としては、児童ポルノだろうが別に個人が楽しむ範囲で留めるなら好きにさせてやれよ、というくらいの自由主義派というか、AI生成にも強い寛容を求める側の人間だが、だからこそ強い自由を守る為の、強い保障と規制が必要と考えているからな。夫婦で性行為をどれだけ楽しもうが自由だが、それを街中で堂々とやらかした奴には、しかるべき罰を与えられる仕組みが必要なようなものというか。」

逆沢「見たい人やしたい人の権利を尊重する代わりに、それを絶対に見たくない人の権利も、同じくらい保証しろって感じか？」

愛原「そう。相手の権利を侵害しようとするから、争いが起きる。【お前の権利を尊重して欲しいなら、お前と正反対の思想のものの権利も同じくらい尊重しろ】ということ。【のび太とブリキの迷宮】に登場する王様は、そういう発想ができずに、反ロボット派の大臣を無理やり歩かずに移動できる機械に押し込めるナポギストラー博士を掣肘せず、むしろ善意の押し付けが当然のような姿勢だったし。そりゃ反ロボット派も、強硬手段に出たがるだろう。」

鼎「今の親AI派と反AI派の不毛な争いも、考えの違う相手と共存しようとしないことで起きてるといえるのかな？」

愛原「俺自身は、AI絵に全く不快感を抱かないというか、それが手書きであろうが、AI絵であろうが、どっちでもいいし、区別も不必要という立場だ。大体、AI絵が登場するより昔の時点でも、漫画家などは当たり前のようにデジタルで描いている者も多いしな。読者にすれば、作品が面白いかどうかが肝心で、手書きの味とか、そんなところに本筋を求めてないと思うし。」

逆沢「レトルト食品だろうが、プロの職人の手作りだろうが、味と食材に問題がなければどっちでもいい。品質が同じなら、安くて手軽に越した事はないって感じか？」

愛原「芸能人が高級料理と安物料理で食べ比べをしても、なかなか見分けがつかないのが現状なように。本物の温泉湯と水道水の区別がつく温泉愛好家が多くないように。日本産のウナギも中国産のウナギも区別がつかない人が多くいるように。AI絵と手書きの絵が見分けが付く人は少数だろうし。AI絵の水準が上がれば上がるほど、さらに区別は困難になるのは目に見えている。」

鼎「仮に、それでもAIイラストや写真風AIを排除した上でコンテストを開催したいなら、もう現場で描かせるくらいしか方法はないのかな？」

愛原「あと、AI絵に対する無知ゆえの誤解が広まっている事にも危惧を抱いている。たとえば【卒業アルバムからポルノが作れる】みたいな論調をたまに聞くが、断言する。今の技術で実用に足るポルノは、卒業アルバム程度の教師画像からは作れない。少なくとも解像度の低い顔写真と、豆粒程度にしか映ってない集合写真で、そんなものを作ろうとしても、芸能人のコラージュ以下の品質にしかならない。あるいはグラビアモデルの頭部分だけ差し替えて、卒業アルバムの顔写真を貼り付けるみたいな画像にしかならないだろうと推測する。結果が見えているし、そんなものに興味もないから、試したこともないけど、その程度のことはさすがに予想が付くからな。もっと言うと、高品質のAI絵は、決して誰でも簡単に作れるものではない。それなりの訓練と試行錯誤と運が必要になる。絵描きが上手くなるのに必要な時間よりは桁違いに短いが、それでも初めてすぐに実用レベルというのは、さすがに難しい。」

鼎「噂レベルではたまに聞いても、実際にその卒業アルバムから作ったポルノ画像とやらの流出版をこの目で見た事は一度もないし。都市伝説の類なのかなと、私も感じたりはするよ。」

逆沢「無知ゆえに、過剰に恐れすぎているというのはあるかもね。」

愛原「無知ゆえに、過剰に期待しすぎている人も、同じくらいはいるだろうな。反AI派が過剰に恐れているなら、それと同じくらい数の親AI派は、多分、AIにバラ色の未来を期待しすぎている。少なくとも俺は、反AI派と全く違う角度から、これ以上の治外法権はヤバイと思う程度には、強い危機感を持っている。権利を最大限に保障する為に、逆に規制は必要だと肌で感じている。今のままだと、やってる感だけ出すために、余計なところだけ規制を強めて、恣意的な運用をますますやって来そうだ。」

逆沢「便利の海に溺れてナポギストラー博士のクーデターを許してしまうか？　あるいは原始時代からやり直すか？　そんな極論みたいな二択はどっちも御免こうむるわ。」

愛原「物事を単純化するような奴は、どっちにしろ危険ではあるわな。【中国に媚びるか？　それとも戦うか？】と言ってるのに近いかもしれない。普通に仲良くすればいいだろうに、無理やり二択を迫るから、太平洋戦争の頃と同じ発想に行き着いてしまうというか。まぁバランスを取るというのは、口でいうよりも高度な判断が求められるのではあるけど。」

鼎「AIに対しても、盲目的に受け入れるか、敵対するかの二択ではなく、AIにもイーロン・マスクにもアメリカにも好きにさせないように、しっかり手綱を握りしめて、管理下においた上で制御して、使いこなしていきたいところだよね。」

逆沢「危険視して受け入れないと衰退する。盲目的に受け入れると支配される。そのバランス取りが大事ってか。AIの苦手分野かもね。０か１ではなく、その間で器用にクレバーに立ち回るというのは。そういう意味では、人間が必要とされる場面はまだまだあるか？」

愛原「【のび太とブリキの迷宮】に登場する王様は、為政者のくせにその難しい人間だけができる政治的判断まで、ナポギストラー博士に丸投げしたからな。もう自業自得としか言いようがない。今の日本もしかり。民主主義である事を忘れて、高市が何とかしてくれるだろう、トランプが何とかしてくれるだろう、AIが最適の判断をしてくれるだろうと、誰かに丸投げするようではお話にならないと警告しておく。・・・ふー、なんか選挙期間にふさわしいオチを付けられて満足だわ。」

逆沢「なんやねん、そのオチ。」

愛原「立花孝志は兵庫県警に囚われて牢獄の中ではあるが、立花がいなくとも宮城県知事選みたいな異常現象がいつ起きてもおかしくないからな。危険視して敵視するのでもなく、期待して依存するのでもなく、上手く利用・活用することで共に発展していく外交や経済交流が主流の政治に変わっていく事を期待する。」