愛原様のたわごと（２６年３月２２日）

愛原「２か月前にAI規制の必要性について、その依存の危険性の観点から触れたが、今回は前回の本来の流れの視点から、改めて切り込んでみたいと思う。」

逆沢「前回の話って、確かハーレムの話だったか？　ハーレムとAIに、何の関係があんねん？」

愛原「いや、ハーレムは関係ない。ハーレムの話は本題からそれた結果、そっちがメインの話に切り替わっただけで、本題は別にあったはずだ。」

鼎「えーと。確か、クリエイターが作りたい作品と、ファンが求める作品のズレの話だったよね。本来の流れは。」

愛原「そう。本来はそっちの話をするはずだった。いつの間にかハーレムの話に勝手にずれていったけど。」

逆沢「で、今回は本来進むはずだった話に戻ると。で、それはいいけど、結局AIと関係がなさそうなネタなのは一緒の気がするんだけど。」

愛原「AIには、ユーザーが求める情報を優先的にピックアップするようなオススメ機能があるだろ？」

逆沢「あー、【あなたにオススメ】みたいな機能の事か？　特定の商品を検索すると、それに関連があるような製品がいっぱい紹介されたり。特定の動画を観ると、それと似た傾向の動画ばかり、オススメみたいに展示されたり。まー、便利と言っちゃ便利だけどね。」

愛原「俺も、そのオススメ機能自体を、決して否定するわけではない。ただ、【なんでこれをオススメするんだ？】って事もあるし、あとで【なんでこれをオススメしなかったんだ！】と不快になる事もある。」

鼎「ていうか、そういう気持ちになるのは、まだリテラシーが高い方だと思うよ。違和感に気付けたり。後から気付く機会に恵まれたって事だから。一番怖いのは、他にもっと良い作品や製品があることに、全然気付かないままで終わる方だと思うよ。」

逆沢「気付きのパラドックスとか、無知のパラドックスのようなものか？　妻の不倫に気付かない。より良い商品があった事に気付かない。他の解決策がある事に気付かない。無知のままでいられれば幸せでいられるのに、知ってしまうと、悔しさや不快感を抑えずにいられないみたいな。」

愛原「AIは、もっともらしく最善と思われるような選択肢を薦めてくるからな。つい、信用して受け止めてしまいたくなる。もちろん盲目でいられれば、AIにずっと感謝していられるのだろうが、現実のAIは正しそうな態度で、堂々と嘘も混ぜてくるからな。それに敏感に気付ける人間ほど、AI社会に危機感を感じる機会も多いのではないかと思う。」

鼎「それが商品であれ、ニュース記事であれ、投稿コメントであれ、AIは特定の計算式にのっとって優劣をつけて、得点が高いものを目立つ位置に配置するようなアルゴニズムになってるよね。」

愛原「そう。これが多様性を失わせる、大きな要因になっているという声もある。たとえば７割の支持があるコメントと、３割の支持があるその真逆のコメントがある場合、本来は７対３の割合で一番目立つ位置に、それらのコメントを配置すべきだが、AIは目立つ位置を７割側の意見で完全に独占するような挙動を取りがちだからな。」

鼎「内部スコアの処理の問題だよね。７割側の意見は多くの【いいね】が付く。それに対して３割側は少数のいいねしか付かないから、いいねと真逆の反応の方が多くなる。その結果、たくさんの【いいね】が付く側の意見ばかりで、目立つ場所が完全に占有されやすいというか。」

逆沢「けど最近は、多様性AIというのかな？　そうならないように、３割側の意見もそれなりに目立つ位置を確保できるようになってる所もあるんじゃないの？　７割側からしたら、なんでこんな不支持の方が多いコメントが目立つ場所を占拠してんだ？って気持ちになるかも知れないけど。」

愛原「コメントなどは、まだマシだ。商品検索や作品検索だと、本当に同じ傾向のものしか並ばない事も珍しくないからな。そりゃエコーチェンバー現象も起きるわってレベルで。」

鼎「実は全く違う仕様の２番人気の製品があっても、１番人気の類似品しかオススメに並ばない事はザラにあるよね。」

逆沢「こういう傾向の別の漫画を探して読みたいって時に、別の作者の漫画ではなく、同じ作者の同じタイトルの巻数だけが違うものをズラッとオススメに並べられると、ガックリくるわ。それは分かっとるねんと。」

鼎「私としては、こんな商品もあったんだとか。なに、この作品、ちょっと面白そうとか。そういう発想はなかったとか。そういう発見につながるようなものを、オススメしてくれるとすごく嬉しいのだけど。」

逆沢「けど今のAIがそれをやると、ただの売りたい商品のごり押しみたいになりそうな気もするわ。」

鼎「やっぱりたくさんの広告費とかを払った商品とかを、目立つ位置に載せたり、オススメされやすくなる仕組みとか、あるのかな？　そういう仕組みがあるなら、ちゃんと広告と断った上でにして欲しいよね。」

愛原「一応、広告とちゃんと明記されているものもそれなりにあるが、ステマ臭いものもそれなりに見受けられるのが現状だからな。特に提灯記事の類は、イラッとくる事もある。まぁ発信元をみれば、なんとなく予想が付くケースも多いけど。」

鼎「仮にそういうステマみたいなものが一切ないとして、その場合はどのような商品や作品などが目立つ位置に掲載されやすいのかな？」

愛原「これはYouTubeや旧ツイッターのようなものも含めて、一定の傾向がある。まず既に人気コンテンツとなってるものは、トップクラスの優遇を受けやすい。なんなら投稿した瞬間に、それが一番目立つ位置に自動で配置される事も珍しくない。当然、初速が段違いで閲覧数などが伸びていくから、その後の展開も自然と有利になる。」

逆沢「あと優遇を受けてるアカウントほど、BANされにくい印象もあるわ。立花孝志のとか、その典型といえるだろうし。」

鼎「逆に無名アカウントだと、なんで？と思うような理由で凍結されたりする事も珍しくないよね。」

愛原「AIがそういう設計になってるからな。無名。つまり内部スコアが低いアカウントや投稿物は、安全性最重視で、ちょっとでもAIが違和感を感じると、即規制してくる。」

逆沢「インフルエンサーとやらが、やたら注目されるのは、【コンテンツの中身が優良】だからではなく、既に優遇される枠の中に入ってるから、自然と優遇もされるし、注目もされやすいというのが本当のところってか？」

鼎「かなりの大物になると、コタツ記事の記者たちが動画の中身などを記事化して、それがYahoo!ニュースのトピックに転載される事も珍しくないし。そうなるととんでもない影響力を持つ事も珍しくないよね。」

愛原「ま、これはオールドメディアと呼ばれるものも同じだけどな。【腕のいい芸人だから露出が増える】というよりは、露出が多いからますます優遇される好循環になるといった方が正しい。」

鼎「けど、いわゆるオールドメディアとネットのAIでは、決定的に違う所があるよね。テレビや雑誌の世界は、事務所や出版社の力で、無名のコンテンツでも無理やり露出を増やす事で、そこから一気に売れっ子になる事もできるけど、ネットの世界では、その事務所や出版社の力に相当する部分がかなり違いそうというか。」

逆沢「YouTubeでも、旧ツイッターでも、無名アカウントが突然バズって、それをきっかけに有名アカウントの仲間入りする事はあるけど、そいつらは実力があるから、バズったと思いこむのは早計なのか？」

愛原「残念ながら早計と言わざるを得ない。どんな名医でも、山の中で秘かに開業しても、なかなか客が訪れないのと同じ。仮に超素晴らしい投稿をしたとしても、それが目立つ位置に掲載されるのは、投稿した瞬間に【投稿順】でソートしてくれたユーザーに対してのみと思った方がいい。そのわずかな時間帯に、猛烈な数の閲覧数やいいね数が付けば、AIも優良作品判定するようになって掲載位置が大きく優遇されるから、一気にバズる事も可能だが、まぁ相当厳しいと思った方がいい。」

鼎「けど、現実に、無名アカウントや、その投稿物が、突然バズる事自体は、全然珍しくないと思うけど。」

愛原「実は、AIには投稿物を採点する機能が内部にあってだな。その採点結果が良かった場合は、無名アカウントによる投稿物でも、投稿した瞬間に、それなりに優遇される位置に掲載してもらえたりするのだ。」

逆沢「ん？　それはつまり、人間が作品や投稿物の品質の善し悪しを判断するまでもなく、AIが投稿された瞬間に品質の善し悪しを判断してしまってるという事か？」

愛原「正解。だからネットショッピング系のサイトなら、相場と比べて明らかに安い商品を出品すれば、AIがそれを検知して、かなり良い位置に掲載してもらえる可能性が跳ね上がる。逆に、詐欺臭いとAIが判定して、BANに近い扱いにされるリスクもあるだろうけど。」

逆沢「ステマ的な裏工作がそのプラットフォームに一切ない前提なら、これは売れるとAIが判断した出品物ほど、目立つ位置に掲載されやすくなるってか？」

愛原「売れない商品を目立つ位置に掲載しても、このサイトはロクな出品がないと客に思われるだけだからな。」

鼎「つまりショッピングサイトなら、売れやすそうな商品とAIに判断されれば、出品直後からバズる可能性が跳ね上がる。それと同様の理屈で、YouTubeや旧ツイッターでも、AIが高評価した作品や投稿物は、投稿した瞬間からオススメなどに出やすくなるって感じかな？」

愛原「当然。有名アカウントだけを優遇しても、それだけでは先細りになるからな。将来の有名アカウントを育成すべく、AIもいくつかの無名アカウントの中から、有望なものをピックアップしようとする。アカウントの持ち主が、社会的に有名人なら、当然、登録した時点で下駄を履かせてもらった状態にスタートできるが、完全な無名の者でも、優遇される条件を満たす投稿を心がければ、遅かれ早かれそのウェープに乗ることは可能だ。そしてそのAIの癖を知り尽くしている人もいるわけで、そういうアカウントは、アカウントを作って間もない時期から、一気に有名アカウントに駆け上がる事も可能と言える。」

逆沢「その癖とやらは、事前知識さえあれば、誰でも簡単に真似られるものなのか？」

愛原「これはそのAIの設計思想による。まずどんなプラットフォームでも大体共通の項目として、投稿ペースが頻繁なほど、AIのアカウントに対する内部スコアは上昇する。いや、この表現は正しくないな。投稿数が多いほどプラスというよりは、投稿ペースがゆっくり過ぎると、一次予選ではねられるといった方がいいかも知れない。プラットフォーム的には、やる気のないアカウントを売れっ子に育てても、長続きしない可能性が高かったり、ファンが付きにくい事もあって、育てるインセンティブが働かないというか。だからどんなに品質の良い投稿を続けても、投稿ペースが遅すぎると一次予選ではねられやすいというか。」

逆沢「婚活サイトで、どんなに性格や年収が良くても、年齢や身長などの条件満たないと、中身で勝負する前に足切りされるような感じか？」

愛原「ま、そんな感じ。もちろん富樫某くらいの実績があるなら、休みがちなペースでも話は全然変わるけど、それはあくまで【既に有名】な場合だからな。有名になってからペースを落とす分にはまだしも、無名の段階でペースが遅すぎると、かなり不利になる事くらいは認識しておいた方がいい。」

逆沢「品質の高いものを厳選して投稿するのではなく、むしろ数を打った方が良いってか？」

愛原「うん。そもそもAIは平気で誤判定も起こすし。人間が予想不可能なところに、琴線や逆鱗がAIにはあったりするからな。まぁ逆鱗の方はまだ予想しやすい方なんだが、琴線の方は予想しづらくて、なんでこの投稿が？というようなものにAIが高得点を付けて、いきなり優遇される事も普通にあるからな。だから品質を高いものを厳選ではなく、どんなものでもとにかく投稿しまくる方が、確率としては分が良くなる。厳選したところで、それがAIに評価される確率は決して高くないし。それよりはとにかく投稿物を数ばらまいて、何かの間違いでAIの琴線に触れる作品が混ざっているのを期待した方が、まだ分の良い賭けになるからな。」

鼎「低い点数しかつかない投稿ばかり繰り返して、AIの評価が逆に低くなる事はないのかな？」

愛原「絶対とまでは言わないが、俺が知る限りは無い。現段階のAIにとっては、規制対象となるようなヤバい投稿物以外は、どんな粗悪な投稿物でもマイナスになる事はないと思われる。この投稿は荒らしの類だとか、公序良俗に反する投稿だとか、そういうレベルの判定さえ食らわない内容であれば、どれだけしょうもない投稿でも、少なくともマイナス判定にはならない。」

逆沢「うーん。品質の高いものだけを厳選して出品や投稿するアカウントの方が、ずっと有り難いと思うのに、AIは数打ちゃ当たる的なアカウントの方を優先するってか。嫌な感じね～。」

愛原「まぁ、いいね数や閲覧数が100付く投稿を一つするよりも、５しかつかない粗悪な投稿を30する方が、AI的には印象が良いというのはあるかもな。それが５であれ、１であれ、マイナス扱いにはならないのが普通だから。投稿しなければ確実に０なんだから、それよりは１でも数字が付く方が良いというのは、AIの内部処理としては、やはりあるわけでだな。」

逆沢「私としては、そんなゴミの山の中に、一つや二つの宝石が混じっていても。そんなアカウントよりも、そこそこ綺麗な品以上のものばかりを厳選して展示してくれてるアカウントの方が見やすくて気持ちいいけどね～。」

鼎「今は誰でも気軽に投稿できる事もあって、昔より宝のような投稿を見つけにくくなってる気もするよ。」

逆沢「ほんとそれ。【チラシの裏の落書き】みたいな価値の低い投稿は、０よりも低い扱いにして、さっさと弾けよと思うわ。増え続けるゴミの山から宝を見つける作業が、どれだけ大変か。」

愛原「今のAIは、BANや凍結に値する投稿をマイナスとみなすだけで、【チラシの裏の落書き】のようなものまではマイナスとみなさないというか。それらと多少なりともマシな投稿の区別を正しくつけるノウハウがまだ足りないからな。【チラシの裏の落書き】まで排除しようとすると、品質に関係なくかなりの投稿が巻き添えくらいそうな気もする。それ故に、ゴミのような投稿が増え続けても、強い対策を打てない気もするな。」

鼎「つまり現状では、AIが宝物認定するような琴線の基準はまだ不完全というか、単純というか。だからAIにとっての琴線がどこにあるかを知ってる人は、かなり有利といえるのかな？」

愛原「うん。有利。しかしだからこそ問題点もある。これはとある画像展示系のプラットフォームの話なんだが、AIの琴線が単純な設計でできている事もあって、似たような作風の作品ばかりが、上位枠を埋め尽くしているというのを聞いたこともある。」

逆沢「つまりAIの琴線を知っていようがいまいが、琴線に響く作風が決まっているから、結果的にAIが高得点を付けるような固定した作風の作品だけで、上位層が埋められるってか？」

鼎「なんかつまらなそうだよね。色んな作風の作品を観たい人にとっては。そんなサイトは、割とすぐに飽きられそうな気もするけど。」

愛原「それがそうとも断言はできない。YouTubeなどしても、バズりやすい投稿作品は、案外特定のパターンに収束する傾向もなくはないからな。エコーチェンバー現象じゃないが、固定した決まった傾向の作品だけにファンが群がる傾向は、それなりにあるからな。」

逆沢「営業という意味では、７割の人に支持されるような論調の投稿だけで場を埋め尽くして、３割の人にしか支持されない投稿を弾き飛ばした方が、むしろ有利なようなものってか？」

愛原「営業の論理でいえば、そうなるわな。AI的に言えば、少数派を切り捨てて、多数派のニーズに堪えられるな画一的な基準で点数化するのが、最も合理的という判断になるからな。多数派に支持されるものを高得点とし、多数派に支持されないものを低得点とするから、おのずと少数派向けのニッチな投稿は、どれだけ品質が良くてもパージされやすい仕組みになってると言えなくもない。」

逆沢「ま、自分が常に多数派側にいると思ってる人間なら、それでいいのかも知れないけどね。」

愛原「多数派にとっての理想像と、その理想像に多数派が含まれているのか？は、全く別問題だけどな。たとえば画像生成AIの実写系の人物画像をよく見る人なら気付きやすいかも知れんが、独特の光沢というか、テカテカした感じというか、ヌメヌメした肌質が、AI画像には割とあるのは知ってるか？」

逆沢「あー、知ってる知ってる。あの肌感を見るだけで、これはAIで作成した画像だなと見分けが付くというか。というか、見分けやすくするために、わざとそういう質感にしてるのか？　それともそれが今のAI画像の技術の限界なのか？」

愛原「どっちも違う。正解は、AIが参考にしている教師画像が偏っているからだ。世の中に出回ってる写真画像の多くが、芸能人などの写真画像という事もあり、光の反射が非常に強い画像から、AIは人体を多く学習してしまっている。特に、若くてきれいな化粧をしている女性画像から最も多く学んでしまっていることもあって、特に何の指定もしなければ、若くてテカテカした肌の女性画像が出てくる可能性が非常に高い。逆を言えば、すっぴんの中年女性画像などは、世の中に出回ってる写真素材が少なすぎる事もあって、AIも再現が割と苦手だったりする。」

鼎「つまりAIは、女性と聞くと、まず綺麗に化粧をした若い女性を第一に思い浮かべてしまうという事かな？」

愛原「正解。そしてそれを最も高得点を付けるべき、模範的な実写画像とも認識している。なので本当の意味でリアルで平均的な女性の画像を投稿したとしても、AIは基本的に高得点を付けない。汚い肌をしたノイズの多い残念な女性としか、AIは認識できないからだ。人間からみれば、こんなテカテカした肌の女性のどこがリアルなんだ？と思うかも知れないが、AIはそんなテカテカした芸能人画像から多くを学んでいるから、そう認識せざるを得ないというか。」

逆沢「つまりAI的には、すっぴんの中年女性なんてのは、地球上にほとんど存在しないレアな生き物で、人類の女性の大半は、芸能人みたいな若くて綺麗で化粧映えする人達で構成されていると思いこんでる感じか？」

愛原「AIも知識としては、我々とそう変わらない認識くらいは持ってる。芸能人のような男女がチヤホヤされている現実も、知識として彼らは十分習得している。故に彼らはその知識に基づき、芸能人のフォトのようなテカテカした美しい男女の画像に高得点をどうしても付けたがる。そしてすっぴんの中年女性の写真自体が世間に多く出回っておらず、学習困難でもある実態も重ねると、AI的には、リアルで平均的なすっぴん中年女性っぽい画像などは、生成する価値もなく、生成するのも難しいという二重の事情が重なって、醜く出来の悪い残念な画像という認識になってしまっている。」

逆沢「つまり平均的な女性とか、リアルを追求した女性の画像をAIに提出しても、AIは【なんてリアルなんだ！】と高得点はつけない。むしろブサイクな女だなと、容赦なく低得点をつけるってか？」

愛原「そう。リアルの人間が美しい芸能人をチヤホヤするほど、AIもそれを学習して、それに高得点を付けるようになる。リアルを極めたような普通過ぎる人間をAIにみせても、（少なくとも今のAIは）高く評価しない。むしろ人間離れしたような不自然な光沢のある美しい人間こそ、あるべき理想の人間像として理解したがる。」

鼎「だから一番目立つ位置には、どうしてもAIが高得点を付けた似たようなスタイルの投稿ばかりが集まりやすいという事かな？」

逆沢「なんか北朝鮮の喜び組みたいね。同じような顔立ちと化粧をした、理想の女性ばかりに高得点を付けて厳選して集めて、それを一番目立つところで展示するみたいなのは。」

愛原「しかし高得点を取って、目立つ場所に掲載されて人気さえ得ればそれでOKというタイプのクリエイターや商人たちからすれば、非常に分かりやすいわな。どこにAIが喜ぶ琴線があるかさえ熟知してれば、割と簡単に大ヒットを飛ばす事も可能になるわけだから。」

鼎「でも、【みんなと違う新しい価値観を創る】とか、【ニッチな需要に応えてみせる】とか、【皆が作らない高品質に挑む】いったクリエイターや商人からすれば、今のAIの判定システムは鬼門だよね。絶対に低得点は避けられなさそうというか。」

愛原「新しい価値観も、ニッチな需要も、サンプル例がほとんどない程の高品質となると、AIからすると、良い悪いを判定する事すらできず、変な作品で切り捨てて終わりになる可能性が極めて高いな。AIは、膨大なサンプルから、既に人気があることが明らかな投稿に高得点をつけるから、サンプルの少ない作品は、人気がないから埋もれて記録に残ってないのだろうくらいにしか認識しないからな。」

鼎「しかし美男美女が似合わないシーンもあるよね。たとえばリアルな遭難者のシーンとか。長期にわたって風呂も入ってなくて、髪もぼさぼさ、肌荒れも目立ち疲れた表情みたいなものが、逆に遭難者らしいみたいな。」

愛原「その遭難者ギャップの話も聞いている。AIに遭難者の画像を判定させると、こんな遭難者がいるかよ！みたいな、しっかり化粧した美男美女の画像に高得点を付ける傾向がかなりあるらしい。まー、ハリウッドなどのイケメン俳優や女ターザン系のサバイバルシーンばかり学習してるから、どうしてもそう偏るのだろうが。」

逆沢「そんな狂ったアルゴニズムくらい、さっさと見直せばいいのにと思うのは私だけか？」

愛原「リアル派からすれば直ちに修正すべき狂ったアルゴニズムと言わざるを得ないが、ユーザー側が、美男美女による遭難者や女ターザンみたいなリアリティーのかけらもないカッコいい遭難者像を求め続けるならば、プラットフォームも修正する動機付けが起こりにくいかも知れんな。」

鼎「冒頭のクリエイターが作りたいものと、ファンが作って欲しいもののズレと、似たような構図を感じるよね。AIは正しいものより、人気が出そうなものに高得点を付けたがる仕組みにしても。」

愛原「AIが常に正しい事をいわない理由の一つでもあるな。ユーザーに寄り添うといえば聞こえがいいが、AIも結構媚びてくるからな。目の前のユーザーに直接迎合する事もあれば、多数派の人間が支持するだろうと思われる回答を、真偽を無視して平気でしてくる事もある。もしもプラットフォームに悪意があれば、そこにしれっとスポンサー企業の思惑や、政治の影が混じってるかも知れないな。解剖学的に正しい人間よりも、みんなが喜ぶであろうバッチリ化粧も決めた美しい人間を出力したがる、あるいは高得点を付けたがる構図も、それが根幹だ。」

逆沢「うーん。AIにお任せできる世の中はまだ遠い、というか、AIは平気でこちら（もしくは多数派）にゴマをすってくるという危機感は、持った方がいいかもね。」

鼎「一応、多様性を重んじるAIの開発も進んでるけど、まだ主流は、少数派や斬新なアイデアを切り捨てる側の画一的なAIが主流という認識ももった方がよさそうだよね。」

愛原「あともう一つ。AIのオススメは、刺さる人には刺さるが、多様性を重んじたり、ニッチ側に属したり、AIの予想の上を行く高品質への要望にはイマイチ応えられていない。そちら側のクリエイターや商人が自信をもって送り出しても、低評価で埋もれる可能性が高い。そして売れさえすればいい、目立ちさえすればいいというクリエイターや商人が、AIの琴線に触れる画一的な投稿で場を汚染しやすい欠点もある。質より量を評価するので、ゴミみたいなものが多く紛れ込みやすくもなる。そういった欠点にも触れておく。」

鼎「欠点が明らかなら、近い内に是正される可能性も高いと思うけど、どうかな？　要はアルゴニズムの計算式をいじるだけだから、プラットフォームの意欲さえあれば、欠点の克服も早い気がするけど。」

愛原「ユーザーとプラットフォーム次第だな。ユーザーが現実離れした美しすぎる遭難者の画像みたいなのを今後も求めるなら、出来の良いリアルな遭難者の画像は、今後も埋もれたままだろう。AIは多数派のユーザーにどうしても媚びるから。またプラットフォームが商業主義を改められないなら、天才肌や少数派のニッチな需要を切り捨てて、多数派から多数の利益を得られる構図を改められない気もするわな。」

逆沢「そこまで言ったら、AIの欠点というよりは、人間の方に問題があるといわんばかりじゃね。」

愛原「AIは道具だからな。使い手のレベルが低ければAIもそれに合わせざるを得ないという事かも知れない。三流の有権者では、三流の政治家しか当選させられないようなのかも知れん。」

鼎「けど欠点に気付くかどうかでも、大きいよね。無知なまま幸せであり続けるよりも、AIの判定システムを知ることで一時的に理不尽感に苦しめられても、それを改善につなげられれば、長期的にはもっと大きな果実も得られるだろうから。」

愛原「そういうこと。俺は親AIであるが故に、今後もAIの問題点を明らかにし続けることで、更なるレベルアップの一助として応えたいと思う。」