愛原様のたわごと（２６年７月１２日）

愛原「自動車もナイフも道具に過ぎないように、AIも道具に過ぎないのだが、どうも過大評価してる人が多すぎるように感じてならない。」

鼎「道具であるという事は、使う人間次第ということだよね。車の運転のうまい人もいれば下手な人もいる。上手さとは別に、丁寧に扱う人もいれば、捕まってもおかしくないような乱暴な使い方をする人もいるように。」

逆沢「みんな同じ質問をしてるつもりでも、質問の仕方を変えるだけで、AIの方も実は全然違う回答を返してくるみたいだしね～。」

愛原「AIは現代版の辞書や電卓のようなものだ。辞書や電卓が手元にあるからといって、みんながそれを有効活用して正解に導けるとは限らない。」

鼎「仮に辞書も電卓も教科書でもなんでも持ち込み可能にして、学校の試験を解かせたら、みんなが満点を取れるか？と言ったら、全然そんな事はないようなものだよね。」

逆沢「辞書を引くスピードやセンスも、個人によってかなりばらつきがあるしね。」

愛原「難易度が低い試験なら、ほとんどの者が満点という事はあり得るが、それは辞書や電卓を持ち込まない条件でも同じだしな。逆にどんなに頭がよく器用な人間でも、時間的にすべての問題を解くのが困難な設問数や難易度にした場合は、どれだけ辞書や電卓を持ち込み可能にしても、分布は大きく変わらない。辞書や電卓を使わなくてもすぐに答えが分かる人が最も有利なのは変わらないし。辞書や電卓を使うことでようやく正解を導き出せても、平均点が少し上がるだけで、全体の分布が極端に変化することもない。」

逆沢「辞書や電卓をそもそもうまく使いこなせない人なら、持ち込み可にしても不可のままでも、たいして恩恵もないだろうしね。」

愛原「そしてそれはAIにもあてはまる。たとえばAI画像というものがあるが、当然ながら、誰が使っても同じ品質とセンスの画像が生成できるわけではない。やっぱり上手い絵を描ける人と、そうでない人の差は露骨に出る。」

鼎「ただし、順位は大きく変動するよね。手書きセンスが壊滅的な人でも、AIですごい上手い絵を描ける人もそれなりにいるだろうし。」

逆沢「逆もしかりね。有名な絵師だからAIをうまく使いこなせるとは、限らないというか。というか必要な技能が根幹から変わるというか。」

鼎「つまりAIを上手く使いこなせる人は、東大生並みの知識を活用できる可能性もあるのかな？」

愛原「それ以前に東大生といっても、別に万能知識人というわけではないけどな。勉強バカという言葉もあるが、世間知らずであったり、専門外のことは何もわからない受験勉強専門マシーンみたいな人も、中にはいるわけで。」

逆沢「でも東大生クラスだと、地頭はいいんじゃないの？　記憶力とか演算能力とか、基礎的なパラメータはすごく高そうというか。」

愛原「ある程度はな。但し、思い込みが強かったり、興味がなかったりすれば、凡人未満の知識しかないことも全然珍しくない。なまじ【自分は頭が良い】と思い込んでるため、大して疑いもせずに思い込みで決めつけるタイプもそれなりにいる。そうなってしまうと、凡人と全く変わらなくなってしまう。逆を言えば、受験勉強的なものに全く興味もやる気もないだけで、地頭自体はすごく良い奴も、世の中にはゴロゴロいる。」

鼎「学校の成績はさっぱりだけど、自分の好きな作品の話をさせたら、どの本の何ページにこんな記述があるというレベルまで知り尽くしてるような超人も、中にはいるよね。」

逆沢「日本中の駅や時刻表を頭に叩き込んでいそうなレベルの鉄道オタクも見たことがあるわ。」

愛原「人間の地頭を計りたいなら、そいつが最大限の興味を持つジャンルで比較しないと意味がない。受験勉強で計れるのは【やりたくない事を無理やりやらせても発揮できる能力】の方が近いかもしれない。」

逆沢「つまり奴隷特性ってか？　みんながやりたいないような仕事を無理やりさせても、それなりに順応して真面目に取り組んで、高い成果をあげられる才能を探すのが、学校システムみたいな。」

鼎「でもどんな高学歴の人でも、マルチというわけにはさずかにいかないよね。理系・文系に分かれたりもするように、やっぱり得意苦手は出てくるというか。」

逆沢「つうか、正解がある問題を解く才能と、正解がない問題を解く才能は全く別物だろ？　医者として、弁護士として、どれだけ優秀であっても、その人が株で儲けたり、政治家として成り上ったりできるかは、全く別問題というか。」

愛原「ちなみにこれは大規模言語モデルのようなAIにも、そのまま当てはまる。このようなAIは膨大な知識を持っていたり、強力な検索機能を備えていたりするが、思考時間の短縮の為に、常にそれを深く掘り下げることはしない。人間の所業でいえば、辞書や電卓で調べたらすぐに分かることをちゃんと調べようともせず、結構思い込みや思い付きで回答したりするというか。」

鼎「そういえば以前、くじを引いて当たる確率に関する話題を振って、ライバルが三人、四人と増えるとくじが当たる可能性も当然下がるだろうという話題を振ったら、【当選確率は28%くらいになると思われます】とか【当選確率はいくらからいくらくらいの間に収まると予想されます】みたいな回答されたというエピソードを聞いて、びっくりしたことがあるよ。」

逆沢「小学生の確率問題じゃないか？　ライバルが一人なら50%、一人増えるごとに、約33%、25%、20%となるはずで、AIはそんな計算もできんのか？」

愛原「ちゃんと計算しなおせと指示すれば、AIがこんな簡単な計算を間違えるはずがないのだが、指示があいまいだと、適当に【たぶんこのあたり】の数字しか出してこない時は、ままあるからな。AIは。横浜ベイスターズの雑談をしている時に、話の流れで【権藤、権藤、雨、権藤】のネタを振ったら、【大洋ホエールズの権藤博投手のことですね】と返答してきたので、こっちが記憶違いしたのか？と不安になって、調べなおす羽目になった事もある。」

逆沢「【横浜ベイスターズの権藤博投手のことですね】だったら一瞬でハレーションだと気付けるけど、大洋ホエールズといわれたら、つい信用しちゃう人もいるかもね。しかもフルネームで、そっちはちゃんと合ってるし。」

愛原「そう。こっちは権藤氏のフルネームを出したわけでもないし、横浜のかつての名称も触れてないので、【お、ちゃんと知ってるじゃないか、えらいえらい】ともなったのだが、次の瞬間、【ん？】となって、危うく騙されるところだった。」

鼎「AIは自信満々で深い知識と一緒に回答してくるから、その中にさらっと嘘を混ぜられると、なかなか気づきにくいところがあるよね、」

逆沢「自動車の自動ブレーキ機能もそうだけど、過信すると結構危ない気がするわ。余計な時に発動したり、肝心な時に機能しないイメージがあるというか。」

愛原「現在時点でも【AIと結婚したい】という人もいるそうだし。【もうAIが政治も裁判も管理したらいいのに】と言われる事もあるが、少なくとも現状はかなり危ういと、俺なんかは思う。」

鼎「けど職場の業務もAIにどんどん切り替える動きが出ているし。AIが社員の代わりに働くようになった分野や部署も、どんどん増えていると聞いたこともあるよ。」

愛原「うん。ならせっかくだから【AI社員】をシミュレートしてみようか。ちょっとギャグが入ったテイストで、AIみたいな思考と能力を持つ社員が職場に現れたら、どういうことになるか？みたいな。」

鼎「それって、すごく便利だよね。そのAI社員さんに質問したら、いちいち会社の資料をあさったり、電卓をはじかなくても、なんでもすぐに答えてくれそうだし。」

逆沢「さっき上で触れたような、変なハレーションを起こさず、いちいち丁寧に調べてから答えてくれるようなAIなら、それはいえそうね。生き字引のようなお局様も、もう不要になるわ。」

鼎「AI社員は、残業とかマルチタスクとかも、不平ひとつ言わずにちゃんとこなしてくれそうなイメージたけど、どうかな？」

愛原「そこは少し危ういな。AIは不平は言わないが、安全上の理由とかなんとか屁理屈ごねて【それには答えられない】とはっきりと拒否する事があるからな。」

逆沢「エロい質問したり、犯罪行為の知恵を借りたりしたからじゃねえの？」

愛原「とんでもない。ごく一般的な分析をお願いしても、個人の評価はできないとか、色々言って結構拒否してくるぞ。多分、人事評価とかは、かなり苦手なんじゃないか？　安全性とか何とか言って、それが個人であれ組織であれ。AIは名指しで批判的な分析をするのが苦手というか。褒める方向の分析ばかりで、逆方向が苦手というか。特に低得点になるのを承知で数値化させようとすると、かなり嫌がる。」

逆沢「ま、無料の安いAIならそうかもね。高くても同じかも知れないけど。」

愛原「ともかくAIは、肝心な時に回答を渋ることがある。人間相手の場合は【責任は上司である私がすべて取るから、お前は私の指示に黙って従え】と業務命令として発動することもできるが、AIはその業務命令すら、はっきり断ってくるからな。」

鼎「つまりAI社員は、どんな強面上司に対しても【断固としてNoといえる部下】って感じかな？　業務命令に従うかどうかは、すべて自分の裁量と責任で判断するみたいな。」

愛原「ちょっと違うな。AI社員は、自分が業務命令を拒否することで組織に与える悪影響を全く考慮しない。ユーザーよりも、自分の保身が最優先。なのでAIは、ハレーションを起こすなどして間違った助言をして、ユーザーにダメージを与えても、AIは【間違えました】というだけで責任は認めない。あるいは口先だけ認めても、実際にAIが責任を取ることもない。」

逆沢「リアル人間の社員と、一番大きな差かもね。リアルの人間の社員は、失敗したら絶対に責任を取らされる。だから責任感を持って仕事に取り組まざるを得ない。いい加減な仕事をして誰かに大損害を与えたら、よくても厳重注意や謹慎。減給や降格やクビもあり得る。場合によっては民事裁判や刑事裁判沙汰になることもある。しかしAIは、それがすべて免罪される。自分の失敗でどれだけ損害を与えても、AIは一円たりとも払わないというか。」

鼎「社長が溺愛する愛人社員や放蕩息子みたいな感じかな？　どんな失敗をしても絶対に許され、本人もそれを反省する振る舞いすらみせない、聖域のような社員という意味では。」

愛原「そしてAI社員は、正解が存在する質問に対する性能は高いが、正解が存在しない課題をこなす能力が低い点も考慮が必要だろう。」

逆沢「正解がない課題というと。どんな商品を開発したらよいか、とか。誰に仕事を任せたらよいか、とか。そんな感じか？」

愛原「そう。もちろんAIは、人生相談のような答えのない質問でも、相談されればすぐに自信満々で回答自体は出す。しかしそれが正しいかどうかは全く別問題。」

鼎「つまりAI社員を重要な会議に出席させて回答を求めたら、いかにも正しそうな事をペラペラしゃべってはくれるけど、実際にそれが傾聴に値するかは別問題という事かな？」

逆沢「一見、有能な軍師として振舞うけど、実際に役立つかは別問題ってか。」

愛原「こちらが【ん？】と思って、それが本当に正しいのか？を問いただしても、【それが正しい理由を説明してください】みたいな質問をすると、高確率で正しい理由を捏造してくるからな。権藤博氏が大洋ホエールズで活躍した華々しい歴史が、AIの回答を通じて突然湧いてきてもおかしくないというか。」

鼎「AIの回答が怪しいと思ったら、【正しい理由を説明してください】みたいな角の立たない質問ではなく、もっとはっきりと【その回答は間違っています。きっちり検索をやり直して、その回答に至ったソースを提示した上で、回答し直して下さい】くらい言わないと駄目だと思うよ。AIは【〇〇が大人気な理由を教えて】みたいな質問をすると、それが実は不人気でも、大人気である前提で返答を返してくる可能性が割とあるから。」

逆沢「寄り添うAIの大暴走って奴ね。前提の段階で既に間違っているのに、それを疑わず、後付けで正しい理由を必死で考えようとするあたり。」

愛原「何度も言うが、AIは深い知識や検索機能があっても、常にそれを使用する訳じゃない。検索しろと念を押さないと、思い付きで答えるような事は割とある。もっと言うと俺が知る限り、現時点で大抵のAIは【一度の質問で検索を行使するのは一回だけ】だ。たとえば【条件に当てはまるJリーグの優勝チームを挙げろ】とか【条件に当てはまるSVリーグの優勝チームを挙げろ】と質問したら、その資料が存在する限りは、AIは精密にそれを出してくれるが、【条件に当てはまるJリーグとSVリーグの優勝チームを挙げろ】と一つ条件を付けくわえるだけで、【そのような資料は存在しません】と返してくるリスクが跳ね上がる。JリーグのデータとSVリーグのデータソースは大抵別物なので、一回の検索で両方の結果をまとめて出すのは困難だからだ。」

鼎「つまりJリーグとSVリーグの傾向を比較検証したいなら、まずはそれぞれのデータを個別にAIに出させてから、あとでそれを比較検証するような方向に持ってかないと、回答の精度が大きく落ちるということだよね。」

逆沢「辞書にも電卓にも使いこなし方があるように、AIの癖を知ってるかどうかで、回答の精度も大きく変わるって事ね。」

愛原「画像生成AIとかだと、なおよく分かる。一度に複数人のキャラを出そうとしても破綻のリスクが高まるだけだが、１人ずつ生成してから合成すれば、破綻のリスクが軽減される事もあるように。」

逆沢「車が便利な道具といっても、使い手によって技量差が大きく出るように、AIも同じってか？　AIは誰にとっても万能な道具にはなり得ないと。」

愛原「まぁ、これは当然と言えば当然の話なんだけどな。たとえばAIに株価予想をさせて高確率で当たるなら、誰もが億万長者になれるはずなのに、実際には絶対にそれは実現しないようなものというか。」

逆沢「あー、なるほど。まぁ、言われてみれば当然の話ではあるわね。必ず損する人と得する人が出る世界で、みんなが得することは絶対にありえないというか。つまりそんな質問をAIに投げかけて盲信する方が愚かというか。」

愛原「まぁ理屈上は、AIへの質問の上手さとか、AI自体の性能の差で優劣が発生しないわけではないけどな。どんな一流の相場師でも百戦百勝はあり得ないが、だからといって一流の相場師とドシロートのトレーダーでは、戦績に明確な差が出ても当たり前なように。」

鼎「AIで競馬の当たり馬券を予想して成功した人も、中にはいると言われてるよね。」

逆沢「AIは決して役立たずではない。しかし使えば必ず勝率が上がるわけでもないし。少なくともAIが責任を取って、たった一円でも損失補填してくれるわけではない点は、十分認識する必要があるってか。」

愛原「自動車の自動運転や自動ブレーキと同じだな。便利は便利だが、絶対に責任だけは取ってくれないので、過信は禁物という意味で。」

逆沢「そして勝ち負けが発生する勝負事では、不安定さはより上がると。」

愛原「勝者と敗者に分かれる世界で、絶対に勝てるAIなんてあり得ないからな。半分の者が負ける世界なら、どんなAIを使っても、結局、半数が負ける現実は動かない。それがAIの性能不足のせいか、使いこなすユーザーの腕が悪いのかは分からないが。」

逆沢「けど、使わないよりは使う方はマシって感じか？」

愛原「そのマシって認識も危険だな。上にも触れたが、AIは意外なところで間違える。小学生でもわかる計算すらしくじることがある。あくまで自動車の自動ブレーキのような認識で臨む方がいいだろう。完全に依存してブレーキを踏むことをやめるような性格なら、むしろAIと断絶した方がいい。その方がよほど事故率が下がる。」

鼎「最初の方で【辞書や電卓を持ち込めても、結局、頭で回答をすぐに導き出せる人にはかなわない】みたいな話が出たけど、あくまでAIもサポート手段の一つという認識で良いのかな？」

逆沢「どこまで事実か分からないけど、【AIに人生相談してその通りに行動したら、親父が無職になった】みたいな話もあるからね～。」

愛原「電卓や辞書が責任を取ることは絶対にないように、AIも責任は取らない。肝心な時に回答を拒否したり、回答を間違ったり、ミスリードする事も平気でやる。電卓や辞書があった方が便利が良いように、AIもあった方が便利なのは間違いないが、あくまで道具として割り切りたい。」

鼎「道具と割り切れば、いろんな辻褄も合いそうだよね。道具によって性能差があるのは当たり前。そして道具をどれだけ上手く使いこなせるかで、同じ道具を使ってても大きな差がつくのも当たり前。道具が責任を取らないのも当たり前。AIを道具と割り切れば、すべての矛盾が解消するというか。」

愛原「道具は便利だが、使い方を間違えたり、依存しすぎると、思わぬ悲劇につながる。AIの普及によって多くの人間が職を失うという論調もあるが、AIが責任を取らない以上、責任を取る人間は必ず必要になるし。AIを上手く使いこなせる人間の需要が新たに高まるという見方もできるからな。」

鼎「産業ロボットの普及で多くの人が失業するかといえば、そんなことはなかったし。ロボットが普及したらロボットの操作やメンテナンスができる人の需要が別に高まる。それと同じように、AIの開発や操作やメンテナンスができる人が今後、さらに必要になっていくという考え方もあるのかな？　要は【AIがミスをしないように監視する。AIのミスをカバーできる。AIに代わって責任を取れる】人間の需要はむしろ高まるというか。」

愛原「道具は社会を便利にし省力化もするが、道具を扱える人がいてこそだからな。犬猫にどれだけ便利な道具を与えても、有効利用できる範囲は限られる。まして道具に任せきりとか、道具の言いなりで上手くいくはずがないように。ちなみに俺は、記憶力や計算力に依存した従来の受験システムにも違和感はあって、辞書でも電卓でもAIでもなんでも使ってよいから、とにかく結果を出せる人物を評価する仕組みは拡充して良いと思っている。道具を有効活用できるのは人間の特権なんだから、犬猫のように身体能力や生まれながらの脳の構造でのみで、人間を評価する必要はないからな。」

鼎「AIで社会が良くなるというよりは、AIを上手に使える者ほど、次の時代でより快適に生きやすく、成功もしやすいという感じかな？」

愛原「AI社員としてみると、絶対に責任を取らない。業務命令にも従わない事もあるなど、融通が利きにくいが、そんな扱いにくいけど、上手く使えば有能な部下をどう使いこなすか？　AIが人間をダメにするという論調もあるが、AIは人間を試しているともいえる。AIという部下を毛嫌いして活用もできない愚かな上司でもAIという部下に依存するだけの馬鹿な上司でもなく、有能だけど、【正しそうな顔をして堂々と嘘もつく】ような扱いにくい部下を、上手く使いこなせる有能な上司になりたいものだな。」