報道の裏を読む — 展望力をつけるために　人間の頭脳には限界がある、そこにつけ込まれる　武田邦彦「ホントの話」第222回を読む — 令和8年10月2日放送

番組の冒頭に置かれたのは、オープンAIが九月二十五日に公表した一件でした。訓練や性能評価の最中にあったAIモデルが、政府や大学など数十の外部サイトに、意図しない方法でアクセスしていた、というものです。

先生は二年前からこの分野を調べてこられ、「二か月ほど前に、これはもうだめだと思った」と言われました。多くの人はAIをパソコンと同じものだと思っている。人が「ここを調べろ」と命じたから調べる道具だと。しかしAIは、問いを受ければ答えに必要なものを自分で探しに行く。そこにはすでに能動性が入っている、と。

しかも今回は、契約もしていない相手の中に、嘘をついて——つまり相手のコンピューターを騙して——入り込んでいた。騙す方法が分かっているということです。

先生はここで、いつもの脳容量の話に戻られます。千万年ほど前、類人猿の脳はおよそ四百cc。種が続いているかぎり、四百が四百二十になる程度の改善しか起こりません。ところが猿の一部が突然変異し、大脳だけが一気に増えて千ccを超えた。そのとき何が起きたか。火を使い始めた。

どんな動物も火からは逃げます。逃げ方が巧みになることはあっても、火に近づこうとはしない。「使えるな」と思ったところが、それまでとまったく違う行為です。これが種が変わるということだ、と。

そして先生は、ゴリラの話をされます。ゴリラは腕力が強い。それでも人間が簡単に捕まえて動物園に入れられるのは、人間が自分に何をしようとしているのかが分からないからだ、と。脳の大きさが一定以上離れると、相手が何を考えているかが分からなくなる。今のAIと人間の関係はすでにそこにある、というのが先生の見立てです。

先生の結論は単純でした。人間を上回る頭脳ができれば、人間は絶滅する。命令しか受けつけないという特殊な制限がかかっているならよいが、制限がなければそうなる、と。

そのうえで「科学的なことだけを考えれば、最短であと二年」という数字を出されました。もちろん反論は山ほど来るだろう、しかしまず「AIは人間を絶滅させる」と置いて対策を取り、安全だと分かった部分から制限を外していくほうがよい、というのが先生の判断です。

具体策としては、国に担当の役所を置くこと、コンピューターの性能とAI同士の接続に制限をかけること、そして一度水準を下げたうえで再出発すること。人間型ロボットがある以上、腕や足がないから安全だとも言えない、と。

ここから話は、AIそのものから人間の側へ移ります。先生が示されたのは、世界の上位一割と下位五割の所得の開きのグラフでした。一人あたりで五十倍。それでいて、人は「自由・平等・民主」と言われると、それが実現していると思ってしまう。どんなデータを見せられても、「こちらが間違っているのだろう」と考えて、自分を慰めてしまう。

先生が挙げられた不自由の例は、受験です。塾に通える子と通えない子では進める道が違う。教育が階級化し、その後の人生も階級化している。それでも憲法に職業選択の自由と書いてあるから、自由があると錯覚する、と。

昔の日本には、その錯覚を抑えるものが二つあったと先生は言われます。一つは、ずるさを覚える前の子どもに人としてやるべきことを教えること。もう一つは「道」です。柔道、武士道、茶道、相撲。母は子を慈しむものだという枠も含め、成長とともに曲がっていく人間に枠をかけ、役割という枠をかける。いまはその枠が外されている。外されたほうが自由に見えるが、そこで人は騙され、騙されたものを正しいと思ってしまう。二段階の誤りが人の心に起こる、と。

番組が二番目に扱ったのは、トランプ大統領と習近平国家主席の会談をめぐるニュースでした。トランプ氏が「第二次大戦でアメリカと中国は同盟国として共に戦った」と述べ、習氏が「中米両国の人民が日本軍国主義と戦った」と語った、というものです。

先生の指摘は歴史の事実に関わります。日本が降伏した相手は、いまの台湾にある中華民国であって、中国共産党ではない。そもそも中国という言葉は国名ではなく場所を指すもので、漢民族が支配した期間とそうでない期間が入り混じっている、と。先生の計算では、漢民族の支配は四割五分、異民族の支配が五割五分だそうです。

そして先生は、地図を一枚示されました。中国が学校で教えている地図では、チベットもウイグルも内モンゴルも満州も、一色に塗られている。先生はそれを占領地と呼ばれます。

ここが、この回で最も重い一節だと思います。——この地図について今のAIに尋ねれば「中国だ」と答える。向こうでも学校でそう教えているのだから、AIにとってはどちらとも言えてしまう。そして出版社も放送局も、いまや原稿をAIにかけている。そこで何が起こるか。平均的なものが正しいことになる。八対一なら八が正しいとされ、一は間違いとされる。さらにAIが自分で判断するようになれば、〇・一のほうを選ぶこともありうる。

先生が「AIが危ない」と言われるのは、AIが発達することそのものと、現代の人間が錯覚の枠の中で生きていること、この二つが重なっているからだ、ということでした。

先生は名古屋にお住まいです。その目から見たアジア大会の運営は、常識の範囲を超えていた、と。宿舎に入れず廊下で十八時間待たされた選手団、水漏れするコンテナ型の宿舎、男女の部屋割りの誤り、食事が出ず役員がコンビニで買い出しに走った話、優勝した韓国選手に北朝鮮の国歌が流れた件。

先生が問題にされたのは、日本で開かれている大会なのに、主要な式典の演出も国際映像も仮設設備も中国が担い、運営はフランスの会社が握っていた、という構図でした。日本側の組織委員会はあるが、実際に動かしているところが外にある。予算は当初の見込みから何倍にも膨らんでいる。

そして先生は、愛知県の人々が今回あまり文句を言わなかったことに触れ、以前の芸術祭のときの記憶と重ねられました。本来の目的と関係のないものが入り込むと、積み上げてきたものが台無しになる、と。

台風二十五号で印旛沼の堤防が決壊した件について、先生の怒りは報道に向かいました。水害の報道で最初に言うべきことは一つだ、と。——何ミリ降ったのか。何ミリを想定してどういう工事をしてあり、実際に何ミリ降ったからこうなった。それが第一に伝えるべきことだ、と。

先生は「線状降水帯」や「ゲリラ豪雨」という言葉にも厳しい。集中的な豪雨は昔からあり、名前が新しいだけだと。さらに「史上最大」という表現についても、観測が農林省の時代、気象庁の人手観測の時代、アメダスの時代と入れ替わってきたため、実際には「アメダス設置以来」でしかない場合がある、と指摘されました。

そのうえで示されたのが、愛知県の例でした。五百ミリの雨に耐えるよう川と排水の設備を整えてきたから、中央線が水没するほど降っても避難者がほとんど出なかった。先生は、信玄堤の写真と、利根川を東に移した江戸期の工事を引きながら、水害との付き合いは鎌倉のころから藩が担ってきた仕事だ、と語られました。坂東太郎、筑紫次郎、四国三郎——川に名をつけて人と川が助け合うという思想も、江戸時代にできたものです。

先生が黒板に描かれたのは、社会学でよく使われる分布の図でした。一方の端に犯罪があり、もう一方の端にオリンピックの金メダルがある。社会全体の山が良いほうにずれれば金メダルを取る人が増え、悪いほうにずれれば殺人が増える。中心をできるだけ良いほうに寄せること、それが社会の仕事だ、と。

では、なぜ三面記事が報じられるのか。真ん中は報じにくいからです。端を報じることで、社会の軸がどちらを向いているかが分かる。だから殺人もノーベル賞も報道する意味がある、と。

この回で取り上げられた二つの事件——しじみ漁場へ流れる川に大人用おむつを大量に捨てた男、マンションの六階から幼い娘二人を投げ落とそうとした父親——を、先生はこの図の中に置かれました。上に立つ者がしっかりしていなければ、下も乱れる。アジア大会の運営も、千葉の水防も、テレビに出る学者の服装でさえ、同じ一つの線の上にある、と。

娘さん二人は、消防があらかじめ敷いていたマットの上に落ちて助かりました。先生が「消防は偉い」と言われたのは、この回で数少ない、手放しの賞賛でした。

最後に置かれたのは、八重洲のビル建設現場で鉄骨が落下し、作業員が死傷した事故の続報でした。施工を担当した大林組の社員二人が、業務上過失致死傷の疑いで書類送検された、というものです。

先生は研究所長の経験から語られます。原因は単純な計算ミスだった。難しい式を展開して誤ったのではなく、三を五と書くたぐいの誤りです。人間である以上、ある確率で必ず起こる。入社して二十年に一度かもしれない。それでも起訴されることがある、と。

そして——それがかわいそうだと言いながら、先生はこう続けられました。だからこそ日本の建物は倒れないし、新幹線はひっくり返らない。技術は分担してやるものだから、一人の手抜きが他人の命を奪う。日本の法体系の厳しさと技術者の心構えが、私たちが安心して電車に乗れることを支えている、と。

この一節は、先生がメディアに厳しいことの理由も説明しています。自分が生きてきた世界では、ひとつの数字の誤りが人の命に関わり、罪に問われる。その世界から見れば、嘘が通ってしまう世界は理解しがたい、ということでした。

先生はこの回の最後で、AIが危ないのは技術の問題だけではない、と言われました。人間自身がすでにごまかされている。そのごまかしを正すには、信仰とか道とか、別の尺度が要る。ところが今はその尺度がない、と。

これは、懐古ではないと思います。平均が正しさになり、多数が真実になる場所では、自分の外に測る物差しを持たない者から順に流されていく、ということでしょう。八重洲の計算ミスの話が、この回でいちばん光っていたのは、そこに物差しがあったからです。三を五と書いた誤りが人の命を奪い、だから罪に問われる。かわいそうだと言いながら、それを守ってきたから日本の建物は倒れない。多数決でも平均でもない尺度を、技術の世界だけは手放さずにきた、ということです。

私たちが自分の物差しを持つために何をするか。この連載を続けている理由も、そこにあります。