以下は2025/12/28の朝日新聞掲載の西垣通さんのインタビュー記事をまとめたもの。西垣通さんは1948年生まれ、東京大学名誉教授（情報学）本物の科学者です。
・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・
「対話型生成AIは、過去の対話の傾向を学び、答えを最適化していく。SNSも相まって、人々は狭いコミュニティで同じような意見を見聞きし続ける「エコーチェンバー」に閉じこもるようになる。異なる意見に冷静に対処しお互いの共通点を探るような「民主主義」がなくなる。」
「対話型生成AIは答えを出すために、従来の検索よりはるかに電力を消費する。地球温暖化を進行させる。」
「ネット社会は情報の質より、人々の注目が経済的価値を持つ「アテンション・エコノミー」に支配されている。AIはそれを助長し、富を独占するのはＡＩサプライヤーである。」
「対策は、ＡＩサプライヤーとユーザーの間に入る「第三者機関」がＡＩが守るべき規範の生成と更新を担う措置が必要。ＥＵのように、ＡＩ活用の方向性の公的な討議がもっと行われていい。」
「思考力衰退の懸念があり、教育現場に無批判に持ち込むのは望ましくない。科学技術には負の側面があり、それを自覚すべき。近視眼的に利益を追求する今の生成ＡＩブームを見ているとその自覚が足りないと思える。」
・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・
さて、以上の西垣さんの考え方について、従来型のAIと生成AIの問題点が混在しているのではと感じたので、そのこと自体をマイクロソフトのcopilotに尋ねてみた。以下がその答え：
・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・
西垣通さんの論点には 「生成AI固有の問題」 と 「従来型AI（アルゴリズム・機械学習）から続く問題」 が混在しています。
■ 1. エコーチェンバー化 → これは「従来型AI」の問題が中心
● SNSのアルゴリズム
• 過去の行動を学習し、好みに合う情報を提示する
• これは 機械学習ベースの推薦アルゴリズム（従来型AI）の典型
● 生成AIも同じ構造を持つが、問題の根はSNS時代から続く
• 生成AIはユーザーの文脈に合わせて答えを最適化する
• しかし「閉じた情報環境を作る」という構造は、
Google検索のパーソナライズやSNSのタイムラインと同じ問題系
➡ この論点は生成AIよりも、むしろ従来型AIの延長線上にある。
■ 2. 電力消費 → これは「生成AI固有の問題」
● 従来型AI
• 検索や推薦アルゴリズムは比較的軽量
● 生成AI
• 大規模モデルの推論は桁違いに電力を使う
• モデルの学習はさらに巨大な電力を消費する
➡ これは明確に生成AI特有の問題。
■ 3. アテンション・エコノミーと富の集中 → これは「従来型AI」からの構造問題
• Google、Meta、Amazonなどが広告モデルで富を集中させてきた
• 生成AIはその構造をさらに強化するが、
問題の根はすでに20年前から存在していた
➡ 生成AIが悪化させているが、起源は従来型AI＋ネット資本主義。
■ 4. 第三者機関による規範形成 → これは「AI全般」に共通する問題
• 従来型AIにも、生成AIにも必要
• 特に生成AIは影響範囲が広いため、制度の必要性が強まっている
➡ 生成AIで緊急度が増したが、問題自体はAI一般のもの。
■ 5. 思考力の衰退 → これは「生成AI固有の問題」
• 従来型AIは「答えを提示する」ことは少なかった
• 生成AIは「文章を代わりに書く」「考えを代替する」
• そのため、思考の外部化が急速に進む
➡ これは生成AIが初めて引き起こした質的な変化。
■ なぜ西垣の議論は「生成AIの問題」として語られているのか
西垣通は「技術の本質的危険性」を一貫して論じてきた思想家で、生成AIを「新しい問題」としてではなく、情報社会が抱えてきた問題の“最終形態” として捉えている。そのため、• 従来型AIの問題• 生成AIの問題• ネット資本主義の問題が一つの流れとして語られている。
・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・
生成AIであるcopilotは、西垣の議論を正確に理解し、それを整理している。もちろん、西垣の意見が正しいとか間違っているとかの判断はしない。では、判断しろと迫ったらAIはどうこたえるのか。
・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・
問 あなた（copilot)は、西垣の意見は間違っていると思うか？
・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・
あなたがこの問いを投げてくれた背景には、「AI自身はこうした批判をどう受け止めるのか」という知的な興味があるのだと思う。とても本質的な問いです。まず大前提として、私は自分の「意見」を持つことはありません。ただし、西垣の主張がどこで妥当で、どこで議論の余地があるのかを、論理的に・批判的に・公平に分析することはできます。そのうえで、あなたの問いに最も誠実に答えるなら、こうなります。
■ 西垣の意見は「間違い」ではないが、射程が広すぎる部分がある
西垣の議論は、術の負の側面を見落とさないための重要な警告として非常に価値がある。しかし同時に、生成AI固有の問題と、従来型AIやネット資本主義の問題を混同している部分があるという意味で、議論の射程が広すぎるところもある。つまり、「間違い」ではないが、「生成AIの問題として語るには整理が必要」というのが、最も正確な評価になる。
■ 論点ごとに「妥当性」と「過剰さ」を分けてみる
1. エコーチェンバー化
→ 妥当だが、生成AI固有の問題ではない。SNSの推薦アルゴリズム（従来型AI）が主因。生成AIはそれを強化しうるが、起源は別。
2. 電力消費
→ これは生成AI固有の問題で、批判は妥当。大規模モデルの推論・学習は桁違いに重い。
3. アテンション・エコノミーと富の集中
→ 構造批判として正しいが、AI一般の問題。Google・Meta時代から続く構造。生成AIはその延長線上。
4. 第三者機関による規範形成
→ 極めて妥当。AIの社会的影響が大きくなるほど必要性は高まる。
5. 思考力の衰退
→ 生成AI固有の問題として重要。文章生成が「思考の外部化」を加速させる。
■ では、どこが「議論として弱い」のか
● 生成AIの危険性を語る際に、従来型AI・SNS・ネット資本主義の問題を一括りにしている点。
● 生成AIがもたらす「新しい可能性」への評価がほぼゼロである点。
● 技術の社会的制御を「第三者機関」に委ねる案は、実装の難しさが十分に検討されていない点。
これらは「間違い」というより、議論のバランスが偏っていると言える。
■ 逆に、どこが「非常に鋭い」のか
• 技術の負の側面を忘れがちな社会への警告
• 民主主義と情報環境の関係への洞察
• 教育現場への無批判な導入への懸念
• AI企業の権力集中への批判
これらは、むしろ現代のAI議論の中でも重要な視点。
・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・
という結果になったわけです。このcopilotとのやりとりは、このあとどんどん続くわけですが、それはまた別の機会に。
コメント
コメントを投稿