左から笹原先生（東京工業大学）、小町先生（一橋大学）

小町（一橋大学　教授） 本日はよろしくお願いいたします。一橋大学ソーシャル・データサイエンス研究科の小町です。
（2023年）4月に一橋に着任しまして、その前は都立大のシステムデザイン学部におりました。元々は文系で哲学科にいたのですが、言語学をやっているうちに、コンピュータを使った解析に興味を持ち、情報分野に飛び込みました。
大学院からは自然言語処理、計算言語学の分野で研究を続けています。特にここ10年くらいは言語教育への応用や機械翻訳に関心を持って取り組んでいます。
最近では、生成AIの研究も行っており、GPTを使った研究をしています。よろしくお願いいたします。

笹原　和俊（東京工業大学　准教授） 今日はありがとうございます。東京工業大学の笹原です。私は元々は物理学を専攻していて、博士課程では人工生命の研究をしていました。名古屋大に着任してから計算社会科学という分野の研究を始め、東工大に来てからは本格的にこの分野の研究に取り組んでいます。主にビッグデータと計算モデルを使った社会科学の研究をしています。
生成AIに関しては、フェイクニュースやディープフェイクなど、AIが悪用される観点での研究が多かったのですが、実際に使ってみると、非常に高いクリエイティビティを刺激するツールだと感じています。エージェントとしてのAIという考え方もありますね。今日はそういった観点の議論もできたら楽しいなと思っています。よろしくお願いいたします。

小町 ありがとうございます。実は去年（2023年）、「さきがけ」（JST研究開発事業）に採択されまして、自然言語処理の技術を社会科学に応用するプロジェクトに携わっていることもあって、計算社会科学にはますます関心を持っています。

笹原 そうなんですね。僕は「さきがけ」では社会基盤に関するテーマに取り組んでいました。社会の分断が一つのテーマです。例えばエコーチェンバー現象のように、SNSでは「見たいもの」ばかりが表示され、繋がりたい人とだけと繋がってしまう。結果として、見聞きする情報が偏り、フェイクニュースやヘイトだらけになるというような状況を、どうやったら技術で緩和できるか考えました。その辺りは小町さんのテーマとは近いのかもしれないですね。

エンジニアリングの前提知識の変化

笹原 当時はディープラーニング（深層学習）が出てきたばかりでした。僕は大きな変化を感じていて、私が関わった「さきがけ」が始まった頃は、ディープラーニングをみんなで使おうと提案して、クラウドのＧＰＵワークステーションをみんなで交代でちまちま使っていました(笑)。そんな時代はあっという間に終わって、今や誰でも20ドルで生成ＡＩが使えるようになりましたね。AIが社会に浸透してきたなという印象を受けてます。

小町 そうですね。実は僕は、以前は深層学習がそんなに言語に使えると思っていませんでした。連続的に変化する画像や音声には使いやすいのですが、言語は「記号」なのでネットワークに乗らないんじゃないかと思っていたんですよ。ところが、現在自然言語処理で一般的に使われているトランスフォーマーでも使われているアテンション機構（与えられた文章から文中の「最も」重要な情報はどの単語かを判断し焦点を当てる仕組み）が2015年に登場して、深層学習を用いた自然言語処理の研究をスタートしてみたら、割と日本の中では早めに深層学習をやる研究室になったので、色々と楽しい研究ができたなと思っています。
世界的には自然言語処理ではトランスフォーマーが言語モデルの基盤になってるのですが、日本ではその受容に成功して早めに切り替えた研究室と、しばらく待ってGPTが話題になる頃にようやく切り替えた人たちとに分かれていると思うんです。新しい技術に対する感受性が分野によって違うのかもしれないのですが、日本の言語処理の人には少し保守的な人が多いように思っています。
計算社会科学分野では、日本のコミュニティと世界のコミュニティで温度差や、時間差はありますか。

笹原 世界のコミュニティと日本のは違うという話はよく聞きます。言語の壁により、日本国内で閉じていても業績になっていたも研究もありますが、これからは国際的には通用しないと思います。ただ、そのような状況は変わりつつあります。日本でも、コンピュータを用いた定量分析を得意とする若手の社会科学者が現れ始め、非構造化データを扱う能力が上がってきています。
世界の流れに日本は少し遅れてはいますが、特に政治科学などの分野ではデータが豊富にあり、大規模言語モデルを使えばテキストデータも分析できるようになりました。社会科学は非常にスリリングな時代に突入しています。
感受性が豊かな若い学生たちがドメイン知識を持って社会科学の研究を進めることで、より面白い研究ができるようになると思います。

小町 ディープラーニング以前は、巨大なネットワークの分析のためには、メモリ上での計算方法など、エンジニアリングの知識が非常に重要でした。今はどうなんでしょうか。自然言語処理では学部生でもPythonを使って簡単に分析ができるようになって来ていますが、計算社会科学の学生はどうですか。

笹原 ハードウェアを意識したプログラミングはできてないことが多いですね。C言語から入ったような人がPythonを触るのとは少し違っていて、メモリとか一切無視なので、彼らが書いてくるコードは時として動かない(笑)。そこは少し心配です。
ただ、計算社会科学ではビッグデータを扱うとはいえども、バイオの人が使ってるようなデータほど大きくはありませんから、ちょっと工夫すればメモリ管理やパラレル処理もできるんです。ですから、「何を数えるか。それがリサーチクエスチョンとリンクしているか。」が大事ですよね。
例えば特定の単語を数えるだけでも、何らかの文化現象を表すかもしれません。

小町 なるほど、非常に参考になります。

笹原 私からもお聞きしたいことがあります。トランスフォーマーが出てくる前と後で計算の仕方や考え方が変わりましたよね。バイオインスパイアード（生物が行っている計算様式から発想された）なアプローチから、とにかく大きな計算機で大きなパラメータのモデルを動かせばよい、という方向に。計算機のやり方は人間の計算様式とは違うかもしれないけど、精度が出るならOKという感じです。
そこは何か意図的にやられたことなのでしょうか？

小町 言語処理は工学分野で行われているので、基本的には結果オーライです。深層学習もニューラルネットワーク（人間の脳内にある神経細胞ニューロンの回路を模した数理モデル）ですけれども、あまり気にしていません。微分して最適化出来れば良いと。本質的には巨大な行列演算の塊ですから。
トランスフォーマーも、作った人が試して良かったからそれでいく、というノリのようです。ニューラルアーキテクチャサーチという手法を使うと最適な構造が見つかるんですけど、人間が見てもなぜそれが良いのかはよくわからないんですよね。
空を飛ぶために鳥の構造を真似する必要があるか。ロケットや飛行機の形でも飛べる。それと同様に、理解しているかどうかは別として、有用なアプリケーションをたくさん作れると思っていて、実際に世の中もそうなってきています。

AIが知識をコモディティ化し、人間は違う軸で勝負する

笹原 なるほど。ある種のファンクショナリストですよね。生物学的に妥当かどうかはさておき、便利なら使っていこうという。
その延長で、「AIが人間にとって代わるか」みたいな話がよくありますけれども、これはある意味ナンセンスだと思うんです。AIは人間とは違う形の知識を蓄えていると思うので、この方法で知識を獲得している限りAIは人間にはなり得ないと。「ある日突然、職場に行ったら私の席にAIが座ってる」とかいうことは、当面、無さそうです。なので、どうやってこの便利なものを使っていくかへ思考を変えた方がいいと思っています。
普段の使い方もそうです。知識がコモディティ化（一般化）していて、誰もがGoogle検索を使ってるのと同レベルで、ChatGPT等を使えるようになって、自分の問いに対してそれなりの答えが引き出すことができるようになるとすると、そこでは差別化ができないから、他のところ頑張らないといけません。そういう社会になるはずなんですよね。
ですから、この点に関してはそんなに悲観的にならず、むしろそれと違う軸で頑張ると勝てる世界が広がるんじゃないかという気がするのです。
その辺り小町さんはどういうふうにお考えですか。

小町 非常に同感です。日本語入力だって、かつては専門家の中にすら「日本語のような複雑なものは、コンピュータで扱えるわけがない」と主張する人がいましたが、今は幼稚園児でもタッチパネルで簡単に入れられますよね。特にChatGPTみたいな対話型のインターフェースってやっぱり使いやすい。子供でも使える。
これまでは、エンジニアが頑張ってシステムを作り込まないと使えなかったのが、要約してね、翻訳してねと1行書くだけでやってくれる。そこは「検索」とは違う「生成」の部分で、今後の仕事の仕方はすごく変わると思っています。

AIとのCo-creationという新感覚

笹原 確かに、検索のメタファーで落ちているのは、「生成」の部分ですよね。実際に自分が使っている中でも、要点をただ4行ぐらい書いて、「これを1000文字の文章にしてください」というとそれなりのものができます。それを“壁打ち”のように繰り返していくうちに、自分の中でもちゃんと理解が蓄えられていくし、AIの方も、「なるほど、こういうふうにしてほしいのね」というな、ある種その意識が高められていく。生成する部分をお互いに作っているっていうコ・クリエーション（Co-creation/共創）というのは、これまでにない感覚ですよね。

小町 確かにそうですね。特に論文を書く人は割とトップダウンに書く（論文の大構造から先に決め、そこから詳細な下部構造を作っていく）ことが多いと思うんですけど、トピックセンテンスレベルで箇条書きしたらあとはパラグラフをすぐ作れます。
逆にその、僕は元々文系出身だからボトムアップというか、前から書いているうちに「こういうこと言いたかったのかな」と思って、気分が乗っていっぱい書けるみたいなこともあるんですけど、そういう人は逆に、AIに向いていないですよね。自分で書かないと気分が乗らないのに勝手に生成されると、自分の考えが纏まらない。
そこのアイディアの発想力がある人はすごくブーストかかって、効率よくいろんなものを出せるんですけど、自分の思考を温めないと出せないような人はどんどん出せなくなっているような気がしています。

笹原 そうですね。例えば本を書いている時などに、一文字も書けない自分と向き合っている時間のことですね。「今日は、一気に書くぞ！」と思っていて、ずっとパソコンの画面と2時間睨めっこしているみたいな(笑)。その状態を克服すると一つ二つと言葉が出てきて、その繋がりの中から次のイマジネーションが湧いてくることがあります。そこを勝手に補われてしまうと、助走ができないということはあるかもしれない。
ただ、文章の種類によるっていうのはあると思います。本当に事務的なものは、もうChatGPTで良いと思うんです。なので、小学校の先生こそ、学級日誌みたいなのはもうChatGPTを使ってさっと書いて、業務を楽にしてほしいというのは、私の思いなんですが、なかなか教育の現場は取り入れてくれない・・・ということはありますね。

小町 そうですね。今度は、いかに見せるかっていうようなのを頑張らないといけないと思います。それこそ日本語入力もそうですけど、デスクトップの日本語入力は数十年ほとんど進化していないんですけど、モバイルデバイスだったらみんな予測入力で入れますよね。
ああいうふうな感じで、そのハードウェアの制約によって何ができるのか、できないのかっていうのが変わって、新しい問題がやっぱりその時々に出てきます。
ハードウェアごとに、どういうふうに指示を出したらいいのかが異なっていて、その組み合わせが新しいテクノロジーの登場に繋がっているのかなと思っています。

笹原 なるほど。確かにインターフェースは人の行動にも影響を及ぼすので、そういう可能性がありますね。

クリエイティビティの再定義

笹原ちょっと話題を変えてみます。私が先生に聞きたいなと思っていたのは、「クリエイティビティこそが人間の唯一の砦。今、そこが脅かされてるんじゃないか。」みたいな考え方についてです。
自然言語処理というのはクリエイティビティがあるのかないのか？そもそもクリエイティビティとは？みたいなことがあると思うんですけど、そこに関して小町先生のお考えをお聞きしたいです。

小町 ありがとうございます。クリエイティビティだと皆さんが思っているものの多くは、既存のものの組み合わせでしかないかもしれません。
確かに大規模データを使って言語モデルで文章を生成させてみると、確かに似たようなものばかりなんですが、そこにクリエイティブなものが出ることはあり得ると思っています。
ただ、AIから出てくる案は「尖って」いない。人間が描いた絵や書いた文章の方が、整っていないんですよね。流暢とは言えないところが実は人間らしいと人間が思うようなところに繋がるということもあります。
クリエイティビティには種類がいくつかあると思います。まずは、これまで誰も考えたことがないようなものを作りだしたり、完全に新しいパラダイムを創造するようなクリエイティビティ。これはそう簡単には出てこないでしょう。けれど、例えばデザインの世界で、生成AIでテンプレートのようなものを出力して、その組み合わせを人間が選んで完成させるような、パッケージとしてのクリエイティビティがあります。後者はとても高速かつ簡単になってきています。

笹原 僕も非常に賛成なところがありまして、クリエイティビティは一つじゃないというのは思うところです。
だからAIでいくらでもカバーできるクリエイティビティの領域はむしろどんどん広がっていくだろうなっていうのに、本当に同意します。
一瞬でパターンを作ってくれて、そのパターンに対して人間が「これが良い」というインタラクション（応答）を与える。すると、また新たなもっと人間らしいパターンが出てくる。その試行錯誤を安価で大量に繰り返すことは、イノベーションの根源になっています。ですから、それを高速に回せると間違いなく良いものが出てきて、その類のクリエイティビティは、おそらく共進化するでしょう。
一方で、「こういう概念とこういう概念は絶対に結びつかないよね。なぜならばそこは過去のデータベースに無かったから」という部分、そういう類のクリエイティビティはやっぱりＡＩでは出てこないのかなと思います。人間が突然変異的に思いついたものなどは、蓄積されたデータの外のことなので難しい。クリエイティビティにも種類があるという点は私も考えが一致しています。
そもそも自然言語自体、有限な数の記号列からなっているわけですが、組合せによっては無限の意味を作り出すことができるという本質があります。それを機械が真似しているのですからある程度できるのは自然ですよね。なので、アーティストの方もそれほど悲観しなくてもいいのかなと思います。

フェイクニュース――流暢なテキスト、平均的な映像を信じやすいクセ

笹原 この問題を別の側面から考えてみたいと思います。
私はフェイクニュースを研究しているのですが、GPTが書いたフェイクニュースは信じられやすいという研究があります。書かれた文章が変に尖っておらず、説明に不備が無いので、より説得されやすいのです。
これはなかなかフェイクニュースの研究者としては大変だなと思うところです。更に今後は画像や映像が伴うようになりました。大量データから学習したAIが作る画像・映像は良い意味で平均的で、より人が親和性を感じやすい傾向があって、ますます人が騙されやすい。ですから人々が共有しやすいフェイクニュースが出てきます。これが、戦争や災害に用いられると問題です。
このような実負の面もあることを知った上で、社会がどう使っていくかを考えなければいけないのかなと思います。それも間違いなくクリエイティビティの範疇だと私は思っています。

小町 その通りですね。僕が最近興味を持っているのは、文章の評価で、人間がどういう文章を良いと思っているのか、悪いと思っているのかの分析です。
人間は流暢な文章に関して高く評価しがちです。実際に人を使って、文章の誤りをきちんと訂正できるかどうかで評価をした場合に、人は流暢性が高いものに対して誤りも直っていると思いがちなのです。
これまでは、流暢な文章が自動で大量に生成できると思っていなかったから騙されなかったと思います。しかし、人間は、自動生成された文章かどうかを言わなければ、結構騙されます。
画像と音声では、人間が知覚できないような小さな違いを電子透かしとして入れることで、悪用できないように自動生成できますが、言語では人間の理解する意味を大きく変えずに自動生成することは難しいです。正しいかどうかを読む側がちゃんと判定する意識で読まないといけないけど、それはすごく負荷が高いですね。

笹原 おっしゃる通りですね。これは情報リテラシー教育にも言えますね。
目の前に不確かな情報があるときに、それがどういうコンテクストなのかを知っているかどうか、そして人間にはどういう認知的な癖やバイアスがあるかを踏まえて見るかどうかで結果は変わりますよね。不確かな情報は増大する一方なので、情報の受け手が頑張るしかありません。
認知バイアスがあると、人は理性的に見ることができません。ですから、技術をもう少し理性の方向に押し戻してあげるナッジ（自発的に望ましい行動を選択するよう促す仕掛けや手法）を入れると、理性の目で物事を評価できるようになり、フェイクニュースを見破ることができるかもしれません。

小町 そうですよね。読む側が真偽を確かめるという、リテラシーが試される部分がありますね。

新田 短い時間の中でとても濃密な議論をありがとうございます。せっかくなので参加されている他の先生方からも質問を受けたいと思います。佐藤先生いかがですか。

AIは普遍的な法則を生み出せるのか

佐藤 ありがとうございます。一橋大学の佐藤です。非常に興味深く伺っていました。
私は経済学者です。去年、『データにのまれる経済学』（前田裕之/日本評論社/2023）という本が話題になりました。経済学は典型的な社会科学であり、社会科学の原則は普遍的な法則を見出すことです。ただ、昨今の経済学を見ていると、データを使って現実を説明できれば良い、という結果オーライの考え方が結構多いです。
明日の株価予想や来年度の成長率を予想するにはそれでいいのかもしれませんが、普遍性は無いですよね。AIが普遍的な法則を生み出せるのか、あるいはそれはやっぱり人間の仕事なのでしょうか、その辺りに興味があります。
もう一つ伺いたいのは、アジャイルに関してです。みんなでアイディアを出し合うアジャイルという考え方が行政の分野でよく出てきますが、生成AIとは少し違いますね。AIは明確な入力と出力があり、それに対してフィードバックをしていく体系だと思いますが、アジャイルはブレーンストーミングをして思いがけないアウトカムを出します。アジャイルのような手法もAIで可能なのか、あるいはそここそが人間の知見が問われるものなのか、ということについて伺いたいです。

笹原 ご質問をありがとうございます。社会科学で普遍性を求めることも、個別の事象を予測することも、どちらも重要だと思っています。因果推論もこれまで重視されてきましたが、コンピュータサイエンスのように予測の精度を上げることで拡がる可能性もあります。両方の性質を知った上で進むことが大切なのではないかと思います。
AIに関しては、それぞれが個別の性格を持つAIエージェントを複数用意して、タスクを投げて勝手に行動させるという研究があります。僕はアジャイル開発も、エージェントAIを使うことで、もっと良いものが作れる可能性を感じています。

小町 前者のご質問についていうと、ちょうど1年前に一橋大学に来たとき、研究室を自然言語処理研究室でなく計算言語研究室にしました。分野としても、自然言語処理は工学的なところで個別の問題を解くようにやるんですが、計算言語学は比較的、普遍的な原則を突き詰めようとしています。たまたま今、深層学習は理屈ではなくできること先行で進んでいますが、後から「これはこういう理屈でできるんだ」とわかることが多いです。
後者の件では、実際に今のGPT-4でもいくつかのモデルの出力の結果を混ぜて出していて、平均的に良い出力ができるようになっています。ただ、尖ったような意見は出しにくくなります。

佐藤 政治の分野でも確かに、マイノリティレポートをどう確保するかということは大切な問題です。ありがとうございました。

ルイス 一橋大学のジョナサン・ルイスです。現在の学生は、自分でPythonなどのプログラミングを学ぶよりも、ChatGPTでタスクを実行するコードを書かせることに慣れています。それによって、自分でアルゴリズムを考える能力が身につかず、本質的な理解が薄れる可能性があります。お二人のお考えはいかがですか。

笹原 確かに、ChatGPTに隷属すると、問題解決能力が低下する可能性があります。しかし、これを契機に、プログラミングを深く学ぶ人もいます。プログラミング教育は変わってきており、基本的なプログラミングスキルを学んだ上で、ライブラリ（よく利用される特定の機能）を使ことが重要だと思います。

小町 僕は文系出身なので、今の流れはすごく良いと思っています。コンピュータサイエンスの人は基礎からしっかりと学ぶべきですが、それ以外の学部の学生たちも起業したい・何かを作りたいというモチベーションがあります。
ChatGPTなどの生成AIによって、デザインやエンジニアリングの部分も自動で行えるようになり、アイディアさえあれば多くのことが実現可能になっています。教育に関しても、確率・統計が小学校で教えられるようになり、情報教育が変わってきていると思います。

ルイス ありがとうございます。

15年後の未来へ――学ぶ楽しさ、産み出す楽しさを残したい

新田 ありがとうございます。このセッションが終了するにあたり、将来の生成AIに対する期待についてお伺いしたいと思います。10年、15年後の未来に、生成AIがどのように発展しているか、どんなことを期待しているかを教えてください。

笹原 10年後には、生成AIという言葉自体が日常的になり、私たちの生活をより良くしていることを期待しています。生産性の向上やクリエイティビティの広がりを望んでいますが、SNSのような弊害も考慮し、セキュアなSNSや新しい形のコミュニケーションが生まれていると良いですね。

小町 先ほど日本語入力が幼稚園児でも使える話をしましたが、今皆さんが使っている生成AIのツールは3歳ぐらいからでも使えるようになっています。そのような世界で育った子供たちがどうなるのかにとても興味があります。
大人になるまでの過程で、自分の手や頭を使って何かを作り出す楽しさを感じてもらえるかが重要です。これからの15年ぐらいで、どう楽しい学び方を伝えていけるか努力したいと思っています。

新田 生成AIが10年、15年後に楽しく使われているように、先生方の研究に期待しています。ぜひよろしくお願いします。本日はありがとうございました。

一同 ありがとうございました。

左から畠山先生（東京工業大学）、磯田先生（東京医科歯科大学）

磯田健志（東京医科歯科大学 講師） 東京医科歯科大学 発生発達病態学分野の磯田健志と申します。
私は小児科医です。特に小児科の中でも、血液腫瘍、免疫疾患を専門にしています。大学卒業後に専門の施設やUCSD（University of California, San Diego）などの施設などで臨床および基礎研究の経験を積みました。その中で免疫異常症・悪性腫瘍の成り立ちに興味を持ちまして、大学で研究をしています。
具体的には、Tリンパ球になるための必須の転写因子がどのように発現制御されているか、ゲノムの3次元構造や非コードRNAに注目して研究を行ってきました。マウスで見出したことを人間でもどのように適用できるか、Ｔ細胞の系列決定がどう制御されているのかに着目して研究を続けています。本日はどうぞよろしくお願いいたします。

畠山歓（東京工業大学　助教） 東京工業大学物質理工学院の畠山と申します。
専門は高分子合成です。去年まで早稲田大学におりまして、新しいプラスチックや材料を作ったり、それをリチウムイオン電池など電気系のデバイスに応用したりする研究を行ってきました。これらの材料は、エネルギー関連や環境問題の解決に貢献できると考えています。
研究テーマとしては、5G通信のための新素材や、半導体エッチング用の新素材開発です。現在は、インフォマティクスを用いた研究も趣味的に始めていまして、ここ数年はAI分野の専門家と共同で大規模言語モデルを活用したプロジェクトを進めています。

司会（新田元　東京工業大学上席URA） 司会の東工大新田です。本日はお二人に、現時点でのAIとの対峙のしかたや思いを自由に語って頂けたらと思っています。議論の皮切りに、生成AIと自分の生活もしくは研究教育との関係について、教えていただけますか。

特定のタスクに特化したツールから、柔軟な思考をするＡＩへの変化

磯田 私は生成AIに関しては素人です。使い方としては、疑問点が出たところを少し投げかけてみる程度です。どういった反応が返ってくるのか見つつ、もちろんそれを鵜呑みにはせず、自分でも他の資料で検索しつつ、参考資料を集めているところです。
その他には、翻訳機能でDeepLやGoogle翻訳を使うことはあります。ただ、出てきたアウトプットを自分で考えた上で使っているという状況です。

畠山 私の研究生活への大きな影響としては、自分で論文を書くときにあまり英作文をしなくなったことですね。英語が割と得意なので昔は自分で書いていたのですが、査読者から英語自体に指摘を受けることがありました。
しかし最近は日本語で書いたものをAIに英訳してもらいます。そうするとほとんど修正無して綺麗な英語が出てくるので、そのまま投稿するようになりました。そして苦情が来なくなりました(笑)。非常に便利ですね。
研究の本筋に関しては、AIを利用した研究を続けています。これまでのAIは特定のタスクに特化したアルゴリズムが主流でしたが、最近では人間のように柔軟な思考が可能なAIが登場し、これまで不可能だった研究が可能になりそうな手応えを感じています。

プログラミングを経ずにAI活用が可能になる時代へ

磯田 先生はご自身の趣味としてもAIを使いながら研究を進められてきたということで、私などはたいぶＡＩとの関りが少ない立場かと思います。
私も患者さんの研究のことでＡＩを活用していきたいと感じることがありますが、畠山先生は基本的なスキルを身につけるにあたって、どういったことを意識し、どのように学んでこられたのですか？

畠山 私は小学校ぐらいからプログラミングをやっていたので、その過程で機械学習を身につけました。現時点では同様の傾向があるかもしれません。
つまり今は、情報学の専門家ではないけれどもＡＩを活用して活躍し始めている人たちは、技術的なバックグラウンドを持っている方が多いです。
ただ、最近はそんなにプログラミングをしなくてもある程度AIを使えるようになってきています。例えば、先日ミーティングでお会いした医師の方も、プログラミングは全然していませんでしたが、疾患を集めてAIに分析させていました。

疾患データの蓄積が重要な時代に

磯田 そうなんですね。私の研究に関連して考えてみますと、小児科領域では、一人ひとりの遺伝子変異が疾患に大きく影響しています。このため、個々の患者の成長と病状の変化を密に追跡し、データを蓄積していく必要があります。
その点で時代が少し変化してきています。近年はデータベースの構築が小児科領域でも意識されていまして、血液腫瘍だけでなく免疫異常症の分野でも蓄積が進みつつあります。
ただ、AIとリンクさせていく方法についてはまだ研究途上の部分があります。畠山先生から、そのアプローチについて何かアドバイスがあればぜひお伺いしたいと思います。

畠山 そうですね。例えば先日、勉強会で拝見した方は、初期診療に取り組む医師でした。その先生は、直接診断するにあたって1人の医師の知見だけでは限界があるという課題について、データベース構築とAI活用で解決しようとされていました。膨大なデータを基に、大規模言語モデルを活用して特定の疾患の可能性を示すシステムの開発を目指しているとおっしゃってました。

磯田 確かにそういったシステムができると良いですね。どうしても医療現場では予期せぬケースに遭遇することがありますので、その際に補助的に使えるツールがあれば非常に役立つのではないかと思います。

畠山 そうですね。ご存知かもしれませんが、現在日本でAI大規模言語モデルを作ろうというプロジェクトが進行中です。その主要なターゲットの一つが医療分野です。
私が聞いた限りでは、国内特有の事情を反映させることで、国際競争でGoogleなどに完全に負けることがないというメリットがありそうです。また、増え続ける需要に応えるため、かなり力が入っているという話を聞きました。

磯田 やはり医療面では各施設で電子カルテのシステムが異なっていたりして、医療情報を均一に扱うシステムがまだできていないという現状がありますね。今後、そういった部分が対応される時代が来るかもしれません。
疾患ごとにしっかりとデータを構築していく流れが世界的にも見られます。イギリスや米国ではレジストリ研究などが行われていて、日本もその方向に進み始めています。いずれにせよ日々の診療がとても重要であり、そこでしっかりとデータを取り、それをデータベースにきちんと入れていくことが、私たち医療従事者として進めていかなければならないと感じています。

人間が書いた言語からの学習で、AIの限界を突破する

新田 ありがとうございます。今の議論に関連して、畠山先生が研究で多様なアプローチを取り入れているそうですが、少し詳しく聞かせて下さい。
ゲノム研究と材料科学は全く異なる分野ですが、両方とも大量かつミクロなデータを扱うという点で、広義には似た面があると考えています。その上で、AIのどのような活用を期待されているのでしょうか？

畠山 そうですね、最終的には私の代わりに研究をしてくれるAIが欲しいです(笑)。
具体的には、今手近なところで何か新しい材料を作ろうとしたとき、それを実際に作ってみないとわからないことが多いです。しかし、AIが「こういう理由で、こういう性能を示しますよ」と予測してくれると非常にありがたいですし、逆に特定の性能を持った新しい材料を作るために、多くの人が悩む問題を提案してくれるといったことは、非常にホットな領域ですね。
材料の提案という点については、科学の世界にもやはりデータベースが存在しており、そことリンクさせて提案をしてくれるというのが現状ですね。基本的には、データベースが重要になります。
これまで、データベースを活用して予測するアプローチが取られてきましたが、多くは単なる数値データであり、テキストデータが不足しているという問題があります。これがある意味でAIの限界点でした。
人間は教科書を読むことで実験の条件と結果の関係性を理論的に学びますが、AIに同じように思考させないと、学習が偏ってしまいがちで、不適切な結論を導き出すことがあります。言語モデルを使うことで、AIが人間的に思考してくれるようになり、精度が上がる可能性があります。ただ、そのためにはテキストデータが必要で、材料科学や化学分野ではテキストデータが少なく、ライフサイエンス分野の方がテキストデータは豊富という現状です。

磯田 その間に言語系の要素を挟まないと、AIがデータだけを扱っていく場合、ずれが生じてしまうということですね。

畠山 医療系の分野において、テキストデータとして最もわかりやすいのは論文ですが、実際にAIが使用できるデータはオープンアクセスの論文に限られています。しかし、多くの論文はオープンアクセスではなく、特に化学系の研究者が多くを占めているため、AIの活用が制限されてしまいます。
そのため、論文や教科書など、人間が理解できるように詳細に説明している資料をAIにも読み込ませ、理解させることが現在非常に必要とされています。言語モデルも、そういった資料から学ぶことが重要です。

磯田 そうなんですね。私の知っている範囲では、過去の論文をサーチしながら関連する論文をピックアップしてサマリーを生成してくれるようなAIが企業によって開発されているようです。そのβ版を使わせていただく機会がありまして、その時は具体的なデータも相互にリンクさせるような機能があると非常に便利だと思いましたが、このような論文データを読み込んでくる機能が今後必要になっていくということなのですね。

畠山 そう思います。現状では、人間が書いた文章の方が、生成AIが作った文章よりも有用です。AIが生成した内容ばかりに頼っていると、現実から乖離してしまうこともあります。人間が書いた、より丁寧な文章を、できるだけ多く持つことが重要です。AI開発ではそれが勝利への鍵となると思います。

実験結果をシミュレーションするAI・結果から法則を類推するAI

新田 ありがとうございます。畠山先生は研究を行ってくれるAIが欲しいという話をされていました。磯田先生の場合は、そういったAIにアシスタント的な役割を担わせるならどのような場面が想定されるでしょうか？

磯田 そうですね、私は患者さんの塩基情報を読むことが多いので、そのデータの解釈を自動的にサポートしてくれるAIがあると非常に良いと思いますね。
また、過去のデータや論文報告を統合することから、注目している分子メカニズムに関わる物質や、DNAの化学変化、特定の変異が一定の頻度で起こったときのゲノムの構造変化やそこにリクルートされる親和性がある物質など、AIをリンクさせて補助しながら予想できることができたら非常に参考になると思います。
実際、それも可能なのでしょうか？

畠山 現在、世界中で高度なシミュレーションと実験結果の予測を組み合わせた研究が行われています。このように、さまざまなデータを総合して実験結果を予測するシステムの開発が世界中で競争されています。
もう一つ、どうしてそういう実験結果になったかをAIに考えさせる手法も研究が進んでいます。実験結果だけのデータがあって、そこから逆になんでそうなったかっていうのを考えさせる方法です。まだ赤ちゃんレベルですが、AIが勝手に何でそうなったかも考えてくれるシステムが赤ちゃんレベルですけど出来始めてるところです。これは中長期的には人間が不要になりますが…。

磯田 それはそうなりますよね。とは言っても実験データの解釈をする際に、過去のデータと紐付けてより深く考察できるという意味では、非常に良いと思います。

AIと創造性――「全く新しいこと」を創造することは苦手

新田 面白いですね。ところで、このリレートークでは前の回からの質問を預かり、次の登壇者に渡しています。
質問は、「人間にできる知的作業――パターン認識だけでなく、人間に近い行動や思考は、AIで出来るようになるのでしょうか。」というものでした。

畠山畠山 AIができることは増えていくとは感じています。創造性に関しては、AI分野の研究者もよくこの点を考えています。例えば東京大学の松尾研究室では、人間の創造性にはいくつかの種類があるとしています。基本的にそのうちの二つは、過去の物事を組み合わせるような形でAIにもできるとされています。
一方で、全く新しいことを思いつくというレベルの創造性は、現在のAIでは難しいようです。ただ、それは普通の一般人にも難しいことです。

新田 最近、赤ちゃんにカメラをつけてその言語処理がどうなっているかをAIで学習させた研究をニュースで見ました。結果、人間は名前と物体の認識に関するアルゴリズムが効率良く機能していることがわかったそうです。人間は学び方が非常に優れている。現在の生成AIやAIの方向性は人間の学び方を模倣しているようにも思えます。

磯田 人の発達についてどこまで研究が進んでいるかについては、私自身も完全には把握していない部分があります。ただ、赤ちゃんの行動記録や、客観的に人の行動を捉えて記録するアプリケーションの開発が進んでいますね。さらに日々の行動や顔認証、表情などから個人のバックグラウンドを探ることができるシステムも存在すると思います。

現実世界との相互作用を可能にする迄には、10年以上

畠山 そうですね、赤ちゃんの話とも関連していますが、本質的な問題の一つは身体性、つまり現実世界との相互作用です。AIは賢くなってきていますが、実際のロボットアームなどはまだ非常に不器用で、実験を行う能力には限界があります。
最終的には、ヒューマノイドロボットや赤ちゃんのようなレベルからさまざまなことを学ぶシステムを作ることが目標です。Googleなどがロボットの開発を進めていますが、基礎的な知識や運動能力を持ったロボットに、人間のように実験の方法を教え、研究できるようにするのが最終目標です。ただ、これは10年、20年かかるような長期的なプロジェクトだと思います。

井上素子（東京工業大学主任URA） 東工大URAの井上と申します。畠山先生が「身体性」と仰いましたが、関連して質問させてください。
第3回のリレートークでは、AIが身体性を持ち殺傷兵器となるリスクについて議論が及びました。自律的殺傷兵器と呼ばれる、AIが自分で考えて相手を攻撃するようになる脅威ですね。先ほど、身体性の獲得までに10年はかかるとのことでしたが、その10年の間に、セーフティネットとして何かできることはあるのでしょうか？

畠山 それは難しい問題です。私は一介の科学者として、作りたいものを作ることに集中していますが、確かに結果として恐ろしいものができてしまう可能性はあります。
これは結局、コンピューターウイルスのようなもので、誰か悪意のある人がそれを作り出したらどうしようもなくて、それがすごく賢くなっちゃったらどうしようもありません。オフィシャルには制約を作ることはできますが、アンダーグラウンドでいくらでも作れてしまいます。ライセンス制にするなどして規制を強化したり、注意を促すことは可能ですが、悪意を持った行動を完全に防ぐことは難しいと思います。

磯田 私も完全に防ぐことは難しいと想像していますが、しっかりとしたセキュリティを持った場所で患者さんの情報を守ることは強く意識しています。
患者さんの個人情報の保護を最大限に行いながらシステムを意識してデータを構築することが重要ではないでしょうか。

井上ありがとうございます。もう一点、先ほどオープンアクセスに関する話が出てきましたが、オープンではない論文があることで情報が限られてしまう、という点について考えさせられました。
オープンアクセスの問題以外に、AIの開発や研究現場への導入が進むために必要な規制緩和や制度、倫理面や社会的合意について、お考えがあれば聞かせていただけますか？

磯田 私は、素人でもAIを学び、使いこなしながら必要なものを開発できるような方向性が大切だと思います。知識を教えてくれる人やルールを明確に伝える必要があるでしょう。各分野で簡単にシステムを構築できるようになれば、発見や融合が進み、さらに前進すると思いますし、将来的には、誰でもアクセスしやすい状況になると良いですね。

学習データのフェアユース

畠山 研究予算がたくさんあるといいなとは思いますが、もう一つの問題は、やはりAIの学習データがほとんど著作権で保護されている点です。
アメリカにはウェブサイトの情報を集める団体があり、そのデータを使用していますが、日本では著作権法の制限があります。アメリカではインターネットでダウンロードしたデータを公開することが、社会的に有益だとされているため、フェアユースとして認められています。このようなオープンな取り組みを認める組織や国でない限り、データセットの共有はかなり難しいと思います。
フェアユースの考え方を日本にも導入しないと、AI研究が困難になります。AI研究者は日本語のデータセットを使用するために、アメリカのサーバーからダウンロードして使用していますが、その後のデータ加工も著作権で保護されており、共有が合法的に難しい状況です。この問題はAI開発の大きな障壁になっています。

井上ありがとうございます。一人の患者としては医療分野の成果だけでも世界でフェアユースしてくれたらいいのにと感じますが、難しいですね。

次回への質問

新田 ありがとうございました。今日の議論を受けまして、次回の登壇者に向けて聞いてみたいということがあったらお聞きしたいと思います。

畠山 人間が行うようなもっと時間がかかる複雑なタスクをこなせるようになるための道筋やスキルのロードマップについての考えを聞きたいと思います。
現状の言語モデルは、トレーニングすれば数学オリンピックで金メダルを取れるぐらいの実力がありますが、短期間で終わるタスクが中心です。
また、現在のAIと人間は、感情を持っているかどうかが大きな違いとなっています。私の子供を見ていても、論理よりも先に感情があると感じます。そのため、将来的に感情的な要素がどのように扱われるのかが非常に気になっています。

磯田 私は今後、ビッグデータ解析やモデリングを医療分野に取り入れていくにあたっての社会的なルール作りについて知りたいと思います。特に患者さんの情報に関して、どのようにレギュレーションを設定していくのかについて考えをお伺いしたいと思います。

新田 次回の先生方にお伺いしたいと思います。
お二人の大学は（2024年）10月からは一つの大学になりますので、今後もネットワークをご活用いただければと思います。有意義な議論をありがとうございました。

一同 ありがとうございました。

左から髙橋先生（東京外国語大学）、欅先生（一橋大学）

髙橋洋成（東京外国語大学特任研究員） 東京外国語大学の髙橋洋成（よな）と申します。名前からお察しいただけるように、クリスチャンです。
学位は神学で、専門は言語学です。旧約聖書のヘブライ語と、古代オリエントの楔形文字で書かれた言語の研究、それからエチオピアの少数言語のフィールドワークも15年ほどしています。エチオピアには80以上の民族がいますが、ほとんどの言語が十分に調査されていない状態です。
これらの古代の文字言語や現代の音声言語、そういったものをいかにデジタル化するかということにも関心があります。最近は生成AIが出てきましたが、今日はこれによって言語学、あるいは聖書学というものがどういうふうに変わるのかということを考える機会にさせていただこうと考えております。

欅惇志（一橋大学准教授） 初めまして。一橋大学のソーシャル・データサイエンス学部の欅と申します。私のバックグラウンドは情報系で、東京工業大学の情報理工学院にも在籍していたことがあります。民間企業に勤めた後、一橋大学でアカデミックな世界に戻ってきました。
専門は情報検索や自然言語処理です。Google検索のように、正確な検索結果を提示したり、高速に検索結果を提示する研究などを行っています。また、言葉の意味を理解した上でユーザーに情報を提示する研究にも取り組んできました。
2018年にBERTと呼ばれるモデルが登場してから計算機の言語理解能力が急速に進化し、2022年にテキスト生成AIのChatGPTが出てからは一般の方にとっても便利なものが登場したという認識が広まったと思います。
ChatGPTの登場は研究者の間でも衝撃的で、2ヶ月間で1億人ユーザーを突破したという事実もあり、ChatGPTの登場はパラダイムシフトとなったと感じています。

新田元（東京工業大学 上席URA） ありがとうございます。今日はよろしくお願いします。
初めに、ご自身がここ1年で生成AIをどんな使い方をしてきたのかなどをお話いただけますか？

聖書や初学者の学習ツールとしての生成AI

髙橋 はい。私個人としては、聖書のヘブライ語というやや特殊な領域について、ChatGPTの回答はあまり役に立たないなという印象を持っております。ただ、聖書ヘブライ語のクラスの学生には、どんどん使ってほしいとも思っております。
というのは、そもそも聖書のテキスト化やデジタル化は早い段階から着手されておりまして、構造化やタグ付けが行われ、多くの聖書ソフトが販売されています。ちなみに、人文学で最初にデジタル化された文献というのはトマス・アクィナスの『神学大全』だと聞いたことがあります。私としてはもちろん、学生にはきちんと聖書ヘブライ語を学習してほしいわけですが、同時に、すでに存在するツールの使い方を学んでほしいという思いもあります。
ですから、ChatGPTは学生が使えるツールが一つ増えて学習しやすくなったかな、ただし、その内容を鵜呑みにしてはいけないよという見方をしています。

欅 私は、研究で最も利用しているのは、英語の論文をChatGPTに要約させることです。対話形式で論文の概要を説明してもらったり、より詳細な内容についての質問に答えてもらったり。最初から最後まで真剣に読むと疲れちゃいますので、流せる部分は流して、しっかりと読む部分にメリハリをつけられるようになりました。論文を読む時には本当にもう欠かせないツールになっています。
教育については、初学者が「自分が何を理解していないのかすら分からない」状態で試行錯誤するのにはとても良いと思います。情報検索の矛盾というのでしょうか、良質な情報にアクセスするためにはそもそも良質なキーワードが必要です。しかし、良質なキーワードを生成するための前提となる知識がなければ、生成は難しいです。まさに「卵と鶏」ですね。ChatGPTは自分が知りたいことのニュアンスを伝えるだけで、いくつかの候補を出してくれて便利です。

髙橋 欅先生のコメントを受けて、思い出したことがあります。
最近、ウェブ上でギリシア語、ラテン語の貴重な写本なども画像として公開されるようになりました。それをスマートフォンの“Googleレンズ”を通すと、翻訳してくれるんです。ギリシア語やラテン語の翻訳の精度はまだ低いですが、何が書いてあるかの当たりをつけるという点では便利になりました。何しろ外国の図書館まで行って読む必要がない。いい時代になったなと思っております。

検索汚染――正しくない情報でネットが汚染される

欅 そうですね。ネット上にコンテンツが増えることはポジティブな面もありますが、一方で、AIによって生成されたコンテンツが氾濫して、正しくない情報でネットが汚染されるのではないかという懸念もあります。これは「検索汚染」とも言われています。
一時期いろいろな戦国武将や刀が擬人化されたり美少女になったりすることが増えて、その結果、元々の戦国武将の画像を調べても美少女しか出てこないという現象が起こりました。
これと同じようなことが生成AIでも起こるのではないかと思っています。今、Stable Diffusionなどの画像生成AIを使えば簡単に画像生成できます。その結果、ニュース記事のアイキャッチ画像としてAIが生成した画像を使うことが増えてきました。例えばバッタのニュースにAIで生成した画像を使ったところ、本物のバッタではあり得ない足のつき方をしているとか、本当の世界と矛盾する情報が生成されてしまったと話題になっていました。
その点で先生がおっしゃった宗教的なコンテンツ等が、生成AIによって情報汚染されるのではということは、懸念されていますか。

人文学が、出典の明らかな情報を提供する

髙橋 率直に申しまして、私はそれは生成AIに限らず、Webの草創期からある問題だと認識しています。例えば、ある文学作品をフリーで入手できるサイトは多いですが、そのテキストが誰によって確認されたものなのかという情報が書かれていないことが多いです。それを辿っていくと同じ間違いをしてるのできっと元ネタはこうなんだろうと理解することはできるのですが、最終的に出典がわからないデータは山ほどあります。
私自身は技術的なことは理解できませんが、このような問題を防ぐのは難しい、あるいは不可能だと思います。だからこそ、私はここに人文学の仕事の一つがあると思っています。
出典が明確で、誰がどのように確認したのかという情報を付けたデータを提供することが重要だと考えています。これはデジタルであろうとそうでなかろうと、人文学がずっとやってきたことですし、その本分は変わらないと思います。楽観的に過ぎるかもしれませんが。
もちろん、正確な出典情報を提供したとしても、それが剥ぎ取られて流布される可能性はあります。しかし、できることをやっていくしかないと思います。

欅 先生がお話ししていることを聞いて改めて感じるのは、自然言語処理技術は、言語学の専門家たちが整備した大規模なデータベース、コーパスのおかげで大きく進歩したということです。信頼できるリソースがあれば、それを活用することで可能性は広がります。
研究者の人口やデータの生成量には限界がありますが、人文学の多様な分野に情報学の研究者が集まり、良質なコーパスを作るための協力関係が築かれることが、人文学にとっても情報学にとっても良いことなのかなと思います。

髙橋 おっしゃる通りですね。ただ、私の印象では、現在の言語学と自然言語処理の分野は交流が密では無かった部分もあるのではないかと思います。もちろん、これらの分野を両立できる方もいらっしゃいます。
私は少数言語のフィールドワークもやっておりますが、少数言語は当然データが少ないので蓄積していく必要があります。しかし、言語学者と自然言語処理の研究者との連携が、これまであまり見られなかったように思います。

欅 おそらくそうですね。私自身、恥ずかしながら、言語学者の全体像を十分に理解していなかった部分があります。自然言語処理の全国大会などに参加している方は言語学者のうちの一部ですよね。
今後、人文学者と情報学者がより気楽に付き合えるというか、互いの思想を尊重しあえる健全な関係が築けると良いと思います。その意味で、ChatGPTが互いの言葉を翻訳する役割を果たしてくれるかもしれません。

新田 東外大の中山先生はいかがですか。

情報の正確さ、安全性を守る“ガードレール“

中山俊秀（東京外国語大学教授） ありがとうございます。私も長年、少数言語の研究をしてきました。今のお話の中で、AIが生成した情報がたくさん出てきて検索汚染が起きるとか、それに画像が加わってありえない虫などが出来てくるというところに、とても興味を持ちました。
確かに、髙橋先生がおっしゃったように、これはネットが始まって以来多かれ少なかれあったことですね。ただ人間がやる範囲では、ありえない虫の絵がそれほど多く出回るということは無かった。けれども今はそれが起こってしまう。だから人文系の研究の役割は大きい、というのは本当におっしゃる通りだと思います。
たとえ悪意がなくても、情報の正確さや真正性を確保するのは難しい問題ですね。社会的な真正性というものが、結局、社会的な構築物だとすると、我々がその情報が間違っていると知ってそれを叫んでいても、大多数の人がそれを正しいと思ってしまえば、社会全体がそれを真実として受け入れてしまいます。
このような状況をどう止めるか、情報の正確さをどう検証するか。誰かがゲートキーパーのような役割を果たさなければならないと思います。
これが我々の社会にどんな影響を及ぼすのか、お二人にお考えを伺えたらと思います。

欅 生成AIの負の側面が強調されてるなと思うのが、洪水や地震などの災害に関するフェイク画像などです。人命に関わるような問題に対する誤情報は、助けられるはずの人々を助けられなくなる可能性があるため、非常に大きな問題だと思います。
AIのガードレールという考え方があります。例えば、大規模言語モデルを作っているGoogleやLINEなどでは、有害な表現やバイアスを含むコンテンツを生成しないような仕組みや、学習データから有害な表現を排除するフィルターを使っています。
画像認識技術がさらに進化し、画像のより深い理解ができれば、生成された画像の有害性や正確性を判断するガードレールが強固になる可能性があると思います。
また、AIで生成されたテキストや画像が、人間が作ったものなのか、AIが作ったものなのかを判定する技術も進化してきています。これらの技術がさらに発展し、AIツールを提供するプロバイダが社会的な責任を果たすことで、より良い状況が実現することを期待しています。

何が真であり偽であるかという普遍的な問い

髙橋 私からはすごく思弁的な答えにはなりますが、現在の生成AIや大規模言語モデルは、まだ必ずしも人間の言語システムを反映したものではないと認識しています。おそらく次の段階、つまり機械が知覚し、その知覚した情報を自分の知識として蓄積し、それを運動系として出力することでフィードバックしていく段階に入ると、初めて人間の言語と比較することが可能になると思います。
これは、機械が身体性を獲得した、つまり機械自身が記号操作としての言語ではなくて、現実とリンクした言語の使い方を覚える段階に入るということを意味します。
これが実現すれば、事実性の判定が機械自身によってできるようになる可能性があります。現段階では難しいと思いますが、次の段階に進めば、機械自身が有害性の判定をできるようになるという楽観的な予測もあります。
ただ、そもそも人間が誤った知識を全て排除できているわけではなく、むしろ我々はフィクションの中に生きているといっても過言ではありません。そのフィクションが社会にとって有害かどうかという問題は、人間が知覚しているこの現実とは何かという哲学的な問題ともつながります。
そう考えるとですね、哲学の分野では、ある命題が真であるか偽であるかというのは、2000年間、一生懸命頑張って考えてきたわけですよね。
何を真なる命題と見做すか、人間と世界とは何か、という問いに対して、西洋哲学は2000年間にわたって考え続けてきました。ある意味それが達成されたときに出来るのが人造人間なわけです。例えば、ユダヤ神秘主義では神の御業（みわざ）を人間が達成した証として、ゴーレムが作れるとしています。
この2000年間、西洋哲学は人間を作ろうとひたすら頑張ってきたはずです。ようやくそれが、実現可能になりつつある段階において、なぜこんなにみんなあたふたしているのか、私はそこにすごく忸怩たる思いを抱いています。去年、ChatGPTが話題となったとき、私は「今さら」という印象を持ちました。

欅 ありがとうございます。身体性については、情報学的な観点で見ると、五感のうちようやく「視覚」と「聴覚」は得たかなというところです。移動できるChatGPTのようなものは、遠からず出てくると思います。
例えば、Amazon Alexaと連携できるお掃除ロボットのルンバや、ファミレスのネコ型配膳ロボットなど、安全に自立走行できるロボットが既に多く存在しています。これらの物理的な体を持つロボットに生成AIを組み合わせることは今の技術でも可能だと思います。
しかし、触覚や嗅覚や味覚などを追加するとなると、まだステップが必要だと思います。物理的なセンサーで匂いを認識することは可能ですが、まだ学習データがないので、匂いを認識して自律的に情報処理できるかというと難しいです。ただ、五感を持つロボットが出現したとしても、いわゆる「心を持つロボット」を作るにはまだだいぶかかるのではないかと思います。

新田 そうですね。物理的なことで解決できる問題と、あとは内面な問題がありますね。
ルイス先生、何かコメントがあればお願いします。

AIは宗教を生成できるか、人はそれを信仰するか

ルイス こんにちは、一橋大学のルイスです。髙橋先生に質問があります。
例えば宗教の教典、コーランや聖書をChatGPTに入力し、新しい宗教を生成させるということは可能だと思いますか？そして、その新しい教典を信じる信者が出てくるのかどうかはいかがでしょうか？

髙橋 はい、あり得るとは思います。それを信じるかどうかはむしろ人間の心のメカニズムの問題です。
ただし、宗教のテキストは表面だけをなぞっても、なぜこれで宗教が起きたのかを理解することは難しいです。そのテキストの背後には必ず歴史的なコンテキストが積み重なっています。文章の中にさえ、いろいろな歴史の層があって、それを解き明かすことで、その宗教が出現したことがわかるのです。
最近感じたこととして、生成AIで手塚治虫の新しい作品を作る試みがありました。しかし、私の感じたところでは、それは手塚治虫の作品をただなぞっただけで、彼の中にあるもっとドロドロとしたものは再現できていないように思いました。
生成AIで宗教のテキストを書かせるとしても、同じ問題が起こるでしょう。AIはテキストをただなぞるだけで、その奥にあるドロドロとしたものはまだ再現できないだろうなという印象です。

欅 実はその辺りのことが気になっていました。京都大学とスタートアップ企業が仏教の経典をChatGPTに読み込ませて「ブッダボット」というものを作ったのですが、そのとき私自身は何となく畏れ多い、あるいは罰当たりな感じがしました。 髙橋先生は、そういったことをするのは問題だと思われますか？それとも、それをしたところで表層的なものだから意味がない、というスタンスで考えていらっしゃるのでしょうか？

髙橋 「意味がない」とは申しません。答えてくれるということ自体が、宗教的行為にとって大事なことだと思うからです。たとえ全く分からない答えでも、答えをもらったこと自体が嬉しい・助けになるという面は確かに存在します。これはまさに宗教的な心理のあり方だと思います。
人間は必ず何らかのフィクションの中で生きています。私は、そのフィクションを作る最も身近なツールが言語であると思っています。その意味では、言語と宗教はかなり近いものがあります。
そして、「ブッダボット」に関しても、答えてくれるということで、すごく良いツールになるんじゃないかとは思っています。

欅 なるほど、とても興味深いご回答ですね。宗教に関わる方がそう思われているというのは、自分には新鮮でした。もっとネガティブに思われているのではないかと勝手に想像していました。

少数言語とAIの関係

新田 本日のディスカッションは非常に面白く、さまざまなテーマや問いが出てきました。またの機会に一つ一つ深掘りしたいと思います。
このリレートークでは、前の登壇者からの問いに回答した後、次の方に聞きたいと思ったことを話す形で進めています。
前の登壇者からの質問は、「生成AIは膨大なデータベースから生まれています。これが少数言語などに対してはネガティブに働くのではないかと言われますが、お二人の考えはいかがでしょうか？」というものでした。

髙橋 なるほど。髙橋からは調査研究の観点からお答えしますと、現在のテキスト生成は話し言葉ではなく、書き言葉を基にしています。また、機械が音声のパターンを直接認識するのではなく、人間が与えた文字というシンボルをそのまま使用しています。つまり人間と生成AIの言語認識、言語分析の仕方は大きく異なる姿勢でして、これは少数言語を研究するにあたっては信頼できないと感じています。
生成AIを使ったツールが音声自体、言語構造自体を機械的にパターン化し、抽出する段階になれば、初めて生成AIによる少数言語の扱いを議論の俎上に乗せることができます。しかし、現状ではまだそういった段階にはなく、言語世界が分離されているような状況です。ということで、どうなるのかなというのが私の印象です。

欅 これはすごく難しい問いだと思います。
例えば、生成AIの学習データは英語が半分以上を占めていて、ヨーロッパ言語で数十パーセント、次に中国語とロシア語が多くて、日本語は数パーセントと言われています。そのため少数言語は学習データにほとんど含まれてないと思います。学習データに含まれない言語は生成AIで処理できないため、少数言語では生成AIの利便性を享受できません。そうすると、生成AIの利用によって少数言語の使用機会の損失を助長する可能性はあると思います。
そもそも世界には母国語で高等教育を受けられない地域もあると聞きますよね。
ただ、自然言語処理のコミュニティでは、少数言語の利用者も技術の恩恵を受けられるようにという動機で、例えば低リソース言語の翻訳の研究が盛んに取り組まれています。また、日本であれば北海道のアイヌ語や、沖縄の琉球諸語などを、保存したり継承したりする取り組みも行われています。このような活動によってある程度コーパス化できれば、生成 AI と少数言語を繋ぐような、特化した生成AIを作れるかもしれません。そうすれば、現時点ではAI技術を享受できない人たちにも、AIの支援を提供することができるようになるのではないかと思います。ひょっとすると少数言語で高等教育を受けることができる世の中がやってくるかもしれません。

次への質問

新田
ありがとうございます。今日の話を伺って言語というものが果たして何なのだろうと感じました。四大学の今後の議論にも繋がるように思います。
それでは最後に、次回の対談に向けて質問をいただければと思います。

欅 私は髙橋先生のおっしゃったことが気になっています。
ChatGPTや他のAI技術の延長線上に、いわゆる“汎用AI”と言われる「人間ができる知的な作業を全てできるAI」が作れるのかどうか。出来るのは単なるパターン認識でしかないのか。そのあたりを、他の分野の方にも意見を聞いてみたいです。
そこがやはり結構重要なところだと思います。個人的には、今のままChatGPTが賢くなっても、人間と同じ振る舞いできるかというと、ちょっとそれは楽観的過ぎるかなと思っているんです。

髙橋 今の欅先生のご質問に乗っかる形で、せっかく医学とロボット工学の材料科学の先生方ですから、先ほどから話題になっているAIと身体性の連結ということについて伺いたいなと思いました。

新田 はい、ありがとうございます。非常に面白い対談でした。今回はご協力いただきましてありがとうございました。

一同 ありがとうございました。

左から吉崎先生（東京外国語大学）、山口先生（東京医科歯科大学）

生成AIを用いた政策シミュレーション

吉崎知典(東京外国語大学　特任教授） 東京外国語大学の吉崎です。私は今年の４月に外語大に着任したのですが、それまでは36年間、防衛省の防衛研究所で研究をしていました。
防衛研究で生成AIに一番関係するのは、「政策シミュレーション」です。例えば、新型コロナやウクライナ戦争は国際社会にどのような影響を与えるのか、大国ロシアやアメリカの反応はどうか、同盟関係はどうなるのか。さらに、ウクライナ危機は台湾の危機に伝播するのかというようなことは、いろんな形で議論されています。
生成AIに、ウクライナの戦争をどうやって終わらせるかと入力すれば答えが出てきます。しかしその答えは本当に正しいのか？誰も分からないですけれども、それに専門家が警鐘を鳴らす、そんな時代になってきたと思います。

司会（東京工業大学URA　井上素子） シミュレーションというキーワードが出ました。山口先生は、医学でシミュレーションをされることもあるかと思いますが、研究・教育上で何らかの影響を与えているのかどうか、そのあたりはいかがですか。

解剖学実習ではリアルな学びを重視。AIは医学研究ツールとしての活用に期待

山口久美子（東京医科歯科大学 　准教授） 東京医科歯科大学の山口です。大学で解剖学を教えています。
シミュレーションについて、私の立場と先生のスタンスは少し異なるかもしれません。
私が教育を担当している低学年の人体解剖学では、「献体」といって医学生の実習にご遺体を提供することを同意してくださった方の、リアルな「ヒトのからだ」を実際に見て学ぶことを重視しているため、ＡＩのシミュレーションに置き換えることは考えません。
生成AIが登場した頃は、学生がこれでレポートを作ってしまうとか、医師の仕事を奪う驚異になるというネガティブなことばかり言われていたような気がします。一段落した最近では、徐々に自分の味方になるツールだという認識が上がってきていますね。
解剖学の研究の一環として、体の一部を非常に薄く切った二次元の組織切片を三次元に構築する際などには、AIの力を借りると短時間で行うことができます。そのため、AIをツールとして使うことに関しては期待しています。

生成AIによる情報革命で、情報戦が身近に――「そこらじゅうが戦場」になる未来

井上 なるほど、確かに「味方になるツール」という面はありますよね。このリレートークのシリーズでも、何人かの方が生成AIは気軽に聞ける相棒だと発言されていました。
いっぽうで、吉崎先生の安全保障の観点から見ると、AIは味方とは言えない面もあるのかなと思いますが、いかがでしょうか？

吉崎 そうですね。生成AIの登場で、未来の戦争はどうなるのかという議論がたくさん出てきています。そこでの結論は、"Everywhere is Battlefield"（そこらじゅうが戦場である）という考え方です。地球の裏側で起きていることが、フェイクニュースも含めて衝撃的な映像として即座に流れて来ます。そうすると過剰反応が起こります。こうして情報戦が誰でも、非常に安くできるようになってしまいました。
これまでにも情報革命は何度もあったでしょう。しかし、これだけ低価格で瞬時に大きなインパクトを持つことができ、静止画だけでなく動画も用いられるようになると、人間の想像力や感性も存在感を増すかもしれません。それを使って相手をコントロールする戦略や戦術がすでに存在しています。"Everywhere is Battlefield"は残念な言葉ですが、どうすれば良いのかを議論したいと思っています。

複雑な情報を処理できるマルチエージェント・シミュレーションの登場

吉崎 私の研究ではシミュレーションそのものは人間ベースで行っていますが、コンピュータシミュレーションとの違いには非常に関心を持っています。
人間は、考えるときに複雑すぎる問題にはなかなか対処できません。囲碁や将棋のように一対一ならば組みやすいのですが、日本の安全保障について考える場合は、ロシア・中国・北朝鮮といった3つの要素を同時に考慮する必要があります。
また、日本の地形は一定で基本的な枠組みは変わりませんが、1940-50年代と比べるとミサイルの数や命中精度、それに対する対抗手段などがどんどん複雑になっています。つまり、地形は一定ですが、それに基づいた戦略や想定は変わってきています。
関係性が複雑に変化する現代では、北朝鮮とロシアが協力関係を築くなど、以前には想像できなかった事態が現実に起こっています。それに対応するためには、複雑な情報を処理できるAIが必要になります。
どうプログラミングするか答えは無いですが、それを可能にすると言われる生成AIを用いたマルチエージェント・シミュレーションには、非常に興味を持っています。試したところ、人間には数種類しか思いつかない手が、30種類くらい出てきて驚きました。
防衛のシミュレーションの場合は、オンライン上のデータには色んな情報が入りますから、限定的なデータを扱うAIを使用します。しかし、ここには問題もあります。どの情報をAIに入力するのかという人間が選択肢を絞り込むとき、無意識のうちにバイアスが入る可能性があることです。そのバイアスがAIの結果に影響を及ぼす可能性があります。

山口 人間にとって想定外の手がたくさん示されることによって、選択肢を与えられる。その選択肢の真偽を議論したり、検証したりすることで幅が広がるということなのですね。

作戦を立てて実行する”Operation”を、生成AIが可視化、高精度化

吉崎 ところで今日、東京医科歯科大学の先生と話をするときに、"オペ"という言葉がキーワードになると思いました。医療では、オペとは「手術」のことですよね。それまでの治療や観察、対話の結果、手術を行っているのだと思います。そこには準備が必要で、関わる人が集中して数時間や半日といった時間を設けて一定の結果を出します。しかし、予想外の事態も多く発生しますよね。
軍や防衛では、オペとは「作戦」のことを指します。そこに防衛と医療の共通点があるのではないでしょうか。防衛や医療のオペ、作戦を立てて実行するということを、生成AIが助けている。この構図がどう変わってくるのかは、興味深く思っています。

山口 私は医療のバックグラウンドとなる解剖学に関心を持っています。以前は、医師は教科書等で習得した「ヒトのからだ」の構造に関する知識と患者さん個人のCTやMRIなど二次元の画像を頭のなかで組み合わせて手術を行っていましたが、現在、AIを一般的な利用してCTやMRIの画像をソフトウェアで解析し、血管や様々な構造等を3次元で描出する技術が開発されています。現在では手術直前に患者の血管や様々な構造の位置等を確認し、それに基づいて手術を行うことが可能になりました。骨の形状等を3Dプリンターで出力し、それを実際に模擬手術してから手術を行うといったことも可能になってきています。このように、医療の世界では、一般的な知識を個別にカスタマイズしていくという過程でAIが使われるようになっています。さらには、自動でロボットがある程度手術をしてくれる時代もそう遠くはないかもしれません。
また、大規模なデータの解析から、それぞれの症例の診断の確率を出すというのは、昔から行われては来ましたが、その精度はどんどん高くなっていっています。これは、救急であったり、医師不足地域であったりというところの補助診断ともなります。

吉崎 素晴らしいですね。実はそこにとても関心があります。2次元の情報が3次元になり、それが3Dプリンターによって具現化される。オペの可視化ですね。これまでは結果を受けて後日続けていたオペを、やりながらできる可能性も出てくるわけですよね。

山口 今はまだ3Dプリンターはリアルタイムで出力するほど速くはないので、手術しながら立体模型を出力するというわけにはいきません。ただ、プリンターで出さなくても、手術室の3次元空間に映し出し、その中に没入しながら、また実際の構造を確認しながら手術ができるということもすでに一部では実用化されていますね。

吉崎 オペレーションの本質の考え方は非常に近いと思います。AIや3Dデータの進化により、空間的な視点から人がどのように変化するかを観察し、その観察結果を多くの人と共有し、それをフィードバックすることが可能になりました。防衛では陸・海・空とか、宇宙・サイバーとか。これは軍事的な作戦と全く同じです。

勝者と敗者、公平性の問題

吉崎 安全にオペレーションができるというのは、パソコンを操作する人にとっては大きな利点です。しかし、それが公平であるかどうかという問題もあります。
私が驚いたのは、アメリカのユタ州でドローンの操作を行っているパイロットが、自宅から数十分で作業場所に到着し、作戦を実行したらすぐに帰宅するという事実です。その操作対象は地球の裏側にあるアフガニスタンです。

山口 まさに”Everywhere”ですね。それでは反撃はできないですよね。

吉崎 その通りです。たとえば、柔道の試合では、一対一で同じ条件下で戦います。しかし、現代の戦争では、一方が見えない場所から攻撃を行い、反撃ができないという状況が生まれています。
これは公平とは言えませんし、勝者からすれば必要な戦略と言えますが、敗者からすれば憤りを感じるでしょう。スポーツマンシップというのは公平でなければなりませんが、現代の戦争は公平ではないという部分が増えてきています。そして、AIの進化により、その傾向はさらに加速するでしょう。

山口 生成AIって、何語で入力しても同じ答えが出るのでしょうか？国によって違う答えが出たら怖いですよね。

井上 前回のリレートーク登壇者はマレー語の研究者でした。多くの人々が話す英語では最先端の結果が出てくるけれども、少数しか話者がいない言語では、文法も間違っていたりして正確な結果が返ってこないのが現状だそうです。それが続くと、皆が多数派の言語に流れて、特定の言語や文化が衰退しやすくなると指摘されていました。

吉崎 そうですよね。一強の時代になって、多様性が無くなる可能性がありますよね。

山口 言語のインプットだけに頼ると多数派の言語一強になりますが、言語だけでなく、画像や立体、音楽など、言語以外のものからもAIへのインプットが広がっていけば、特定の言語の強みがなくなり、多様性が失われにくくなるかもしれません。

生成AIが示す集合知によって、多様性は失われてしまうのか？

新田元（東京工業大学 上席URA） 非常に興味深い議論を聞いていますが、手術の前など、個別に対応をどうすればいいかというのがAIや科学技術の力を経て可能になってきているという話がありました。また、AIが言語の多様性を失わせるけれど、マルチモーダル（編注：テキスト・画像・音声・動画など複数の種類のデータを一度に処理できるAIの技術）になると、取り戻せるかもしれないというお話でした。
一方で、生成AIは原理的には、今まで蓄積してきたものから一番「確からしい」答えを提供するとされています。このような集合知を反映して最適なものを出すという話と、多様性や個別化というものは、両立するのでしょうか。

吉崎 アメリカなどのエリート層では、軍事力やテクノロジー、AIの部分で議題の設定をすることがパワーの源であるという考え方があります。
アメリカでは、例えば人に上手く伝えるプレゼンテーションの方法においても、いわゆるハンバーガー様式と呼ばれる形式を広めるということに組織的に取り組んでいます。これは多様性ではなく、むしろ一つの共通のモデルです。
それが中心になれば応用が出てきても、プラットフォームを提供するところに全ての利益が還元されます。このような議題を設定してビジネスモデルを作っていくと、意識的に多様性は排除すると思います。生成AIは英語で出てくる情報が多いので、そのメインストリームはどんどん広がって、言語の多様性は失われると思います。
言語が脳のネットワークを作るということはよく言われていますが、そうすると英語だけで開発が進むと、皆同じ脳になってしまいますね。
私はその多様性が損なわれることによって人間全体の集合知が増えるのだろうか。私は懐疑的です。ビジネスはうまくいくと思いますが、結果は多分そんなにハッピーではないと思います。

山口 私の研究する解剖学分野では、「ヒトのからだ」に見られる「変異」という多様性を観察し、分類し、その変異のできるメカニズムについて研究しています。その変異のなかで、共通のルールは何なのか、それから共通ルールからどれだけ離れることがあるのかを調査しています。
工業製品や人工物と違ってひとりひとりの「ヒトのからだ」はあくまで多様です。ひとりひとりの変異のパターンや組み合わせは多様であり、解剖学者はその個別の変異を集めて説明しようとしてきました。生成AIがその多様な変異を学習することにより、多様性に一定の説明を与えるような解析は可能になるかもしれないですが、生成ＡＩが発達したからと言って「ヒトのからだ」が単純化するわけでも、集合知の結晶のようなかたちに進化することもないと考えます。

新田 お二人の観点が違っていて興味深いですね。誰かが考えたわけではない集合知の「正しい答えみたいなもの」が、正当化されていく。そんな中、個別の価値をどうやって担保するのか。そのために、生成AIに期待されることは何か、とても興味深いです。ありがとうございます。

人間の脳の働きをAIが代替することはあり得るでしょうか？

伊東幸子（東京工業大学 教授） 山口先生にお伺いしたいのですが、人間の脳の働きをAIが代替することはあり得るでしょうか？意識などを数理モデルで書けるという話がありますね。個別の積み上げがある程度整理できて、それが統一的な理論で説明できる部分が多いとすれば、AIが人間の脳とほぼ同じような働きを果たし得る考え方があると思います。

山口 一つ一つの事象に関してはある程度数理モデルで表現できると思います。しかし、人の脳に匹敵するものにAIが取って代われるかと言うと、まだ遠いのではないかと思います。また、思い込みとか、思い入れとか、人ならではの考え方というのがあるところが面白いのではないかと思います。ただ、これについて私は専門家ではないので、偉そうなことを言うのは適切ではないかもしれません。

伊東 山口先生のご専門から推測すると、まだその話は遠いということですね。ありがとうございます。

【次回以降のテーマ】

会場の東京外国語大学 本郷サテライトキャンパス

井上 ありがとうございます。このあたりで、次回以降のトークにリレーを繋げていくため、今後登壇する先生方への質問をお預かりしたいと思います。

吉崎 AIが仮に兵器化してしまい、世界がどうなってしまうのかという議論が結構あります。特に、「自律型致死兵器システム」（LAWS: Lethal Autonomous Weapons Systems）が出てきて、その規制をどうするのかという議論が国連を中心に行われています。日本の専門家もその議論に参加しています。大体のスタンスは、人間が完全にそれを掌握することは難しいという考え方です。
具体的には、自律的に兵器が自ら兵器化することを予防する方法として、その決定の過程に人間が介在できるメカニズムを持ち続けるという案があります。つまり、生成AIのように人間を超えてしまうようなものには必ずモニターできるようなものをつけるということです。
これはアメリカが核戦争予防として研究してきたことです。問題は、それと同じことをロシアや中国、北朝鮮が認めてくれるかということです。技術を持っている者には責任があると思います。その責任を全うするために、国連でそのルールを作ることが必要だと思います。しかし、アメリカの考え方と他の国の考え方は異なります。開発していない国は、アメリカが規制しようとすることに反発します。技術の進歩はみんな同じように進むわけではないので、先に進んでいる国が規制すると、規制された国は自由にやらせてくれと反発するでしょう。合意はしづらくなります。その問題をどう解決するかは大きな課題です。

山口 ハイテクノロジーは専門的な知識がないと使いこなすことは難しいかもしれません。しかし、パソコンとインターネットがあれば、誰でもウイルスソフトのようなものを作れてしまう可能性があります。
国家レベルの危機だけでなく、カルト宗教のような組織でも何かすごいことができてしまう懸念があります。パソコンやAIが小さく、速く、高度化していく現状では、思いもしないところで思いもしない人がすごいことをやってしまう可能性が増えてきます。

技術の開発側と規制側。専門家のクロスカルチャーを

井上 何らかのミスによって、ハイテクノロジーが壮大な危機を招いてしまうと。無自覚な人がとんでもないゲームチェンジャーになる、恐ろしい話ですね・・・。

吉崎 いえ、むしろ四大学の議論の一番の強みって、こういった部分だと思うんです。私は社会科学ですが、歴史や、テクノロジー、脳科学の方とは見方が違います。
それぞれの専門家が違う視点を共有出来て、技術を開発する側と制限する側の間のクロスカルチャーで議論するのはとても良いですよね。

井上 この企画は生成AIをテーマにしていますが、去年はポストコロナをテーマに別の企画を行ってました。その総括では、ワクチンのことや検査のこと、差別といった議論を、専門家同士が恥じることなく、意見を交わす場が必要だという結論が出ました。そしてそれを受けて、「原発の事故が起きる前にこうした場があれば良かった」というコメントがありました。

吉崎 その通りですね。それこそがシミュレーションですね。

山口 開発する人は無邪気で、これができないからできたらいいなと考えて開発します。それが完成したときの喜びは、それが悪用されるかどうかではなく、山があるから登りたいという感じで、できたこと自体が嬉しいのだと思います。
だからこそ、月並みな言葉かもしれませんが、倫理的・法的・社会的な課題に対する教育（ELSI教育）が重要になってきます。人として何をやって良くて何をやってはいけないのかを教育する必要があるのかもしれません。ヒトの進歩にとって重要なのは、信用ということだと思います。技術があると、それを信用しない、不安であるという漠然とした思いがあると、技術の進歩が止まってしまいます。危険性だけを議論しするより、新たな進歩を作り出すことを考える社会でありたいと思います。

吉崎 フェイクニュースとSNSに関しては、「戦略的コミュニケーション（Strategic Communications）」がパワーになっているというのが、世界の一つの流れなんです。日本もそれを理解し、意識的に取り組んでいます。コミュニケーションはイコールではなくて、悪意もしくは善意を持っているんです。フェイクニュースについて専門家が登壇されるときには関わってくるかもしれませんね。

井上 次回以降に登壇する先生にお伺いしたいと思います。貴重なご議論、ありがとうございました。

一同 ありがとうございました。

左から大橋先生(東京工業大学）、野元先生(東京外国語大学)

大橋本日は素晴らしい機会をいただき、ありがとうございます。東京工業大学の大橋です。融合理工学系エンジニアリングデザインコースを担当しています。元々は半導体材料の研究をしていて、東工大でPh.D.を取得しました。
技術シーズをいかに社会実装していくかという、エンジニアリングデザインやデザイン思考といった分野を研究しています。最近はトランジションデザインという分野に興味を持っていて、ニッチな技術シーズが社会に浸透しない理由を探求しています。これは、レジームと呼ばれる、文化や商習慣、価値観、制度、政策などが固定化されていて、新たなものがなかなか浸透しないからです。そのようなレジームをいかに破り、新しいレジームを作り出すかを考えています。
例えば畜産、介護、防災、教育などの分野にトランジションデザインを当てはめて、持続可能な実践をどのように進めていくかなどを考えています。

野元よろしくお願いします。東京外国語大学の野元裕樹と申します。学部は東京大学文学部の言語学専修課程で学び、大学院から東京外大に移りました。その間にマレーシアとシンガポールにそれぞれ1年ほど滞在し、その後アメリカに行ってミネソタ大学で言語学のPh.D.を取得しました。
専門は基本的に言語学で、主にマレーシアのマレー語を研究しています。言語の構造的な側面を形式的に分析しています。東京外大に来てからは、マレー語だけでなくインドネシアの言語など、いろいろな言語に触れる機会が増えました。
この10年ほどは、言語資源開発という分野にも手を伸ばしています。工学系の方々が主にやっていることですが、自分は言語学の研究に使えるツールの開発や、テキストや音声データを集めたコーパスというものや、それを処理するための辞書データ、言語教育・学習で使えるツールのデザインをしたりしています。
それに加えて、日常の業務で言語教育としてマレー語を教えています。

司会/新田元（東京工業大学） ありがとうございます。2人とも多様なバックグラウンドをお持ちでいろいろなことをなさっているので、話が広がることを期待しております。
今日のテーマは生成AIです。まずは、普段どのような形でAIと接しているか、どのような印象を持っているかなどから話を始めていただければと思います。

工学系の論文執筆や分析には、生成AIを活用。ニッチな言語では、使える段階ではない

大橋私はAIをずっと使っています。論文を書くのにも使いますし、統計データの処理や、授業の準備にも使います。パワハラにならない優秀な上司と部下を持ったようなイメージですね(笑)。

野元私は逆に、全然AIを使っていません。ChatGPTが出た当初は、それをどう教育に入れていくべきかという点が問題になったので、実際に使ってみなければということで授業の中で使ってみました。しかし、私が研究しているのは比較的ニッチな分野で、特にマレー語についてはあまり役に立たなかったというのが感想です。そのため、学生もすぐに使うのをやめてしまいました。言語学の方でも文の構造を描かせてみましたが全然できませんでした。
恐らく、ChatGPTみたいなものは、工学系や大勢の人がやるようなことでは上手く行きますが、言語学やマレー語のようなニッチなところでは信頼性が下がってしまってまだ使える段階ではないと感じています。

大橋それは、「マレー語が」難しいのでしょうか？ChatGPTも出た当初は日本語だとダメでしたが、最近は日本語の精度も上がってきたと感じています。

野元そこについては最近、研究発表したことがあります。マレー語には、マレーシアで使われている「国語」のマレー語と、広義のマレー語がありまして、広義のマレー語にはインドネシア語も含まれます。すると、インドネシアの方がデータは多いので、インドネシア語が入ってきてしまうという問題があります。これは、Google翻訳でもまだ生じている問題です。少数派の方から使おうとすると、マジョリティの方が入ってきてしまってダメだということです。マレー語は一国の「国語」なのですが、そのレベルでも問題が生じてしまいます。

AIの学習データの質に政治が影響を及ぼしている

大橋なるほど。日本では、日本語で専門書も読めますし、仕事もしやすいです。しかし、専門書がその国の言語に訳されていないような所では、機械学習のトレーニングデータが足りないのでしょうね。

野元そうだと思います。実は、それは技術だけの問題ではなく、政治的な問題も関わっています。マレーシアでは2000年代の中頃から2010年代にかけて、理系教育を英語で行おうとする政策が何度も取られてきました。その結果、教科書や授業の資料も英語になったりして、データが無いのです。そこに無い専門用語は英語でそのまま書いたりすればよいとしても、それを説明するマレー語での表現が発達しないという問題もあります。これはデータが減ると精度も下がるという悪循環です。

大橋なるほど、日本では日本語の大規模な言語モデルを作る動きがありますね。日本語は多くの人が使っていて人口も多いので、それは良いと思います。これはグローバリゼーションの一部かもしれませんが、自国の言語の大規模言語モデルを作らないと、文化の西洋化やアメリカ化が進むという雰囲気を感じます。

野元正にそうですね。二つの問題を含んでいると思います。
一つは言語の問題です。言語は政治的な問題とは比較的結びつかないですし、今まで言語学はメジャーな分野ではなかったと思いますが、ChatGPTのようなツールがそれに光を当ててくれたのは良かったと思います。これによって注目が集まるようになったと感じています。
もう一つは、「文化が崩れる」という問題もありますね。マレーシアの文化というのは、日本のような単一言語の文化とは異なります。マレー語が公用語としては使われてはいますが、実際には英語も日常生活の一部となっています。そのため、マレーシアの文化というのはマレー語の文化というよりも、多言語の混ざった文化と考えるべきかもしれません。しかし、アメリカなら英語、中国なら中国語、というふうに「一言語、一国家」で考えてしまうと、そこから「押し付けられる」ということになりがちなのではと思います。

話者の少ない言語、文化への影響は？

大橋今の話はとても面白いですね。確かに日本人のアイデンティティは日本語に紐づいていると思います。しかし一つの言語だけでは生活できないようなパラダイムだと、全く違う価値観を持つことになるかもしれませんね。

野元そうですね、マレー語がうまくいかなければ英語に切り替えるようになってしまうのではないかと思います。それを（2023年）10月にマレーシアで発表したのですが、実際そうしているという意見がありました。ChatGPTはマレー語では上手く行かないけれど、英語では全然違う結果が返ってくるので、英語を使うというわけです。変化は起きつつありますが、その影響の程度はまだよくわからないところです。
また、小さい言語の場合、ChatGPTのような生成AIが日常生活にどの程度影響を与えるかが問題になります。日常生活の大部分がそれを使わなければならない状況になれば、多くの人が別の言語に乗り換えるでしょう。そして、デジタルツールの使用で乗り換えているうちに、それ以外の日常の側面でも乗り換えが起きていく可能性があります。ただ、現在のところ、日常生活がどの程度それに依存しているかというと、それほど大きな部分ではないと思います。

大橋なるほど。ChatGPTなどが出てきて僕が感じたのは、僕たちは言語に大きく依存した生活をしているということです。言語がなければ何も考えられないという状況になってきたように感じます。
例えば、言語でプログラミングもできますし、3Dプリンターなどと連携すれば外的な世界に影響を与えられるようになります。ロボットを動かしたり、家を作ったり。これからは、言葉をどう操るかが勝負の鍵になるのかもしれません。

野元言語がどれほど我々の生活の中で重要であり、それに気づいていなかったか――、言語モデルの仕組みを応用すると、言語以外の問題も解決できるということに気づいたのではないでしょうか。これは非常に重要な発見だと思います。

大規模言語モデルと人間の何が違うか

大橋そうですね、私は言語を用いた認知心理学的な研究も一部で行っています。
虚弱な高齢者が介助のデバイスを使用するのですが、その際に僕たちはエンジニアリングデザインの観点で良いものを作りたいと思います。しかしユーザーテストが難しい場合があります。その際、高齢者がデバイスを使用しながら自然に会話をしてもらうことで、モチベーションの上がり下がりを帰属理論で分析することがあります。
この分析をChatGPTに適用してみると、人のモチベーションの上がり下がりを簡単に自動で判別できるようになる可能性があります。例えば、モチベーションが下がったところのデバイスを改善すれば良いといった改善策を見つけることができるかもしれません。
具体的には、例えば高齢者が電動自転車のようなリハビリデバイスを使いながら15分間散歩をするビデオがあります。そのビデオの発話をChatGPTに入力し、我々が使用している理論に基づいて発話を分析するよう指示を出すと、我々が期待する挙動を示すようになります。大規模言語モデルが認知・言葉を通じて人間のモチベーションや心理的なプロセスが可視化できたように見えます。
これが本当であるのかどうかは分からないですが、そのように見えるということでも使える可能性があると思います。

野元確かに、それはコンピュータが人間の言葉で表現された心理を分析できているかというよりは、コンピュータが文字で来たものを上手く我々の作った理論の書き方に変換してくれるという感じですね。

大橋そういうイメージです。ただ、これって私たち研究者のやっていることと何が違うのかと最近考えているんです。人間ができることですら、我々の頭という大規模言語モデル的なものを通じて行っているだけです。つまり、大規模言語モデルがやったことと、我々がやったことがあまり変わらないように感じます。

野元なるほど。私はやはりその点についてはまだ懐疑的で、AIという大規模言語モデルが人間のできることを極めて優秀に真似ているだけだと考えています。
その「差」について、現在、人間ができることと大規模言語モデルができることの違いを探す研究をしています。大規模言語モデルができないことや、その性能が著しく低下するようなことが何かを調査することが重要だと思います。そのためのデータ作りを進めているところです。

大橋それは面白いですね。例えば、トランジスタの数が増えていくと、10年後にはニューロンの数が何倍にもなるかもしれません。その時、人間とAIの間にレベルの差が逆転する可能性があります。
人間の存在はスペクトラムの中に位置すると思いますが、一部の面で非常に優秀な人もいれば、ある指標で見ると全く優秀でない人もいます。AIが非常に高い模倣能力を持っていて、その中で上位5%に入るとしたら、それはもう人間と呼んでも良いのではないか、とかね(笑)。

野元それはもはや人間ではないですよね(笑)。最近の私の研究では、インドネシア語のテキストがマレーシア語かどうかを判別させるような実験を行っているんですが、人間よりも出来るんです。人間はそれぞれ自身の生まれ育った環境しか知らないのに対し、Googleなどは多くの言語についての知識を持っています。
Googleの翻訳システムは、ネイティブスピーカーよりも高い精度を持つと言われています。実際、人間でも多言語に堪能な人はいますが、それよりも高い性能を持つと言えるでしょう。しかし、これは言語の問題の一部に過ぎません。世の中にはさまざまな現象があり、それらすべてについて最高の性能を持つ「神」のような存在なのではないかと思います。

大橋なるほど、人間ではなくSuper Human･･･超越している、と。

野元そう思います。

AIが人間を超越した時、研究者の役割とは何か

大橋そうすると、研究者の役割が変わるのではないかと感じています。これまでは、研究者が新たな知識を開拓していくものだと思っていました。しかし、今後は人間が認知できる範囲が限られている一方で、生成AIが自分で探索するようになってきています。その結果、AIが発見したことを我々が理解できなくなる可能性があります。そのような状況では、研究者の役割が新たな発見をするのではなく、AIが発見したことを人間社会にわかりやすく翻訳するような役割に変わるのではないかと思っています。

野元それすら、AIがやってくれると思いますね。私の考えでは、人間はまだ解明できていない部分や取り残されている部分を見つけることが重要になるのかなと。例えば、ある言語や方言がまだ理解できていないといった状況です。

大橋そうであれば、未開拓の部分を見つけることが研究者の役割になるのかもしれませんね。

野元そうですね、ただ研究というのは、ホットな分野に人が集まる傾向がありますので、やるようになるかは微妙ですけれども。

大橋確かにそうですね。しかし、そのような分野はAIが自動的にカバーしてしまう可能性もあります。

野元あとは、人文系の研究では「解釈」という問題が出てきます。例えば、生成AIが人間そのものだと思えば、それは人間の特性として受け入れられます。しかし、人間の本来の特性とは何かと考えたとき、AIがやっていることは人間そのものではないと考えることもできます。そう考えると、我々とAIの違いや、我々が本当のところは何であるかということを考えることが重要になります。
もしAIが人間そのものであると考えるなら、特に何もやることは無いかもしれません。それよりも、我々がどのようにAIを楽しく利用するかを考えることが重要かもしれません。

言語を用いることで生まれるバイアス。生成AIの仕組みにもバイアスはある

大橋私の研究では質的研究を行い、インタビューを多く行っています。最近感じているのは、対象者に対してインタビューを行うことで、自分自身を理解しようとするアクティビティだということです。つまり、自分のアサンプションやバイアス、自分が置かれている文化・文脈が、インタビューを通じて反映されるということです。
これは工学系の研究とは異なり、インタビューを行う人によって結果が変わるため、非常に自分指向の活動だと感じています。この活動を通じて、自分がどのようなバイアスを持っているのか、自分がどのような人間なのかを理解することができます。これは非常に楽しい活動で、生成AIがどんどん研究を進めていく中でも、この活動は残しておきたいと思っています。

野元言語学ではそれは前提となっています。それぞれの研究者がバイアスなしで研究を行っていると思っていても、実際にはその視点には大きなバイアスが存在します。また、生成AIや機械学習の仕組みも、工学系の人たちが考えた一つのバイアスであり、それが全てではないと思います。

大橋その通りだと思います。例えば、ChatGPTを作成するときには、低賃金のアルバイトがマニュアルに従って出力の良し悪しを判断しました。そのため、その人たちのバイアスが必ず結果に影響しています。このようなバイアスを増幅する可能性があると考えると、問題が難しく感じます。
また、生成AIが出力する成果物自体の意味は少なくなり、どのようなプロセスで成果物を出したのか、どのような人々を巻き込んだのか、そしてその成果物をどのように解釈するのかが重要になると思います。つまり、プロセスと解釈が重要であり、出力自体はほとんど意味をなさなくなるのではないかと思います。

野元研究のプロセスが評価されるようになると、そのプロセス自体がアウトプットとして理解されるようになってしまいますよね。

大規模言語モデルの中で起こる、マイノリティとマジョリティという構図

新田 司会の東工大 新田です。生成AIは、多くの知識が言語化され、集約されるグローバルな存在と考えられます。一方で、ローカルなAIやニッチなAIも存在し得るのでしょうか。

大橋僕は画像や動画のAIも使用してきましたが、これらはマルチモーダルに対応できるようになってきています。また、センサーを用いてローカルな部分をセンシングすることも可能です。そのデータをクラウドにさえ上げれば、ニッチなものやローカルなものも扱えるようになると思います。最初は人力でセンサーをばら撒くことで、対応可能だと思います。

野元センサーの話は分からないですが、言語の観点からは、現在、ニッチな言語は壊滅的です。とにかくニッチな言語のデータが必要とされています。大きな企業はすでに取り組んでいますし、例えば、インドネシアのコミュニティなど、現地の少数の人々が活動を行うことで、この問題は対応できるようです。
しかし、その一方で、マジョリティの人々がどんどん先に進んでしまうため、マイノリティとの間の差は縮まらないと思います。そのため、マジョリティの人々がマイノリティのために自分たちを法律や政策で制限する必要があると思います。ただ、それを行うと国の経済が停滞する可能性があり、各国は自分たちが他の国よりも上にいたいと思っているでしょう。そのため、この問題は理想的な世界でしか解決しないと思います。これは非常にネガティブな予想ですが、そう考えています。

新田その視点は多様性や体制という問題にも関連していますね。
さて、前回からの質問がいくつかあったのですが、既に話題に出たものもありました。前回の登壇者、ルイス先生はいかがですか。

Lewis関心のある内容が多く出てきました。
私は現在、フィリピンの国会議事録を分析するプロジェクトに取り組んでいます。東南アジアでは各国が自国の言語を使っていますが、フィリピンでは、フィリピノ語と英語が混在して使われています。そのため、どの議員がどの言語を使っているのかを分析する作業が必要となりますが、これが非常に難しいのです。
日本語と英語のようにはっきりとした定義がある言語とは異なり、他の地域では、言語の使い方が非常に複雑です。例えば、同じ文中で複数の言語が混在して使われることがあります。そのため、大規模言語モデルがどのようにこれらの言語を扱っているのか気になります。
また、話される言語と書かれる言語は大きく異なると思いますが、大規模言語モデルは実際に話される言葉をデータベースにしてモデルを作っているのでしょうか。それとも、書かれた言語を元にモデルを作っているのでしょうか。

野元詳細は企業側に聞かないとわからないですが、例えばGoogleのツールは発音をし始めていますし、話し言葉のデータを収集しているはずです。アカデミアの立場からは、資金的な制約から自前で大規模言語モデルを作ることは難しいです。特に、インドネシアやフィリピンのような国では、資金的な制約から、自前で同レベルの大規模言語モデルを作ることは難しいかもしれません。

Lewis ありがとうございます。

次回への質問

新田ありがとうございます。最後に次回の対談に向けて、何か質問や投げかけがあればお願いします。それは今回の話題に基づくものでも構いませんし、一般的な疑問でも構いません。次回の対談者の専門は、安全保障や防衛と、医学教育や解剖、学生教育全般です。

大橋マジョリティの側が自分たちに制約を設けるという観点は非常に重要だと思います。一方で、国家の安全保障の観点からすれば、大規模言語モデルは自前で保有しておきたいところですよね。半導体のサプライチェーンと同じです。しかし、マイノリティの側は、それができる経済力や人材リソースがない場合、どんどん厳しくなると思います。次回の対談には防衛や安全保障に詳しい先生がいらっしゃるので、この観点からの意見を聞きたいと思います。
また、医学は人類全体が共有すべき知識であり、その生成AIは人類の共通知識と捉えることができます。しかし、グローバルな安全保障や国際情勢を考えると、協力が進行しづらい状況があります。今回の対談者の二人は、生成AIについて相反する考え方を持っている可能性があります。

野元両先生とも、シミュレーションというのでしょうか。直接紛争現場に行くわけではないし、自分の体を直接切るわけでもありません。
防衛や外交は、計算機の能力の向上に伴ってできることが大きく変わってくるそうです。シミュレーションの発展に伴って教育の現場がどう変わってきたか、というのはいかがでしょうか。

新田お二人から非常に示唆に富んだ話を聞くことができ、感謝しています。生成AIを使ったシミュレーションは、マーケティング等でも始まっており、その観点から似た部分も見つけられるかもしれません。

大橋そういえば、消費者行動について考えると、アンケートって取る必要がなくなると思っています。アンケートでは全体像を捉えることが主な目的ですが、ChatGPTを使ってデータを生成すれば良いと。ニッチな領域については人間が取りにいく必要がありますが。シミュレーションできるものとできないものの境界がどこにあるのかは、防衛や医学などの分野でも重要な問いとなるのではないでしょうか。シミュレーションできないもの、それは人間を人間たらしめるものなのかもしれません。

新田今日の話を踏まえて、次回も引き続き深掘りしたいと思います。非常に有意義な議論をしていただき、ありがとうございました。

(左上から時計回りに、藤田先生(東京医科歯科大学)、伊東先生(東京工業大学)、中山先生(東京外国語大学)、ルイス先生(一橋大学）

プログラミング教育に生成ＡＩが与える影響

ルイスジョナサン・ルイスです。イギリス出身の政治学研究者です。一橋大学の社会学研究科に20年以上所属しています。
僕のゼミでは、学生はオンライン上のデータを収集し、それを使って興味のある社会学的あるいは政治学的な問いに答えようとしています。特に僕は様々な国のソーシャルメディアのデータを分析していますので、同様の手法を学ぶために入ってくる学生が多いです。
彼らは社会学や政治学的な知識、メディアの知識は身についています。しかし、データの収集・分析・可視化についてのスキルはゼロに近い状態で入って来る学生が殆どです。ですから私のゼミでは、プログラミング経験やデータベースを設計して構築した経験がない学生にスキルを身につけてもらいます。もちろん、リサーチクエスチョン、あるいは仮説の設定など、社会科学的な理論研究も行います。しかし、情報処理などをいかに効率よく身につけてもらうかが、10年ぐらい前からの最大の悩みです。
学生に1対1で教えることもありますし、eラーニングも使います。コードを書かないプログラミングツール――いわゆるNo Code, Low Codeツール――も使います。これである程度は使えるようになりますが、結局そこからPython等に卒業する学生が少なくて、あまり効果的ではありませんでした。
最近学生に、集めた情報をpandasのデータフレームに読み込むという課題を出したところ、Chat GPTにプロンプトを書いてその結果を持ってきて、動いてますよと、発表しました。これが私のゼミに生成ＡＩがはじめて直接影響を及ぼした場面でした。
学生がChat GPTを使ってコードを書くようになってきたことは、良い面と悪い面があると思います。今後、コンピュータサイエンスを専門としていない学生に対して、実用的なプログラミングスキルを身につけさせるには、Chat GPTを使うかどうか、それが僕の今の最大の悩みです。その辺について藤田先生、あるいは他の方々と、意見交換できればと思います。

生体データ解析にＡＩを活用

藤田東京医科歯科大学の藤田と申します。整形外科医です。特に手の専門家で、医師になってから20年強が経ちました。大学病院に勤務しているので、患者さんは比較的難しい症例の方が来るわけですが、その方々への治療と同時進行で研究もしております。
研究では、日頃の診療で感じていることをクリアしていきたいという思いを持っています。
その一つは、日々診療に来る患者さんの数が10年前より増えて高齢化していることについてです。患者さんはたくさん薬も飲んでいて、合併症が起きやすく、治療が大変になりました。そこで、もう少し予防や早期発見をしなければいけないと考えるようになりました。早く見つけて早く治せば、医者も本当に重症な人に特化することができるかもしれません。
もう一つは、医療費の問題です。いますぐにも破綻するのではと、この国の状況を見ていて強く感じています。コロナのことがあり、やはり日本には非常に脆弱な医療リソースしかなかったとも感じました。そこで自分の専門性を生かして何ができるかと考えたのです。
整形外科医を20年もしていると、日常で人を見たら、関節の良く無い所が分かるんです。歩いてる人を見て、この人は膝、腰が痛いなとか。病院に来なくても、病院の手前でいくらでもできることあるんだと思うのです。
私達が自分たちの医療で手一杯で、病院の中にいるっていう状況が、やっぱこういう事態を招いてるんじゃないか、私達がもっと病院の外に出るべきだと、強く感じています。
例えば、誰もが持っているスマートフォン等で微妙な体の動きデータを取っていく。病気の状態とか病気の手前の状態、上手くいけば将来病気になるリスクまで推測できるんじゃないか。専門性の高い知識をベースにしたものをやればできるんじゃないかというコンセプトで研究を展開してるところです。
そこで、手の動きを24時間・1週間取るとなるとデータセットが膨大になります。このため、機械学習/ＡＩを使った研究を展開しています。
ただ、私はルイス先生と反対で機械学習のプログラムは書けません。一緒に研究している工学部の先生方はプログラムが得意なので書いてくれます。そこへChat GPTが出てきました。うちの大学院生は皆医者なんですけど、プログラムを書ける人はほとんどいなくて、YouTubeで見ながら勉強しつつ工学部の人に添削してもらっていましたが、添削の手間をかけなくてもChat GPTに聞くとちゃんと直してくれるということが起きています。それを繰り返すことでプログラミングの技術が上がっているのかは分からないですけれど、何かうまい使い方をできているのかなと感じているところです。

ＡＩがプロセスをブラックボックス化させる？

ルイス面白い共通点が出てきましたね。
要するに、これからは様々な業界や組織で、データを自分で処理して分析することが求められていく。そして医学界にも、大量のスマートフォンが作り出したデータを医師ご自身が分析するニーズがあるということですね。

藤田そうですね。

ルイス私も、学生がChat GPTを使って課題を持ってきた時、プログラムは一応僕が与えた課題を達成できるんですけれども、問題はその出てきたコードを学生がきちんと中身を見ているか、それともブラックボックスのままかです。
私が課題を少し別のものに変えると、その場ではもう何も対応できません。もちろん、Chat GPTに戻ってプログラムをまた工夫するとかいう方法はありますが、AIにコードを書かせ、訂正させているとそれがいつの間にか自分も書ける状態になるのかどうか？普通、言語は毎日自分で書かないと頭に入ってこないものですので、そういう悩みがありますよね。

藤田自分のことでお恥ずかしいのですが、Deep L等が出てきて、これまで文章を書いてから1回読み直して検討していたのですが、Deep Lで日本語から訳して流し見をしてすぐ送ってしまうようなことが起きています。教育的要素や、自分自身の能力が下がってるなと思う事も多々あります。

ルイスそうですね。プログラミングでは、本来はプログラマーが特定の目的を達成するためのコードを書いていきます。しかし現在は、実際動かすコードを書くのではなくテストを書くのです。まずテストを書いてみて、このデータが与えられたらこの結果が出るべきだ、このデータを入れればこのデータが出てくる、と進んでいく。あらゆるケースを考えて、最後に全てのテストが合格になると、このプログラムはエラー無く出てきたらちゃんと動いてると見做す。これでは、その中身はブラックボックスのままです。しかし、書きたい通り動いていれば、中身はそんなにいちいち理解とかチェックしなくても良いかもしれませんよね。

藤田プログラミングということ自体が目的なのかツールなのか、課題によって分かれ目がありますね。授業でプログラミングを学習しましょうっていうのだと、プログラムはちゃんと書けて綺麗な構造にすることが目的になると思います。
ただし、社会に出て特定の解析をする必要に迫られて、そのツールであると考えたときには、パソコンがブラックボックスのようにある程度の操作がわかっていて出てくるものが理解できていれば良いのか、その辺りはいかがですか？ご専門としてどう考えればいいでしょうか？

ルイスそうですね。僕は6年間ぐらいあるIT企業と寄付講座をさせていただいたことがあります。その会社の経営者は、会社でコードを書くエンジニアと、お客様に会って話をする企画者（セールズマン）のよう完全な分業ではなくて、お客様のニーズを聞きその場でプロトタイプのコードを書けるような人材が理想だと言っていました。いわゆる技術系ではない人が、コードの仕組みがわかると会社全体がうまくいく、違う発想とかアイディアがより早くコードとして実装される、ということがあったんでしょうね。
僕はその発想は良いと思いました。別に学生はプログラムを学ぶのが目的ではないのですが、捨てがたいところです。一橋には起業家タイプの学生が来ます。毎週のように別のビジネスアイディアが提案されて、ITを使ったWebサービスをやる等という話になります。でもそれは実際作るのは本人ではなくてそれは何か他の人にやらせる。
そういうエネルギーやアイディアのある人も尊敬はしますが、僕はやはりアイディアだけではなくて、実際ある程度まで作れることが楽しい。実際何かを作るのも重要だと思いますので、学生にとっても自分で情報を集めて処理して結果を出すということも大きな喜びの一つとしてあると思います。いかがでしょうか。

藤田非常によくわかります。全部はできなくてもエッセンスはわかっていた方が良いですよね。私自身もプログラムは書けないですが、工学部の人と一緒に研究をします。大体読むことはできますし、出てきた結果に対してのフィードバックもできるのですが、そうでないと議論は全然深まらないですし、コラボレーションが進まないと思うんです。両方がお互い理解してるけど専門性はこっちの方がちょっと高いかな、ぐらいのところで上手く交わる努力は絶対必要だと思います。

ルイスはい。毎年、時間をかけてプログラムできるようになり面白い卒論を書く学生もいれば、早い段階で諦めて理論中心の卒論を書く学生もいますが、問題はその真ん中にいる人です。自分のデータを処理・分析して卒論書くのは決めたけれども、なかなかうまく処理・分析できるようにならないという人々です。そういう人は将来、プログラマーを目指してはいませんから、彼らには無理してPythonなどをゼロから学ぶよりは、Chat GPTにさせるのが現実的かなと思うようになってきました。

コロナ前後の変化――データ自体の経済価値が高騰。患者が持つ情報量が増加

藤田ところで5年前、というお題がありましたね。5年前はそもそもコロナの前だったので会議は対面でしたし、Zoomは無かったですね。スカイプか何か。いくらコロナが無くなって対面の会議が増えてきたとはいえども、ウェブで移動なく人と会うことができるという枠組みは5年前とは全然違いますしこの先も何か戻ることは無いだろうなと思います。
ソフトバンクの孫さんがChat GPTを使っていない人は悔い改めた方が良いと先日言ってました。自動車とか、電気を否定するのと同じだと。5年後にはChat GPTという名前じゃなくなってるかもしれませんが。

ルイス個人的には、自分の研究ではソーシャルメディアのデータを集めるのですが、イーロン・マスクさんのおかげでツイッター（編注：X）のデータをほとんど取れなくなってしまいました。4年前の僕には、「今のうちに定年までのデータを集めておかなければならない」と言いたいです。本当に大金を払っても大してデータが手に入らなくなりましたしね。今はむしろ20年前の手法に戻って質的な方法を学び直しているところです。
藤田先生の分野では、患者さんのデータを分析する以外で、プログラムが影響を及ぼしてる場面は何かありますか。

藤田あると思います。関連するところで研究を一つ出したのですが、患者さんがChat GPTを使うようになるだろうというものです。今まだ医療目的での使用はオフィシャルには使わないでと言っていますけど、患者さんが「腰が痛い」って言ったときに、Chat GPTが間違えた答えを返す可能性があります。
今までそういうWebサービスたくさんありましたが、Chat GPT一つで全て語れるようになるんじゃないか。今は精度が今一つとか言われますけど、どんどん上がってくるので1年後には多分、そんなこと言ってないのかなという感じがします。AIによって患者さんの情報量が上がるというのはあると思います。
一方で、医療者側では戦々恐々としている人たちもいます。一部の科は縮小されるのではないか。例えば放射線ですね、レントゲンやCTでここに癌がありますなんていうのは熟練した人の目だとすぐ見つかったんですがもう機械の方が正確で速いとか、人間はその時の感情に影響を受けるとか、そういう研究がたくさんされております。医療業界の構図はガラッと変わってくるんじゃないか。
一方で手術みたいなところは、ロボットも入ってきていますがすぐには変わらないでしょう。構図が変わって、余計なコストがかかるんじゃなく全体の総和がうまく回るようになればいいなと私個人は思っています。
業界としては、多分この生成AIや、もうちょっと前のITのところから変わる変わると言われてたのが、コロナでいろいろ変わったところに一気に来たというようなイメージではあります。

結果の質は上がるけれど、プロセスは見えなくなる・・・？

中山東京外国語大学の中山と申します。
本当に本質的な問題だなと思い伺っていました。「結果」の面での話と「プロセス」の面での話の間の対比として捉えられるのかなと思います。「結果」だけを考えると、チャットGPTにまだ間違いがあるとは言っても、AIのテクノロジーが進化していく中で生み出されるアウトプットの質自体はどんどん上がってきていると思うし、多くの側面で人間と遜色ないレベルにも達している。また、藤田先生がおっしゃったように、場合によっては「人間性」――つまり人間であるがゆえのものがなくても安定的に高品質の結果を出すことができる、といった話がある。しかし一方で、結果だけを出せても、「プロセス」の方をちゃんと理解してないと、ちゃんとものを生み出せたということにはならないのではないか、ということもある。単純な特定の結果を出すとかではなく、それを生み出す仕組みとしてのプログラミングやプロジェクトを設計できるかどうか、ということも問題にする必要がありますよね。
さらに、医療は病気や症状の治療だけではなくて、患者さんのウェルビーイングをいかに上げていくかという面があり、そこはやはり単なる結果としての状態だけではなく、幸せな状態を保つプロセスの理解が重要になるといった話がありましたね。ここは鍵だなと思います。例えば芸術系の話だったら、綺麗な絵が描ければいいのかという話と、誰がどういうプロセスで描いたとか、どういう苦しみを通って描いたみたいなところが重要なのか、というところには、重要な論点がある気がしますよね。
特にお医者さんというと、素人目にもそういうところは人間的な営みであるような気はする。やっぱり機械が全部見てくれるというよりは人間が対応してくれた方が安心する、といったように。人間性や人間味、その辺はどうお考えですか。

藤田中山先生のおっしゃる通りです。医療は、最も「人」なところだと思うんですよね。自分や家族が病気になった時、どれだけ人が接してくれるか、それが全部ロボットで本当にいいのか。はたまたそこにパソコンが1台あればこと足りるのか。私達も学生のときは「病を見ないで人を見なさい」とずっと言われて来ました。多分それは世界中で医療者みな同じです。

ターミナルケアやリハビリ領域におけるＡＩと人の住み分け

藤田ただ、その線引きは難しくて、人が一生懸命やってることより精度高く、正確にやってくれた正確さを求めるのであれば、やっぱり機械なのかもしれないですし、その機械のデータを伝えるのが人だったらいいのかもしれません。その住み分けはまだまだこれからの分野だと思います。案外全部機械が説明した方が患者さんもドライに割り切って、さっさと治療が進みますって話もあるかもしれません。

中山難しいですね。おそらく医療側だけで決められる話ではないですし。やはり、関係性の問題だと思います。正確であることも大事なのでしょうが、正確であることが一番重要なことなのか、という点はよく考える必要がある気がします。
例えば医療現場だと、死なない状況が長くなること一方で、クオリティオブライフの話もありますよね。短くてもその人らしい生き方みたいなところ。科学的な議論だけではちょっと難しいところはあるかと思うんですけど、AIの話ってQOLとかの議論に関わってくるんでしょうかね。

藤田今現在私の知っているところではそこまで踏み込んだ話はないような気もしますが、ただ例えばホスピスとかターミナルケアと言われる、お亡くなりになる手前の時にどれだけテクノロジーを当てるかという議論は結構されています。
これは結局その医療者の経験値にかなり依存するんだと思うんです。その人にどう対応したらどういうレスポンスがあるからこういう対応しましょう、そうすると、「1年生2年生には無理だけど20年生にはできます」みたいな話が常に出てきます。もちろん1年生2年生が頑張ることは必要なのですが、人手不足とかを考えると、彼らが20年生と同じように対応するにはここが足りませんということを数値化・見える化する。それを現場に使うか、教育的な用途で使うかは様々だと思います。そういうところはかなり結構最近言われています。
人の感情はかなり定量化できるようになってきていますので、医療者側の感情と患者さん側の感情を見て、こういう介入の仕方があるんじゃないか、あなたはこういう言い方が足らないみたいなことが定量化できるようになってきてるのかなと思います。

中山ちょっと経験値について話を拡げます。経験値って、単に知識量や症例の数ではないですよね。そこには、多様な知識や記憶から生み出される「勘」のようなものが含まれるように思います。AIはそもそもそういう意味での「経験値」を持てるのかに疑問に思いました。学習させれば他の知識と同じように経験知も学習できるのかは、結構ポイントになるのかなと思いました。20年生のやり方から学習して20年生の経験値を持ったAIができるのかどうか。

藤田リハビリの領域で理学療法士とか作業療法士というの専門職があります。やはり彼らも腕の差がむちゃくちゃあるんです。私たちは今、そこの部分を埋めるAIを開発しています。20年生の思考過程を言語化して見せるというAIを作っています。それを見ることで、同じものを見たときにあの人はこういうふうに考えた、僕はここが足らなかった、というようなことをしているので、たぶん看護領域であっても医療領域であっても、一つずつ作るのは可能なんじゃないかと思います。

プロセスを学びたい学習者にも、大学が選択肢を提供

伊東東京工業大学、学生支援センターの伊東幸子と申します。私は経済学部の出身ですが、日本IBMという会社でシステムエンジニアをしていました。入社後1年間は、アセンブリ言語という「機械語」に近いものを勉強させられて、10年ぐらい向いてないプログラミングの仕事をしていました。
それから大学に来たのですが、私の経験では、文系の人でもプログラムも書く、あるいはその背後にあるコンピュータの理論を学んでおけば、その人の研究のツールとして使うことができます。さらに、プログラミング的な思考が身に付いていれば、工学系の人とコラボレーションするときに相手のことがよく分かるし、自分の領域を広げるとでも言うのでしょうか。学生を育てるという観点では、プログラムを書かなくても良い環境にいたとしても、書く努力をして欲しいなと思っています。
今、東工大は東京医科歯科大学と統合の話が出ています。学生支援センターで学生向けに機械学習/AIセミナーをしていまして、企業で最先端のことをやってる卒業生が来て、学生にゼロからPythonプログラムの書き方を教えてくれます。
今年、医科歯科でも告知をしたら、東工大生より医科歯科の学生さんや若手の教職員がたくさん受講してくださいました。自分でYouTubeを見て勉強していた人が、きちんと勉強したいと思われる。自分が使ってみることによって、より深く、根本や理論的なことも学びたいと思う人が一定数出てこられるんだなと思いました。根本を学びたいというときにできるような環境、選択肢を作ることは大事だなと、お二人の話を聞いて思いました。

ルイス伊東先生からアセンブリ言語の話が出ました。僕は今、Chat GPTでPythonコードがブラックボックスになっちゃうということで教材というものについて考えているんですけれど、80年代以前に「低水準言語」を学んだ人だって、Pythonのような「高水準言語」のせいで、コンピュータがブラックボックスになってしまったと批判的に思ったかもしれませんね。解析も、コンピュータではなくて本当に何が起きてるかを隠すものだと。人によって時代の見方は違うということです。
中山先生のプロセスと結果の話は重要です。Chat GPTは、時間があれば自分でもできる作業を任せてもいいけれど、そもそも自分ができないことをChat GPTにやらせるといろんなリスクが生じてくる。しかし、現実的にはその全てのプロセスをいちいち学ぶ時間のない人が、結局自分で学ぶよりはプロンプトの書き方を学ぶことに時間をかける。より良い結果が出る。プロセス――この場合はコードの書き方を学ぶのに2時間かけるのか、それともChat GPTをうまくコントロールすることに時間をかけるか、どのレベルに自分の時間をかけるか。その決断が難しいですよね。

次回のテーマ

司会ありがとうございます。さて最後に、今日話して印象的だったことや聞いてみたいことなど、次の方に「問い」を残すとしたらどんな感じか、お2人からご意見をいただきたいと思います。

藤田「言語の壁とAI」がどうなるのかは、興味があります。子供に英語の勉強をするように言いますが、10年後本当に必要かということもありますし、一方で言語を学ぶことでその向こうにある文化を学ぼうするとやっぱり言語を使った方がいいのかな、と。そのあたりどうお考えなるか、聞いてみたいです。

ルイス生成AIは膨大な言語のデータベースですので、英語とか日本語などのデータは十分に存在しているでしょう。しかし、例えばインドネシアなど、話者の多くない言語はインターネットで絶滅の危機に瀕する言語になるのではと言われていましたが、それが今度生成AIでさらに存続が難しくなるのか、その辺のことを教えてもらいたいです。
あと、ユーザビリティデザインに生成AIがどのようなインパクトを与えるか、個人的には興味があります。

藤田四大学で、普段だとお話する機会のない研究者の方とお話できるというのは、今回企画をしてくださったからだと思います。僕とジョナサン先生との接点は、余程いろいろなキーワードを打ち込んでも出てこないと思いますし、人がやってくれたからこういうことが起きてるんだと思うんです。
つまり、AIによって、知らない人との出会いとかは狭くなっているのかなという気持ちがあります。セレンディピティみたいものは全然起きなくなってるのかもしれない。今後、テーマの一つぐらいにしていただけたらと思います。

司会ありがとうございました。