AI時代に問われる「問いを立てる力」――人とAIの新たな役割分担とは

AI技術の急速な進化により、AIがビジネスにおける意思決定に関与するケースが見受けられます。企業にとって、人間とAIが意思決定を下す“最良の責任分界点”はどこにあるのでしょうか。日本における機械学習研究の先駆者であり、理化学研究所の革新知能統合研究センターで副センター長を務める上田修功さんに伺いました。

私は現在、理化学研究所のAI研究の中核拠点である「革新知能統合研究センター」で副センター長を務めるほか、日本科学技術振興機構の数理情報CREST研究総括など複数のポストを兼任しています。

専門は学生時代から一貫してAIです。私がキャリアをスタートした1980年代半ばから後半にかけては、AIの世間的な注目度が低い時代でした。しかし、世間的な関心が低いからこそ、最先端の人物や知見にアクセスしやすかったのも事実です。ディープラーニングの基礎を築いた功績で2024年にノーベル物理学賞を受賞したジェフリー・ヒントン教授とは1990年代から交流を重ね、彼のもとで招聘研究員を務める機会も得ました。ヒントン教授が道を開いたディープラーニングの技術が現在のAIの進化を支えているのは、広く知られる通りです。

昨今、世界の国々がこぞってAIを研究し、覇権を争っています。そのなかで日本におけるAI研究は、残念ながらアメリカや中国の後塵を拝しているのが現状です。莫大な資金や人員を投じる超大国に日本のAI研究が劣後するのは、仕方のないことかもしれません。

このような状況でも、画期的な研究成果を挙げる道はないか、そうした問題意識のもとで理化学研究所が推進しているのが「AI for Science」です。AI for Scienceとは、機械学習やディープラーニングなどのAI技術をさまざまな科学分野に適用し、新たな発見や理解の加速を目指す研究手法をさします。従来の研究手法において、AI技術は既存の理論やデータの“分析手段”として用いられていました。これらは要素技術のため指向性を排除して汎用性を追求されており、活用方法は利用者に委ねられています。対して、AI for Scienceは、特定のドメインにおける理論や研究プロセスを“AIでアップデート”し、新たな発見や洞察を導く点が特徴です。

そのためAI for Scienceでは、科学者の閃きや問題意識が問われます。AIの活用方法や活用対象が幅広いため、「AIを活用して何をしたいか」を決めることが研究の起点になるのです。科学者個人の直感や問題意識が何よりの武器になるからこそ、私は日本におけるAI研究の活路はAI for Scienceにあると確信しています。

AIは科学研究に留まらず、ビジネスや日常生活でもごく当たり前に利用されるようになりました。日々の生活で生成AIが手放せなくなった方も多いでしょう。企業活動においても、定型業務をAIで代替するだけでなく、本来なら人間が思考、判断していた業務すらAIによって自動化する企業も増えているようです。

私はビジネスにおいてAIを徹底的に利用するべきだと考えており、こうした変化を好ましく思っています。しかしその一方で、利用する側が「AIリテラシー」を備えなければ、導入の効果は一定程度に留まってしまうだろうと懸念しています。

ここでいうAIリテラシーとは、目標や目的を達成するためにAIを使いこなすスキルや能力、特に「問いを立てる力」のことです。何らかの目標や目的を達成する際に必要な「知識」は、既にAIが学習していることが多く、これからの時代は、その知識をベースとして問いを立て、AIを活用して目標や目的を達成することが一層求められるでしょう。

では、どうすればAIリテラシーを身に付けられるのでしょうか。私は「日常的な議論の習慣」が必要不可欠だと考えています。何らかの問題解決を図る際は仮説や問いが必要ですが、AI活用に限らず、その発端は「直感」や「洞察」だと考えています。他者との議論を通じ、新たな価値観や観点に触れる機会をより多く持つことで、直感や洞察が得られ、仮説や問いが洗練されていくのです。

この点で、日本は欧米に遅れを取っていると感じています。私が携わっている科学領域では、日本の科学者は専門的な知識には精通していますが、抽象的な議論は苦手な印象です。今後、AIが社会の中心的技術になっていくなかで、日本人のこうした特性はマイナスにはたらく可能性があります。しかしこの「議論する力」は鍛えることができる分野でもあります。抽象的な議論を日常的に行い、スキルアップしていく必要があるでしょう。

企業におけるAI活用についても、活発な議論を生む環境をいかに構築するかが、今後の成否を左右すると言えます。こうした環境として有用なのが日頃から使用しているオフィスやワークプレイスです。問いを立てる力を日々磨くために、会議室やオープンスペース、ラウンジを増やすなど、活発な議論が誘発されやすいオフィス環境を整えることも合わせて検討することが重要です。

企業の意思決定にAIが携わるシーンが増えるなかで課題になっているのが、意思決定において「AIと人間の“役割の境界”をどう引くか」です。明確な線引きは難しいのですが、とても重要な論点だと考えています。

前提として、前述の通りAIリテラシーを持つことが重要だと言えます。AIリテラシーが不十分な状態でAIを利用し続ければ、AIから出力される情報を鵜呑みにするようになり、AIの「言いなり」に意思決定してしまうことが懸念されるからです。

それを踏まえても、現時点で特定領域までしかAIを使用していない場合は、判断に至る過程までAIの活用範囲を広げ、最終的にはフルに活用することを推奨しています。例えば、複数の機械学習モデルを組み合わせて予測精度を高める「アンサンブル学習」を活用すれば、判断の参考となる売上予測などの精度を高められます。このようにAIを使って判断材料を揃えてから、最後に人間が自らの意思で物事を決定します。この過程によって、AIと人間との間に“境界”が引かれると考えています。

では、どのような条件が揃えば「人間が自らの意思で決めた」と言えるのでしょうか。この疑問に際してたびたび思い出す言葉があります。以前読んだ意思決定の理論に関する書籍のあとがきに記されていた「意思決定とは、最後は『覚悟と祈り』だ」という言葉です。

企業の意思決定が正しいかどうかは誰にも分からず、いくら高性能のAIを活用してリスクを洗い出しても、不確実性を完全に排除することは適いません。意思決定を行う者は、リスクを十分考えた末、「この決定にしよう」と覚悟し、「うまくいきますように」と祈りをささげます。どんなに十分に考えてもうまくいかない場合もありますが、これほどまでの覚悟を持つ姿勢こそが非常に重要ではないかと考えています。

企業活動では、1日に数万回もの数えきれないほどの意思決定が下されていると言われています。そのため、個人がAIリテラシーを身に付けるだけでなく、組織的にAIを有効活用できる環境や体制を整え、ミッションを定義する必要があるでしょう。例えば、ある大手メーカーでは、事業オペレーションの深化を目標として、生産性向上・経営基盤強化のためにAI活用を含めた組織的な取り組みを実践していると聞いています。

私の所属する理化学研究所の革新知能統合研究センターでは、2026年に研究体制を3つのグループに再編するにあたって、各グループのミッションを明確に定義しました。例えば、グループの一つである「マセマティカルインテリジェンスグループ」のミッションは、機械学習の数理的原理を解明し、AIの信頼性・解釈可能性・安全性を高める基盤の確立に取り組むことです。

なぜミッションを定めるかというと、AI for Scienceでは「AIを活用して何をしたいか」が研究の起点になり、ビジョンを描く力が重要だからです。この考え方を企業に転用し、「AIを活用して自社のビジネスや組織をどのように変えたいのか」をイメージしてビジョンを描き、言語化したうえで、組織的なAI活用を始めてはいかがでしょうか。言うなれば「AI for Business」です。

その際に重要なのは、自社のビジネスや組織を深く理解し、現状を正しく把握すること、そしてその正しいデータをAIに反映することです。自社の現状は、科学で言う「物理的制約」に当たります。自然界には「エネルギー保存の法則」などの絶対的な制約が存在します。それらの制約をあらかじめ学習させておかないと、AIは実現不可能なモデルや分析結果を出力する可能性があります。これと同様に、自社の規模や人的リソース、組織的性質などを事前に反映させないと、AIは現実的ではないデータやアイデアを出力してしまうので注意が必要です。

今後、これまで人間が担当していた業務の多くはAIに置き換わり、人間の行う業務は質的にハイレベルになっていきます。AIを使って精緻な根拠を出す社員も増えていくでしょう。経験的な上下関係など古い尺度や価値観に固執せず、社員が年齢や役職を気にせず積極的に意見を言えるフラットな環境を作る企業が生き残っていくかもしれません。

先ほどお伝えした通り、これからは知識の習得以上に、問いを立てる力や議論する力、ビジョンを描く力が非常に重要になります。こうした力を育まず、AIに頼り切ってしまう企業は、この先どんどん衰退していくでしょう。こうした未来を十分に渡り歩ける組織を作るためにも、まずは「AI for Business」の入り口に立つことのきっかけになれば幸いです。

• 前の記事