東大松尾研出身の AI コンサルタントが解説
生成 AI 全社導入の成功プロセス
~成功企業と失敗企業の違い~

登壇者プロフィール

上田 雄登

株式会社GenerativeX 取締役CSO

東京大学工学部卒業、同大学院工学系研究科技術経営戦略学専攻修了(松尾研究室)大学卒業後、株式会社YCP Japan へ入社し複数の投資検討や戦略策定業務といった経営コンサル業務に加えて、AI コンサル業務や投資先の外食事業におけるマネジメント業務にも従事。2021年4月より現職。経営企画のリーダーとして社内の事業の改善や中期経営計画等の策定を行う。2023年6月に GenerativeX を創業し、生成 AI を用いた DX を多数推進。

⽣成AIの企業導⼊を取り巻く最新動向

⽣成 AI 導⼊の⼆極化︓成功企業と失敗企業の明確な違い

まず、生成AI導入において結構二極化してきているなというふうに見えてきているので、そちらについてのお話をさせていただきます。大規模RAG導入において結構失敗をしているケースが多いので、そこから学ぶ教訓や対応方法、正しい導入プロセスについてお話をさせていただき、日本企業の強みみたいなところを活かした導入アプローチをお話できればなというふうに思っております。

マクロ視点で見ると、2024年時点の生成AI市場は約3兆円規模と言われていますが、2030年にはさらに拡大すると予測されています。大きな成長ドライバーとしては技術革新だったりは当然あるんですけれど、やはりこの実用面ですね。産業利用として様々な産業に非常に速やかに導入されていっています。例えば医療や金融みたいな分野が初期的には立ち上がり早く導入されているわけですが、さらに教育分野や農業・エネルギー管理のようなAIがなかなか浸透しづらかった領域にも展開が期待されています。



また、業界に特化したソリューションの開発が加速していく見立てもあります。これのキモはいわゆる産業特化のLLM・生成AIというよりは、AIソリューションの開発が加速するというところですね。

基盤モデル自体は着実に地頭の良いものがどんどん見つかって開発されている中で、しっかりと専用ソリューションが、開発・導入されていくところに大きな市場の伸びがあるというところです。

生成AIの活用状況もマクロなものにはなってくるんですけど、一番使われてるのはコード生成ですね。世の中には大量のプログラミングコードがありますし、あまり言語を問わず、いろんな人がコード作っているので学習元のデータが多く、大体51%ぐらいの人は生成AIの活用先というところでコード生成を挙げています。

次にチャットボットや企業内検索ですね。この辺りはとてもイメージがつきやすいところでもあるので、当初よりもイメージのつきやすいところはどんどん導入が進んでいます。

一つ注目するべきと思っているのはデータの抽出や変換、生成AI自体が様々な情報を変換していくためのコンバーターであると捉えることもできますので、会社の中にあるいろんなデータを抽出したり変換したりするところに非常に強い精度を出すことができますので、こういったケースも増えてきているというところになっています。



これは全体的な定性的な話にはなってきてしまいますが、まずグローバルに見ると、もう圧倒的にグローバル企業がお金をたくさん使っています。本当に半導体からLLMの開発など、あらゆる領域でAIへの投資が加速している状況です。

我々のコンサルティング経験からも、AIの開発にはグローバル企業が積極的に投資し、高品質なモデルが次々に登場しています。しかし、それを活用・管理できるAIマネジメント人材が不足しています。現状、大量のお金が投入されて良いものができてきているのですが、それを使いこなせる人がまだまだ足りない。

そのため我々のような、AIを使いこなすためのコンサルティングサービスを提供するのが成立してるわけです。こういったAIを使いこなすっていうところを社内で内製化していかないと、どんどん失敗の方向にいってしまいます。

では、成功と失敗を左右するものは何か。この2軸だけではないかもしれませんが、我々が支援する中で明確に分かれてきているところがあります。一つずつご説明できればと思いますが、まず一番上の失敗企業の特徴から話をしていきます。

いきなり全社規模で導入すると、現場の負担が大きくなり、目的が不明確なまま進む可能性があります。その結果、現場の混乱や失望感を招き、失敗しやすくなります。

成功している企業に関してはPoCから始めると書いてるんですけれども、小規模にどんどん試していくということです。つまり何ができるのかであったりだとか、これができるんだったらこういうこともできるというところをクイックに回していくためにも、小規模に始めることが非常に重要になってきています。



それに付随して、成功してるパターンがなくはないのですが、生半可なトップダウンでやっていくと、やっぱり現場からすると、どうしても抵抗があったりだとか、あのやれと言われたからやってますみたいな感じになったりしてしまう。一方で、現場主導での導入を進めるような企業様に関しては、結局目の前に課題があるので、それを生成AIを使って解決をしていくところで、非常に課題が明確であるところも相まって成功しているケースが多いです。

ここから個別の話にはなってきますけれど、例えば失敗企業の特徴と言いますか、「独自のLLMモデルを作るんだ」みたいなことを言い始めてしまうと、これは非常にLLMの仕組みからしてもナンセンスです。基本的にはインコンテキストラーニングと言われるようなプロンプトの工夫で何とかなります。これは独自のモデルを開発しようとしているベンダーさんが、エンドユーザーのお客様に対して独自モデル作りましょうよと言うと、高いフィーがもらえるのもあって独自モデルの開発に舵を切らせようとすることが世の中にはありますが、基本的にはナンセンスですのでうまくいきません。

そうではなく、パブリックなモデルを使いましょう。何が良いかというと常にどんどんアップデートされていきますので、最新のモデルを使えます。独自モデルを使ってしまうと、この段階で成長がストップしてしまいます。アップデートしようと思ったら、また新しいモデルをベースにして学習をさせなきゃいけない。現状の成長速度を踏まえると、どうしてもパブリックモデル、いわゆるOpenAIやClaudeの成長に乗っかることが重要になります。一言で言うと、成長企業においてはスモールスタートで現場主導でやっていくことが、少なくともですねクイックウィンを勝ち取っていく上では非常に重要なポイントになります。

AIを活用するには、現場主導が鍵となります。失敗から学んでいきましょうというところで、全社規模でいきなり導入しようとすると、技術的にも未熟かつ受け入れ側の部門においても準備が整ってないような状態で始めることになってしまう。また、LLMに対する技術的な理解も不十分な状態で始めてしまうことになります。そうすると、受け入れ側が準備できていないので失敗しがちです。

少人数で少数部門でしっかりとニーズや課題があるところで、受け入れ体制を整えた段階でPoCを行っていく。そうすることによって、実現可能性や効果を十分に検証できます。

次に現場ニーズと乖離してしまうみたいなところですね、これは1番とも関わるわけですけど、例えば社内のチャットボットみたいなものを作りますって言ったときに、チャットボットだけあっても現場としてはですね、仕事が楽にならない。

トップダウン的にというか横串組織が主導して行うプロジェクトあるあるかなと思うのですが、結局現場のニーズや業務フローが反映されないので、使い勝手が悪かったり、そもそも使えないということがよく起こります。満遍なくいろんなものに使えますというものではなくて、特定の現場のニーズでいいので、そこにしっかりとディープダイブして課題を解決しにいくことが非常に重要になっています。

汎用的なチャットボットやRAGが入ったけれど、フィードバックがなかなか集まりませんというのもよく聞く話です。これはなぜかというと、やはり自分たちの業務にフィットしてないものに対して、フィードバックしてくれと言われてもですね、「全体的に微妙なんですけど、以上」みたいな感じになってしまう。しっかりと現場のニーズに合わせた開発を行っていき、さらにフィードバックを素早く反映させる体制を整えていくところが非常に重要になってきます。

技術側とビジネス側の乖離というところですけど、ある種日本の企業においては技術サイド・エンジニアリングサイドが横串的にIT部門という形でビジネスサイドと分かれて存在していることが多いのかなと見ております。生成AIという技術自体がその二つが融合しているようなものになっているので、その二つが足並み揃えないといけない。

ビジネス的なゴール設定と、IT側のゴール設定の足並み揃えるためには、ビジネス側としてはIT、ひいては生成AIのことをきちんと理解をする必要がありますし、逆もまた然り。IT側もビジネスのことをしっかりと理解する必要があります。



・・・(続く)

続きのご講演内容や質疑応答などを含めたセミナーレポート(完全版)は、このページのフォームより無料ダウンロードいただけます。

ご利用実績(一部)東証プライム上場企業 4社に1社が導入経験あり※1

TOYOTA TOYOTA
Panasonic Panasonic
MITSUBISHI Changes for the Better MITSUBISHI Changes for the Better
NEC Orchestrating a brighter world NEC Orchestrating a brighter world
FUJITSU FUJITSU
HITACHI HITACHI
AGC AGC
FUJIFILM Value from Innovation FUJIFILM Value from Innovation
日本触媒 日本触媒
Tomorrow, Together KDDI Tomorrow, Together KDDI
Eat Well, Live Well. AJINOMOTO Eat Well, Live Well. AJINOMOTO
みずほ銀行 みずほ銀行
国内外エキスパート登録数 80万人超 国内外エキスパート登録数 80万人超
時価総額上位50社中 導入経験のある企業80%以上 時価総額上位50社中 導入経験のある企業80%以上
クライアント口座数 2,200 クライアント口座数 2,200
※1:複数部署での導入も1社扱い。2026年3月時点 ※2:2026年2月時点 ※3:2026年3月時点 ※4:2025年12月時点 国内事業会社のクライアント口座数
  1. トップ
  2. 資料一覧
  3. お役立ち資料
  4. 東大松尾研出身の AI コンサルタントが解説生成 AI 全社導入の成功プロセス~成功企業と失敗企業の違い~

各サービスの特長や料金が5分でわかる

サービス資料をダウンロード

最適なサービスやエキスパートを無料でご提案

ご利用に関するご相談(無料)