学習とは

生成AIの「学習」とは、モデルの中にある膨大な数値（パラメータ）を、正解に近づくように少しずつ調整していく作業です。人間の学習のように本を読んで覚えるのではなく、「予想する→答え合わせをする→ずれを測る→数値を少し直す」をひたすら繰り返す、地道で機械的な工程です。経営の立場では、学習のしくみを知っておくと、AIが得意なこと・苦手なこと、そして自社でどこまで手を入れるべきかを判断しやすくなります。

学習の基本：予想して、答え合わせをして、つまみを少し回す

動画では、家賃を予想するモデルを例にしています。モデルの中には「広さ」「駅からの近さ」「基本の金額」に掛ける3つのつまみ（パラメータ）があり、最初はでたらめな値になっています。

ここに、広さ25平方メートル・駅から徒歩5分の物件を入れます。モデルはでたらめなつまみで計算し、家賃を3万円と予想しました。ところが実際の家賃は8万円でした。この予想と正解のずれを、専門用語では「損失」や「誤差」と呼びます。ずれが大きいのは、つまみの値がまだ合っていないということです。

そこで、つまみを少しだけ回します。予想が安すぎたので、広さのつまみを少し大きくします。もう一度計算すると今度は5万円になり、ずれは5万円から3万円に縮まりました。これを別の物件でも、また別の物件でも、何千回、何万回と繰り返します。すると、どんな物件でもずれが小さくなる、つまり「当たる」つまみの値にたどり着いていきます。これが学習の基本的な流れです。

どのつまみをどちらに回すか：勾配降下法

つまみが3つなら手で調整できますが、大規模言語モデルではつまみが数百億、数千億個にもなります。どれをどちらに回せばよいのでしょうか。

動画では「霧の中の山下り」にたとえています。深い霧の中で山の上に立ち、いちばん低い谷底を目指すとします。遠くは見えず、見えるのは足元だけです。それでも、足元の傾きを確かめて下っている方向に一歩進む、を繰り返せば、いずれ低いところにたどり着けます。

学習でいう「高さ」は、ずれの大きさです。AIは、今のつまみの位置から、どちらに少し動かせばずれが減るかという傾きを計算で求められます。そして、ずれが減る方向にすべてのつまみを少しずつ一斉に動かします。この方法を「勾配降下法」と呼びます。勾配は傾き、降下は下ることです。

この計算の量はとてつもなく多く、大量のGPU（計算用の半導体）が必要になります。

学習がうまくいかない典型：過学習とデータの偏り

学習はいつもうまくいくわけではありません。動画では代表的な失敗を2つ挙げています。

AIは、見せられたデータの世界しか知りません。動画では、どんなデータで学習させるかがとても重要だと強調しています。これは自社で追加学習を検討するときにもそのまま当てはまります。

対話AIの学習は2段階

ChatGPT や Claude のような対話AIも、基本は同じしくみで学習しています。

1段階目は「次の言葉当て」です。 インターネット上などの膨大な文章を使い、「吾輩は猫で」とあれば次は「ある」と予想し、答え合わせをしてつまみを回します。家賃の例と、やっていることは同じです。これを桁違いの規模で繰り返すと、文法や知識、ある程度の推論らしきものまでがつまみの中に染み込んでいきます。この段階を「事前学習」と呼びます。

2段階目は人による調整です。 事前学習だけでは、文章の続きを書くのが上手なAIにすぎません。そこで、人が望ましい応答のお手本を示したり、複数の回答に評価をつけたりして、つまみをさらに微調整します。これによって、質問にきちんと答えるアシスタントらしいAIになります。OpenAI の研究（InstructGPT）では、この方法で調整した13億パラメータのモデルの出力が、100倍以上大きい GPT-3 の出力より評価者に好まれました。

企業にとっての意味：自社でどこまで手を入れるか

企業が自社で事前学習を行うことは、まずありません。現実的な選択肢は次の3つで、下にいくほど費用と手間が増えます。

1. 既存のモデルをそのまま使う。 指示の出し方（プロンプト）を工夫するだけで足りる業務は多くあります。
2. 社内文書を検索して都度渡す（RAG）。 OpenAI の公式ガイドは、知識が学習データになかった、古くなっている、社内の独自情報が必要、という場合にこの方法を挙げています。
3. 追加学習（ファインチューニング）を行う。 同じガイドは、出力の形式がそろわない、口調が合わない、決まった考え方の手順を守らない、という場合に向くとしています。

同ガイドは、まず基本的な方法で精度を上げきってから、RAG や追加学習に進むよう勧めています。「最新の社内情報を答えさせたい」だけなら、多くの場合2で足ります。

経営者が確認すべきこと

• 入力データが学習に使われるか。 これはモデルではなく契約条件で決まります。OpenAI と Anthropic はいずれも、法人向けの製品と API のデータを標準では学習に使わないと公表しています。一方で個人向けプランは扱いが異なる場合があるため、社員が使うプランを確認しましょう。
• 追加学習の前に、目的を言葉にする。 知識を足したいのか、振る舞いを整えたいのかで、選ぶ手段が変わります。
• 学習データの質と偏り。 追加学習を行うなら、データが実際の業務の幅を代表しているかを確かめます。
• 評価用のデータを別に持つ。 学習に使ったデータだけで成績を測ると、過学習に気づけません。学習に使っていない事例で効果を確かめましょう。

動画では、前回の「モデル」と今回の「学習」の2つがわかると、AIのニュースがぐっと理解しやすくなると述べています。新しいモデルの発表を見るときも、「どんなデータで、どう調整されたか」に目を向けると、自社の業務に合うかどうかを判断しやすくなるでしょう。