正解は「B. データ拡張」です。

データ拡張は、Data Augmentationの和訳です。augmentは「増加・増大させる」という意味で、AR (Augmented Reality) にも使われている言葉です。データ拡張には様々な手法があります。画像であれば、左右に反転させたり、回転、シア（平行四辺形に歪ませる）、切り抜きなどがあります。新しく画像を生成する方法もあり、選択肢Aと迷った方もいたかもしれません（データ生成は手法の1つであり、水増しを指す用語はAugmentationです）。

データ拡張によるデータの水増しには賛否両論があります。なぜなら拡張データは、手元にあるデータをもとに作られたデータであるためです。同じ犬を角度を変えて撮影しても、犬全体に共通する特徴を知ることはできません。

画像生成によるデータ拡張はさらに議論の的です。あるデータセットで学習したAIが新しく画像を生成し、その生成画像を学習データに加えるという手法です。新しい画像を生成しているため一見問題なさそうに見えますが、その画像は特定のデータセットから得られた特徴量をもとに作られているわけです。人間には新しく見える画像ですが、AI的には同じ犬の画像と変わりないものです。

いずれにせよAIの性能が分かるのは、新しいデータに出会ったときです。手元にあるデータセットで性能を上げることも重要ですが、新しいデータを収集・蓄積することも同じように重要なのです。

正解は「C．コンビニのPOSデータ（商品名、価格、時間など）から似た傾向のある商品を分類する。」です。

機械学習とは分類のための基準を獲得する過程です。分類がすでに決まっているのであれば教師あり学習で、モデルはその分類に合致するような基準を学習します。一方、教師なし学習では、分類すらない状態です。分類の数（これをクラスといいます）も機械が決め、その基準を学習していきます。

例えば、手書きの数字を分類する場合、「0」「1」…「9」の10個のクラスがあります。教師あり学習では、どの画像（手書き数字のサンプル）がどのクラスに属するのかを機械に教えていきます。明確な答えがあり、その上で分類の基準を学んでいくわけです。一方、教師なし学習では「クラスは10個だよ」とも教えません。そのため、手書きの「0」と「6」は形状が似ているので、1つのクラスに分類されてしまうかもしれません。その場合は、9個のクラスになってしまいます。

教師なし学習の利点は「どう分類すれば良いのか分からない」ときに発揮されます。正解の「POSデータ」で考えると、コンビニの商品を分類することになります。同じクラスの商品は、何か同様の傾向があると考えられます。そこからさらに分析しても良いですし、セット商品や商品レイアウトに利用しても良いでしょう。教師なし学習は「正解」がないので正解率や精度等の指標はありません。しかし、「何か差異があるはずだ」、「分析するためのヒントが欲しい」という場合には教師なし学習が有効です。

正解は「A．あるデータセットでは正解率が高いのに、別のデータセットではうまくいかない。」です。

過学習という文字だけ見ると選択肢Eが正解に見えます。しかし、過学習を英語で書くとoverfittingなので、過剰適応という意味合いです。つまり、ある特定のデータセットには良い性能を示すのに、別のデータセットではうまくいかない場合を指します。この現象を「うまく汎化（はんか）できていない」とも表現します。「うまい汎化」とは、適切な特徴を捉えて、多少データが変わっても正解率が下がったりしないことです。

過学習の逆の状態もあり、学習不足や未学習といいます。これはunderfittingの訳語で、学習の回数が足りないときに起こります。機械学習は、分類のための基準を獲得する過程です。その基準は数値的に計算され、ちょっと変化させては答え合わせ、またちょっと変化させて……と繰り返していきます。この繰り返しが足りない状態がunderfittingなのです。

AIの開発者は常に過学習を考慮に入れています。そのため、結果が良くても「やった！すごい性能だ！」とは手放しで喜びません。逆に「あれ？性能良すぎない？」と疑心暗鬼になり、今度はその性能を統計的に検証するのです。

正解は「B. 損失関数の最小化で収束した説明変数のセット」です。

最適解は、解が一意に定まらない場合に用いられる用語です。逆に言えば、解になりうる説明変数のセットが複数あるということです。機械学習の場合、損失関数を最小化する手法で最適解が求められます。

あなたが砂漠にいると考えて下さい。しかも目隠しです。「一番低い場所にオアシスがある」と教えられたので、とりあえず低い場所を目指します。低い場所を目指すことが損失関数を最小化すること（勾配降下法）の例えです。ちなみにオアシスは一箇所とは限りません。

このとき、あなたが踏み出す歩幅や歩くスピードが学習率に相当します。学習率が大きいほど、オアシスに早く辿り着きそうです。しかし、急斜面にぶつかったり、無闇に動いて体力を消耗したりするリスクもあります。実際に機械学習では最小値を何度も通り過ぎてしまう現象が観察されます。ちなみに砂漠がほぼ平面になって行き先が決まらない状態を勾配消失といいます。

たまたま見つけたオアシスを最適解と呼びます。実は丘を越えた先にもっと大きなオアシスがあるとき、大きなオアシスを大域的最適解、今いる小さなオアシスを局所最適解といいます。大域的最適解がベストな最適解とは限りません。砂漠全体を観測できないためです。機械学習でも同様で、「この学習率で、この重みの初期値で、このバッチサイズで」という複数の条件で学習したときにある最適解が現れるに過ぎません。「あらゆる条件で試す」のは現在の技術では不可能です。そのため、良い結果でも「今のところベスト」と考えるのが良いでしょう。

正解は「C. PyCharm」です。

PyCharmはPythonの総合開発環境です。JetBrains（ジェットブレインズ）というチェコのプラハにある会社が制作しています。

TensorFlow（TF）はGoogleが開発し、KerasはTFの開発者のひとりがTFのラッパーとして開発しました。ラッパーというのはラップ（Wrap）するもののことで、TF全体を包んでいるイメージです。私たちが触れる部分はKerasのみですが中身はTFです。なおTFの発音はテンサーフローが正しいです。数学ではベクトルやテンソルのようにドイツ語読みで習っているので間違えてしまいがちですね。

PyTorchはFacebookが開発しており、シェアとしてはTFに劣っていますが、機械学習研究者が好んで使っています。細かい部分で微調整しやすく、分散処理を行いやすいためです。逆に言えば、Kerasは簡潔で短く書くことができますが微調整しにくい部分があります（Kerasでも分岐モデルは書けます）。

PyCaretは選択肢の中で最も新しいライブラリで、より簡潔に書くことができます。ウェブページでは「数秒で機械学習を始めることができる」と紹介されています。私はまだ本格的に使っているわけではありませんが、PyCaretはMatplotlibもラップしているため学習コストが非常に小さいことが魅力的に見えました。非エンジニアでも簡単に機械学習を始めることができそうです。

正解は「B. 重み」です。

機械学習は特定のアルゴリズムに従って行われます。具体的な数値を基礎としてアルゴリズムが進行するのであり、比喩としての「AIが賢くなる」という言葉では、機械学習の本質を理解することはできません。

ニューラルネットワーク（NN）の場合、それぞれのニューロンがもつ重みとバイアスが知識であり、知識を獲得するための過程を学習と呼びます。重みとバイアスはパラメータとも呼ばれますが、それはNNの出力を規定する定数（学習中は変数）でもあるからです。

NNの基本は簡単です。あるニューロンに入った値は、そのニューロン固有の変換を受けて出力されます。固有の変換とは、y = ax + b です（xが入力、yが出力）。グラフの傾きを示すaが重みで、切片のbがバイアスです。出力yは、活性化関数の入力となるためニューロンの出力ではありません（活性化関数の出力がニューロンの出力です）。

このaとbを最適化によって求めることを学習と呼び、aとbの値そのものを知識といいます。なおニューロンの数だけaとbは存在します。そのため、ディープなNNは「豊富な知識が蓄えられる」や「深い知識をもつ」と形容されるのです。つまり数多くの重みとバイアスを保持しているというわけですね。

正解は「E. テストデータは学習に寄与しない。」です。

ややこしい話をします。分かりやすいように、検証データをvalidation data、テストデータをtest dataと書くことにします。

ややこしい原因の1つは日本語訳です。validationを「テスト」と訳している教科書やサイトがあります（その訳でも間違ってはいない点もさらにややこしい）。仮にデータセットをtraining（訓練）データと、validationデータもしくはtestデータの2つに分けるのであればとくに気にする必要はありません。validation dataであろうが、test dataであろうが「訓練データではない方」という意味です。

原因の2つ目はvalidationがtestの一種を指すことです。validationは「仕様に合うかの確認」という意味なので、これをテストといっても意味が通じます。validationとtestは意味が違うと説明するサイトもありますが、その解説は感覚的なもので不明確です。図示や式として表すことはできていません。

では前述のややこしいポイントを踏まえて、機械学習におけるvalidationとtestの違いを具体的に説明します（「具体的」なのがポイントです）。まず機械学習モデルはtraining dataでバッチサイズごとに重みを更新します。すべてのtraining dataで学習したら（つまり1エポック終わったら）、ここではじめてvalidation dataで正解率や誤差を算出します。

training dataでは誤差をもとに重みを変化させますが、validation dataでは正解率や誤差を算出するだけで重みの更新は行いません。言い換えると、モデルはvalidation dataでは学習しません。その後また次のエポックが始まり、それが終われば先ほどと同じようにvalidation dataで検証します。これを指定したエポック数まで繰り返します。

test dataはすべてのエポックが終了した時点で使われます。ここでも重みの更新はありません。この点ではvalidation dataと似ています。違いはvalidation dataが複数回使用される点です。

validation dataは、学習途中のモデルの評価に使われます。それによって早期に学習を打ち切ったり、説明変数の選択、ハイパーパラメータの調節を行います。モデルの重みの更新自体には関与しませんが、モデルの構成にはしっかりと関与しています。間接的にモデルを形成しているといって良いでしょう。

これに対してtest dataは直接的にも間接的にもモデルの形成には関与していません。つまりモデルが完成してから、その後に収集されたデータ（未来のデータ）と変わらないものです。

いかがでしょう。training data, validation data, test dataの区別はつきそうですか？繰り返し読んで理解しましょう。

正解は「C. 処理を行うまとまり（コンポーネント）をつなげたもの」です。

これはなんとなく正解を選べたかと思います。cかeかで迷ったのではないでしょうか。eもパイプラインの例ではありますが、パイプライン自体の説明ではありません。パイプラインとは、ひとまとまりの処理を行うコンポーネント（要素）が単位になっています。したがって、サーバーを切り分けることを指しているeでは要点がズレています。ただし現実的には1つの処理を1つのサーバーで行うことも多いため、サーバーを切り分けて全体を構築することもパイプラインの一例といえるでしょう。

重要なことは各コンポーネントは非同期的に実行されることです。1つのコンポーネントはデータさえあれば自分の処理を行うことができます。逆にデータがなければ待機しているだけです。ここで、データの不足がエラーを招くことがないように設計されます。上流の過程が1つでも止まると下流がすべて止まるようではパイプライン化する意味がありません。

このような環境を構築するためには適切なモニタリングが必要です。例えばAWSにはそのようなモニタリングに適したサーバーも用意されており、パイプラインが設計しやすくなっています。

機械学習ではそもそもデータ量が多く、それに付随する処理では必然的に計算量が多くなります。特徴量エンジニアリングやデータの形式の変換など、前処理でもパイプラインは非常に有効です。

正解は「D. 何らかの前提なしに、あるデータに最良のモデルを選択することはできないこと」です。

正解は「前提がないと、モデルの良し悪しは判断できない」ですが、それと「フリーランチ（タダ飯）」がどうつながるのでしょうか。

まずノーフリーランチ（NFL）定理について理解しましょう。あるタスクに対して何が最良のモデルなのか、何の条件もなく選択することはできません。例えば処理を早く終わらせたい、可視化しやすいモデルにしたい、とにかく精度を上げたいなど、ほしい結果があってはじめて「良いモデル」を決めることができます。つまり前提条件なしに最良のモデルは決定できない、とするのがNFL定理です。

さらにいえばNFL定理は「最適なモデルとは、そのタスクに対して最適化されたものに限る」ということを示しています。つまりドメイン知識なしに良いモデルは作れないと明言しているわけです。

ドメイン知識とはその分野に関する専門知識です。つまりあなたが統計学に精通していても医学の知識がなければ、その実験に最適な統計手法を見出すことはできません。何にでも使える一辺倒の手法を提示することになります。とりあえずディープニューラルネットワークを使った、ランダムフォレストを使ったでは科学的なアプローチとはいえないのです。

そして「タダ飯なんてない」というのは、本当の意味で無料のものはないという格言から来ています。YouTubeでは無料で動画を見ることができますが、広告が入ります。携帯電話のキャッシュバックの仕組みも、それ以上の金額を企業は回収できるからやっているのです。携帯電話の契約期間は数年単位です。だから一旦契約してもらえばある程度の利益が確定するのです。このような物事に対して「フリーランチのような無料のものはない」といっているわけですね。

つまり最良のモデルのようなフリーランチは手に入らない、ということをNFL定理は示しています。なかなか手厳しいと感じますが、たしかに「やってみた」、「適用してみた」という報告が乱立している現状では、NFL定理の価値が身に沁みますね。

正解はC, Dです。

行列計算を用いる目的は、計算を高速にし、一度に計算できるようにするためです。ニューラルネットワークを例にして説明します。

ニューラルネットワークの入力層が3層などの小さい値の時は、私たちでも一次方程式を解く感覚で簡単に計算できます。しかし、入力層が1万層などに増えてしまったらどうでしょうか。for文などを使えば実装できますが、計算が煩雑になってしまいます。そこで登場するのが行列計算や内積の計算になります。重みの計算といっても、一次方程式を解くことと同じです。3本の連立一次方程式を解くことは簡単ですが、それが10本、100本になったら、想像しただけでも面倒だと思います。それを簡単にしてくれるのが行列なのです。

行列計算や内積計算は、Pythonのライブラリであるnumpy（ナンパイまたはナムパイ）で実装すると、効率的に行うことができるようになります！ 多次元配列の内積（numpyではdot）を使えば、出力層を一度に計算することができます。もしnumpy.dotを使わなければ、一行一行コードを書いたり、for文を使って計算しなければいけないので、とても面倒な作業になります。そのため、行列の計算は実装上でとても重要なテクニックとなります。