はとはとブログ

機械学習はなぜ「学習」できるのか。訓練データから得た知識がなぜ未知のテストデータでも有効なのか。この根本的な問いに答える理論的枠組みが経験的リスク最小化（ERM）とi.i.d.仮定です。本記事では、これらの概念の数理的意味と、深層学習時代における再評価について調査・考察してみました。機械学習の理論的基盤を理解したい方の参考になれば幸いです。

機械学習を学ぶ上で避けて通れない基礎概念について調査・考察してみました。経験的リスク最小化（ERM）から始まり、過学習と正則化、そして近年注目されるDouble Descent現象まで、理論的背景と実践的意義を整理しています。これから機械学習を本格的に学ぶ方の参考になれば幸いです。