local minimum
local minimumは、数学やデータサイエンス、特に機械学習の最適化問題において非常に重要な概念です。これは、ある特定の範囲内では最小の値を持っているものの、関数全体のなかで最も低い値(global minimum)であるとは限らない状態を指します。山あり谷ありの地形に例えると、周囲よりは低いが、さらに深い谷が別の場所にあるという小さな窪みのような状態です。
最適化における課題
機械学習の学習プロセスにおいて、アルゴリズムがこのlocal minimumに陥ってしまうと、そこが正解だと思い込んで停止してしまい、真の最適解であるglobal minimumに到達できなくなることがあります。これを局所最適解に陥ると表現します。これを回避するために、学習率の調整や、あえてランダムな動きを加える手法などが用いられます。
global minimumとの対比
global minimum:関数全体の全領域において、絶対にこれより低い値が存在しない唯一の最小点です。
local minimum:限定的な近傍領域においてのみ最小である点であり、関数内に複数存在することが一般的です。
例えば、複雑な損失関数を最小化しようとする際、多くのlocal minimumが存在すると、どの初期値から探索を始めたかによって到達する結果が変わる可能性があります。
意味
数学的関数において、周囲のどの点よりも値が低いが、全領域における最小値であるとは限らない点のこと
The optimization algorithm became stuck in a local minimum, preventing it from finding the global optimum.
最適化アルゴリズムが局所最適解に陥り、全域的な最適解を見つけることができなくなった。