枝刈り (pruning)は、ニューラルネットワークにおいて、不要なパラメータを削除することで、モデルのパラメータ数を削減する手法です。これにより、計算負荷やメモリ使用量を削減し、組み込みシステムやモバイルデバイスにおいて使用することができるようになります。
枝刈りには、重みの大きさや勾配などを利用して、パラメータを削除する手法があります。
例えば、重みの大きさに基づいてパラメータを削除する手法である重み除去法や、勾配に基づいてパラメータを削除する手法であるスパース正則化法などがあります。
枝刈りは、学習済みのニューラルネットワークに対して適用することができますが、新しいニューラルネットワークを学習する際にも枝刈りを組み込むことができる手法もあります。
枝刈りは、モデルの圧縮に加え、学習時間の短縮や過学習の抑制などにも利用されることがあります。