新卒1年目の技術に関する備忘録

自主学習で困ったこと、学んだことをまとめています

2018-12-23から1日間の記事一覧

勾配ブースティング回帰木(勾配ブースティングマシン)

勾配ブースティングでは一つ目の決定木の誤りを、次の決定木で修正するようにして決定木を作っていく。 乱数性はないが、強力な事前枝切りが用いられる。 浅い決定木(弱学習機)を多数組み合わせるから、メモリが小さくなり予測も速くなる。 パラメータの影…

ランダムフォレスト

n_estimatorsで決定木の数を、n_jobsでCPUのコア数を指定することが出来る。 ランダムフォレストは乱数のシード(random_state)を変更すると、構築されるモデルが大きく変わる可能性がある。 決定木の数が増えると、シードの選択の影響を受けにくくなる。 max…