Vは状態だけを評価 Qは状態と行動評価 方策関数 状態から行動を選ぶルール 方策関数 価値関数ではない 状態価値関数 V関数 状態で方策実行 そのときの期待累積報酬 将来の報酬に 貢献する期待値 行動価値関数 Q関数 状態で行動したとき その後の報酬 どれだけ期待できるか 期待累積報酬で評価 状態はどこにいるか 行動はそこでなにをするか 状態価値関数 その状態にいる価値 行動価値関数 その状態で その行動をとった価値 Vは状態だけを評価 Qは状態と行動評価 遷移確率 次の状態への移りやすさ 報酬関数 即時報酬の大きさを返す


