监督学习(分类与回归,感知机、逻辑回归;神经网络、反向传播、CNN、RNN);非监督学习(K-means);强化学习(MDP定义、状态值函数和动作值函数、Q学习及SARSA、DQN)决策树例子:打网球例如 , 分类结果:No决策树概念:表示一个函数,该函数将属性值的向量作为输入,并返回一个“决策”(单个输出值)通过执行一系列测试来做出决策。节点:用属性标记边:用属性值标记叶子:用决策标记决策树表示:决策树表示属性值约束的合取的析取上例中的决策树:(Outlook = Sunny ∧ Humidity = Normal) ∨ (Outlook = Overcast) ∨ (Outlook = Rain ∧ Wind = Weak)任何布尔函数都可以写成决策树通过把真值表中的每一行对应树中的路径通常可以使用小树,然后,有些函数需要指数大的树决策树学习:目标:找到一棵与训练样例一致的小树思路:选择“最重要”属性作为(子)树的根信息论我们将使用 信息增益(information gain)的概念,它是用信息论的基本概念——熵(entropy)来定义的熵,是对随机变量不确定性的度量;信息的获取对
caroline
计算机专业学生