窥一斑而知全豹：数理统计

人工智能必备的数理统计基础，着重于抽象概念的解释而非具体的数学公式，其要点如下：

数理统计的任务是根据可观察的样本反过来推断总体的性质；

推断的工具是统计量，统计量是样本的函数，是个随机变量；

参数估计通过随机抽取的样本来估计总体分布的未知参数，包括点估计和区间估计；

假设检验通过随机抽取的样本来接受或拒绝关于总体的某个判断，常用于估计机器学习模型的泛化错误率。

最优化方法

人工智能必备的最优化方法基础，着重于抽象概念的解释而非具体的数学公式，其要点如下：

通常情况下，最优化问题是在无约束情况下求解给定目标函数的最小值；

在线性搜索中，确定寻找最小值时的搜索方向需要使用目标函数的一阶导数和二阶导数；

置信域算法的思想是先确定搜索步长，再确定搜索方向；

以人工神经网络为代表的启发式算法是另外一类重要的优化方法。

image万物皆数，信息亦然：信息论

近年来的科学研究不断证实，不确定性才是客观世界的本质属性。换句话说，上帝还真就掷骰子。不确定性的世界只能使用概率模型来描述，正是对概率的刻画促成了信息论的诞生。

信息论使用“信息熵”的概念，对单个信源的信息量和通信中传递信息的数量与效率等问题做出了解释，并在世界的不确定性和信息的可测量性之间搭建起一座桥梁。

人工智能必备的数理统计基础，着重于抽象概念的解释而非具体的数学公式，其要点如下：

数理统计的任务是根据可观察的样本反过来推断总体的性质；

推断的工具是统计量，统计量是样本的函数，是个随机变量；

参数估计通过随机抽取的样本来估计总体分布的未知参数，包括点估计和区间估计；

假设检验通过随机抽取的样本来接受或拒绝关于总体的某个判断，常用于估计机器学习模型的泛化错误率。

明日黄花迹难寻：形式逻辑

人工智能必备的形式逻辑基础，以及采用形式逻辑进行自动推理的基本原理，其要点如下：

如果将认知过程定义为对符号的逻辑运算，人工智能的基础就是形式逻辑；

谓词逻辑是知识表示的主要方法；

基于谓词逻辑系统可以实现具有自动推理能力的人工智能；

不完备性定理向“认知的本质是计算”这一人工智能的基本理念提出挑战。