Essential Math for AI: Next‑Level Mathematics for Efficient and Successful AI Systems
AI 必备数学:构建高效、成功 AI 系统的高阶数学(ch02)
Data, Data, Data
章节开始区分了感知人工智能、理解人工智能、控制人工智能、意识人工智能的 的区别。之后将后续章节讲解的目标限制在 感知人工智能。
Data for AI
机器学习模型的数学问题:将给定的一组数据点拟合到一个合适的函数中(将输入映射到输出),该函数能捕捉到数据中的重要信号并忽略噪声,然后确保该函数在新数据上表现良好。
过程中的复杂性和挑战:
- 假设和特征(Hypothesis and features)
- 生成数据的真实函数和实际依赖的所有特征均未知。
- 性能评估(performance)
- 函数在新的、未见过的数据上是否表现良好?
- 部署后如何选择监控的性能指标?
- 数据量(Volume)
- 高效存储、传输、探索、预处理、构建和计算大量且高纬的数据。
- 结构化
- 大部分真实数据是非结构化的
- 数据挖掘是人工智能领域的驱动力
真实数据和模拟数据
- 真实数据:由于测量方法和工具的不准确性和故障,数据往往不完美且含有噪声。从数学角度看,我们不知道真是数据的精确函数或概率分布。需要通过模型、理论和模拟进行假设。然后对模型进行测试。
- 模拟数据:从已知函数生成的数据,或从已知概率分布中随机抽取的数据。(和真是数据的区别是:已经有模型)
数学模型:线性和非线性
- 线性模型:特征在公式中仅以自身形式出现,没有幂或根,也没有嵌入到任何其他函数中,如分数的分母、正弦、余弦、指数、对数或其他微积分函数。
- 非线性模型:一个或多个特征在函数公式中以非1的幂次出现,或者与其他特征相乘或相除,或者嵌入到正弦、余弦、指数、对数等其他微积分函数中。
数据处理和建模
- 调查数据获取见解
- 检测模型,提出假设函数
- 测试假设函数
- 部署到真实世界
- 根据真实世界的反馈重复步骤1-5
AI 和数学模型以及模拟的三种交互方式:
- 数学模型和模拟为AI系统提供训练
- AI 增强数学模型和模拟
- AI 本身是一个数学模型或模拟
数据分布、概率和统计的词汇
- 随机变量:
- 随机变量与函数的区别是,随机变量的结果是不确定的,函数的结果是可预测和确定的。
- 随机变量可以是离散的或连续的
- 概率分布:
- 分布代表的是离散随机变量或连续随机变量
- 联合分布:
- x
- 边缘概率:
- 位于联合概率分布的边缘。
- 均匀分布和正太分布
- 均匀分布与正态分布 均匀分布和正态分布是最常见的连续分布,因此我们从它们开始。
Fitting Functions to Data
weight = w0 + w1 * height接下来的任务找出 w0 w1 的值。