Oasis's Cloud

一个人的首要责任,就是要有雄心。雄心是一种高尚的激情,它可以采取多种合理的形式。
—— 《一个数学家的辩白》

Essential Math for AI: Next‑Level Mathematics for Efficient and Successful AI Systems

AI 必备数学:构建高效、成功 AI 系统的高阶数学(ch02)

作者:oasis


Data, Data, Data

章节开始区分了感知人工智能、理解人工智能、控制人工智能、意识人工智能的 的区别。之后将后续章节讲解的目标限制在 感知人工智能。

Data for AI

机器学习模型的数学问题:将给定的一组数据点拟合到一个合适的函数中(将输入映射到输出),该函数能捕捉到数据中的重要信号并忽略噪声,然后确保该函数在新数据上表现良好。

过程中的复杂性和挑战:

  • 假设和特征(Hypothesis and features)
    1. 生成数据的真实函数和实际依赖的所有特征均未知。
  • 性能评估(performance)
    1. 函数在新的、未见过的数据上是否表现良好?
    2. 部署后如何选择监控的性能指标?
  • 数据量(Volume)
    1. 高效存储、传输、探索、预处理、构建和计算大量且高纬的数据。
  • 结构化
    1. 大部分真实数据是非结构化的
    2. 数据挖掘是人工智能领域的驱动力

真实数据和模拟数据

  • 真实数据:由于测量方法和工具的不准确性和故障,数据往往不完美且含有噪声。从数学角度看,我们不知道真是数据的精确函数或概率分布。需要通过模型、理论和模拟进行假设。然后对模型进行测试。
  • 模拟数据:从已知函数生成的数据,或从已知概率分布中随机抽取的数据。(和真是数据的区别是:已经有模型)

数学模型:线性和非线性

  • 线性模型:特征在公式中仅以自身形式出现,没有幂或根,也没有嵌入到任何其他函数中,如分数的分母、正弦、余弦、指数、对数或其他微积分函数。
  • 非线性模型:一个或多个特征在函数公式中以非1的幂次出现,或者与其他特征相乘或相除,或者嵌入到正弦、余弦、指数、对数等其他微积分函数中。

数据处理和建模

  1. 调查数据获取见解
  2. 检测模型,提出假设函数
  3. 测试假设函数
  4. 部署到真实世界
  5. 根据真实世界的反馈重复步骤1-5

AI 和数学模型以及模拟的三种交互方式:

  1. 数学模型和模拟为AI系统提供训练
  2. AI 增强数学模型和模拟
  3. AI 本身是一个数学模型或模拟

数据分布、概率和统计的词汇

  1. 随机变量:
  • 随机变量与函数的区别是,随机变量的结果是不确定的,函数的结果是可预测和确定的。
  • 随机变量可以是离散的或连续的
  1. 概率分布:
  • 分布代表的是离散随机变量或连续随机变量
  1. 联合分布:
  • x
  1. 边缘概率:
  • 位于联合概率分布的边缘。
  1. 均匀分布和正太分布
  • 均匀分布与正态分布 均匀分布和正态分布是最常见的连续分布,因此我们从它们开始。

Fitting Functions to Data

weight = w0 + w1 * height

接下来的任务找出 w0 w1 的值。