代理模型，也叫响应面模型、元模型等，是用一个简单的数学模型来近似代替复杂的真实模型。在有限元分析中，特别是优化设计、参数分析、不确定性量化等场景，经常需要反复计算很多次，如果每次都用真实的有限元模型，计算量太大了。这时候就可以用代理模型，先在一些样本点上算真实模型，然后用代理模型来近似，这样后续的计算就快多了。本文将介绍代理模型的基本概念、常用类型、构建方法和应用场景。
一、代理模型概述
什么是代理模型：
- 就是用一个简单的模型来代替复杂的真实模型
- 英文是Surrogate Model，也叫Metamodel
- 也叫响应面模型Response Surface Model
- 在样本点上用真实模型计算，然后拟合一个近似模型
- 之后就用这个近似模型来快速计算
为什么需要代理模型：
- 真实模型计算太慢了，比如复杂的有限元分析
- 优化设计要算很多次，每次都用真实模型算不动
- 参数分析、灵敏度分析也要算很多次
- 不确定性量化、蒙特卡洛模拟更是要算成千上万次
- 代理模型可以大大提高效率
代理模型的基本思想：
- 先选一些样本点，用真实模型计算
- 这些样本点叫训练样本
- 然后用这些样本拟合一个数学模型
- 这个数学模型就是代理模型
- 之后要算新的点，就用代理模型快速算
代理模型的好处：
- 计算速度大大提高，可能快几个数量级
- 可以做更多次的分析，比如优化、参数扫描
- 可以做不确定性量化
- 可以可视化输入输出的关系
- 可以做快速的方案对比
应用场景：
- 优化设计，特别是全局优化
- 参数分析和灵敏度分析
- 不确定性量化和可靠性分析
- 多学科设计优化
- 快速的方案评估和初步设计
- 等等，应用非常广泛
二、常用的代理模型类型
1. 多项式响应面
最简单最经典的。
什么是多项式响应面：
- 用多项式来近似输入输出关系
- 一般是一阶或二阶多项式
- 是最早也是最常用的代理模型之一
- 英文是Polynomial Response Surface
一阶多项式：
- 就是线性的
- 形式简单：y = a0 + a1*x1 + a2*x2 + ...
- 适合近似线性的关系
- 样本少的时候也能用
二阶多项式：
- 包含二次项和交叉项
- 可以近似非线性关系
- 是最常用的
- 形式：y = a0 + Σai*xi + Σaij*xi*xj + Σaii*xi²
优点：
- 简单直观，容易理解
- 计算快
- 有解析的表达式
- 可以做灵敏度分析
- 样本不多的时候也能用
缺点：
- 只能近似比较光滑的函数
- 高度非线性的问题不准
- 阶数高了容易过拟合
- 高维问题需要很多样本
适用场景：
- 非线性不强的问题
- 初步分析和设计
- 灵敏度分析
- 优化的初始阶段
- 等等
2. 克里金Kriging
很常用的一种。
什么是克里金：
- 也叫高斯过程回归
- 是一种插值的方法
- 起源于地质统计学
- 现在在工程优化里用得很多
- 英文是Kriging
特点：
- 是插值模型，在样本点上完全准确
- 可以给出预测的不确定性，也就是置信区间
- 适合近似光滑的函数
- 全局和局部的特性都能兼顾
优点：
- 精度一般比较高
- 可以给出预测误差
- 适合光滑的非线性函数
- 在优化里很常用，特别是加点准则
缺点：
- 计算量比多项式大
- 样本多了之后训练慢
- 参数估计比较复杂
- 不太平滑的函数可能有问题
适用场景：
- 精度要求高的优化
- 需要知道预测不确定性的
- 中等维度的问题
- 计算机实验的设计和分析
- 等等
3. 径向基函数RBF
另一种常用的。
什么是径向基函数：
- 用一组径向函数的线性组合来近似
- 径向函数就是只和到中心点的距离有关的函数
- 常见的有高斯函数、多二次函数、薄板样条等
- 英文是Radial Basis Function，简称RBF
特点：
- 也是插值型的
- 可以处理高维问题
- 训练相对简单
- 精度也不错
优点：
- 高维问题表现不错
- 训练比较快
- 可以处理不规则的样本
- 精度一般可以
缺点：
- 形状参数的选择比较重要
- 样本多了也会慢
- 外推能力一般
- 不同的基函数效果可能差很多
适用场景：
- 高维问题
- 样本点不规则的情况
- 插值问题
- 等等
4. 支持向量机SVM
机器学习里的方法。
什么是支持向量机：
- 本来是用来分类的
- 也可以用来做回归，叫支持向量回归SVR
- 是一种机器学习方法
- 基于统计学习理论
特点：
- 有很好的理论基础
- 可以处理高维问题
- 泛化能力不错
- 有稀疏解
优点：
- 高维问题表现好
- 泛化能力强，不容易过拟合
- 有严格的理论基础
- 可以处理非线性
缺点：
- 参数调节比较麻烦
- 训练速度一般
- 解释性不如多项式
- 核函数的选择很重要
适用场景：
- 高维问题
- 样本不多但维度高的情况
- 泛化要求高的
- 等等
5. 神经网络
也是机器学习的方法。
什么是神经网络：
- 模拟人脑神经元的结构
- 多层的非线性变换
- 可以近似很复杂的函数
- 深度学习就是多层的神经网络
特点：
- 可以近似非常复杂的非线性关系
- 需要的样本比较多
- 训练需要技巧
- 现在很火
优点：
- 近似能力强，复杂的函数也能近似
- 高维问题也能处理
- 数据多的话效果好
缺点：
- 需要较多的样本
- 训练比较复杂，容易过拟合
- 参数多，调参麻烦
- 解释性差，黑箱
- 训练可能比较慢
适用场景：
- 高度非线性的问题
- 有较多样本数据的情况
- 复杂的系统
- 等等
6. 其他方法
还有很多其他方法。
比如：
- 移动最小二乘法MLS
- 正交多项式
- 混沌多项式展开PCE
- 稀疏网格
- 等等，方法很多
怎么选方法：
- 根据问题的复杂度
- 根据样本的数量
- 根据维度的高低
- 根据精度要求
- 根据自己的熟悉程度
三、试验设计DOE
样本点怎么选。
什么是试验设计：
- Design of Experiments，简称DOE
- 就是怎么选样本点
- 样本点选得好，代理模型就准
- 选得不好，再多样本也没用
- 是构建代理模型的关键一步
为什么重要：
- 样本点是代理模型的基础
- 好的样本可以用很少的点达到很高的精度
- 不好的样本，点再多也白搭
- 所以试验设计很重要
常用的试验设计方法：
1. 全因子设计
- 每个因素的每个水平都组合一遍
- 最全面，但数量太多
- 因素多了根本用不了
- 只适合因素少的情况
2. 部分因子设计
- 从全因子里选一部分
- 可以减少试验次数
- 但会有混杂
- 适合筛选试验
3. 正交试验设计
- 用正交表来安排
- 比较常用，特别是工程上
- 均衡分散，整齐可比
- 因素和水平不多的时候好用
4. 拉丁超立方抽样LHS
- 也叫拉丁超立方设计
- 是一种随机抽样的改进
- 每个维度都分层抽样
- 比纯随机均匀
- 计算机实验常用
5. 均匀设计
- 让样本点在空间里尽量均匀分布
- 适合因素多水平多的情况
- 中国的方开泰教授提出的
- 也是比较常用的
6. 最优拉丁超立方
- 在拉丁超立方的基础上优化
- 让样本更均匀
- 效果更好
- 现在用得越来越多
还有很多其他的试验设计方法，比如中心复合设计CCD、Box-Behnken设计等，各有各的特点和适用场景。
四、代理模型的构建步骤
1. 确定问题和变量
先搞清楚要做什么。
要明确的：
- 输入变量有哪些
- 每个变量的范围是多少
- 输出是什么，关心哪些量
- 精度要求多高
- 计算资源有多少
为什么重要：
- 变量太多的话代理模型很难建准
- 先筛掉不重要的变量
- 明确范围，不要超出
- 知道精度要求，好选方法和样本数
2. 选择试验设计方法
选怎么采样。
考虑因素：
- 变量的数量
- 可用的样本数量
- 代理模型的类型
- 问题的复杂度
- 自己的熟悉程度
建议：
- 变量少的话可以用正交设计或中心复合设计
- 变量多的话用拉丁超立方或均匀设计
- 可以先少一些点，不够再加
- 自适应加点也是个好办法
3. 计算样本点
算真实模型。
怎么做：
- 按照试验设计生成样本点
- 每个样本点都用真实模型计算
- 也就是有限元分析
- 收集输入输出的数据
注意：
- 每个样本都要算对
- 注意单位和参数的对应
- 异常的结果要检查
- 数据要整理好
4. 选择代理模型类型
选什么代理模型。
考虑因素：
- 问题的非线性程度
- 样本的数量
- 变量的维度
- 精度要求
- 后续的用途
建议：
- 先从简单的开始，比如二阶多项式
- 不行再换复杂的，比如克里金
- 可以几种都试试，对比效果
- 没有最好的，只有最合适的
5. 训练和拟合代理模型
具体建模型。
怎么做：
- 用样本数据来训练代理模型
- 也就是拟合参数
- 不同的模型训练方法不一样
- 比如多项式就是最小二乘
- 克里金要估超参数
注意：
- 数据要预处理，比如归一化
- 参数选择要合理
- 注意过拟合和欠拟合
- 可以用交叉验证
6. 验证和检验
模型准不准。
为什么要验证：
- 代理模型是近似，不是精确的
- 要知道准不准，误差有多大
- 不准的话不能用
- 验证是必不可少的一步
常用的验证方法：
- 留一法交叉验证
- 分出一部分测试样本
- 看决定系数R²
- 看均方误差MSE
- 看最大误差
- 画图对比
如果精度不够怎么办：
- 增加样本点
- 换代理模型类型
- 调整模型参数
- 或者缩小变量范围
- 实在不行就不用代理模型了
7. 使用代理模型
验证好了就可以用了。
可以用来做什么：
- 优化设计
- 参数分析
- 灵敏度分析
- 不确定性量化
- 快速的方案评估
- 等等
注意：
- 在训练的范围内使用
- 外推要小心，可能不准
- 重要的结果最好用真实模型验证一下
- 不要过度相信代理模型
五、代理模型的应用
1. 优化设计
最常见的应用。
怎么用：
- 先建代理模型
- 然后在代理模型上做优化
- 优化完了再用真实模型验证
- 这样比直接在真实模型上优化快很多
为什么好用：
- 优化要算很多次，直接用真实模型太慢
- 代理模型快，可以做全局优化
- 可以用各种优化算法
- 效率大大提高
注意：
- 代理模型有误差，优化结果可能不是最优的
- 最后一定要用真实模型验证
- 可以用自适应加点，逐步改进
- 不要在代理模型上过度优化
2. 参数分析和灵敏度分析
看参数的影响。
怎么用：
- 用代理模型可以快速看每个参数的影响
- 可以画响应面图，直观
- 可以算灵敏度
- 找出重要的参数
好处：
- 比一个个试快多了
- 可以看交互作用
- 可以全面了解参数的影响
- 指导设计和改进
3. 不确定性量化
我们之前讲过的。
怎么用：
- 蒙特卡洛要算很多次，真实模型算不动
- 用代理模型就快多了
- 可以抽很多样本
- 得到输出的分布
好处：
- 大大提高计算效率
- 可以做更准确的统计分析
- 小概率事件也能算
- 是不确定性量化的常用方法
4. 多学科设计优化MDO
多个学科的优化。
为什么需要代理模型：
- 多学科优化每个学科都要算
- 学科之间还要耦合
- 计算量非常大
- 不用代理模型根本算不动
怎么用：
- 每个学科都建代理模型
- 然后用代理模型来做系统级优化
- 可以大大提高效率
- 是MDO的常用技术
5. 其他应用
还有很多其他应用。
比如：
- 快速的方案对比
- 初步设计
- 可靠性分析
- 数据拟合和预测
- 等等，应用很广泛
六、代理模型的挑战和注意事项
1. 维度灾难
高维问题很难。
什么是维度灾难：
- 变量多了之后，样本空间指数增长
- 需要的样本数也指数增长
- 代理模型的精度会下降
- 是高维问题的主要挑战
怎么应对：
- 先做灵敏度分析，筛掉不重要的变量
- 变量少了就好办了
- 用适合高维的代理模型，比如RBF、SVM
- 用稀疏的方法
- 或者降维，比如PCA
- 不要什么变量都放进去
2. 过拟合和欠拟合
模型复杂度的问题。
什么是过拟合：
- 模型太复杂，把噪声也学进去了
- 样本点上很准，但新的点不准
- 泛化能力差
什么是欠拟合：
- 模型太简单，连主要的趋势都没抓住
- 样本点上也不准
- 精度不够
怎么平衡：
- 选择合适复杂度的模型
- 用交叉验证来选
- 正则化，防止过拟合
- 不是越复杂的模型越好
- 简单的能解决就用简单的
3. 样本选择和数量
样本很重要。
多少样本合适：
- 没有固定答案
- 和问题复杂度、维度、方法都有关
- 一般来说，越多越准，但计算量也大
- 要在精度和效率间平衡
建议：
- 先从少的开始，不够再加
- 用自适应加点，在重要的地方多加
- 试验设计要好，好的设计事半功倍
- 不要盲目增加样本，先看设计好不好
4. 验证和确认
一定要验证。
为什么重要：
- 代理模型是近似，有误差
- 不知道误差多大就用，很危险
- 验证是必不可少的
- 不要想当然觉得准
怎么验证：
- 留一部分测试样本，不用来训练
- 用测试样本看误差
- 看R²、均方误差、最大误差等
- 画图看趋势对不对
- 交叉验证
- 重要的点用真实模型验证
5. 适用范围和外推
不要随便外推。
为什么：
- 代理模型在训练范围内比较准
- 超出范围就没保证了
- 外推可能差很多
- 特别是插值型的模型
注意：
- 尽量在训练的参数范围内使用
- 如果要外推，一定要小心
- 最好用真实模型验证
- 不要外推太多
七、总结
代理模型是工程分析和优化中的有力工具，可以大大提高计算效率，让很多原来算不动的问题变得可行。常用的代理模型有多项式响应面、克里金、径向基函数、支持向量机、神经网络等，各有各的优缺点和适用场景。试验设计是构建代理模型的关键，样本点选得好可以事半功倍。
代理模型的要点总结：
- 用简单模型近似复杂的真实模型，大大提高计算效率
- 常用类型有多项式响应面、克里金、RBF、SVM、神经网络等
- 试验设计很重要，好的样本是好的代理模型的基础
- 一般步骤：确定变量、试验设计、算样本、选模型、训练、验证、使用
- 应用包括优化设计、参数分析、不确定性量化、MDO等
- 挑战包括维度灾难、过拟合、样本选择、验证、外推等
给初学者的建议：
- 先理解基本概念，知道代理模型是干什么的
- 从简单的开始，比如二阶多项式响应面
- 不要一上来就搞很复杂的模型
- 试验设计很重要，不要随便采样
- 验证是必须的，不准的代理模型还不如不用
- 先从低维问题试手，再逐步到高维
- 不是越复杂的模型越好，合适的才是最好的
- 样本数量要合适，不是越多越好
- 外推要小心，尽量在训练范围内用
- 重要结果用真实模型验证一下
- 多做案例，积累经验
代理模型是一个很实用的技术，在优化、参数分析、不确定性量化等场景下能大大提高效率。虽然有一定的学习曲线，但掌握了之后可以解决很多原来算不动的问题。希望本文能帮助大家入门代理模型和响应面方法。如果有代理模型相关的经验或问题，欢迎在评论区交流讨论。
|
