在企业的日常研发工作中， 工程师可能会面对众多潜在影响因子及这些因子间的复杂组合而无所适从，不知道如何通过实验构建这些因子与最终响应间的数学模型。类似困扰常出现在锂电池行业对于电解液配方的研究、医药行业对于生物制剂配方的设计，以及化工行业对于合成路线的确定等，其中涉及到的成分因子与过程因子均远超课本中经典实验设计方案所能承受，使企业在成倍增加研发成本的同时产品性能却难以突破。
来自普林斯顿大学学者2021年的一篇Nature“爆款”文章1为我们提供了一种基于机器学习来高效探索因子最优组合的方法。无需复杂的编程，借助JMP强大的数据处理与机器学习功能，大家不妨跟我们来一起体验一下普林斯顿大学的基于贝叶斯优化的序贯实验吧。
01 通俗易懂说说什么是序贯实验&贝叶斯优化
所谓序贯实验（Sequential Experimentation），即为进行实验时不预先固定总实验次数，每做完一阶段实验并获得实验数据之后，我们都需要进行决策分析，来决定下一阶段实验的具体类型及其中因子的取值。每一次的决策分析均可视为一次对实验方向的修正，帮助我们更接近最终优化目标（如最大产量、最小不合格率、最大强度等）。我们不断重复这个实验-决策-实验的过程，直到达成某个给定的停止规则。
至此，我们知道了基于贝叶斯优化的序贯实验的大体迭代思路，但是具体的数学公式方面仍未作任何解释， 那就请大家跟着我们来通过一个虚拟实验案例来进一步了解。
02 二阶最优化问题和响应曲面模型JMP实现
我们考虑优化一个包含三个连续因子及一个连续响应的系统（见图1），优化目标为使Y越大越好。因为本实验为一个虚拟实验，我们预先设定响应与因子间的关系为如下二次函数：
其中ε为正态随机数，用来模拟真实实验中的各种实验误差对响应的影响。容易看出，Y的最大值为4，且在当X1=X2=X3=0.5 时取得该最大值。我们想要验证的就是基于贝叶斯优化的序贯实验需要多少次实验能帮助我们找到该最大值。
图2 响应曲面实验设计流程。（a）响应曲面设计路径（b）中心复合设计路径（c）实验设计表（d）模拟Y值公式
拟合结果见图3， 通过JMP独有的交互式预测刻画器，我们可以看到基于16次经典实验计算得到的数学模型给出的最优参数组合为（0.5，0.54，0.43），响应最优值为3.97。
在整个贝叶斯优化的过程中，目标函数为 Y=f(X1,X2,X3)，我们想要优化目标函数使Y最大化，但我们并不知道这个函数具体长什么样，其中哪些效应项显著，哪些效应项可以被剔除。那我们就退而求其次，转而优化一个代理函数（Surrogate Function）来取代目标函数。
我们要求代理函数能够完全拟合我们已经观察到的数据点且易于计算，虽然最初的代理函数可能与目标函数大相径庭，但它本身会在每一步序贯实验之后被不断更新。可以预见的是，随着我们收集到的数据点增多，代理函数会逐渐逼近目标函数，我们通过代理函数求得的最优响应与最优参数组合也就越接近理论最优。
在本例中，我们选用JMP中的高斯过程作为代理函数，拟合从8次空间填充实验中获得的数据点，并将拟合得到的预测均值与预测方差表达式存入原实验设计表格中作为我们寻找优化方向的依据，具体操作路径见图5。
04 小结
基于贝叶斯优化的序贯实验自从被提出以来，受到工业界的广泛关注，在传统化工、生物制药及锂电等传统实验设计力所不能及的领域，贝叶斯优化的价值都在不断被验证。
借助JMP软件，我们在不进行任何编程的情况下一起探索了一个三因子简单系统，实际观察到了序贯实验如何在“机器“的指导下，一步步逼近理论最优解。对于我们工程师实际业务问题，随着系统复杂度及影响因子的成倍上升，或许机器学习能成为我们在研发路上的破局之道。
**参考文献：
- Shields, B.J., Stevens, J., Li, J. et al. Bayesian reaction optimization as a tool for chemical synthesis. Nature, 2021, 590, 89–96.
- Shahriari B., Swersky K., Wang Z., et al. Taking the Human Out of the Loop: A Review of Bayesian Optimization, 2015, 104(1):148-175.**
JMP 17 版本全新问世！欢迎下载最新版软件免费试用体验。
声明：本站部分文章及图片源自用户投稿，如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢！