Per-instance algorithm selection (PIAS) takes advantage of complementarity between a set of algorithms by deciding which algorithm to run on a given instance. This decision is based on features of the instances, which, in the context of black-box optimization (BBO), require a part of the optimization budget to be computed. This raises two questions: (a) from which fraction of the budget spent on feature computation does PIAS become worth it for BBO, and (b) which fraction of the budget optimizes the tradeoff between feature accuracy and PIAS performance. To this end, we perform a broad study where PIAS with varying sampling budgets for feature computation is compared to the single best algorithm on a broad range of algorithm selection scenarios. These scenarios consist of two portfolio sizes, three problem sets, 4 dimensionalities, and 10 target budgets. We find that PIAS is viable for the majority of tested scenarios, even when as much as a quarter of the total budget is spent on feature computation. The tradeoff for the fraction of the budget spent on feature computation to maximize the benefit of PIAS is highly dependent on the specific AS scenario. Further, on average 20 percent of PIAS loss to the virtual best solver is explained by the budget spent on feature computation, highlighting the importance of properly accounting for the feature budget.


翻译:逐实例算法选择(PIAS)利用一组算法之间的互补性,通过决定在给定实例上运行哪个算法来提升性能。这一决策基于实例的特征,而在黑箱优化(BBO)的背景下,这些特征需要消耗部分优化预算进行计算。这引出了两个问题:(a)对于BBO,从特征计算所消耗的预算比例达到多少时,PIAS才变得值得;(b)哪个预算比例能在特征准确性与PIAS性能之间实现最优权衡。为此,我们进行了一项广泛研究,将采用不同采样预算进行特征计算的PIAS与单一最佳算法在多种算法选择场景中进行比较。这些场景包括两种组合规模、三组问题集、四种维度以及十种目标预算。我们发现,在大多数测试场景中,PIAS是可行的,即使特征计算消耗了总预算的四分之一。用于最大化PIAS收益的特征计算预算比例高度依赖于具体的算法选择场景。此外,平均而言,PIAS相对于虚拟最优求解器的性能损失中有20%可归因于特征计算所消耗的预算,这凸显了合理考虑特征预算的重要性。

0
下载
关闭预览

相关内容

面向算法选择的元学习研究综述
专知会员服务
46+阅读 · 2023年2月11日
【CMU博士论文】黑盒和多目标优化策略,151页pdf
专知会员服务
53+阅读 · 2022年11月24日
推荐算法中的特征工程
专知会员服务
40+阅读 · 2022年9月9日
综述:军事应用中使用的一些重要算法
专知
13+阅读 · 2022年7月3日
机器学习中的最优化算法总结
人工智能前沿讲习班
22+阅读 · 2019年3月22日
推荐|机器学习中的模型评价、模型选择和算法选择!
全球人工智能
10+阅读 · 2018年2月5日
推荐算法:Match与Rank模型的交织配合
从0到1
15+阅读 · 2017年12月18日
xgboost特征选择
数据挖掘入门与实战
39+阅读 · 2017年10月5日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
VIP会员
最新内容
无人机已改变战场,但并未解决指挥问题
专知会员服务
2+阅读 · 今天15:00
驱动军事决策变革的顶尖人工智能指挥系统
专知会员服务
10+阅读 · 8月11日
非对称防御中的自组织临界性:俄乌战争
专知会员服务
10+阅读 · 8月10日
《战争中的大语言模型监管》
专知会员服务
15+阅读 · 8月10日
《边缘计算关键技术分析及美军作战实践应用》
相关资讯
综述:军事应用中使用的一些重要算法
专知
13+阅读 · 2022年7月3日
机器学习中的最优化算法总结
人工智能前沿讲习班
22+阅读 · 2019年3月22日
推荐|机器学习中的模型评价、模型选择和算法选择!
全球人工智能
10+阅读 · 2018年2月5日
推荐算法:Match与Rank模型的交织配合
从0到1
15+阅读 · 2017年12月18日
xgboost特征选择
数据挖掘入门与实战
39+阅读 · 2017年10月5日
相关基金
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员