论文标题

霍尔德式的回溯方法,用于最小和最小的问题

A Hölderian backtracking method for min-max and min-min problems

论文作者

Bolte, Jérôme, Glaudin, Lilian, Pauwels, Edouard, Serrurier, Mathieu

论文摘要

我们提出了一种新的算法,以解决凸界的最小或最小问题问题。我们使用僵化的假设,无处不在学习,使我们的方法适用于许多优化问题。我们的方法利用隐藏的规律性属性,使我们能够设计出一种简单的山脊类型算法。我们方法的一个原始功能是使用自动步长适应,这与通常的过于谨慎的回溯方法背道而驰。在一般框架中,我们提供融合理论保证和利率。我们将发现应用于获得有希望的数值结果的简单GAN问题。

We present a new algorithm to solve min-max or min-min problems out of the convex world. We use rigidity assumptions, ubiquitous in learning, making our method applicable to many optimization problems. Our approach takes advantage of hidden regularity properties and allows us to devise a simple algorithm of ridge type. An original feature of our method is to come with automatic step size adaptation which departs from the usual overly cautious backtracking methods. In a general framework, we provide convergence theoretical guarantees and rates. We apply our findings on simple GAN problems obtaining promising numerical results.

扫码加入交流群

加入微信交流群

微信交流群二维码

扫码加入学术交流群,获取更多资源