Basic Convex Optimization II - Second-Order Methods

Speaker: Kyungman Kim (Sungkyunkwan University)

초록

“최적화는 본질적으로 물물교환이다!”  지난 1학기에 이어 Convex Optimization 두 번째 세미나입니다. Convex Optimization은 최적화를 이해하는 데 필수적인 기반이자, 머신러닝을 포함한 다양한 응용 분야에서 폭넓게 활용되고 있습니다.
 이번에는 unconstrained Second-Order Methods를 다루며, Newton’s method와 대표적 Quasi-Newton(BFGS, DFP) 기법을 소개합니다. Second-Order Methods는 높은 정확도를 제공하지만 계산비용이 큰 만큼, 두 요소 간 trade-off 속에서 효율적인 알고리즘을 디자인하는 것이 중요합니다. 본 세미나에서는 그 과정을 중심으로 살펴보겠습니다.

사전지식: 선형대수학, 해석학

Video Link