비모수통계

초록

“딥러닝 속에서 누가 돌아왔-게?”

오늘날 AI에 대한 관심이 높아지면서 딥러닝은 AI를 이해하고 학습하는 데 매우 중요한 주제가 되었습니다. 또한 많은 딥러닝 방법론이 통계적 아이디어에 기반하고 있다는 점에서 통계학 역시 AI를 이해하는 데 중요한 역할을 합니다. 그중 비모수통계(Nonparametric Statistics)는 데이터의 분포를 특정한 형태로 강하게 가정하지 않고 추론과 예측을 수행한다는 점에서 다양한 머신러닝 방법과 밀접하게 연결되어 있습니다. kNN, Decision Tree, Gaussian Mixture Model과 같이 널리 알려진 방법들을 단순히 알고리즘 또는 딥러닝적 관점에서 바라보는 데 그치지 않고, 통계적 이론의 관점에서 살펴보고자 합니다. 각 방법이 어떠한 아이디어에 기반하고 있는지, 왜 효과적으로 작동하는지, 그리고 모형의 복잡도나 tuning parameter를 어떻게 선택하고 최적화하는지를 중심으로 소개할 예정입니다. 특히 비모수적 관점에서는 데이터가 특정한 분포를 따른다고 미리 가정하기보다는, 관측된 데이터 자체를 바탕으로 분포나 함수의 형태를 추정하고 통계적 추론을 수행합니다. 이러한 관점에 초점을 맞추어, 여러 머신러닝 모델들이 어떤 통계적 원리에서 출발하고 서로 어떻게 연결되는지를 이론적으로 살펴보려 합니다.

Abstract

“Guess who’s back in deep learning?”

With growing interest in AI today, deep learning has become a crucial subject for understanding and studying artificial intelligence. Furthermore, given that many deep learning methodologies are grounded in statistical ideas, statistics also plays a vital role in understanding AI. Among statistical approaches, nonparametric statistics is closely connected with various machine learning methods in that it performs inference and prediction without making strong assumptions about the specific form of the data distribution. In this talk, we aim to examine widely known methods—such as kNN, Decision Trees, and Gaussian Mixture Models—not merely from an algorithmic or deep learning perspective, but from the viewpoint of statistical theory. We will introduce the foundational ideas behind each method, why they work effectively, and how model complexity and tuning parameters are selected and optimized. In particular, rather than presupposing that data follows a specific parametric distribution, the nonparametric perspective estimates the shape of distributions or functions directly from observed data to conduct statistical inference. Focusing on this perspective, we will theoretically explore the statistical principles from which various machine learning models originate and how they are interconnected.