인공지능 모델에서 '파라미터'란?

질문은 "인공지능 모델에서 '매개변수'란 정확히 무엇을 계산하는가?"였습니다.

대부분의 머신러닝 모델에는 두 가지 측면이 있습니다:

1) 모델을 정의하기 위해 숫자가 연결되는 구조,
2) 학습 데이터를 기반으로 학습(또는 조정 또는 조정)되는 숫자 자체

(2)의 숫자를 "매개변수"라고 하며, 때때로 사람들은 모델의 복잡성을 매개변수 수로 설명하기도 합니다.

모델의 가장 간단한 예는 2D 그래프에 그릴 수 있는 선의 방정식입니다:

Y = MX + B

여기서 각 문자는 다음 사항에 해당합니다:

'x'는 모델에 입력되는 숫자입니다.
'y'는 모델의 출력 또는 모델이 예측하는 숫자입니다.
'm'은 선의 기울기입니다.
'b'는 선의 y-절편으로, x=0일 때 선이 x축에서 얼마나 위 또는 아래에 있는지를 제어합니다.
이 예에서 방정식 자체는 구조(y = mx + b)이며 매개변수는 'm'과 'b'입니다. 이 방정식을 사용하여 주어진 x에서 y를 예측하려면 먼저 'm'과 'b'의 값을 결정해야 합니다. 이를 위한 한 가지 방법은 많은 x-y 쌍을 살펴보고 'y' 예측의 전체 오차를 최대한 작게 만드는 'm'과 'b'를 선택함으로써 올바른 값을 학습하는 것입니다.

이 구조가 주어지면 자체 데이터 세트가 있는 다른 문제에 적용할 수 있으며, 다양한 'm'과 'b'의 값을 학습할 수 있습니다. 예를 들어, 다양한 사람들의 키와 몸무게가 주어지면 키에서 몸무게를 예측하기 위한 올바른 'm'과 'b'를 학습할 수 있습니다. 평면도 면적과 주택 판매 가격 쌍이 주어지면 면적으로부터 판매 가격을 예측하는 방법을 배울 수 있습니다.

이러한 종류의 모델은 매우 간단하며 매개변수가 두 개뿐입니다. 심층 신경망과 같은 더 복잡한 모델은 수백, 수천, 수백만 개의 매개 변수를 가질 수 있습니다. 일반적으로 모델에 매개 변수가 많을수록 모델을 학습시키는 데 더 많은 데이터가 필요합니다.

 

https://www.quora.com/In-an-A-I-model-what-exactly-is-a-parameter-counting

In an A.I. model, what exactly is a "parameter" counting?