[ML] 베르누이 분포(Bernoulli Distribution)란?

1. 베르누이 분포란?

1.1 이산 확률 분포의 개념과 유형 소개

확률 분포란, 어떤 사건이 발생할 확률의 분포를 의미합니다. 이산 확률 분포는 이벤트의 결과가 이산적인(discrete) 값을 가지는 경우에 사용됩니다. 예를 들어, 동전 던지기의 경우 앞면(Head) 또는 뒷면(Tail)으로 결과가 나뉘므로 이산 확률 분포로 모델링할 수 있습니다.

1.2 베르누이 분포의 기본 개념과 특징 설명

베르누이 분포는 가장 간단한 이산 확률 분포 중 하나입니다. 베르누이 분포는 단 하나의 이벤트에서 두 가지 결과 중 하나만 나오는 경우에 사용됩니다. 예를 들어, 동전 던지기의 경우 앞면(Head)이 나오는 확률과 뒷면(Tail)이 나오는 확률이 각각 다르기 때문에 베르누이 분포로 모델링할 수 있습니다.

특히, 베르누이 확률 변수 X가 딱 한 가지 값을 가질 수 있으므로 X의 확률 질량 함수는 다음과 같이 표현됩니다.

여기서 n은 시행횟수, x는 성공 횟수, p는 하나의 시행에서 성공할 확률을 나타냅니다. 이러한 베르누이 분포는 이항 분포의 특수한 경우로도 볼 수 있습니다.

다음으로, 베르누이 분포의 확률 질량 함수에 대해 더 자세히 알아보겠습니다.

2. 베르누이 분포의 확률 질량 함수

2.1 확률 질량 함수의 개념 설명

확률 질량 함수(probability mass function, PMF)는 이산 확률 변수의 확률 분포를 표현하는 함수입니다. 이 함수는 이산 확률 변수가 특정 값일 때 해당 값이 나올 확률을 나타냅니다. 베르누이 분포의 확률 질량 함수는 아래와 같이 정의됩니다.

여기서 X는 베르누이 확률 변수, k는 0 또는 1을 가질 수 있으며, p는 1이 나올 확률을 나타냅니다.

마찬가지로 베르누이 분포의 확률 질량 함수는 성공(1)에 대한 확률은 p로, 실패(0)에 대한 확률은 1-p로 표현됩니다.

2.2 베르누이 분포의 확률 질량 함수 유도 방법 설명

베르누이 분포의 확률 질량 함수는 다음과 같이 유도할 수 있습니다.

(1) 성공(1)에 대한 확률은 p로 표현되므로, P(X = 1) = p입니다.
(2) 실패(0)에 대한 확률은 1-p로 표현되므로, P(X = 0) = 1-p입니다.

위 두 가지 경우를 종합하여 베르누이 분포의 확률 질량 함수를 표현하면 다음과 같습니다.

2.3 예시를 통한 확률 질량 함수 계산

예시를 통해 베르누이 분포의 확률 질량 함수를 계산해보겠습니다.

확률 변수 X가 베르누이 분포를 따른다고 가정하고, 성공(1)의 확률 p가 0.7일 때, X가 1일 확률과 0일 확률을 구해보겠습니다.

확률 질량 함수에 따라, P(X = 1) = 0.7, P(X = 0) = 1 - 0.7 = 0.3입니다.

따라서, X가 1일 확률은 0.7, X가 0일 확률은 0.3입니다.

3. 베르누이 분포의 샘플링

3.1 베르누이 분포에서의 샘플링 개념 설명

베르누이 분포에서의 샘플링은 주어진 확률 p에 따라 이진 결과를 생성하는 과정입니다. 이때, 확률 p는 성공(1)에 대한 확률입니다. 따라서, 각각의 시행에서는 성공(1)이 나올 확률이 p이고, 실패(0)이 나올 확률은 1-p입니다.

베르누이 분포에서의 샘플링은 매 시행마다 성공 또는 실패를 결정하고 그 결과를 저장하는 것입니다. 이를 통해 확률 p에 따라 구성된 이진 결과의 집합을 얻을 수 있습니다.

3.2 NumPy 패키지를 사용한 베르누이 분포 샘플링 예제 작성

Python의 NumPy 패키지는 다양한 확률 분포에 대한 샘플링 기능을 제공합니다. 베르누이 분포에서의 샘플링은 np.random.binomial 함수를 사용하여 구현할 수 있습니다. 이 함수는 주어진 시행 수와 성공 확률을 기반으로 이진 결과를 생성합니다.

아래는 NumPy를 사용하여 베르누이 분포를 샘플링하는 예제 코드입니다.

import numpy as np

# 샘플링할 확률 p 설정
p = 0.7

# 샘플링할 시행 수 설정
size = 100

# 샘플링 진행
samples = np.random.binomial(1, p, size)

# 샘플링 결과 출력
print(samples)

위 코드에서는 np.random.binomial(1, p, size)을 이용하여 베르누이 분포로부터 이진 결과를 샘플링하였습니다. 생성된 이진 결과는 samples 배열에 저장되며, 해당 배열을 출력하여 결과를 확인할 수 있습니다.

3.3 샘플링 결과 시각화 방법 설명

베르누이 분포의 샘플링 결과를 시각화하려면 이진 결과에 대한 히스토그램을 그려볼 수 있습니다. 이를 위해 Matplotlib 라이브러리를 사용하여 결과를 시각화하는 코드를 작성할 수 있습니다.

아래는 NumPy와 Matplotlib을 사용하여 베르누이 분포의 샘플링 결과를 시각화하는 예제 코드입니다.

import numpy as np
import matplotlib.pyplot as plt

# 샘플링할 확률 p 설정
p = 0.7

# 샘플링할 시행 수 설정
size = 100

# 샘플링 진행
samples = np.random.binomial(1, p, size)

# 결과 시각화
bins = np.arange(3) - 0.5
plt.hist(samples, bins, alpha=0.7, rwidth=0.85)
plt.xticks([0, 1])
plt.xlabel('Result')
plt.ylabel('Count')
plt.title('Bernoulli Distribution Samples')
plt.show()

위 코드에서는 plt.hist 함수를 사용하여 히스토그램을 그립니다. 이진 결과에 해당하는 samples 배열을 통해 히스토그램을 생성하고, x축의 눈금을 0과 1로 설정하여 결과를 표시합니다.

4. 베르누이 분포의 활용 예시

4.1 베르누이 분포의 활용 사례 소개

베르누이 분포는 이진 결과를 모델링하는데 유용한 분포입니다. 따라서 베르누이 분포는 다양한 분야에서 활용될 수 있습니다. 주로 예측, 통계, 머신러닝에서 사용되는데 몇 가지 예시를 살펴보면 다음과 같습니다.

• 불량품 검출: 제조 공정에서 생산된 제품이 불량품인지 아닌지를 판단하기 위해 베르누이 분포를 사용할 수 있습니다.
• 광고 효과 분석: 특정 광고를 클릭한 사람들의 비율을 베르누이 분포로 모델링하여 광고 효과를 분석할 수 있습니다.
• 의학 진단: 특정 조건을 가진 환자가 특정 질병을 가지고 있는지 판단하기 위해 베르누이 분포를 사용할 수 있습니다.

4.2 베르누이 분포를 이용한 이항 분포의 생성 방법 설명

베르누이 분포를 사용하여 이항 분포를 생성할 수 있습니다. 이항 분포는 독립적인 베르누이 분포 시행을 일정 횟수만큼 반복한 결과의 합으로 정의됩니다.

이항 분포의 생성 방법은 다음과 같습니다. 일정한 확률 p를 가진 베르누이 분포 시행을 N번 반복한 후, 성공(1)의 개수를 세어 이를 이항 분포로 정의할 수 있습니다.

4.3 예시를 통한 베르누이 분포 활용 예시 제시

예시로, 알고리즘 A와 알고리즘 B 중 어떤 알고리즘이 더 나은 성능을 보이는지 비교한다고 가정해보겠습니다. 이때, 알고리즘 A와 알고리즘 B를 실행하여 결과가 성공(1)인 경우를 세어보고, 이를 통해 베르누이 분포로 각 알고리즘의 성능을 모델링할 수 있습니다.

다음은 각 알고리즘의 실행 결과 데이터이며, 1은 성공, 0은 실패를 나타냅니다.

알고리즘 A의 결과: [0, 1, 0, 1, 1, 1, 0, 1, 0, 0]

알고리즘 B의 결과: [1, 1, 1, 0, 0, 1, 0, 0, 1, 1]

알고리즘 A와 알고리즘 B의 결과를 베르누이 분포로 모델링하여 각각의 분포를 생성한 후, 분포의 평균을 계산하여 비교해볼 수 있습니다. 평균이 더 큰 분포의 알고리즘이 성능이 더 좋다고 판단할 수 있습니다.

import numpy as np

result_a = [0, 1, 0, 1, 1, 1, 0, 1, 0, 0]
result_b = [1, 1, 1, 0, 0, 1, 0, 0, 1, 1]

# 알고리즘 A의 성공 확률 계산
p_a = np.mean(result_a)

# 알고리즘 B의 성공 확률 계산
p_b = np.mean(result_b)

print(f'알고리즘 A의 성공 확률: {p_a}')
print(f'알고리즘 B의 성공 확률: {p_b}')

위 코드에서는 np.mean 함수를 사용하여 각각의 결과 배열에서 성공(1)의 비율을 계산하였습니다. 결과를 확인하면 알고리즘 A의 성공 확률은 0.4, 알고리즘 B의 성공 확률은 0.6임을 알 수 있습니다.

이를 통해 알고리즘 B가 알고리즘 A보다 성능이 더 우수하다고 판단할 수 있습니다.

이처럼 베르누이 분포는 이진 결과를 모델링하는데 유용하며, 다양한 분야에서 활용될 수 있습니다.

본 블로그 글은 G-ChatBot 서비스를 이용하여 AI(ChatGPT) 도움을 받아 작성하였습니다.

https://gboysking.net 

G-ChatBot