Probability Concepts

* Exam Focus
이 주제는 확률 이론에 관련된 중요한 용어와 개념을 커버한다. 확률 변수, 사건, 결과, 조건부 확률, Joint Prabability 가 설명된다. 합과 곱의 규칙과 같은 확률 규칙이 소개되어 있다. 이 규칙들은 Finance 종사자들에 의해 자주 사용되고, 이 시험은 확률 규칙에 적용하기 위한 너의 이해와 능력이 테스트한다. 각각의 자산과 포트폴리오 수익에 대한 기대값, 표준편차, 공분산, 상관계수를 토론한다. 잘 준비된 후보자는 이 널리 사용되는 측정방법들을 이해하고 계산할 수 있다. 이 주제는 또한 다음 주제에서 다룰 이항확률분포를 위한 기초확립을 위해 Counting rules 를 토론한다.

LO 1.1 : 확률 변수, 결과, 사건, 상호 배타적인 사건, Exhaustive events 를 정의한다.

ㆍ 확률 변수는 불확실한 양이나 숫자이다.
ㆍ 결과는 확률변수의 관찰치이다.
ㆍ 사건은 어떤 하나의 결과의 집합이거나 하나의 결과이다.
ㆍ 상호배타적인 사건은 동시에 일어날 수 없는 사건이다.
ㆍ Exhaustive events 는 가능한 모든 결과를 포함한다.

6면의 주사위를 가정하자. 이 때 나타날 수 있는 숫자는 확률변수이다. 만약 니가 4를 굴린다면, 이것은 결과이다. 4를 굴리는 것은 사건이고, 짝수를 굴리는 것도 사건이다. 짝와 홀수를 굴린 것은 상호배타적인 사건의 집합이고 Exhaustive events 이다.

Two Defining Properties of Probability

LO 1.2 : 확률의 정의에 대해 토론하라.

two defining properties of probability 가 있다.

ㆍ 어떤 사건이 발생할 확률은 0 에서 1 사이이다. (0 =< P (Ei) =< 1)
ㆍ 만약 사건의 집합 E1, E2, ㆍㆍㆍ, En 이 상호배타적이고 exhaustive 하다면 이 사건들이 발생할 확률의 합은 1이다. (sum P(Ei) = 1)

Defining properties 의 처음 은 P(Ei) 로 소개한다. 이것은 사건 i가 발생할 확률을 기호로 표시한 것이다. 만약 P(Ei) = 0 이라면 이 사건은 절대 발생하지 않는다. 또한 P(Ei) = 1이라면 이 사건은 항상 발생할 것이고 결과는 랜덤하지 않다.

1~6까지 공정하게 주사위를 굴려서 나올 확률은 어떤 경우에든 1/6 = 0.1667 = 16.7% 이다. 이 사건의 집합(동등한 숫자 1,2,3,4,5,6을 이 나오는 것)은 exhaustive 하고 각각의 사건들은 상호배타적이다. 그래서 이 사건들의 집합이 발생할 확률은 1로 수렴한다. 우리는 이 사건들의 집합의 값 중 하나가 발생할 것이라는 것을 확신할 수 있다.

Unconditional  and Conditional Probabilities

LO 1.3 : 조건부 확률과 비조건부 확률을 비교하고 대조하라.

ㆍ 비조건부 확률은 과거나 미래의 다른 사건들의 발생과 관계없이 일어나는 사건의 확률을 따른다. 만약 우리가 이자율이나 인플레이션율의 변화에 관계없이 경기후퇴 확률에 관심이 있다면, 우리는 경기후퇴의 비조건부 확률에 관심을 갖고 있는 것이다.
ㆍ 조건부 확률은 한 사건이 다른 사건의 발생 확률에 영향을 받을 떄의 확률이다. 예를 들면, 우리는 화폐당국이 이자율을 증가시켰을 때 경기후퇴에 관심이 있다. 이것이 조건부 확률이다. 키워드는 '~때(영향을 주는 상황)' 이다. 확률 기호를 사용해서 "B라는 사건이 발생했을 때 A가 발생할 확률" 은 P(A|B) 로 표현된다. 여기서 |는 "주어진" 혹은 "조건 하의" 를 의미한다. 위의 예에서 우리의 관심을 위해, 이자율이 증가했을 때 경기가 후퇴할 확률은 "P(경기후퇴|이자율의 증가)" 로 표현된다.

Joint Probability

LO 1.4 : Joint Probability 를 정의하고 독립적인 사건들을 joint 하는 것을 이해하라.

두 사건의 Joint Probability 는 그들이 동시에 발생할 확률이다. 우리는 B가 발생했을 때 A가 발생할 확률, 즉 조건부확률로부터 Joint Probability 를 계산할 수 있고, B가 발생하지 않았을 때의 확률을 계산할 수 있다. 이 계산은 때떄로 확률에서의 곱의 법칙이다. 조건부 확률과 비조건부 확률의 기호를 사용해서 우리는 이 규칙을 표현할 수 있다.

P(AB) = PA|B) X P(B)
※ P(AB) = P(A)와 P(B)의 교집합. (동시발생)

이 표현은 다음과 같이 읽는다. "A와 B의 Joint Probability 인 P(AB)는 B가 주어졌을 때 A가 발생할 조건부 확률 P(A|B)에 비조건부로 B가 발생할 확률인 P(B)를 곱한 것과 같다."

이 관계를 조건부 확률의 정의에 따라 바꾸어쓸 수 있다.

P(A|B) = P(AB) / P(B)

Example : Multiplication rule

다음의 정보를 가정하자.

ㆍ P(I) = 0.4, 화폐 당국이 이자율을 올릴 확률은 40% 이다.
ㆍ P(R|I) = 0.7, 이자율이 상승할 때 경기가 후퇴할 확률은 70% 이다.

경기후퇴와 이자율 상승이 동시에 일어날 확률인 Joint Probability, P(RI)는 얼마인가?

Answer

곱의 법칙을 따르면 우리는 다음과 같은 결과를 얻는다.

P(RI) = P(R|I) X P(I) = 0.7 X 0.4 = 0.28 = 28%

성가신 기호에 이 결과의 단순한 논리를 흐리게 보는 우를 범하지 말라. 만약 이자율이 40% 상승하고, 이것이 70%의 경기 후퇴를 이끌 때, 이자율의 상승과 경기후퇴의 Joint Probability 는 (0.4)(0.7) = 0.28 = 28% 이다.

Calculating the Probability That at Least one of Two Events will occur

확률의 합 규칙은 적어도 두 사건 중 하나가 발생할 확률이다. 예를 들면 A와 B의 두 사건이 주어졌을 때, 합의 규칙은 A 또는 B 혹은 둘 다 발생할 확률로 결정되곤 한다. 만약 그 사건이 상호 배타적이라면, 이중 계산되는 부분은 Joint Probability 에 의한 A와 B가 동시에 발생할 확률(비조건부 확률에 의한) 제거해주어야 한다. 합의 규칙은 다음의 일반적인 표현을 따른다.

P(A or B) = P(A) + P(B) - P(AB)

상호배타적인 사건에서 Joint Probability P(AB) 는 0 이고, A 혹은 B가 발생할 확률은 단순하게 각각의 확률에 따른 비조건부 확률의 합인 P(A or B) = P(A) + P(B) 이다.

그림 1은 벤다이어그램을 이용한 합의 규칙을 보여준다. 진하게 색칠된 부분은 Joint Probability 로 비조건부 확률의 합으로부터 반드시 제거되어야하는 부분이다. 만약 사건이 상호 배타적이라면 집합들은 교차하지 않는다는 사실을 알아두어라. P(AB) = 0 이고 Joint Probablility 는 단순하게 P(A) + P(B) 이다.

Example : Addition rule

앞의 이자율과 경기후퇴의 예시 정보를 사용하고, 경기후퇴의 비조건부확률을 P(R) = 34% 라고 했을 때, 이자율이 상승하거나 경기후퇴가 발생할 확률을 결정하라.

Answer

P(R or I) = P(R) + P(I) - P(RI) = 0.34 + 0.40 - 0.28 = 0.46

Carculating a Joint Probability of any Number of Independent Events

두 개의 주사위를 굴리는 것에서, 둘다 4를 얻는 Joint probability  는 아래와 같이 계산된다.

P(처음과 두번째 둘 다 4가 나오는 사건) = P(4가 처음 나오는 사건) X P(4가 두번째도 나오는 사건) = 1/6 X 1/6  = 1/36 = 0.0278

주사위를 가볍게 던지는 것에서, 두 앞면을 얻을 확률은

P(처음 앞면 나올 사건과 두번째도 앞면 나올 사건) = 1/2 X 1/2 = 1/4 = 0.25

힌트 : 독립적인 사건들을 다룰 때, '~고' 의 단어는 곱을 의미하고 '~이거나' 라는 단어는 합을 의미한다. 이것을 확률 기호로 표시하면

P(A or B) = P(A) + P(B) - P(AB) 그리고 P(A and B) = P(A) X P(B)

이다.
우리가 두개의 독립적인 사건의 Joing Probability 를 계산하는데 사용하는 곱의 규칙은 아래의 예시를 따르는 어떤 독립적인 사건들에도 적용될 수 있다.

Example : 2개보다 많은 독립적인 사건들을 위한 Joint Probability

주사위를 3번 굴릴 때 4가 3번 나올 확률은?

Answer

4가 나올 확률은 각각 1/6 이고, 3번 모두 4가 나올 확률은

P(3번 굴릴 때 4가 3번 나올 경우) = 1/6 X 1/6 X 1/6 = 1/216 = 0.00463

이와 유사하게

P(4번 동전을 던질 때, 4번 다 앞면이 나오는 사건) = 1/2 X 1/2 X 1/2 X 1/2 = 1/16 = 0.0625

Example : 2번보다 많은 독립적인 사건을 위한 Joint Probability

경험에 근거를 둔 확률을 사용하면, 우리는 DJIA 가 과거의 10여년 동안 하루 종일 2/3 에 가깝게 관찰된다고 가정한다. 게다가 상승과 하강의 날은 독립적으로 결정되어왔다. 이 정보에 근거하여 DJIA 가 5일 연속 더 높이 가까워질 가능성을 계산하라.

Answer

P(DJIA 가 5일 동안 위로 설 사건) = 2/3 X 2/3 X 2/3 X 2/3 X 2/3 = (2/3)^5 = 0.132

이와 유사하게

P(DJIA 가 5일 동안 아래로 설 사건) = 1/3 X 1/3 X 1/3 X 1/3 X 1/3 = (1/3)^5 = 0.004

Additive Properties of Expectations

LO 1.5 : 두개의 독립 변수에 기대값에 대한 3개의 이론을 적용하라.

확률변수 X의 기대값은 가능한 x1, ㆍㆍㆍ, xn 값을 가지고 있고, 기대값은 다음으로 정의된다.

E(X) = x1P(X=x1) + ㆍㆍㆍ + xnP(X=xn)

확률은 모두 동등할 때, 확률 변수의 기대값은 단순히 그것의 산술평균이다. 그 의미는 X의 모든 가치를 대표하는 값이며 중간 경향의 측정치로 참조된다.

기대값에 대한 3가지 정리.

1. 만약 C가 상수라면 E(cX) = cE(X)
2. 만약 X와 Y가 변수라면 E(X + Y ) = E(X) + E(Y)
3. 만약 X와 Y가 독립적인 확률변수라면 E(XY) = E(X)E(Y)

Example : 기대 이익

만약 주식이 10%의 이익을 가져다줄 확률이 0.3이고, 5%의 이익을 가져다줄 확률은 0.3, 3% 이익을 가져다줄 확률이 0.4 일 때, 이 주식의 기대이익은?

Answer

E(X) = (10% X 0.3) + (5% X 0.3) + (3% X 0.4) = 5.7%

Example : 동전 던지기의 기대값

한 쌍의 동전을 던져서 앞면이 나오면 2점을 주고, 뒷면이 나오면 10점을 준다고 할 때, 그 점수의 합의 기대값은 얼마인가?

Answer

X와 Y의 점수를 각각 동전으로 일치시키자.

E(X) = E(Y) = 2 X 0.5 + 10 X 0.5 = 6

정리 2에 의해 E(X + Y) = E(X) + E(Y) = 6 + 6 =12 이다.

Variance and Standard Deviation (분산과 표준편차)

LO 1.6 : 두개의 독립 변수에 대한 분산의 4개의 정리를 적용하라.

평균과 분포의 분산은 각각 처음과 두번째 분포의 순간으로 정의할 수 있다. 분산은 다음과 같이 정의된다.

Var(X) = E[(X - m)^2]

분산에 루트를 씌운 것을 표준편차라고 한다. 분산과 표준편차는 평균 주위의 확률 변수의 가치에 있어서 산포도의 범위의 측정값을 제공한다.

분산에 관한 4개의 정리.

1. Var(X) = E[(X - m)^2] = E(X^2) - [E(X)^2] 단, m = E(X)
2. c 가 상수인 경우, Var(cX) = C^2Var(X)
3. E(X - a)^2 의 양은 a = m = E(X) 일 때 최소값을 가진다.
4. X와 Y가 독립 확률 변수이면, Var (X +- Y) = Var(X) +- Var(Y) 이다.

Example : Variance

한 쌍의 동전을 던지는 경우, 앞면이 나오면 2점, 뒷면이 나오면 10점을 준다고 했을 때 점수의 합의 분산은 얼마인가?

Answer

X와 Y를 동전의 양면의 점수와 일치시키자.

Var(X) = E[(X - m)^2] = E(X^2) - [E(X)^2] 이므로

E(X^2) = 2^2 X 0.5 + 10^2 X 0.5 = 2 + 50 = 52
E(X) = 2 X 0.5 + 10 X 0.5 = 6 = E(Y)

그러므로 Var(X) = 52 - 6^2 = 16
분산에 관한 정리 4에 의해 Var(X + Y) = Var(X) + Var(Y) = 16 + 16 = 32

Covariance and Correlation (공분산과 상관계수)

LO 1.7 : 공분산과 상관계수를 정의하고 계산하라.

분산과 표준편차는 오직 한 변수의 산포도나 휘발성을 측정한다. 많은 금융 상황에서 그러나 우리는 어떤 두 확률변수 서로간의 관계에 관심을 갖게 된다. 투자 적용에서, 하나의 자주 분석되는 쌍의 확률 변수는 두 자산의 이익이다. 투자자와 매니저는 자주 "주식A와 B의 이익 사이에 어떤 관계가 있는가?" 혹은 "S&P500과 automotive 산업의 움직임 사이에는 무슨 관계가 있는가?" 라고 묻는다. 너는 곧 공분산과 상관계수가 자산의 이익과 같은 두 확률 변수 사이의 관계에 대해 유용한 정보를 제공하는 측정치이다.

공분산은 어떤 두 자산이 함께 움직이는 것에 대한 측정치이다. 이것은 그들 각각의 기대되는 가치로부터 두 확률 변수의 편차의 결과의 기대되는 값이다. 보통 두 확률 변수 X와 Y의 공분산은 Cov(X,Y)로 표현된다. 우리는 대부분 자산의 이익의 공분산에 관심이 있기 때문에, 자산 i의 수익 Ri 와 자산 j의 수익 Rj의 공분산을 나타내는 용어는 다음의 공식으로 쓰여진다.

다음은 공분산에 관한 properties 이다.

ㆍ 공분산은 일반적으로 분산과 같은 개념을 대표한다. 즉, 분산은 두 확률 변수가 그 스스로 어떻게 움직이는지를 측정하지만 공분산은 어떻게 한 변수가 다른 변수와 함께 움직이는지를 측정한다.
ㆍ Ra와 그 자신의 공분산은 Ra의 분산과 같다. 즉, Cov(Ra,Ra) = Var(Ra) 이다.
ㆍ 공분산의 범위는 -무한대부터 +무한대이다.

공분산의 이해를 위해, 주식의 이익과 주식의 풋옵션을 가정하자. 이 두 이익은 그들이 반대방향으로 움직이기 때문에 부(-)의 공분산을 가진다. 두 automotive 주식의 이익은 긍정적인 공분산을 가지고, 주식의 이익과 무위험자산은 0의 공분산을 가진다. 왜냐하면 무위험 자산의 수익률은 주식의 수익과 관계없이 움직이지 않기 때문이다. 위에 주어진 공분산의 식이 옳다면, Joint Probability 모형으로부터의 이익의 공분산을 계산하는 방법은 각각 가능한 변수의 평균에서 확률 변수들의 편차 probability-weighted 한 평균을 사용한다.

Example : Covatiance

경제가 내년에 호황, 보통, 불황의 3가지 상황을 가질 가능성이 있다고 가정하자. 전문가들은 호황일 확률을 P(Boom) = 0.3, P(normal) = 0.5, P(slow) = 0.2 로 계산했다. 주식 A의 이익을 Ra, 주식 B의 이익을 Rb라고 하고, 각각 경제 상태는 Figure2 에서 제공된다. 무엇이 주식 A와 주식 B의 공분산은 얼마인가?

Answer

먼저 각각의 주식에서 기대되는 수익은 다음과 같다.

E(Ra) = 0.3 X 0.2 + 0.5 X 0.12 + 0.2 X 0.05 = 0.13
E(Rb) = 0.3 X 0.3 + 0.5 X 0.1 + 0.2 X 0.00 = 0.14

공분산은 이제 Figure2 에 설명된 것처럼 계산될 수 있다.

앞의 예는 Joint Probability 함수를 사용해서 설명한다. 두 확률변수를 위한 Joing Probability 함수는 구체적인 결과의 joint 발생의 확률을 준다. 이 경우 우리는 단지 3개의 Joint Probabilities 를 가진다.

P(Ra = 0.2 and Rb = 0.3) = 0.3
P(Ra = 0.12 and Rb = 0.1) = 0.5
P(Ra = 0.05 and Rb = 0.0) = 0.2

Joint Probabilities 는 종종 Figure3 에서 보이는 것처럼 테이블로 표시할 수 있다. Figure3 에 따르면 P(Ra = 0.12 and Rb = 0.1) = 0.5 이다. 이것은 Rb 세로라인의 Rb = 0.1 과 Ra 가로 라인의 Ra = 0.12 로 나타내어지는 교차칸에 보여진다.

연습에서 공분산은 해석하기 매우 어렵다. 이것은 분산처럼 범위가 음의 무한대에서 양의 무한대의, 극도로 큰 값을 가지기 때문에 이 값들은 제곱 단위로 표시한다.

두 확률 변수의 해석을 쉽게 만들기 위해, 이것은 확률 변수의 표준편차의 집합에 의해 나누어질 수 있다. 그 결과값은 상관계수로 불린다. 공분산과 표준편차와 상관계수의 관계는 다음의 자산 i 와 j 의 이익의 상관계수로 표현할 수 있다.

Corr(Ri,Rj) = Cov (Ri , Rj) / 시그마(Ri)시그마(Rj)

즉, 위 식은 Cov(Ri, Rj) = Corr(Ri, Rj) X 시그마(Ri)시그마(Rj) 와 같다.

두 확률 이익 변수들 사이의 상관계수는 로(Ri, Rj) 혹은 로ij 로 표시된다.

두 확률 변수 Ri 와 Rj의 상관관계는 아래로 요약된다.

ㆍ 상관계수는 두 확률 변수 사이의 선형관계를 강하게 측정한다.
ㆍ 상관계수는 단위를 가지지 않는다.
ㆍ 상관계수의 범위는 -1 부터 +1까지이다.
ㆍ 상관계수가 1이면 확률 변수는 완전히 정의 상관관계를 가진다. 이것은 한 확률변수의 움직임이 비례적으로 그것의 평균에 비해 양의 움직임을 야기시킨다는 사실을 의미한다.
ㆍ 상관계수가 -1이면 확률 변수는 완전히 부의 상관관계를 가진다. 이것은 한 확률변수의 움직임이 비례적으로 그것의 평균에 비해 부의 움직임을 야기시킨다는 사실을 의미한다.
ㆍ 상관계수가 0이면 변수들 사이에 아무런 상관관계가 없다. Ri의 예측치를 암시하는 것은 linear methods 의 사용에 있어서 Rj가 아니다.

Example : Correlation

앞의 예를 사용해서 시그마제곱(Ra) = 0.0028 과 시그마제곱(Rb) = 0.0124, Cov (Ra,Rb) = 0.0058 로 주어졌을 때 주식 A 와 B의 이익의 상관관계를 계산하고 해석하라.

Answer

우선 분산을 표준편차로 변환하는 것이 필요하다.

시그마(Ra) = 0.0529
시그마(Rb) = 0.1114

이제 주식 A와 주식 B의 이익 사이의 상관관계는 다음과 같이 계산할 수 있다.

Corr(Ra,Rb) = 0.0058 / (0.0529 X 0.1114) = 0.9842

+1 에 매우 가까운 값은 양의 강력한 선형관계를 의미한다.

Bayes' Fomula

LO 1.8 : 베이의 정리를 사용하여 사건이 발생했을 때의 확률을 결정하라.

베이의 정리는 주어진 사건에서 먼저 발생한 확률의 집합을 새로운 정보로 업데이트 시킬 때 사용된다. 어느 사건의 업데이트된 우선 확률을 구하는 방법은 다음과 같다.

Updated Probability = (주어진 사건에 대해 새 정보가 발생할 확률 / 새 정보의 비조건부 확률) X 사건의 우선 확률

* 예제문제는 생략한다.

Permutations and Combinations (순열과 조합)

LO 1.9 : n 개의 물건 중 r 개를 뽑을 가능한 순열과 n 개의 물건 중 r 개를 뽑을 조합을 결정하라.

Labeling 은 n 개의 아이템이 각각 k 개의 다른 라벨을 붙이는 상황을 따르는 것이다.  라벨1을 받는 아이템의 수는 n1 이고 라벨2를 받는 아이템의 수는 n2 라고 했을 때, 그 이후는 n1 + n2 + n3 + ㆍㆍㆍ + nk = n 이 된다. 이 라벨들을 붙이는 방식의 총 합은 n! / [(n1!) X (n2!) X ㆍㆍㆍX (nk!)] 이다.
여기서 !는 팩토리알이라고 부르는데 예를 들어 4! = 4 X 3 X 2 X 1 = 24 이며, 2! = 2 X 1 이다.
n 팩토리알을 일반화해서 표현하면 n! = n X (n-1) X (n-2) X ㆍㆍㆍ X 1 이고, 정의에 의해 0! =1 이다.

* 예제문제는 생략한다.

라벨링의 특별한 케이스는 라벨의 수가 동등할 때 발생한다. 즉, n 개의 아이템이 n1 + n2 = n 처럼 단지 2개의 그룹에 있을 때이다. 이 경우, 우리는 r = n1, n2 = n - r 로 표시할 수 있다. 단지 2개로 분류했기 때문에 우리는 보통 r 개의 아이템을 선택한다고 말한다. 그러면 n - r 은 선택되지 않는다. k = 2 일때의 일반적인 라벨링 공식을 '조합 공식 혹은 binomial 공식' 이라고 부르고 이것은

nCr = n! / [(n-r)! X r!]

로 표현된다. 여기서 nCr 은 n 개의 아이템 셋으로부터 순서가 중요시되지 않을 때 r 개를 선택하는 가능한 방법들의 수이다. 이것은 또한 n, r 을 원소로 가지는 1X2 행렬로 표현되기도 하며, n choose r 로 읽는다.

또다른 유용한 공식은 순열 공식이다. 순열은 물건의 그룹에 특별한 순서가 있을 때 사용한다. 순열은 n 크기의 그룹에서 r 만큼의 사람들이 특별한 순서에 의해 얼마나 선택받는지를 순열공식에 의해 나타내어진다. n 개의 물체에서 r 개의 물체를 선택하는 방법의 수는 n! / (n - r)! 이다.

* 예제는 생략한다.
* KEY Concepts 는 생략한다. (앞의 내용의 summary 형식임.)