생물학, 통계학, 데이터 과학

드디어 개강이 내일입니다. 눈물이ㅠㅠ

개강준비는 마땅히 할 게 없어요. 그저 마음 비우기? 정도가 되겠어요.

예전엔 이어폰으로 음악 참 많이 듣곤했었는데, 최근들어서는 음악을 안 들으려고 해요. 귀가 아파서요ㅠㅠ  

그래도 너무 집중이 안된다 싶을때 제가 자주가는 사이트 두 곳이 있는데요. 

이미 많은분들이 잘 알고 있는 사이트라서 새로울게 없지만 그래도 올려봅니다.  

[1] http://songza.com/  

다양한 음악을 선택할 수 있어서 좋은것 같아요. 보통 working (No lyrics)에서 선택하기도 하지만, 다양한 음악을 시도해서 들을 수 있는점이 좋은것 같아요. 앱도 있지만 전 보통 랩탑을 학교에 가지고 다니는지라 인터넷으로 접속해요. 그리고 폰은 책가방에 넣어두는거죠. 그러면 공부에 더 집중할 수 있진 않고 컴퓨터로 딴짓합니다-_ㅠ

[2] http://soundrown.com/ 

백색소음이 집중력 향상에 좋다고 해서 커피숍 소음 켜놓고 공부했더니 커피숍에서 공부하는 느낌이 들더라고요. 

이 사이트는 간단하게 선택할 수 있게 되어서 좋은것 같아요. 오히려 옵션이 많으면 뭐 들을지 고민만 하다가 시간 흐릅니다. 도서관이 답답하다 싶으면 rain과 coffee shop 버전 눌러서 공부하곤 해요. 추우면 fire도 틀어놓고요. 

이밖에도 구굴에 coffee shop sound 혹은 white noise 등 검색하면 다양한 사이트가 나올꺼예요. 유튜브에도 검색하면 더 많이 나오고요. 하지만 전 금새 다른 가수들을 검색할 뿐이고, 그러다 도서관에서 노래만 실컷 듣다가 나올 뿐이고...ㅠㅠ

괜찮은 사이트 있으면 추천해주세요ㅎㅎ

[1] Expected Value (기댓값)

 • Discrete Case (이산확률): $\mathsf {E(x)= \sum x_{i} \cdot P(X=x_{i})}$       

 • Continuous Case (연속확률): $\mathsf {E(x)= \int_{-\infty}^{\infty} x \cdot f(x)dx }$

 • Properties (a, b $ \in \mathbb{R}$) 

① If X$\geq$ 0, then E(X)$\geq$ 0

② E(aX) = a E(X)

      ③ E(X+Y) = E(X) + E(Y)

[2] Variance (분산)

 • $\mathsf{ Var= E(X^2)- E(X)^2 }$ 

 • Properties (a, b $ \in \mathbb{R}$) 

     ① Var(a)=0  (All values are same, then there is no variance)

      ② Var (aX+b)= $a^2 \cdot$Var(x)

      ③ Var(X+Y)= Var(X)+Var(Y)+ 2Cov(X,Y)

      ④ Var(X+Y)= Var(X)+Var(Y), iff X and Y are uncorrelated

[3] Covariance (공분산)

 • A measure of how much two random variables change together!

 • Cov(X,Y)=E{ [X-E(X)][Y-E(Y)] } = E(XY)-E(X)E(Y)

[4] If X and Y are independent (독립변수), then

 • P(X=x, Y=y)=P(X=x)P(Y=y)

 • E(XY)=E(X)E(Y),

• Cov (X,Y)=0

Definition:  A sequence of random variables $X_{1}, X_{2},...$ converges in probability to random variable X if for every e > 0, $\lim_{n\rightarrow \infty} P(|X_{n}-X| > e )=0$ $\Leftrightarrow \lim_{n\rightarrow \infty} P(|X_{n}-X| \leq e )=1$

Think about a sequence of random variables. This sequence asymptotically reaches a certain random variable X (or a constant). How do we know it? We can define a boundary of the certain random variable. The sequence will reach this boundary, however we never know it actually reach the certain random variable X

[2] Almost Sure Convergence

Definition: A sequence of random variables $X_{1}, X_{2},...$ converge in distribution to a random variable X if $\lim_{n\rightarrow \infty}P(|X_{n} \leq x)= P(X\leq x)=F_{X}x$ at all points x where F(x) is continuous.

Definition: Suppose that $X_{1}, X_{2},..., X_{n}$ are i.i.d. random variable with mean $\mu$ and variance $\sigma^2$. Then, $Z_{n}=\frac{\sqrt{n}(\bar{X}-\mu)}{\sigma}\rightarrow Z\sim N(0,1)$ (in distribution)  

Remark) The condition of the CLT is different from the others. There should be i.i.d, number of n randm varaibles.  

Varance stabilizing transformations

When g is differentiable, we have $\sqrt{n}(g(\bar{X_{n}}-g(\mu)))\rightarrow g'(\mu)N(0, \sigma^2)$ in distribution.  

Maximum Likelihood Estimate (MLE) 

What's the likelihood? 

If $X_{1}, X_{2},...,X_{n}$ are random variable with joint density(결합밀도) $f(X_{1}, X_{2},...,X_{n};\theta)$, then given observed values $X_{1}, X_{2},...,X_{n}$ = likelihood ($\theta$) = $L(\theta)$ = $L(\theta)=\prod_{i}^{n}f(X_{i}|\theta)$ 

* $\prod_{i}^{n}$ is a product notation form i to n. 

제가 여기에 설명하기까지 정확하기 이해한건 아니여서 수업노트로 대체합니다.

 
What's the MLE? 

We want to find the parameter that MAXIMIZE our probability of getting the data we obtained. That means what parameter of $\theta$ give us the most probable chance of getting the data we obtained?!! $MLE \hat{\theta }=L(\hat{\theta })= max L(\theta )$ 

So how can we find the MLE? 

By using log likelihood, as we can take a log transformation without changing the maximum value. So, $l(\theta)=log(L(\theta))=log(\prod_{i}^{n}f(X_{i}|\theta))= \sum_{i}^{n}(f(X_{i}(\theta )))$

And then take a derivative, then set the equation to equal to 0! 

MLE구할때 log를 씌워주는데요. 아무래도 독립변수끼리 곱하기때문에 숫자가 커질수밖에 없는데요, log를 씌우면 식을 다루는데 쉬울 뿐더러 구하고 싶은 최댓값에 영향을 주는게 아니라서 log를 씌워줍니다. 미분해서 0으로 문제푸는건 수학내용이라 아실꺼라 생각해요 :)

 
Example) Parameter Estimate Example: MoM, MLE

Let Y1, Y2, …, Yn denotes random sample. f(y|$\theta$)= $(\theta+1)y^\theta$, 0<y<1, -1<$\theta$, and f(y|$\theta$)=0 otherwise. 

답안은 여기 클릭하면 보실 수 있어요. Solution??!!

* Method of Moment Estimate에 대한 글: http://statnmath.tistory.com/29

 수학기호가 안보인다면 새로고침(F5)을 해보세요. 

저도 아직 배우는 학생이다보니 수정해야할 부분이 있다면 댓글 부탁드릴게요 :D