Livro

Aulas

Cálculo de Probabilidade 2 (Aulas 1 a 6)

Este documento apresenta a transcrição rigorosa, a estruturação detalhada e a fundamentação matemática dos conteúdos ministrados nas Aulas 1 a 6 da disciplina de Cálculo de Probabilidade 2. Ele foi desenvolvido para servir como um guia de estudo completo, substituindo a leitura fragmentada de arquivos PDF.


SUMÁRIO

  1. Aula 1: Espaço de Probabilidade e Revisão de Variáveis Aleatórias Discretas e Contínuas
  2. Aula 2: Vetores Aleatórios, Distribuições Conjuntas e Marginais, Independência e Introdução ao Condicionamento
  3. Aula 3: Distribuição Condicional de uma Variável Aleatória dado um Evento ($X \mid B$)
  4. Aula 4: Distribuição Condicional entre duas Variáveis Aleatórias ($X \mid Y = y$)
  5. Aula 5: Regra de Bayes para Variáveis Aleatórias (Casos Discretos, Contínuos e Mistos)
  6. Aula 6: Esperança Condicional (Dado um Evento e Dado outra Variável Aleatória)

AULA 1: Espaço de Probabilidade e Revisão de Variáveis Aleatórias

A teoria axiomática de Kolmogorov estabelece a base para o tratamento rigoroso de qualquer fenômeno aleatório. Todo experimento probabilístico ocorre dentro de um espaço formalmente definido.

1.1 Espaço de Probabilidade $(\Omega, \mathcal{A}, P)$

Um Espaço de Probabilidade é uma tripla constituída por:

  1. $\Omega$ (Espaço Amostral): O conjunto de todos os resultados possíveis do experimento.
  2. $\mathcal{A}$ ($\sigma$-álgebra): Uma coleção não-vazia de subconjuntos de $\Omega$ (chamados de eventos aleatórios) que atende às seguintes propriedades:
    • Fechamento por complementar: Se $A \in \mathcal{A} \implies A^c \in \mathcal{A}$.
    • Fechamento por união enumerável: Se $A_1, A_2, \dots \in \mathcal{A} \implies \bigcup_{i=1}^\infty A_i \in \mathcal{A}$.
    • Consequência: $\emptyset \in \mathcal{A}$ e $\Omega \in \mathcal{A}$.
  3. $P$ (Medida de Probabilidade): Uma função-conjunto $P: \mathcal{A} \to \mathbb{R}$ que mapeia cada evento a um número real, satisfazendo os três Axiomas de Kolmogorov:
    • Não-negatividade: $P(A) \ge 0, \forall A \in \mathcal{A}$.
    • Normalização: $P(\Omega) = 1$.
    • $\sigma$-aditividade: Para qualquer sequência de eventos mutuamente exclusivos (disjuntos dois a dois), $A_1, A_2, \dots \in \mathcal{A}$ tais que $A_i \cap A_j = \emptyset$ para $i \ne j$, temos: $$P\left( \bigcup_{i=1}^\infty A_i \right) = \sum_{i=1}^\infty P(A_i)$$

1.2 Definição de Variável Aleatória (v.a.)

Uma Variável Aleatória $X$ é uma função mensurável que mapeia o espaço amostral $\Omega$ para a reta real $\mathbb{R}$: $$X: \Omega \to \mathbb{R}$$ Para que $X$ seja formalmente uma variável aleatória, exige-se que a imagem inversa de qualquer intervalo da reta real pertença à $\sigma$-álgebra $\mathcal{A}$ de eventos. A condição canônica é: $${X \le x} = {\omega \in \Omega : X(\omega) \le x} \in \mathcal{A}, \quad \forall x \in \mathbb{R}$$

1.3 Variáveis Aleatórias Discretas

Uma v.a. $X$ é dita discreta se assume valores em um conjunto enumerável (finito ou infinito enumerável) ${x_1, x_2, \dots} \subset \mathbb{R}$, de forma que: $$\sum_{i=1}^\infty P(X = x_i) = 1$$

  • Função de Probabilidade (PMF): Define a probabilidade pontual associada a cada valor possível do suporte: $$p_X(x) = P(X = x), \quad \forall x \in \mathbb{R}$$
  • Cálculo de Probabilidade de Conjuntos: Para qualquer subconjunto boreliano $B \in \mathcal{B}(\mathbb{R})$: $$P(X \in B) = \sum_{i : x_i \in B} p_X(x_i)$$
  • Função de Distribuição Acumulada (CDF): $$F_X(x) = P(X \le x) = \sum_{i : x_i \le x} p_X(x_i)$$
  • Relação de Reciprocidade: Podemos recuperar as massas de probabilidade pontuais a partir dos saltos da CDF (descontinuidade à esquerda): $$p_X(x) = F_X(x) - F_X(x^-), \quad \text{onde } F_X(x^-) = \lim_{t \to x^-} F_X(t)$$

1.4 Variáveis Aleatórias Contínuas

Uma v.a. $X$ é dita absolutamente contínua se existe uma função não-negativa e integrável $f_X: \mathbb{R} \to \mathbb{R}$ (chamada Função de Densidade de Probabilidade - PDF) tal que, para qualquer intervalo $B$, a probabilidade de $X$ pertencer a $B$ é dada pela integral de $f_X$ sobre $B$: $$P(X \in B) = \int_B f_X(x) , dx$$ Como consequência direta dessa definição:

  1. $P(X = x) = 0$ para qualquer valor isolado $x \in \mathbb{R}$.
  2. A CDF é dada pela integral acumulada de $-\infty$ até $x$: $$F_X(x) = P(X \le x) = \int_{-\infty}^x f_X(u) , du$$
  3. O Teorema Fundamental do Cálculo nos permite obter a densidade diferenciando a CDF: $$f_X(x) = \frac{d}{dx} F_X(x), \quad \text{nos pontos onde } F_X \text{ é derivável.}$$

AULA 2: Vetores Aleatórios, Distribuições Conjuntas e Marginais

O estudo de sistemas complexos requer o monitoramento de múltiplas grandezas simultaneamente. Para isso, estruturamos conjuntos de v.a.'s na forma de vetores.

2.1 Vetores Aleatórios

Dadas $n$ variáveis aleatórias $X_1, X_2, \dots, X_n$ definidas sobre o mesmo espaço de probabilidade $(\Omega, \mathcal{A}, P)$, a função vetorial: $$\tilde{X} = (X_1, X_2, \dots, X_n): \Omega \to \mathbb{R}^n$$ é denominada um Vetor Aleatório n-dimensional.

2.2 Função de Distribuição Conjunta (CDF Conjunta)

A CDF conjunta de um vetor aleatório $\tilde{X}$ descreve completamente a probabilidade associada à interseção de eventos de cauda inferior: $$F_{\tilde{X}}(x_1, \dots, x_n) = P(X_1 \le x_1, X_2 \le x_2, \dots, X_n \le x_n), \quad \forall (x_1, \dots, x_n) \in \mathbb{R}^n$$ Isso equivale à medida da interseção dos seguintes conjuntos: $$P\left( \bigcap_{i=1}^n {Xi \le x_i} \right)$$

2.3 Densidades Conjuntas e Marginais

Para o caso de vetores aleatórios bidimensionais $(X, Y)$ absolutamente contínuos, temos:

  • Densidade Conjunta: Uma função $f_{X,Y}(x, y) \ge 0$ tal que para qualquer região boreliana $B \subset \mathbb{R}^2$: $$P((X, Y) \in B) = \iint_B f_{X,Y}(x, y) , dx dy$$
  • Fórmula de Normalização: A integral sob o plano real completo deve somar 1: $$\int_{-\infty}^\infty \int_{-\infty}^\infty f_{X,Y}(x, y) , dx dy = 1$$
  • Densidades Marginais: Permitem analisar uma das variáveis de forma isolada, "limpando" a outra por meio da integração (marginalização) sobre todo o seu suporte:
    • Marginal de $X$: $f_X(x) = \int_{-\infty}^\infty f_{X,Y}(x, y) , dy, \quad \forall x \in \mathbb{R}$
    • Marginal de $Y$: $f_Y(y) = \int_{-\infty}^\infty f_{X,Y}(x, y) , dx, \quad \forall y \in \mathbb{R}$
    • Observação: A distribuição conjunta determina as distribuições marginais de forma única, mas as distribuições marginais isoladas não conseguem determinar a distribuição conjunta, a menos que as variáveis sejam independentes.

2.4 Independência de Variáveis Aleatórias

Dizemos que as v.a.'s $X_1, \dots, X_n$ são mutuamente independentes se, e somente se, sua distribuição conjunta fatora-se exatamente no produto de suas respectivas distribuições marginais: $$F_{X_1, \dots, X_n}(x_1, \dots, x_n) = \prod_{i=1}^n F_{X_i}(x_i), \quad \forall (x_1, \dots, x_n) \in \mathbb{R}^n$$

  • Caso Discreto: $p_{X_1, \dots, X_n}(x_1, \dots, x_n) = \prod_{i=1}^n p_{X_i}(x_i)$
  • Caso Contínuo: $f_{X_1, \dots, X_n}(x_1, \dots, x_n) = \prod_{i=1}^n f_{X_i}(x_i)$

2.5 Revisão Conceitual: Probabilidade Condicional de Eventos

Dado um espaço de probabilidade $(\Omega, \mathcal{A}, P)$ e dois eventos $A, B \in \mathcal{A}$, com $P(B) > 0$, a probabilidade condicional de $A$ dado $B$ é definida como: $$P(A \mid B) = \frac{P(A \cap B)}{P(B)}$$ Se $P(B) = 0$, adota-se por convenção da disciplina $P(A \mid B) = 0$ (alguns autores utilizam $P(A \mid B) = P(A)$).

  • Regra da Multiplicação: $$P(A \cap B) = P(A \mid B)P(B) = P(B \mid A)P(A)$$ Para $n$ eventos genéricos, a multiplicação expande-se de forma encadeada (sequencial): $$P(A_1 \cap \dots \cap A_n) = P(A_1)P(A_2 \mid A_1)P(A_3 \mid A_1 \cap A_2) \dots P(A_n \mid A_1 \cap \dots \cap A_{n-1})$$

AULA 3: Distribuição Condicional de uma V.A. dado um Evento ($X \mid B$)

Nesta seção, estuda-se como a informação externa (a ocorrência de um evento $B$) altera a lei de probabilidade associada a uma única variável aleatória $X$.

3.1 Definições Gerais

Dado que o evento $B \in \mathcal{A}$ ocorreu, com $P(B) > 0$, definimos:

  • Lei de Probabilidade Condicional de $X$ dado $B$: $$P(X \in A \mid B) = \frac{P({X \in A} \cap B)}{P(B)}, \quad \forall A \in \mathcal{B}(\mathbb{R})$$
  • Função de Distribuição Acumulada (CDF) Condicional: $$F_{X \mid B}(x \mid B) = P(X \le x \mid B) = \frac{P({X \le x} \cap B)}{P(B)}, \quad \forall x \in \mathbb{R}$$ (Esta função atende a todas as propriedades de uma CDF clássica: é não-decrescente, contínua pela direita e assume limites $0$ em $-\infty$ e $1$ em $+\infty$).

3.2 O Caso Discreto (PMF Condicional)

Se $X$ é uma v.a. discreta, a probabilidade condicional de $X$ assumir o valor $x$ dado $B$ é dada por: $$p_{X \mid B}(x \mid B) = P(X = x \mid B) = \frac{P({X = x} \cap B)}{P(B)}$$

Isso gera a mecânica de partição pelo suporte de $B$ (Regra da Peneira): $$p_{X \mid B}(x \mid B) = \begin{cases} \frac{p_X(x)}{P(B)}, & \text{se } x \in B \ 0, & \text{se } x \notin B \end{cases}$$

Exemplo Clássico Detalhado (Poisson Condicionado a Valores Pares)

Seja $X \sim \text{Poisson}(\lambda)$, ou seja, $p_X(x) = \frac{e^{-\lambda} \lambda^x}{x!}$ para $x \in {0, 1, 2, \dots}$. Condicionamos $X$ ao evento $B = {X \text{ é par não-negativo}} = {X \in {0, 2, 4, \dots}}$.

1. Cálculo de $P(B)$: Para somar a probabilidade dos números pares, utilizamos a expansão em série de potências de Taylor de $e^\lambda$ e $e^{-\lambda}$: $$e^\lambda = \sum_{j=0}^\infty \frac{\lambda^j}{j!} \quad \text{e} \quad e^{-\lambda} = \sum_{j=0}^\infty \frac{(-\lambda)^j}{j!}$$ Somando as duas equações: $$e^\lambda + e^{-\lambda} = \sum_{j=0}^\infty \frac{\lambda^j + (-\lambda)^j}{j!}$$ Observe que:

  • Se $j$ for ímpar, os termos se anulam: $\lambda^j + (-\lambda)^j = 0$.
  • Se $j$ for par ($j = 2k$), os termos dobram: $\lambda^{2k} + (-\lambda)^{2k} = 2\lambda^{2k}$.

Assim: $$e^\lambda + e^{-\lambda} = 2 \sum_{k=0}^\infty \frac{\lambda^{2k}}{(2k)!} \implies \sum_{k=0}^\infty \frac{\lambda^{2k}}{(2k)!} = \frac{e^\lambda + e^{-\lambda}}{2}$$ A probabilidade do evento $B$ é dada por: $$P(B) = \sum_{k=0}^\infty P(X = 2k) = \sum_{k=0}^\infty \frac{e^{-\lambda} \lambda^{2k}}{(2k)!} = e^{-\lambda} \left( \frac{e^\lambda + e^{-\lambda}}{2} \right) = \frac{1 + e^{-2\lambda}}{2}$$

2. Montagem da PMF Condicional Final: Aplicando a "peneira" condicional, dividimos os termos pares por $P(B)$ e anulamos os termos ímpares: $$p_{X \mid B}(x \mid B) = \begin{cases} \frac{P(X = x)}{P(B)} = \frac{\frac{e^{-\lambda} \lambda^x}{x!}}{\frac{1 + e^{-2\lambda}}{2}} = \frac{2 e^{-\lambda} \lambda^x}{x! (1 + e^{-2\lambda})}, & \text{se } x \in {0, 2, 4, \dots} \ 0, & \text{caso contrário} \end{cases}$$


3.3 O Caso Contínuo (PDF Condicional)

Se $X$ é uma v.a. absolutamente contínua com densidade original $f_X(x)$, a densidade condicional de $X$ dado o evento $B$ (com $P(B) > 0$) é dada por: $$f_{X \mid B}(x \mid B) = \begin{cases} \frac{d}{dx} F_{X \mid B}(x \mid B), & \text{nos pontos onde é derivável} \ 0, & \text{caso contrário} \end{cases}$$

  • Caso Particular (Truncamento em Intervalo Finito): Seja o evento condicionante o intervalo de cauda $B = {a < X \le b}$. A probabilidade de pertencer a esse intervalo é $P(B) = F_X(b) - F_X(a)$. A PDF condicional é escrita como: $$f_{X \mid B}(x \mid a < X \le b) = \begin{cases} \frac{f_X(x)}{F_X(b) - F_X(a)}, & \text{se } a < x \le b \ 0, & \text{caso contrário} \end{cases}$$

Exemplo Clássico Detalhado (Uniforme Condicionada a Valores Positivos)

Seja $X \sim U([-1, 1])$, com densidade original: $$f_X(x) = \begin{cases} \frac{1}{2}, & -1 \le x \le 1 \ 0, & \text{caso contrário} \end{cases}$$ Condicionamos $X$ ao evento de ser não-negativa: $B = {X \ge 0}$.

1. Cálculo de $P(B)$: $$P(B) = P(X \ge 0) = \int_0^1 f_X(x) , dx = \int_0^1 \frac{1}{2} , dx = \frac{1}{2}$$

2. Montagem da PDF Condicional Final: A área no intervalo $[-1, 0)$ é descartada (densidade vai a zero), e a área sobrevivente no intervalo $[0, 1]$ é dividida (reescalada) por $P(B) = 1/2$: $$f_{X \mid B}(x \mid X \ge 0) = \begin{cases} \frac{1/2}{1/2} = 1, & \text{se } 0 \le x \le 1 \ 0, & \text{caso contrário} \end{cases}$$ Conclusão: A distribuição condicional resultante de $X \mid X \ge 0$ é exatamente a distribuição uniforme contínua $U([0, 1])$.


AULA 4: Distribuição Condicional de $X$ dado $Y = y$

Nesta aula, estuda-se o condicionamento entre duas variáveis aleatórias definidas sob o mesmo vetor aleatório bidimensional $(X, Y)$.

4.1 O Caso Discreto

Sejam $X$ e $Y$ variáveis aleatórias discretas com probabilidade conjunta $p_{X,Y}(x, y)$.

  • Função de Probabilidade Condicional (PMF Condicional): Para qualquer valor fixado $y$ tal que a marginal de $Y$ seja positiva ($p_Y(y) > 0$): $$p_{X \mid Y}(x \mid y) = P(X = x \mid Y = y) = \frac{p_{X,Y}(x, y)}{p_Y(y)}$$ Onde a marginal do denominador é calculada por: $p_Y(y) = \sum_{x} p_{X,Y}(x, y)$.
  • Função de Distribuição Condicional (CDF Condicional): $$F_{X \mid Y}(x \mid y) = P(X \le x \mid Y = y) = \sum_{z \le x} p_{X \mid Y}(z \mid y)$$

Exemplo Clássico (Condicional da Soma de Poissons Independentes)

Sejam $X \sim \text{Poisson}(\lambda_1)$ e $Y \sim \text{Poisson}(\lambda_2)$ v.a.'s independentes. Queremos encontrar a distribuição condicional de $X$ dado que a soma resultou em um valor fixo, isto é, dado que $X + Y = z$.

1. Entender a variável condicionante: Seja $Z = X + Y$. Como $X$ e $Y$ são independentes e seguem distribuições de Poisson, a sua soma também é uma Poisson cujo parâmetro é a soma dos parâmetros: $$Z \sim \text{Poisson}(\lambda_1 + \lambda_2) \implies p_Z(z) = \frac{e^{-(\lambda_1 + \lambda_2)} (\lambda_1 + \lambda_2)^z}{z!}, \quad \text{para } z \in {0, 1, \dots}$$

2. Analisar a probabilidade conjunta no numerador: A interseção de exigir que $X = x$ e a soma $X + Y = z$ aconteçam conjuntamente equivale a exigir que $X = x$ e a segunda parcela seja exatamente $Y = z - x$: $$P(X = x, X + Y = z) = P(X = x, Y = z - x)$$ Pela independência entre $X$ e $Y$, fatoramos a probabilidade conjunta: $$P(X = x, Y = z - x) = P(X = x) P(Y = z - x) = \left[ \frac{e^{-\lambda_1} \lambda_1^x}{x!} \right] \cdot \left[ \frac{e^{-\lambda_2} \lambda_2^{z-x}}{(z-x)!} \right]$$ Esta relação lógica exige que $x \in {0, 1, \dots, z}$.

3. Montar a divisão condicional: Dividindo o numerador pela probabilidade marginal de $Z = z$ no denominador: $$P(X = x \mid X + Y = z) = \frac{\left[ \frac{e^{-\lambda_1} \lambda_1^x}{x!} \right] \cdot \left[ \frac{e^{-\lambda_2} \lambda_2^{z-x}}{(z-x)!} \right]}{\frac{e^{-(\lambda_1 + \lambda_2)} (\lambda_1 + \lambda_2)^z}{z!}}$$ Simplificando as funções exponenciais ($e^{-\lambda_1} e^{-\lambda_2} = e^{-(\lambda_1 + \lambda_2)}$) que se cancelam mutuamente, e reorganizando os termos fatoriais: $$P(X = x \mid X + Y = z) = \frac{z!}{x! (z-x)!} \cdot \frac{\lambda_1^x \lambda_2^{z-x}}{(\lambda_1 + \lambda_2)^z}$$ Podemos agrupar a divisão dos parâmetros reescrevendo-os de forma fracionária: $$P(X = x \mid X + Y = z) = \binom{z}{x} \left( \frac{\lambda_1}{\lambda_1 + \lambda_2} \right)^x \left( \frac{\lambda_2}{\lambda_1 + \lambda_2} \right)^{z-x}, \quad \text{para } x \in {0, 1, \dots, z}$$

Conclusão: A distribuição condicional resultante de $X \mid X+Y = z$ é exatamente uma Distribuição Binomial com parâmetros $n = z$ e probabilidade de sucesso $p = \frac{\lambda_1}{\lambda_1 + \lambda_2}$.


4.2 O Caso Contínuo

Sejam $X$ e $Y$ variáveis aleatórias contínuas com densidade conjunta $f_{X,Y}(x, y)$.

Dado que $Y$ é contínua, $P(Y = y) = 0$ para qualquer ponto, o que impossibilita a divisão clássica de probabilidades.

  • Solução Formal via Limites: Toma-se uma faixa infinitesimal de espessura $2\epsilon$ ao redor de $y$, calculando-se o limite da probabilidade quando $\epsilon \to 0$: $$f_{X \mid Y}(x \mid y) = \lim_{\epsilon \to 0} \frac{d}{dx} P(X \le x \mid y - \epsilon \le Y \le y + \epsilon) = \frac{f_{X,Y}(x, y)}{f_Y(y)}$$
  • Função de Densidade Condicional (PDF Condicional): Para qualquer valor fixado $y$ onde a densidade marginal de $Y$ seja estritamente positiva ($f_Y(y) > 0$): $$f_{X \mid Y}(x \mid y) = \frac{f_{X,Y}(x, y)}{f_Y(y)}$$ Onde a densidade marginal do denominador é calculada por: $f_Y(y) = \int_{-\infty}^\infty f_{X,Y}(x, y) , dx$.
  • Função de Distribuição Condicional (CDF Condicional): $$F_{X \mid Y}(x \mid y) = P(X \le x \mid Y = y) = \int_{-\infty}^x f_{X \mid Y}(u \mid y) , du$$

Exemplo 1 (Suporte Triangular Limitado)

Seja o vetor aleatório $(X, Y)$ com densidade conjunta dada por: $$f_{X,Y}(x, y) = \begin{cases} 8xy, & \text{se } 0 < x < y < 1 \ 0, & \text{caso contrário} \end{cases}$$

Queremos determinar a densidade condicional de $X$ dado que observamos $Y = y$, para um ponto $y \in (0, 1)$.

1. Calcular a densidade marginal de $Y$: Como $X$ está limitada no intervalo $(0, y)$, integramos a densidade conjunta em relação a $x$ com esses limites: $$f_Y(y) = \int_0^y 8xy , dx = 8y \left[ \frac{x^2}{2} \right]_0^y = 8y \left( \frac{y^2}{2} \right) = 4y^3, \quad \text{para } 0 < y < 1$$

2. Montar a densidade condicional: Dividimos a densidade conjunta pela marginal de $Y$ encontrada: $$f_{X \mid Y}(x \mid y) = \frac{f_{X,Y}(x, y)}{f_Y(y)} = \frac{8xy}{4y^3} = \frac{2x}{y^2}, \quad \text{para } 0 < x < y$$ Para valores de $x$ fora desse intervalo, a densidade é nula.


Exemplo 2 (Sorteio Sequencial Uniforme)

Escolhe-se ao acaso um número $X$ no intervalo $(0, 1)$. Em seguida, escolhe-se ao acaso um segundo número $Y$ no intervalo limitado $(0, X)$. Queremos determinar a densidade condicional de $X$ dado que observamos o resultado do segundo sorteio, $Y = y$.

1. Traduzir as etapas em equações probabilísticas:

  • A primeira etapa define a distribuição marginal de $X$: $$X \sim U(0,1) \implies f_X(x) = \begin{cases} 1, & 0 < x < 1 \ 0, & \text{caso contrário} \end{cases}$$
  • A segunda etapa define a distribuição condicional de $Y$ dado que conhecemos o valor de $X$: $$Y \mid X = x \sim U(0, x) \implies f_{Y \mid X}(y \mid x) = \begin{cases} \frac{1}{x}, & 0 < y < x \ 0, & \text{caso contrário} \end{cases}$$

2. Determinar a densidade conjunta do processo: Utilizando a regra do produto de densidades: $$f_{X,Y}(x, y) = f_{Y \mid X}(y \mid x) \cdot f_X(x) = \left( \frac{1}{x} \right) \cdot 1 = \begin{cases} \frac{1}{x}, & \text{se } 0 < y < x < 1 \ 0, & \text{caso contrário} \end{cases}$$

3. Determinar a densidade marginal da variável observada $Y$: Para marginalizar $Y$ para um ponto fixado $y \in (0, 1)$, integramos a densidade conjunta em relação a $x$. Os limites de integração são definidos pela restrição do suporte ($y < x < 1$): $$f_Y(y) = \int_y^1 f_{X,Y}(x, y) , dx = \int_y^1 \frac{1}{x} , dx = \Big[ \ln(x) \Big]_y^1 = \ln(1) - \ln(y) = -\ln(y) = \ln\left(\frac{1}{y}\right)$$

4. Determinar a densidade condicional final de $X$ dado $Y = y$: Dividimos a densidade conjunta pela marginal de $Y$: $$f_{X \mid Y}(x \mid y) = \frac{f_{X,Y}(x, y)}{f_Y(y)} = \frac{1/x}{\ln(1/y)} = \frac{1}{x \ln(1/y)}, \quad \text{para } y < x < 1$$


AULA 5: Regra de Bayes para Variáveis Aleatórias

A Regra de Bayes fornece a formulação matemática para atualizar crenças ou inferir distribuições de parâmetros não observados (variável de interesse $X$) a partir de observações coletadas (variável condicionante $Y$).

5.1 Caso Discreto

Se $X$ e $Y$ são duas variáveis aleatórias discretas definidas no mesmo espaço, a PMF condicional de $X$ dado $Y = y$ é: $$p_{X \mid Y}(x_i \mid y) = \frac{p_{Y \mid X}(y \mid x_i) p_X(x_i)}{\sum_{j} p_{Y \mid X}(y \mid x_j) p_X(x_j)}$$


Aplicação Extensa: Modelo Lote-Amostra (Hipergeométrica e Binomial)

Considere um lote contendo $N$ peças produzidas por uma fábrica. Cada peça tem uma probabilidade $p$ de ser defeituosa. Uma amostra de tamanho $n$ ($n \le N$) é coletada de forma aleatória e sem reposição.

Definimos as seguintes variáveis:

  • $Y$: O número total de peças defeituosas que estão no lote de tamanho $N$.
  • $X$: O número de peças defeituosas encontradas na amostra coletada de tamanho $n$.

Pelas características físicas do experimento:

  • Como as peças são produzidas de forma independente com taxa de falha $p$, a quantidade total de defeitos no lote segue uma distribuição Binomial: $$Y \sim B(N, p) \implies p_Y(y) = \binom{N}{y} p^y (1-p)^{N-y}, \quad \text{para } y \in {0, 1, \dots, N}$$
  • Sabendo que o lote tem exatamente $y$ defeitos, a quantidade de peças defeituosas na amostra coletada sem reposição segue uma distribuição Hipergeométrica: $$X \mid Y = y \sim \text{Hipergeométrica}(N, n, y) \implies p_{X \mid Y}(x \mid y) = \frac{\binom{y}{x} \binom{N-y}{n-x}}{\binom{N}{n}}$$ Sob as condições físicas obrigatórias: $x \le y$ e $n-x \le N-y$.

Queremos realizar a inferência inversa: observamos exatamente $x$ peças defeituosas na amostra e queremos encontrar a probabilidade condicional associada ao total de defeitos $y$ que restaram no lote ($p_{Y \mid X}(y \mid x)$).

Dedução Algébrica Completa:

Pela Regra de Bayes, a probabilidade conjunta no numerador é: $$P(X = x, Y = y) = p_{X \mid Y}(x \mid y) \cdot p_Y(y) = \left[ \frac{\binom{y}{x} \binom{N-y}{n-x}}{\binom{N}{n}} \right] \cdot \left[ \binom{N}{y} p^y (1-p)^{N-y} \right]$$

Expandindo os coeficientes binomiais em fatoriais completos: $$\binom{y}{x} \binom{N-y}{n-x} \binom{N}{y} \frac{1}{\binom{N}{n}} = \left[ \frac{y!}{x!(y-x)!} \right] \cdot \left[ \frac{(N-y)!}{(n-x)!(N-y-n+x)!} \right] \cdot \left[ \frac{N!}{y!(N-y)!} \right] \cdot \left[ \frac{n!(N-n)!}{N!} \right]$$

Realizando os cancelamentos de termos idênticos que aparecem simultaneamente no numerador e denominador ($y!$, $(N-y)!$ e $N!$ se anulam): $$= \frac{n! (N-n)!}{x! (n-x)! (y-x)! (N-n-(y-x))!}$$

Reagrupando os fatoriais restantes para remontar novos coeficientes binomiais limpos: $$= \left[ \frac{n!}{x!(n-x)!} \right] \cdot \left[ \frac{(N-n)!}{(y-x)!(N-n-(y-x))!} \right] = \binom{n}{x} \binom{N-n}{y-x}$$

Substituindo essa simplificação de fatoriais de volta na probabilidade conjunta: $$P(X = x, Y = y) = \binom{n}{x} \binom{N-n}{y-x} p^y (1-p)^{N-y}$$

Podemos desmembrar os parâmetros exponenciais separando o que pertence à amostra ($x$) do que pertence ao restante não amostrado ($y-x$): $$p^y = p^x \cdot p^{y-x} \quad \text{e} \quad (1-p)^{N-y} = (1-p)^{n-x} \cdot (1-p)^{N-n-(y-x)}$$ Substituindo: $$P(X = x, Y = y) = \left[ \binom{n}{x} p^x (1-p)^{n-x} \right] \cdot \left[ \binom{N-n}{y-x} p^{y-x} (1-p)^{N-n-(y-x)} \right]$$

Para encontrar a probabilidade marginal do denominador $P(X = x)$, somamos a conjunta sobre todos os valores possíveis de $y$ (que pela restrição física de suporte deve ir de $x$ até $x + N - n$): $$P(X = x) = \sum_{y=x}^{x+N-n} P(X = x, Y = y) = \left[ \binom{n}{x} p^x (1-p)^{n-x} \right] \cdot \sum_{y=x}^{x+N-n} \binom{N-n}{y-x} p^{y-x} (1-p)^{N-n-(y-x)}$$

Se fizermos uma mudança de variável na soma definindo $j = y - x$, quando $y$ varia de $x$ até $x + N - n$, o índice $j$ varia de $0$ até $N - n$: $$\sum_{j=0}^{N-n} \binom{N-n}{j} p^j (1-p)^{N-n-j} = 1 \quad \text{(Soma completa de uma PMF Binomial válida)}$$

Portanto, a densidade marginal da amostra simplifica-se para uma Binomial direta: $$P(X = x) = \binom{n}{x} p^x (1-p)^{n-x}$$

Por fim, dividimos a probabilidade conjunta pela marginal para encontrar a distribuição condicional: $$p_{Y \mid X}(y \mid x) = \frac{P(X = x, Y = y)}{P(X = x)} = \binom{N-n}{y-x} p^{y-x} (1-p)^{N-n-(y-x)}, \quad \text{para } y \in {x, x+1, \dots, x+N-n}$$

Conclusão Física: Se definirmos a v.a. transladada $W = Y - X$ (que representa a quantidade de peças defeituosas que ficaram esquecidas no lote e não foram coletadas pela amostra), sua distribuição condicional é: $$Y - X \mid X = x \sim \text{Binomial}(N-n, p)$$ Isso demonstra de forma elegante que o processo de amostragem sem reposição apenas revela de forma fixa os defeitos contidos na amostra testada ($X=x$), mantendo o restante do lote não amostrado sob o comportamento independente original do processo de Bernoulli.


5.2 Caso Contínuo

Se $X$ e $Y$ são duas variáveis aleatórias absolutamente contínuas, a PDF condicional de $X$ dado $Y = y$ é: $$f_{X \mid Y}(x \mid y) = \frac{f_{Y \mid X}(y \mid x) f_X(x)}{\int_{-\infty}^\infty f_{Y \mid X}(y \mid u) f_X(u) , du}$$


5.3 Casos Mistos

Surgem quando trabalhamos simultaneamente com uma variável absolutamente contínua e outra discreta.

Caso 1: Variável de Interesse ($X$) é Contínua e Observada ($Y$) é Discreta

Queremos determinar a densidade condicional $f_{X \mid Y}(x \mid y)$ a partir de uma densidade a priori $f_X(x)$ e da PMF condicional da observação $p_{Y \mid X}(y \mid x)$: $$f_{X \mid Y}(x \mid y) = \frac{p_{Y \mid X}(y \mid x) f_X(x)}{\int_{-\infty}^\infty p_{Y \mid X}(y \mid u) f_X(u) , du}, \quad \forall x \text{ tal que } f_X(x) > 0$$

Exemplo Clássico (Estimação Bayesiana de Taxas de Acidentes - Conjugado Poisson-Gama)

O número de acidentes automobilísticos $Y$ que um motorista se envolve em um período segue uma distribuição de Poisson cujo parâmetro (taxa de acidentes) $\Lambda$ varia de acordo com o motorista.

  • A taxa $\Lambda$ segue uma distribuição contínua Gama: $$f_\Lambda(\lambda) = \begin{cases} \frac{\beta^\alpha \lambda^{\alpha-1} e^{-beta\lambda}}{\Gamma(\alpha)}, & \text{se } \lambda > 0 \ 0, & \text{caso contrário} \end{cases}$$
  • Sabendo que a taxa de um determinado motorista é $\Lambda = \lambda$, a distribuição de acidentes é: $$Y \mid \Lambda = \lambda \sim \text{Poisson}(\lambda) \implies p_{Y \mid \Lambda}(y \mid \lambda) = \begin{cases} \frac{e^{-\lambda} \lambda^y}{y!}, & \text{se } y \in {0, 1, 2, \dots} \ 0, & \text{caso contrário} \end{cases}$$

Queremos atualizar a distribuição da taxa de acidentes do motorista sabendo que ele registrou exatamente $Y = y$ acidentes no período.

1. Calcular o denominador marginal de acidentes $P(Y = y)$: Marginalizamos integrando sob o suporte de $\lambda$ de $0$ até $+\infty$: $$P(Y = y) = \int_0^\infty p_{Y \mid \Lambda}(y \mid \lambda) f_\Lambda(\lambda) , d\lambda = \int_0^\infty \left[ \frac{e^{-\lambda} \lambda^y}{y!} \right] \cdot \left[ \frac{\beta^\alpha \lambda^{\alpha-1} e^{-\beta\lambda}}{\Gamma(\alpha)} \right] , d\lambda$$ Extraindo as constantes para fora da integral: $$P(Y = y) = \frac{\beta^\alpha}{y! , \Gamma(\alpha)} \int_0^\infty \lambda^{y+\alpha-1} e^{-(\beta+1)\lambda} , d\lambda$$ Note que o integrando possui exatamente o formato de uma densidade Gama sem a sua constante de normalização. Pela definição da função Gama ($\int_0^\infty x^{k-1} e^{-cx} , dx = \frac{\Gamma(k)}{c^k}$): $$\int_0^\infty \lambda^{(y+\alpha)-1} e^{-(\beta+1)\lambda} , d\lambda = \frac{\Gamma(y+\alpha)}{(\beta+1)^{y+\alpha}}$$ Substituindo esse resultado: $$P(Y = y) = \frac{\beta^\alpha , \Gamma(y+\alpha)}{y! , \Gamma(\alpha) , (\beta+1)^{y+\alpha}}$$

2. Montar a densidade condicional final via Bayes Misto: Dividimos o produto conjunto pelo denominador marginal calculado: $$f_{\Lambda \mid Y}(\lambda \mid y) = \frac{p_{Y \mid \Lambda}(y \mid \lambda) f_\Lambda(\lambda)}{P(Y = y)} = \frac{\left[ \frac{e^{-\lambda} \lambda^y}{y!} \right] \cdot \left[ \frac{\beta^\alpha \lambda^{\alpha-1} e^{-\beta\lambda}}{\Gamma(\alpha)} \right]}{\frac{\beta^\alpha , \Gamma(y+\alpha)}{y! , \Gamma(\alpha) , (\beta+1)^{y+\alpha}}}$$ Simplificando as constantes comuns que aparecem em cima e embaixo ($\beta^\alpha$, $y!$ e $\Gamma(\alpha)$ se cancelam): $$f_{\Lambda \mid Y}(\lambda \mid y) = \frac{(\beta+1)^{y+\alpha}}{\Gamma(y+\alpha)} \lambda^{y+\alpha-1} e^{-(\beta+1)\lambda}, \quad \forall \lambda > 0$$

Conclusão: A distribuição condicional resultante de $\Lambda \mid Y = y$ é exatamente uma Distribuição Gama com novos parâmetros atualizados: $$\Lambda \mid Y = y \sim \text{Gama}(\alpha + y, \beta + 1)$$


Caso 2: Variável de Interesse ($X$) é Discreta e Observada ($Y$) é Contínua

Queremos determinar a PMF condicional de uma variável discreta dado o resultado de uma medição física contínua: $$p_{X \mid Y}(x_i \mid y) = \frac{f_{Y \mid X}(y \mid x_i) p_X(x_i)}{\sum_{j} f_{Y \mid X}(y \mid x_j) p_X(x_j)}, \quad \forall x_i \text{ tal que } p_X(x_i) > 0$$


AULA 6: Esperança Condicional

A esperança condicional estuda o valor médio esperado de uma variável aleatória sob a restrição de novas informações coletadas.

6.1 Esperança Condicional dado um Evento

Seja um evento $B$ com probabilidade estritamente positiva ($P(B) > 0$). A esperança condicional de $X$ dado $B$ é a média calculada usando as probabilidades reescaladas:

  • Caso Discreto: $E(X \mid B) = \sum_x x , p_{X \mid B}(x \mid B)$
  • Caso Contínuo: $E(X \mid B) = \int_{-\infty}^\infty x , f_{X \mid B}(x \mid B) , dx$

Exemplo 1 (Cálculo na Poisson Condicionada aos Valores Pares)

Determinamos na Aula 3 que se $X \sim \text{Poisson}(\lambda)$ e $B = {X \text{ é par não-negativo}}$, a PMF condicional é: $$p_{X \mid B}(x \mid B) = \frac{2 e^{-\lambda} \lambda^x}{x!(1 + e^{-2\lambda})} \quad \text{para } x \in {0, 2, 4, \dots}$$ Queremos calcular a esperança condicional $E(X \mid B)$: $$E(X \mid B) = \sum_{k=0}^\infty (2k) \cdot p_{X \mid B}(2k \mid B) = \sum_{k=1}^\infty (2k) \cdot \frac{2 e^{-\lambda} \lambda^{2k}}{(2k)! (1 + e^{-2\lambda})}$$ Cancelando o termo $2k$ com o primeiro fator do fatorial no denominador ($(2k)! = 2k \cdot (2k-1)!$): $$E(X \mid B) = \frac{2 e^{-\lambda}}{1 + e^{-2\lambda}} \sum_{k=1}^\infty \frac{\lambda^{2k}}{(2k-1)!}$$ Podemos extrair um fator $\lambda$ para fora do somatório para ajustar os expoentes da série de potências: $$E(X \mid B) = \frac{2 e^{-\lambda} \lambda}{1 + e^{-2\lambda}} \sum_{k=1}^\infty \frac{\lambda^{2k-1}}{(2k-1)!}$$ Note que o somatório restante representa exatamente a expansão em série dos termos ímpares, que equivale a: $$\sum_{k=1}^\infty \frac{\lambda^{2k-1}}{(2k-1)!} = \sum_{j=0}^\infty \frac{\lambda^{2j+1}}{(2k+1)!} = \frac{e^\lambda - e^{-\lambda}}{2}$$ Substituindo de volta na equação principal: $$E(X \mid B) = \frac{2 e^{-\lambda} \lambda}{1 + e^{-2\lambda}} \cdot \left( \frac{e^\lambda - e^{-\lambda}}{2} \right) = \frac{\lambda (1 - e^{-2\lambda})}{1 + e^{-2\lambda}}$$


6.2 Esperança Condicional dado outra Variável Aleatória $E(X \mid Y = y)$

Representa a função de regressão de $X$ sobre $Y$, onde o valor de $Y$ é mantido temporariamente congelado em um ponto fixo $y$.

A) Caso Discreto (v.a.'s discretas)

Para cada $y$ tal que $p_Y(y) > 0$: $$E(X \mid Y = y) = \sum_{x} x , p_{X \mid Y}(x \mid y)$$

  • Exemplo Clássico (Média do condicionamento da soma de Poissons): Como visto na Aula 4, se $X \sim \text{Poisson}(\lambda_1)$ e $Y \sim \text{Poisson}(\lambda_2)$ são independentes, a condicional $X \mid X+Y = z$ segue uma distribuição $\text{Binomial}(z, \frac{\lambda_1}{\lambda_1 + \lambda_2})$. Utilizando a esperança clássica de uma distribuição Binomial ($E(\text{Binomial}(n,p)) = n \cdot p$): $$E(X \mid X+Y = z) = z \left( \frac{\lambda_1}{\lambda_1 + \lambda_2} \right)$$

B) Caso Contínuo (v.a.'s contínuas)

Para cada $y$ tal que $f_Y(y) > 0$: $$E(X \mid Y = y) = \int_{-\infty}^\infty x , f_{X \mid Y}(x \mid y) , dx$$

  • Exemplo Clássico (Cálculo na densidade conjunta triangular): Como visto no Exemplo 1 da Aula 4, para a densidade conjunta $f_{X,Y}(x, y) = 8xy$ restrita a $0 < x < y < 1$, a densidade condicional de $X$ dado $Y = y$ é: $$f_{X \mid Y}(x \mid y) = \frac{2x}{y^2}, \quad \text{para } 0 < x < y$$ Queremos encontrar a esperança condicional $E(X \mid Y = y)$: $$E(X \mid Y = y) = \int_0^y x \cdot \left( \frac{2x}{y^2} \right) , dx = \frac{2}{y^2} \int_0^y x^2 , dx = \frac{2}{y^2} \left[ \frac{x^3}{3} \right]_0^y = \frac{2}{y^2} \left( \frac{y^3}{3} \right) = \frac{2y}{3}$$

C) Casos Mistos (Modelos Bayesianos)

  • Caso 1: Variável de Interesse $X$ é Contínua e Observada $Y$ é Discreta $$E(X \mid Y = y) = \int_{-\infty}^\infty x , f_{X \mid Y}(x \mid y) , dx$$ Aplicando no Exemplo do Motorista (Acidentes de Poisson com taxa Gama): Vimos na Aula 5 que a distribuição condicional resultante é $\Lambda \mid Y = y \sim \text{Gama}(\alpha + y, \beta + 1)$. A média esperada de uma distribuição Gama($k, c$) é $k/c$: $$E(\Lambda \mid Y = y) = \frac{\alpha + y}{\beta + 1}$$
  • Caso 2: Variável de Interesse $X$ é Discreta e Observada $Y$ é Contínua $$E(X \mid Y = y) = \sum_{x} x , p_{X \mid Y}(x \mid y)$$