Propriedades do Logaritmo e da Potenciação
Propriedades de Potenciação
Propriedade | Exemplo Aplicado | Fundamento Matemático (Por que funciona) |
Produto de bases iguais $a^x a^y = a^{x+y}$ | $e^{-\theta x_1} e^{-\theta x_2} = e^{-\theta(x_1 + x_2)}$ | Multiplicar fatores de mesma base equivale a somar a quantidade total de vezes que a base é multiplicada por si mesma. |
Divisão de bases iguais $\frac{a^x}{a^y} = a^{x-y}$ | $\frac{e^{\theta}}{e^{n\theta}} = e^{\theta(1-n)}$ | A divisão cancela fatores correspondentes entre o numerador e o denominador, restando apenas a diferença no expoente. |
Potência de potência $(a^x)^y = a^{xy}$ | $(e^{-\lambda})^n = e^{-n\lambda}$ | Elevar uma potência a um novo expoente multiplica a quantidade original de fatores pelo número de vezes definido no novo expoente. |
Potência de um produto $(ab)^x = a^x b^x$ | $(2\pi\sigma^2)^{-n/2} = (2\pi)^{-n/2}(\sigma^2)^{-n/2}$ | A distribuição do expoente decorre da propriedade associativa e comutativa da multiplicação dos fatores originais. |
Expoente negativo $a^{-x} = \frac{1}{a^x}$ | $e^{-\theta} = \frac{1}{e^\theta}$ | Decorre da regra de divisão quando o numerador é 1 (ou seja, $a^0$): $\frac{a^0}{a^x} = a^{0-x} = a^{-x}$. |
Propriedades Logarítmicas (Focadas no Logaritmo Natural $\ln$)
Propriedade | Exemplo Aplicado | Fundamento Matemático (Por que funciona) |
Logaritmo do produto $\ln(xy) = \ln(x) + \ln(y)$ | $\ln(\theta e^{-\theta x}) = \ln(\theta) + \ln(e^{-\theta x})$ | Sendo o logaritmo o expoente necessário para gerar um valor, multiplicar dois valores originais equivale a somar seus expoentes (comprovado pela regra 1 da potenciação). |
Logaritmo do quociente $\ln(\frac{x}{y}) = \ln(x) - \ln(y)$ | $\ln(\frac{1}{\lambda}) = \ln(1) - \ln(\lambda) = -\ln(\lambda)$ | Dividir valores equivale a subtrair seus expoentes (comprovado pela regra 2 da potenciação). A constante $\ln(1)$ é sempre 0. |
Logaritmo da potência $\ln(x^y) = y\ln(x)$ | $\ln(\theta^n) = n\ln(\theta)$ | Como uma potência é uma multiplicação repetida, o logaritmo dessa potência transforma-se na soma repetida do logaritmo da base. |
Logaritmo e exponencial $\ln(e^x) = x$ | $\ln(e^{-\theta \sum x_i}) = -\theta \sum_{i=1}^n x_i$ | O logaritmo natural ($\ln$) e a função exponencial de base $e$ são funções inversas. Aplicá-las em sequência anula a operação, restando apenas o argumento do expoente. |
Logaritmo de produtórios $\ln(\prod_{i=1}^n x_i) = \sum_{i=1}^n \ln(x_i)$ | $\ln(\prod_{i=1}^n f(x_i\vert{}\theta)) = \sum_{i=1}^n \ln(f(x_i\vert{}\theta))$ | É a generalização direta da propriedade do logaritmo do produto, aplicada iterativamente a $n$ fatores. Transforma multiplicações complexas em somatórias simples. |
Limitações da Solução
- As propriedades logarítmicas pressupõem rigorosamente que os argumentos dos logaritmos sejam estritamente positivos ($x > 0$ e $y > 0$).
- As propriedades de potenciação envolvendo quocientes assumem denominadores diferentes de zero ($a \neq 0$ e $y \neq 0$).
- A notação $\ln$ assume exclusivamente a base de Euler ($e \approx 2.718$), que é o padrão exigido na derivação de funções de log-verossimilhança.
Para qual modelo de distribuição de probabilidade da Semana 1 você deseja aplicar essas propriedades na construção da função de log-verossimilhança?
Esperança e Variância
Fórmulas de Esperança e Variância
A tabela a seguir consolida as definições matemáticas fundamentais para os casos discreto e contínuo.
Medida | Caso Discreto | Caso Contínuo |
Esperança $E(X)$ | $\sum_{x} x \cdot P(X=x)$ | $\int_{-\infty}^{\infty} x \cdot f(x) dx$ |
Variância (Alternativa) | $E(X^2) - [E(X)]^2$ | $E(X^2) - [E(X)]^2$ |
Nota: $P(X=x)$ representa a função de probabilidade e $f(x)$ a função densidade de probabilidade.
Exemplos de Cálculo
1. Caso Discreto: Lançamento de um dado justo de 6 faces
Seja $X$ a variável aleatória que representa o valor da face voltada para cima.
- Valores possíveis: $X \in \{1, 2, 3, 4, 5, 6\}$
- Probabilidade: $P(X=x) = 1/6$ para todo $x$.
Cálculo da Esperança $E(X)$:
$$E(X) = \sum_{x=1}^{6} x \cdot P(X=x) = 1\left(\frac{1}{6}\right) + 2\left(\frac{1}{6}\right) + 3\left(\frac{1}{6}\right) + 4\left(\frac{1}{6}\right) + 5\left(\frac{1}{6}\right) + 6\left(\frac{1}{6}\right)$$
$$E(X) = \frac{21}{6} = 3.5$$
Cálculo da Variância $Var(X)$ via fórmula alternativa:
Primeiro, calcula-se $E(X^2)$:
$$E(X^2) = \sum_{x=1}^{6} x^2 \cdot P(X=x) = 1^2\left(\frac{1}{6}\right) + 2^2\left(\frac{1}{6}\right) + 3^2\left(\frac{1}{6}\right) + 4^2\left(\frac{1}{6}\right) + 5^2\left(\frac{1}{6}\right) + 6^2\left(\frac{1}{6}\right)$$
$$E(X^2) = \frac{1 + 4 + 9 + 16 + 25 + 36}{6} = \frac{91}{6}$$
Agora, aplica-se a fórmula $Var(X) = E(X^2) - [E(X)]^2$:
$$Var(X) = \frac{91}{6} - (3.5)^2 = \frac{91}{6} - \frac{49}{4} = \frac{182 - 147}{12} = \frac{35}{12} \approx 2.917$$
2. Caso Contínuo: Distribuição Uniforme em um intervalo
Seja $X$ uma variável aleatória com distribuição contínua uniforme no intervalo $[0, 2]$.
- Função densidade de probabilidade: $f(x) = 1/2$ para $0 \le x \le 2$, e $0$ nos demais casos.
Cálculo da Esperança $E(X)$:
$$E(X) = \int_{0}^{2} x \cdot \left(\frac{1}{2}\right) dx = \frac{1}{2} \left[ \frac{x^2}{2} \right]_{0}^{2} = \frac{1}{2} \left( \frac{4}{2} - 0 \right) = 1$$
Cálculo da Variância $Var(X)$ via definição clássica:
$$Var(X) = \int_{0}^{2} (x - 1)^2 \cdot \left(\frac{1}{2}\right) dx$$
Substituindo $u = (x - 1)$, temos $du = dx$. Os limites de integração mudam de $[-1, 1]$:
$$$$
Limitações
- As fórmulas assumem que as séries (caso discreto) convergem absolutamente e as integrais (caso contínuo) são finitas. Existem distribuições teóricas (como a Distribuição de Cauchy) onde a esperança matemática e a variância não são definidas pois a integral diverge.
- A aplicação direta das fórmulas de definição para a variância pode gerar erros de arredondamento em cálculos computacionais (instabilidade numérica), sendo preferível o uso de algoritmos de passagem única (como o de Welford) na análise de dados amostrais reais.
Estimador Razoável
Na teoria da inferência estatística, a adequação ou razoabilidade de um estimador (uma estatística cujos possíveis valores pertencem ao espaço paramétrico) não é definida por um único cálculo, mas sim por um conjunto de propriedades matemáticas desejáveis usadas para avaliá-lo.
Propriedades para Avaliação de Estimadores
A qualidade de um estimador é medida pelo grau em que ele atende aos seguintes critérios:
Propriedade | Definição Formal | Implicação Prática |
Não Tendenciosidade (Vício Nulo) | $E(\hat{\theta}) = \theta \Rightarrow b(\hat{\theta}) = 0$. | Garante que, em média, o estimador acerta o verdadeiro valor do parâmetro populacional. |
Baixo Erro Quadrático Médio (EQM) | $EQM(\hat{\theta}) = Var(\hat{\theta}) + [b(\hat{\theta})]^2$. | Mede a precisão geral. Um estimador é considerado bom se minimiza simultaneamente a variância (dispersão) e o quadrado do vício. |
Mínima Variância (Eficiência) | Para estimadores não tendenciosos, busca-se aquele que atinge o limite inferior da Desigualdade de Informação (Cramér-Rao). | Resulta no Estimador Não Tendencioso Uniformemente de Mínima Variância (UMVU), o estimador mais preciso possível sem vício. |
Consistência | $\hat{\theta} \xrightarrow{p} \theta$ (convergência em probabilidade). | Assegura que, quando o tamanho da amostra cresce ($n \to \infty$), a estimativa converge exatamente para o parâmetro real. Uma forma de demonstrar a consistência é provar que $EQM(\hat{\theta}) \to 0$ quando $n \to \infty$. |
Suficiência | Baseado em uma estatística $S$ onde a distribuição $f(x_1, ..., x_n \Vert{} s)$ não depende de $\theta$. | Garante que o estimador resume e utiliza absolutamente toda a informação contida na amostra sobre o parâmetro, sem perda de dados relevantes (Teorema de Rao-Blackwell). |
Limitações e Trade-offs
- Um estimador "razoável" frequentemente exige concessões (trade-offs). Por exemplo, um estimador tendencioso (viciado) pode ser preferido a um não tendencioso caso a sua variância seja significativamente menor, resultando em um EQM global mais baixo.
- A propriedade de consistência garante um bom comportamento do estimador apenas de forma assintótica ($n \to \infty$). Isso significa que um estimador consistente pode não ser a escolha mais razoável se o tamanho da amostra disponível na prática for pequeno.
Erro Quadrático Médio
Demonstração Detalhada do Erro Quadrático Médio (EQM)
A decomposição matemática do Erro Quadrático Médio baseia-se na aplicação rigorosa das propriedades de linearidade do operador de esperança matemática ($E[\cdot]$). O desenvolvimento detalhado segue abaixo.
1. Equação Inicial
- O EQM é definido como a esperança do erro de estimação ao quadrado.
$$EQM[\hat{\theta}] = E[(\hat{\theta} - \theta)^2]$$
2. Artifício Algébrico (Adição e Subtração)
- Insere-se o valor esperado do estimador, $E[\hat{\theta}]$, somando e subtraindo no interior da expressão para não alterar a igualdade.
$$EQM[\hat{\theta}] = E[(\hat{\theta} - E[\hat{\theta}] + E[\hat{\theta}] - \theta)^2]$$
3. Expansão do Quadrado Perfeito
- Agrupam-se os termos em dois blocos: $A = (\hat{\theta} - E[\hat{\theta}])$ e $B = (E[\hat{\theta}] - \theta)$.
- Aplica-se a expansão $(A+B)^2 = A^2 + 2AB + B^2$.
$$EQM[\hat{\theta}] = E[(\hat{\theta} - E[\hat{\theta}])^2 + 2(\hat{\theta} - E[\hat{\theta}])(E[\hat{\theta}] - \theta) + (E[\hat{\theta}] - \theta)^2]$$
4. Aplicação da Linearidade da Esperança
- A esperança de uma soma é a soma das esperanças ($E[X + Y] = E[X] + E[Y]$).
$$EQM[\hat{\theta}] = E[(\hat{\theta} - E[\hat{\theta}])^2] + E[2(\hat{\theta} - E[\hat{\theta}])(E[\hat{\theta}] - \theta)] + E[(E[\hat{\theta}] - \theta)^2]$$
5. Resolução Detalhada dos Componentes
- Primeiro Termo: A Variância
- A expressão $E[(\hat{\theta} - E[\hat{\theta}])^2]$ corresponde à definição formal da variância do estimador $\hat{\theta}$.
- Resultado: $Var(\hat{\theta})$.
- Terceiro Termo: O Quadrado do Vício
- A expressão $(E[\hat{\theta}] - \theta)$ representa o vício do estimador, denotado por $B(\hat{\theta})$.
- $\theta$ é um parâmetro populacional (uma constante desconhecida).
- $E[\hat{\theta}]$ é o valor esperado de uma variável aleatória (também uma constante).
- A diferença entre duas constantes é uma constante.
- A esperança de uma constante é a própria constante ($E[c] = c$).
- Resultado: $E[B^2(\hat{\theta})] = B^2(\hat{\theta})$.
- Segundo Termo: O Anulamento Detalhado
- A expressão inicial é: $E[2(\hat{\theta} - E[\hat{\theta}])(E[\hat{\theta}] - \theta)]$.
- Como $2$ e $(E[\hat{\theta}] - \theta)$ são constantes, eles podem ser retirados do operador de esperança ($E[c \cdot X] = c \cdot E[X]$).
- Fatoração: $2(E[\hat{\theta}] - \theta) \cdot E[\hat{\theta} - E[\hat{\theta}]]$.
- Aplicando a linearidade no termo restante: $E[\hat{\theta} - E[\hat{\theta}]] = E[\hat{\theta}] - E[E[\hat{\theta}]]$.
- Como $E[\hat{\theta}]$ já é um valor numérico (constante), a "esperança da esperança" é apenas a própria esperança: $E[E[\hat{\theta}]] = E[\hat{\theta}]$.
- Subtração algébrica: $E[\hat{\theta}] - E[\hat{\theta}] = 0$.
- Multiplicando pela constante isolada anteriormente: $2(E[\hat{\theta}] - \theta) \cdot 0 = 0$.
- Resultado: $0$.
6. Composição Final
- Somando os três termos resolvidos, obtém-se a relação fundamental.
$$EQM[\hat{\theta}] = Var(\hat{\theta}) + 0 + B^2(\hat{\theta})$$
$$EQM[\hat{\theta}] = Var(\hat{\theta}) + B^2(\hat{\theta})$$
Limitações
A demonstração assume que a variância do estimador e a sua esperança matemática (primeiro e segundo momentos) são finitas e bem definidas matematicamente. Se a distribuição de probabilidade da qual a amostra provém possuir caudas pesadas a ponto de a variância divergir (ex: distribuição de Cauchy), a decomposição algébrica do EQM perde validade aplicável.