Soluções — Aula 1: Modelos Generativos Paramétricos e Detecção de Anomalias
Aprendizado Não Supervisionado
Dica(Resposta) Teste 1 — Profiling sem rótulos e distribuição empírica vs. teórica
- ✗ Falso — É exatamente o oposto. A distribuição empírica é ruidosa: poucos dados numa região dão uma estimativa tremendamente instável. Ser “literalmente o que foi observado” não protege contra ruído — na verdade, é a fonte dele: regiões com poucos dados dão estimativas instáveis exatamente porque não há nada para suavizar o efeito de amostras pequenas. O erro central deste item é confundir “nunca está errada” (uma afirmação sobre fidelidade aos dados observados) com “imune a ruído” (uma afirmação sobre estabilidade estatística).
- ✗ Falso — \(N\to\infty\) resolve o problema de ruído de estimação (a distribuição empírica fica cada vez mais estável e informativa), mas não resolve um problema de especificação: se a família teórica escolhida (Gaussiana) não é a forma verdadeira dos dados, ajustá-la sempre produzirá uma descrição sistematicamente errada, não importa quantos dados existam. Mais dados reduzem variância de estimação, não corrigem viés de forma funcional.
- ✔ Verdadeiro — Profiling é uma lógica abstrata — descrever o comportamento típico de uma população para depois reconhecer o que se desvia dela — sem depender do domínio específico (sensores de máquina). Detecção de fraude em transações segue exatamente essa estrutura: descrever o comportamento típico do usuário, depois flagar desvios. É transferência direta da mesma lógica para outro domínio.
- ✗ Falso — “Nunca estar errada” (ser uma descrição fiel do que foi observado) não é o mesmo que “ser a melhor ferramenta” — a distribuição empírica tem dois problemas práticos (ruído, incapacidade de generalizar para pontos não observados) que a tornam pior, na prática, do que uma família teórica bem escolhida. Fidelidade aos dados observados e utilidade prática são propriedades diferentes; confundir as duas é a falsa equivalência deste item.
Dica(Resposta) Teste 2 — A Gaussiana multivariada: parâmetros e geometria
- ✔ Verdadeiro — Os autovalores de \(\Sigma=I\) são todos iguais a 1, e todo vetor é autovetor — não há direção de orientação preferencial. Sem eixos de comprimentos distintos, o elipsoide degenera na figura mais simétrica possível: um círculo (2D) ou esfera (3D+) centrado em \(\boldsymbol\mu\).
- ✔ Verdadeiro — O comprimento do eixo associado a um autovalor \(\lambda_i\) escala com \(\sqrt{\lambda_i}\). Se \(\lambda_i\to 0\), esse eixo encolhe até desaparecer, e a elipse (que tinha dois eixos de comprimento finito) degenera numa figura de dimensão menor — em 2D, um segmento de reta ao longo do eixo remanescente.
- ✔ Verdadeiro — A relação entre autovetores/autovalores de \(\Sigma\) e a geometria das elipses de densidade constante é uma propriedade matemática da Gaussiana multivariada em si, não uma peculiaridade de nenhum par específico de variáveis. Vale para qualquer par de variáveis correlacionadas, incluindo altura/peso ou temperatura/vibração.
- ✗ Falso — “Todas as entradas positivas” e “positiva definida” são propriedades diferentes. Positiva definida significa que todos os autovalores são positivos (equivalentemente, \(\mathbf{v}^T\Sigma\mathbf{v}>0\) para todo \(\mathbf{v}\ne\mathbf{0}\)) — uma matriz simétrica pode ter todas as entradas positivas e ainda assim ter autovalores negativos, falhando a exigência. Um contraexemplo numérico simples: \(\begin{bmatrix}1&2\\2&1\end{bmatrix}\) tem entradas todas positivas, mas autovalores \(3\) e \(-1\) — não é positiva definida.
Dica(Resposta) Teste 3 — Por que a Gaussiana (entropia máxima e Teorema Central do Limite)
- ✔ Verdadeiro — As duas razões clássicas para escolher a Gaussiana são independentes entre si — a propriedade de máxima entropia é uma afirmação puramente sobre a família Gaussiana dada uma restrição de momentos, e não depende, para ser verdadeira, de nenhuma suposição sobre como os dados foram gerados (soma de efeitos pequenos). Remover a justificativa do TCL não invalida a justificativa de entropia máxima.
- ✔ Verdadeiro — O argumento de máxima entropia é condicional às restrições impostas: “dada média e covariância fixas”. Se soubermos mais sobre a distribuição (por exemplo, que ela é bimodal), essa informação extra é uma restrição adicional que a Gaussiana não respeita — a distribuição de entropia máxima sujeita a essa restrição adicional não seria mais a Gaussiana. A “escolha menos comprometida” depende do que já se sabe.
- ✔ Verdadeiro — A justificativa do TCL é genérica: a soma de muitas variáveis aleatórias tende a uma Gaussiana, o que a torna plausível como modelo de ruído agregado ou de medições que resultam de muitos efeitos pequenos somados. Erro de medição composto por muitas fontes pequenas e independentes é exatamente esse cenário, em qualquer domínio.
- ✗ Falso — “Máxima entropia dada média e covariância” é uma afirmação sobre qual distribuição é a menos comprometida quando só se conhecem esses dois momentos — não é uma afirmação sobre qual distribuição é mais provável de ter gerado dados reais específicos. Dados genuinamente multimodais, por exemplo, podem ter sido gerados por uma distribuição muito diferente da Gaussiana, mesmo tendo média e covariância bem definidas.
Dica(Resposta) Teste 4 — Ajuste por máxima verossimilhança
- ✔ Verdadeiro — \(\mathbb{E}[\hat\Sigma_{\text{ML}}]=\frac{N-1}{N}\Sigma\), então dividir por \(N-1\) em vez de \(N\) produz um estimador \(\tilde\Sigma\) com \(\mathbb{E}[\tilde\Sigma]=\Sigma\) — não viesado. É exatamente a correção padrão (o
np.covpadrão do NumPy usa esse denominador). - ✔ Verdadeiro — A razão entre os dois estimadores é \(N/(N-1)\) (ou sua potência \(d\)-ésima, para o determinante), e \(N/(N-1)\to 1\) conforme \(N\to\infty\). O viés relativo desaparece assintoticamente, mesmo que o viés continue existindo tecnicamente para todo \(N\) finito.
- ✔ Verdadeiro — O viés de \(\hat\Sigma_{\text{ML}}\) é uma propriedade da fórmula do estimador de máxima verossimilhança em si (dividir por \(N\) em vez de \(N-1\)), não uma peculiaridade de nenhum tipo específico de dado. Qualquer conjunto de dados ajustado com essa mesma fórmula sofre do mesmo viés, pela mesma derivação matemática.
- ✗ Falso — O viés de \(\hat\Sigma_{\text{ML}}\) e a propriedade de \(\hat{\boldsymbol\mu}\) são resultados matemáticos distintos e independentes. A média amostral \(\hat{\boldsymbol\mu}=\frac1N\sum_n\mathbf{x}_n\) é um estimador não viesado da média verdadeira (\(\mathbb{E}[\hat{\boldsymbol\mu}]=\boldsymbol\mu\)) — o viés de \(\hat\Sigma_{\text{ML}}\) vem especificamente de usar a própria \(\hat{\boldsymbol\mu}\) estimada (em vez da média verdadeira desconhecida) dentro da fórmula da covariância, um efeito que não se propaga para o estimador da média.
Dica(Resposta) Teste 5 — A armadilha \(N\le d\)
- ✔ Verdadeiro — Invertibilidade é uma condição de posto (precisa de posto \(d\), alcançável tecnicamente com \(N=d+1\) pontos em posição genérica), mas não é uma garantia de qualidade estatística. Com poucos pontos além do mínimo necessário, a estimativa de \(\Sigma\) tem alta variância — a degradação da qualidade da estimativa continua acontecendo mesmo quando \(N>d\) vale apenas tecnicamente.
- ✔ Verdadeiro — Com \(d=1\), \(\Sigma\) é escalar (a variância de uma única variável). Com um único ponto (\(N=1\)), a variância amostral é sempre zero (não há dispersão em torno de uma média calculada de um único valor) — degenerada. Com \(N\ge 2\) pontos distintos, a variância amostral é, genericamente, positiva e bem definida. Isso é consistente com a regra geral \(N>d\).
- ✔ Verdadeiro — \(N=5 \le d=20\) é exatamente a condição de falha: o posto de \(\hat\Sigma_{\text{ML}}\) é, no máximo, \(N-1=4\), insuficiente para o posto \(d=20\) necessário para invertibilidade. O problema é estrutural (uma questão de contagem de graus de liberdade), não específico de nenhum domínio de aplicação particular.
- ✗ Falso — \(\hat{\boldsymbol\mu}=\frac1N\sum_n\mathbf{x}_n\) é uma simples média aritmética — sempre calculável para qualquer \(N\ge 1\) e qualquer \(d\), sem exigir nenhuma condição de posto ou invertibilidade. O problema de \(N\le d\) afeta especificamente \(\hat\Sigma\) (por envolver uma matriz que precisa ser invertida para calcular Mahalanobis), não a média.
Dica(Resposta) Teste 6 — A distância de Mahalanobis
- ✔ Verdadeiro — Com \(\Sigma=I\), \(\Sigma^{-1}=I\) também, e \(D_M(\mathbf{x})^2=(\mathbf{x}-\boldsymbol\mu)^TI(\mathbf{x}-\boldsymbol\mu)=(\mathbf{x}-\boldsymbol\mu)^T(\mathbf{x}-\boldsymbol\mu)\), que é exatamente o quadrado da distância Euclidiana.
- ✔ Verdadeiro — O autovalor de \(\Sigma^{-1}\) associado a essa direção é o inverso do autovalor de \(\Sigma\) nessa mesma direção — se a variância (autovalor de \(\Sigma\)) tende a zero, o autovalor correspondente de \(\Sigma^{-1}\) tende a infinito. Qualquer componente não nula de deslocamento nessa direção, multiplicada por um fator que tende a infinito, faz \(D_M^2\) divergir. É a formalização extrema de “\(\Sigma^{-1}\) estica nas direções de baixa variância”.
- ✔ Verdadeiro — É a mesma estrutura geométrica descrita para \(\Sigma^{-1}\) generalizada para outro domínio: deslocar-se ao longo da direção de correlação “custa pouco” em Mahalanobis (mesmo parecendo atípico em unidades brutas), enquanto quebrar a correlação “custa muito” (mesmo parecendo normal em cada variável isolada). A lógica não depende de o domínio ser sensores de máquina.
- ✗ Falso — É exatamente o oposto do que a geometria de \(\Sigma^{-1}\) permite: um ponto pode estar mais longe do centro em unidades Euclidianas brutas e, ainda assim, ter Mahalanobis menor do que um ponto mais próximo em unidades brutas (ver o bloco “Os pontos B e C”). “Esticar nas direções de baixa variância e comprimir nas de alta variância” significa que a ordem de distâncias pode se inverter completamente dependendo da direção do deslocamento — não que Mahalanobis preserve a ordem Euclidiana.
Dica(Resposta) Teste 7 — Os pontos B e C: geometria da crista
- ✔ Verdadeiro — \(\Sigma^{-1}\) comprime na direção de alta variância (mesma distância Euclidiana ao longo da crista “custa pouco” em Mahalanobis) e estica na direção de baixa variância (mesma distância Euclidiana fora da crista “custa muito”). Deslocar C na direção de alta variância, em vez de baixa variância, necessariamente reduziria sua distância de Mahalanobis para a mesma distância Euclidiana.
- ✔ Verdadeiro — Variâncias iguais e correlação zero significam \(\Sigma=\sigma^2 I\) (matriz escalar) — todos os autovalores são iguais, não há mais “direção de alta variância” nem “direção de baixa variância” privilegiada. Nesse caso \(D_M^2=\frac{1}{\sigma^2}\|\mathbf{x}-\boldsymbol\mu\|^2\), um múltiplo escalar da distância Euclidiana ao quadrado, igual em todas as direções — a distinção entre “crista” e “fora da crista” deixa de existir porque não há mais crista.
- ✔ Verdadeiro — A mecânica de “esticar/comprimir” de \(\Sigma^{-1}\) generaliza para qualquer dimensão \(d\): os autovetores de \(\Sigma\) definem as direções de alta e baixa variância em \(\mathbb{R}^d\), e o mesmo argumento (deslocar ao longo de uma direção de alta variância “custa pouco”; deslocar-se perpendicularmente a ela, “quebrando” a estrutura de correlação, “custa muito”) vale igualmente com três ou mais variáveis correlacionadas.
- ✗ Falso — É exatamente o ponto central do exemplo B/C: por Mahalanobis (e pelo \(p\)-valor derivado dela), B é menos anômalo que C, mesmo sendo mais distante em unidades Euclidianas brutas — porque B respeita a estrutura de correlação dos dados, e C a quebra. “Distância Euclidiana maior” não é um critério razoável de anomalia quando há correlação entre as variáveis; é exatamente essa a lição do bloco.
Dica(Resposta) Teste 8 — Do limiar fixo ao \(p\)-valor
- ✔ Verdadeiro — O limiar fixo é o caso particular \(p(\mathbf{x})<\alpha\). Qualquer decisão binária feita com um limiar fixo em \(D_M^2\) corresponde a um limiar equivalente em \(p(\mathbf{x})\) (já que \(F_{\chi^2_d}\) é uma função monótona) — basta escolher \(\alpha\) de forma consistente com o limiar original.
- ✔ Verdadeiro — \(p(\mathbf{x})=P(D_M(\mathbf{X}')^2\ge D_M(\mathbf{x})^2)\). Como \(D_M(\mathbf{X}')^2\ge 0\) sempre (é uma soma de quadrados), a probabilidade de ser \(\ge 0\) é trivialmente \(1\). Um ponto exatamente na média é, por definição, o menos surpreendente possível sob o modelo ajustado — daí o \(p\)-valor máximo.
- ✔ Verdadeiro — A derivação de \(D_M(\mathbf{x})^2\sim\chi^2_d\) (via \(\mathbf{Y}=\Sigma^{-1/2}(\mathbf{X}-\boldsymbol\mu)\sim\mathcal{N}(0,I_d)\), logo \(\mathbf{Y}^T\mathbf{Y}=D_M(\mathbf{X})^2\sim\chi^2_d\) por definição) depende só da suposição de que \(\mathbf{x}\) vem de uma Gaussiana multivariada — um resultado de estatística geral, não específico de sensores de máquina. A fórmula de conversão se aplica sempre que essa suposição for razoável.
- ✗ Falso — As duas funções não são mutuamente exclusivas. O \(p\)-valor generaliza o limiar fixo (que é um caso particular dele, \(p(\mathbf{x})<\alpha\)), mas continua permitindo decisões binárias exatamente da mesma forma — só que com a opção adicional de, se desejado, também usar o ranking completo. Ganhar uma capacidade extra (ordenar por surpresa) não implica perder a capacidade anterior (decidir com um limiar).
Dica(Resposta) Teste 9 — A armadilha de interpretação do \(p\)-valor
- ✗ Falso — O \(p\)-valor é uma afirmação sobre o modelo, condicional a ele estar certo — não é uma afirmação sobre a origem de \(\mathbf{x}\). Se o modelo estiver errado, o \(p\)-valor também estará.
- ✔ Verdadeiro — A armadilha de interpretação existe precisamente por causa do risco de erro de especificação (modelo ajustado ≠ distribuição verdadeira). Se esse erro for zero — o modelo ajustado é idêntico à distribuição verdadeira —, as duas afirmações (“sob o modelo ajustado” e “amostrado na realidade”) se referem exatamente à mesma distribuição, e a distinção colapsa por não haver mais nada para distinguir.
- ✔ Verdadeiro — A armadilha de interpretação é uma propriedade lógica da definição de \(p\)-valor (uma afirmação condicional ao modelo estar certo), independente do domínio de aplicação. Qualquer sistema que use essa mesma lógica — sensores de máquina, e-mails, ou qualquer outro — herda a mesma vulnerabilidade se o modelo ajustado for uma má aproximação da realidade.
- ✗ Falso — “Surpreendente sob o modelo ajustado” é uma afirmação sobre o modelo; “surpreendente na hipótese analisada” é uma afirmação sobre a realidade — as duas só coincidem se o modelo estiver certo, uma suposição adicional que o item tenta remover (“em modo geral”).
Dica(Resposta) Teste 10 — Conjunta vs. por dimensão
- ✔ Verdadeiro — O erro do teste por dimensão vem especificamente de ignorar correlação que de fato existe. Se a suposição de independência que ele faz for verdadeira (não há correlação real para ignorar), não há informação sendo descartada, e os dois testes devem convergir para resultados semelhantes.
- ✔ Verdadeiro — Correlação perfeita é o caso em que a informação ignorada pelo teste por dimensão (a relação entre as variáveis) é máxima — as duas variáveis carregam, nesse limite, a mesma informação de uma única direção, e tratá-las como independentes descarta o máximo possível de estrutura real. É o extremo oposto do item (a) (correlação zero, nenhum erro).
- ✔ Verdadeiro — É a mesma tensão custo/benefício vista para \(\Sigma\) diagonal: mais rápido de inverter (menos parâmetros), ao custo de limitar a captura de correlações entre variáveis. O Naive Bayes faz exatamente essa mesma suposição de independência entre atributos, pela mesma razão (simplicidade computacional), com o mesmo custo.
- ✗ Falso — Mais parâmetros não é sinônimo de mais precisão — é exatamente a tensão da armadilha \(N\le d\): estimar \(d(d+1)/2\) parâmetros exige mais dados do que estimar \(d\) parâmetros, e com \(N\) pequeno relativo a \(d\), a estimativa de \(\hat\Sigma\) completa pode ser instável ou até impossível de inverter, enquanto a versão diagonal (por dimensão) continua bem definida com muito menos dados. “Mais expressivo” tem um custo de dados que pode superar seu benefício quando \(N\) é limitado.
Dica(Resposta) Teste 11 — Multimodalidade
- ✗ Falso — O ajuste “funciona” no sentido de que a matemática produz \(\hat{\boldsymbol\mu}\) e \(\hat\Sigma\) válidos. As fórmulas de máxima verossimilhança são simples médias/produtos externos — sempre calculáveis para qualquer conjunto de dados, multimodal ou não. O problema não é a matemática falhar, é a descrição resultante ser enganosa mesmo com números perfeitamente válidos.
- ✔ Verdadeiro — A média amostral é uma média ponderada de todos os pontos; com duas subpopulações bem separadas e de tamanhos comparáveis, essa média cai entre as duas nuvens, numa região vazia de dados reais — o comportamento clássico de uma média cega entre os dois modos. A variância precisa ser grande o suficiente para cobrir a dispersão total (incluindo a distância entre os centros das duas subpopulações), ficando inflada.
- ✔ Verdadeiro — O problema de multimodalidade é sobre a estrutura dos dados (duas subpopulações genuinamente distintas) em relação à suposição do modelo (uma única forma Gaussiana), não sobre nenhum domínio específico. Misturar perfis de cliente muito diferentes é a mesma estrutura de dados problemática, em outro domínio.
- ✗ Falso — Um cálculo ser matematicamente bem-sucedido (produzir números válidos) não garante que o resultado seja uma descrição útil ou confiável da realidade — os dois são propriedades independentes. O ajuste “funciona” e, mesmo assim, a descrição resultante pode mentir sobre a forma real dos dados.
Dica(Resposta) Teste 12 — Outliers no ajuste e ponte para a Aula 2
- ✔ Verdadeiro — O mecanismo do problema é específico: outliers no conjunto de ajuste deslocam a média e inflam a covariância estimadas, porque essas estatísticas são calculadas a partir desses mesmos pontos. Um outlier avaliado como ponto de teste, depois do ajuste já ter sido feito com dados limpos, não influencia \(\hat{\boldsymbol\mu}\) e \(\hat\Sigma\) — ele só seria (corretamente) classificado como atípico pelo modelo já ajustado.
- ✗ Falso — \(\hat{\boldsymbol\mu}\) é uma média sobre \(N\) pontos — a contribuição de um único ponto para uma média de \(N\) termos escala como \(\|x-\mu\|/N\), e não apenas \(1/N\). Com \(N\) da ordem de milhares, o efeito de um único outlier escala linearmente com a distância, tornando-se arbitrariamente relevante se nenhuma suposição sobre \(\|x-\mu\|\) for feita.
- ✔ Verdadeiro — O problema de outliers é um problema de robustez, não algo intrinsecamente ligado à forma paramétrica Gaussiana. Abandonar a suposição de forma (o que a Aula 2 faz) ataca um problema diferente (a rigidez da forma funcional); a robustez a outliers é uma questão ortogonal, que também pode afetar estimadores não-paramétricos que dependem da posição bruta de todos os pontos.
- ✗ Falso — Abandonar a suposição de forma paramétrica troca um problema (a forma pode estar errada) por outro (a maldição da dimensionalidade aparece de um jeito diferente, não paramétrico) — não elimina a dificuldade, só muda sua natureza. O preço dessa liberdade é justamente a maldição da dimensionalidade, tratada na Aula 2.