Soluções — Aula 1: Modelos Generativos Paramétricos e Detecção de Anomalias

Aprendizado Não Supervisionado

Autor

Marcos M. Raimundo — Instituto de Computação, UNICAMP

Data de Publicação

18 de setembro de 2026

Aula Exercícios

Dica

Gabarito das questões de Verdadeiro/Falso de exercicios.qmd. O glifo (/) antes do texto de cada afirmação já indica o veredito; o campo Resposta repete por extenso.

NotaTeste 1 — Profiling sem rótulos e distribuição empírica vs. teórica
  • □ Se decidíssemos usar diretamente a distribuição empírica (sem ajustar nenhuma família teórica) para decidir o que é típico, o resultado seria imune ao problema de ruído em regiões com poucos dados — já que a distribuição empírica é “literalmente o que foi observado”.
  • □ No limite em que o número de observações \(N\) tende a infinito, a diferença prática entre usar a distribuição empírica diretamente e ajustar uma família teórica (Gaussiana) tende a desaparecer completamente, mesmo se a verdadeira distribuição dos dados não for Gaussiana.
  • □ Um sistema de detecção de fraude em cartões de crédito que descreve o comportamento “típico” de um usuário a partir do histórico de transações, para depois flagar desvios, está aplicando a mesma lógica de profiling — descrever o comportamento típico de uma população para depois reconhecer o que se desvia dela — mesmo sem envolver sensores de temperatura ou vibração.
  • □ Como a distribuição empírica “nunca está errada” (é literalmente o que foi observado), isso significa que ela é sempre a melhor escolha para descrever o comportamento típico de uma população, superior a qualquer família teórica ajustada.
Dica(Resposta) Teste 1 — Profiling sem rótulos e distribuição empírica vs. teórica
  • ✗ Falso — É exatamente o oposto. A distribuição empírica é ruidosa: poucos dados numa região dão uma estimativa tremendamente instável. Ser “literalmente o que foi observado” não protege contra ruído — na verdade, é a fonte dele: regiões com poucos dados dão estimativas instáveis exatamente porque não há nada para suavizar o efeito de amostras pequenas. O erro central deste item é confundir “nunca está errada” (uma afirmação sobre fidelidade aos dados observados) com “imune a ruído” (uma afirmação sobre estabilidade estatística).
  • ✗ Falso — \(N\to\infty\) resolve o problema de ruído de estimação (a distribuição empírica fica cada vez mais estável e informativa), mas não resolve um problema de especificação: se a família teórica escolhida (Gaussiana) não é a forma verdadeira dos dados, ajustá-la sempre produzirá uma descrição sistematicamente errada, não importa quantos dados existam. Mais dados reduzem variância de estimação, não corrigem viés de forma funcional.
  • ✔ Verdadeiro — Profiling é uma lógica abstrata — descrever o comportamento típico de uma população para depois reconhecer o que se desvia dela — sem depender do domínio específico (sensores de máquina). Detecção de fraude em transações segue exatamente essa estrutura: descrever o comportamento típico do usuário, depois flagar desvios. É transferência direta da mesma lógica para outro domínio.
  • ✗ Falso — “Nunca estar errada” (ser uma descrição fiel do que foi observado) não é o mesmo que “ser a melhor ferramenta” — a distribuição empírica tem dois problemas práticos (ruído, incapacidade de generalizar para pontos não observados) que a tornam pior, na prática, do que uma família teórica bem escolhida. Fidelidade aos dados observados e utilidade prática são propriedades diferentes; confundir as duas é a falsa equivalência deste item.
NotaTeste 2 — A Gaussiana multivariada: parâmetros e geometria
  • □ Se \(\Sigma\) fosse a matriz identidade em vez de uma matriz geral positiva definida, as curvas de nível de densidade constante da Gaussiana multivariada deixariam de ser elipsoides orientados e se tornariam círculos (ou esferas) centrados em \(\boldsymbol\mu\).
  • □ No limite em que um dos autovalores de \(\Sigma\) tende a zero (mantendo os demais fixos), as elipses de densidade constante da Gaussiana degeneram numa figura de dimensão menor (por exemplo, de uma elipse para um segmento de reta, em duas dimensões).
  • □ Ao descrever a distribuição conjunta de altura e peso de uma população adulta com uma Gaussiana bivariada, os autovetores de \(\hat\Sigma\) ainda dariam a orientação dos eixos de densidade constante e os autovalores ainda determinariam o comprimento desses eixos — exatamente como aconteceria ao modelar duas outras variáveis correlacionadas, como as leituras de temperatura e vibração de um equipamento, com uma Gaussiana bivariada.
  • □ Como \(\Sigma\) precisa ser simétrica e positiva definida, qualquer matriz simétrica com todas as entradas positivas automaticamente satisfaz essa exigência e pode servir como matriz de covariância válida.
Dica(Resposta) Teste 2 — A Gaussiana multivariada: parâmetros e geometria
  • ✔ Verdadeiro — Os autovalores de \(\Sigma=I\) são todos iguais a 1, e todo vetor é autovetor — não há direção de orientação preferencial. Sem eixos de comprimentos distintos, o elipsoide degenera na figura mais simétrica possível: um círculo (2D) ou esfera (3D+) centrado em \(\boldsymbol\mu\).
  • ✔ Verdadeiro — O comprimento do eixo associado a um autovalor \(\lambda_i\) escala com \(\sqrt{\lambda_i}\). Se \(\lambda_i\to 0\), esse eixo encolhe até desaparecer, e a elipse (que tinha dois eixos de comprimento finito) degenera numa figura de dimensão menor — em 2D, um segmento de reta ao longo do eixo remanescente.
  • ✔ Verdadeiro — A relação entre autovetores/autovalores de \(\Sigma\) e a geometria das elipses de densidade constante é uma propriedade matemática da Gaussiana multivariada em si, não uma peculiaridade de nenhum par específico de variáveis. Vale para qualquer par de variáveis correlacionadas, incluindo altura/peso ou temperatura/vibração.
  • ✗ Falso — “Todas as entradas positivas” e “positiva definida” são propriedades diferentes. Positiva definida significa que todos os autovalores são positivos (equivalentemente, \(\mathbf{v}^T\Sigma\mathbf{v}>0\) para todo \(\mathbf{v}\ne\mathbf{0}\)) — uma matriz simétrica pode ter todas as entradas positivas e ainda assim ter autovalores negativos, falhando a exigência. Um contraexemplo numérico simples: \(\begin{bmatrix}1&2\\2&1\end{bmatrix}\) tem entradas todas positivas, mas autovalores \(3\) e \(-1\) — não é positiva definida.
NotaTeste 3 — Por que a Gaussiana (entropia máxima e Teorema Central do Limite)
  • □ Se abandonássemos a suposição de que os dados vêm de uma soma de muitos efeitos pequenos e independentes (a justificativa do Teorema Central do Limite), a razão de “máxima entropia dada média e covariância fixas” ainda seria, por si só, uma justificativa independente e válida para escolher a Gaussiana.
  • □ No limite em que se conhece muito mais sobre a distribuição dos dados do que apenas a média e a covariância (por exemplo, sabe-se de antemão que a distribuição tem duas modas distintas), o argumento de máxima entropia deixa de recomendar a Gaussiana como a escolha menos comprometida.
  • □ Um erro de medição resultante da soma de muitos ruídos pequenos e independentes (erro de instrumento, flutuação térmica, arredondamento etc.) é um caso em que a justificativa do Teorema Central do Limite para usar uma Gaussiana se aplica, mesmo fora do contexto de sensores de uma máquina.
  • □ Como a Gaussiana é a distribuição de entropia máxima dada média e covariância fixas, isso implica que ela é sempre a distribuição mais provável de ter gerado qualquer conjunto de dados observado.
Dica(Resposta) Teste 3 — Por que a Gaussiana (entropia máxima e Teorema Central do Limite)
  • ✔ Verdadeiro — As duas razões clássicas para escolher a Gaussiana são independentes entre si — a propriedade de máxima entropia é uma afirmação puramente sobre a família Gaussiana dada uma restrição de momentos, e não depende, para ser verdadeira, de nenhuma suposição sobre como os dados foram gerados (soma de efeitos pequenos). Remover a justificativa do TCL não invalida a justificativa de entropia máxima.
  • ✔ Verdadeiro — O argumento de máxima entropia é condicional às restrições impostas: “dada média e covariância fixas”. Se soubermos mais sobre a distribuição (por exemplo, que ela é bimodal), essa informação extra é uma restrição adicional que a Gaussiana não respeita — a distribuição de entropia máxima sujeita a essa restrição adicional não seria mais a Gaussiana. A “escolha menos comprometida” depende do que já se sabe.
  • ✔ Verdadeiro — A justificativa do TCL é genérica: a soma de muitas variáveis aleatórias tende a uma Gaussiana, o que a torna plausível como modelo de ruído agregado ou de medições que resultam de muitos efeitos pequenos somados. Erro de medição composto por muitas fontes pequenas e independentes é exatamente esse cenário, em qualquer domínio.
  • ✗ Falso — “Máxima entropia dada média e covariância” é uma afirmação sobre qual distribuição é a menos comprometida quando só se conhecem esses dois momentos — não é uma afirmação sobre qual distribuição é mais provável de ter gerado dados reais específicos. Dados genuinamente multimodais, por exemplo, podem ter sido gerados por uma distribuição muito diferente da Gaussiana, mesmo tendo média e covariância bem definidas.
NotaTeste 4 — Ajuste por máxima verossimilhança
  • □ Se, em vez de \(\hat\Sigma_{\text{ML}} = \frac1N\sum_{n=1}^N(\mathbf{x}_n-\hat{\boldsymbol\mu})(\mathbf{x}_n-\hat{\boldsymbol\mu})^T\), dividíssemos por \(N-1\) desde o início, o estimador resultante deixaria de ser viesado.
  • □ No limite em que \(N\to\infty\), a diferença relativa entre \(\hat\Sigma_{\text{ML}}\) (dividido por \(N\)) e \(\tilde\Sigma\) (dividido por \(N-1\)) tende a zero.
  • □ Ao ajustar o estimador de máxima verossimilhança \(\hat\Sigma_{\text{ML}}\) sob o modelo de retornos financeiros diários i.i.d., a subestimação da covariância pelo fator \((N-1)/N\) é uma consequência unicamente da matemática do ajuste, e não uma característica intrínseca de retornos financeiros — a mesma subestimação ocorreria.
  • □ Como \(\hat\Sigma_{\text{ML}}\) subestima a covariância verdadeira, isso significa que \(\hat{\boldsymbol\mu}\) (a média amostral) também é, necessariamente, um estimador viesado da média verdadeira.
Dica(Resposta) Teste 4 — Ajuste por máxima verossimilhança
  • ✔ Verdadeiro — \(\mathbb{E}[\hat\Sigma_{\text{ML}}]=\frac{N-1}{N}\Sigma\), então dividir por \(N-1\) em vez de \(N\) produz um estimador \(\tilde\Sigma\) com \(\mathbb{E}[\tilde\Sigma]=\Sigma\) — não viesado. É exatamente a correção padrão (o np.cov padrão do NumPy usa esse denominador).
  • ✔ Verdadeiro — A razão entre os dois estimadores é \(N/(N-1)\) (ou sua potência \(d\)-ésima, para o determinante), e \(N/(N-1)\to 1\) conforme \(N\to\infty\). O viés relativo desaparece assintoticamente, mesmo que o viés continue existindo tecnicamente para todo \(N\) finito.
  • ✔ Verdadeiro — O viés de \(\hat\Sigma_{\text{ML}}\) é uma propriedade da fórmula do estimador de máxima verossimilhança em si (dividir por \(N\) em vez de \(N-1\)), não uma peculiaridade de nenhum tipo específico de dado. Qualquer conjunto de dados ajustado com essa mesma fórmula sofre do mesmo viés, pela mesma derivação matemática.
  • ✗ Falso — O viés de \(\hat\Sigma_{\text{ML}}\) e a propriedade de \(\hat{\boldsymbol\mu}\) são resultados matemáticos distintos e independentes. A média amostral \(\hat{\boldsymbol\mu}=\frac1N\sum_n\mathbf{x}_n\) é um estimador não viesado da média verdadeira (\(\mathbb{E}[\hat{\boldsymbol\mu}]=\boldsymbol\mu\)) — o viés de \(\hat\Sigma_{\text{ML}}\) vem especificamente de usar a própria \(\hat{\boldsymbol\mu}\) estimada (em vez da média verdadeira desconhecida) dentro da fórmula da covariância, um efeito que não se propaga para o estimador da média.
NotaTeste 5 — A armadilha \(N\le d\)

Nos itens abaixo, \(N\) é o número de observações e \(d\) é o número de variáveis (a dimensão) usadas para estimar \(\hat\Sigma_{\text{ML}} = \frac1N\sum_{n=1}^N(\mathbf{x}_n-\hat{\boldsymbol\mu})(\mathbf{x}_n-\hat{\boldsymbol\mu})^T\). Essa matriz tem posto no máximo \(N-1\) e só é invertível — condição necessária para calcular a distância de Mahalanobis — se seu posto for igual a \(d\), ou seja, se \(N>d\).

  • □ Se, em vez de \(N\le d\), a condição fosse \(N>d\) mas ainda assim \(N\) próximo de \(d\) (por exemplo, \(N=d+1\)), \(\hat\Sigma_{\text{ML}}\) seria tecnicamente invertível, mas isso não impediria a estimativa de covariância de ser pouco confiável.
  • □ No caso-limite em que \(d=1\) (uma única variável observada, não duas), a exigência \(N>d\) se reduz a \(N>1\) — bastam pelo menos 2 observações para \(\hat\Sigma_{\text{ML}}\) ser, em princípio, calculável e não trivialmente nula.
  • □ Um cientista de dados que tenta ajustar uma Gaussiana multivariada a um conjunto de apenas 5 amostras de pacientes, cada uma com 20 exames diferentes (\(d=20\)), enfrentaria exatamente o mesmo problema estrutural: o posto de \(\hat\Sigma_{\text{ML}}\) seria, no máximo, \(4\) — insuficiente para o posto \(20\) necessário para que a matriz seja invertível.
  • □ Como o problema de \(N\le d\) é sobre a matriz \(\hat\Sigma\) não ser invertível, isso significa que \(\hat{\boldsymbol\mu}\) também deixa de ser calculável nesse regime.
Dica(Resposta) Teste 5 — A armadilha \(N\le d\)
  • ✔ Verdadeiro — Invertibilidade é uma condição de posto (precisa de posto \(d\), alcançável tecnicamente com \(N=d+1\) pontos em posição genérica), mas não é uma garantia de qualidade estatística. Com poucos pontos além do mínimo necessário, a estimativa de \(\Sigma\) tem alta variância — a degradação da qualidade da estimativa continua acontecendo mesmo quando \(N>d\) vale apenas tecnicamente.
  • ✔ Verdadeiro — Com \(d=1\), \(\Sigma\) é escalar (a variância de uma única variável). Com um único ponto (\(N=1\)), a variância amostral é sempre zero (não há dispersão em torno de uma média calculada de um único valor) — degenerada. Com \(N\ge 2\) pontos distintos, a variância amostral é, genericamente, positiva e bem definida. Isso é consistente com a regra geral \(N>d\).
  • ✔ Verdadeiro — \(N=5 \le d=20\) é exatamente a condição de falha: o posto de \(\hat\Sigma_{\text{ML}}\) é, no máximo, \(N-1=4\), insuficiente para o posto \(d=20\) necessário para invertibilidade. O problema é estrutural (uma questão de contagem de graus de liberdade), não específico de nenhum domínio de aplicação particular.
  • ✗ Falso — \(\hat{\boldsymbol\mu}=\frac1N\sum_n\mathbf{x}_n\) é uma simples média aritmética — sempre calculável para qualquer \(N\ge 1\) e qualquer \(d\), sem exigir nenhuma condição de posto ou invertibilidade. O problema de \(N\le d\) afeta especificamente \(\hat\Sigma\) (por envolver uma matriz que precisa ser invertida para calcular Mahalanobis), não a média.
NotaTeste 6 — A distância de Mahalanobis
  • □ Se \(\Sigma\) fosse a matriz identidade, a distância de Mahalanobis calculada com essa matriz coincidiria exatamente com a distância Euclidiana usual.
  • □ No caso-limite em que a variância ao longo de uma direção específica tende a zero (mantendo as demais fixas), um deslocamento nessa direção, mesmo minúsculo em unidades brutas, faz a distância de Mahalanobis tender a infinito.
  • □ Considere um contexto de avaliação de crédito com duas variáveis fortemente correlacionadas (renda e limite do cartão). Dois clientes têm o mesmo desvios conjunto (L2) em relação à renda e limite médios, mas um cliente possui valores, mesmo que atípicos, mas que respeitam a correlação usual entre as duas variáveis teria uma distância de Mahalanobis menor do que um cliente com limite mais próximo da faixa normal, mas que quebra a correlação com a renda.
  • □ Como a distância de Mahalanobis “estica” o espaço nas direções de baixa variância, isso significa que ela sempre atribui distâncias maiores a pontos mais distantes em unidades Euclidianas brutas.
Dica(Resposta) Teste 6 — A distância de Mahalanobis
  • ✔ Verdadeiro — Com \(\Sigma=I\), \(\Sigma^{-1}=I\) também, e \(D_M(\mathbf{x})^2=(\mathbf{x}-\boldsymbol\mu)^TI(\mathbf{x}-\boldsymbol\mu)=(\mathbf{x}-\boldsymbol\mu)^T(\mathbf{x}-\boldsymbol\mu)\), que é exatamente o quadrado da distância Euclidiana.
  • ✔ Verdadeiro — O autovalor de \(\Sigma^{-1}\) associado a essa direção é o inverso do autovalor de \(\Sigma\) nessa mesma direção — se a variância (autovalor de \(\Sigma\)) tende a zero, o autovalor correspondente de \(\Sigma^{-1}\) tende a infinito. Qualquer componente não nula de deslocamento nessa direção, multiplicada por um fator que tende a infinito, faz \(D_M^2\) divergir. É a formalização extrema de “\(\Sigma^{-1}\) estica nas direções de baixa variância”.
  • ✔ Verdadeiro — É a mesma estrutura geométrica descrita para \(\Sigma^{-1}\) generalizada para outro domínio: deslocar-se ao longo da direção de correlação “custa pouco” em Mahalanobis (mesmo parecendo atípico em unidades brutas), enquanto quebrar a correlação “custa muito” (mesmo parecendo normal em cada variável isolada). A lógica não depende de o domínio ser sensores de máquina.
  • ✗ Falso — É exatamente o oposto do que a geometria de \(\Sigma^{-1}\) permite: um ponto pode estar mais longe do centro em unidades Euclidianas brutas e, ainda assim, ter Mahalanobis menor do que um ponto mais próximo em unidades brutas (ver o bloco “Os pontos B e C”). “Esticar nas direções de baixa variância e comprimir nas de alta variância” significa que a ordem de distâncias pode se inverter completamente dependendo da direção do deslocamento — não que Mahalanobis preserve a ordem Euclidiana.
NotaTeste 7 — Os pontos B e C: geometria da crista

Considere um modelo Gaussiano bivariado ajustado às leituras de dois sensores de um equipamento — temperatura e vibração — que sobem e descem juntos sob operação normal, de modo que a nuvem de pontos se estica ao longo de uma direção de alta correlação (a “crista”) e quase não varia na direção perpendicular a ela. O ponto B foi construído a 2 desvios-padrão do centro ao longo do eixo de alta variância (dentro da crista); o ponto C foi construído a 3 desvios-padrão do centro ao longo do eixo de baixa variância (perpendicular à crista, quebrando a correlação usual entre os dois sensores). Apesar de B ficar numericamente mais longe do centro em distância Euclidiana bruta do que C, sua distância de Mahalanobis — que comprime a direção de alta variância e estica a de baixa variância — é menor do que a de C.

  • □ Se o ponto C, em vez de se deslocar ao longo do eixo de baixa variância, tivesse se deslocado a mesma distância Euclidiana ao longo do eixo de alta variância (a crista), sua distância de Mahalanobis resultante seria menor do que a calculada originalmente para C.
  • □ Se as variâncias de temperatura e vibração fossem exatamente iguais e a correlação entre elas fosse zero, não haveria mais diferença entre “longe na crista” e “fora da crista” — qualquer direção de deslocamento produziria a mesma distância de Mahalanobis para um mesmo deslocamento Euclidiano.
  • □ Num modelo com três variáveis fortemente correlacionadas entre si (por exemplo, três medidas relacionadas do tamanho de um objeto), a mesma lógica dos pontos B e C se generalizaria: um ponto que respeita a relação de correlação entre as três teria Mahalanobis pequena mesmo se distante em unidades brutas, e um ponto que quebra essa relação teria Mahalanobis grande mesmo perto em unidades brutas.
  • □ Como o ponto B está mais longe do centro em distância Euclidiana do que o ponto C, isso implica necessariamente que B deveria ser considerado mais anômalo do que C por qualquer critério razoável de anomalia.
Dica(Resposta) Teste 7 — Os pontos B e C: geometria da crista
  • ✔ Verdadeiro — \(\Sigma^{-1}\) comprime na direção de alta variância (mesma distância Euclidiana ao longo da crista “custa pouco” em Mahalanobis) e estica na direção de baixa variância (mesma distância Euclidiana fora da crista “custa muito”). Deslocar C na direção de alta variância, em vez de baixa variância, necessariamente reduziria sua distância de Mahalanobis para a mesma distância Euclidiana.
  • ✔ Verdadeiro — Variâncias iguais e correlação zero significam \(\Sigma=\sigma^2 I\) (matriz escalar) — todos os autovalores são iguais, não há mais “direção de alta variância” nem “direção de baixa variância” privilegiada. Nesse caso \(D_M^2=\frac{1}{\sigma^2}\|\mathbf{x}-\boldsymbol\mu\|^2\), um múltiplo escalar da distância Euclidiana ao quadrado, igual em todas as direções — a distinção entre “crista” e “fora da crista” deixa de existir porque não há mais crista.
  • ✔ Verdadeiro — A mecânica de “esticar/comprimir” de \(\Sigma^{-1}\) generaliza para qualquer dimensão \(d\): os autovetores de \(\Sigma\) definem as direções de alta e baixa variância em \(\mathbb{R}^d\), e o mesmo argumento (deslocar ao longo de uma direção de alta variância “custa pouco”; deslocar-se perpendicularmente a ela, “quebrando” a estrutura de correlação, “custa muito”) vale igualmente com três ou mais variáveis correlacionadas.
  • ✗ Falso — É exatamente o ponto central do exemplo B/C: por Mahalanobis (e pelo \(p\)-valor derivado dela), B é menos anômalo que C, mesmo sendo mais distante em unidades Euclidianas brutas — porque B respeita a estrutura de correlação dos dados, e C a quebra. “Distância Euclidiana maior” não é um critério razoável de anomalia quando há correlação entre as variáveis; é exatamente essa a lição do bloco.
NotaTeste 8 — Do limiar fixo ao \(p\)-valor
  • □ Se, em vez de comparar \(D_M(\mathbf{x})^2\) a um limiar fixo, sempre reportássemos o \(p\)-valor \(p(\mathbf{x})=1-F_{\chi^2_d}(D_M(\mathbf{x})^2)\), ainda seria possível recuperar exatamente a mesma decisão binária “típico/anômalo” do limiar fixo, escolhendo o \(\alpha\) apropriado.
  • □ No caso-limite em que \(D_M(\mathbf{x})^2\to 0\) (o ponto exatamente na média ajustada \(\hat{\boldsymbol\mu}\)), o \(p\)-valor \(p(\mathbf{x})\) tende a \(1\).
  • □ Se, em outro contexto (não sensores de máquina), \(D_M(\mathbf{x})^2\) ainda seguisse \(\chi^2_d\) sob o modelo ajustado, a mesma fórmula \(p(\mathbf{x})=1-F_{\chi^2_d}(D_M(\mathbf{x})^2)\) poderia ser usada para converter a distância num \(p\)-valor, independentemente do domínio da aplicação.
  • □ Como o \(p\)-valor ordena os pontos por “quão surpreendentes” eles são, isso significa que ele não pode mais ser usado para tomar uma decisão binária de “típico vs. anômalo” — a única forma de decidir seria olhando o ranking completo dos pontos.
Dica(Resposta) Teste 8 — Do limiar fixo ao \(p\)-valor
  • ✔ Verdadeiro — O limiar fixo é o caso particular \(p(\mathbf{x})<\alpha\). Qualquer decisão binária feita com um limiar fixo em \(D_M^2\) corresponde a um limiar equivalente em \(p(\mathbf{x})\) (já que \(F_{\chi^2_d}\) é uma função monótona) — basta escolher \(\alpha\) de forma consistente com o limiar original.
  • ✔ Verdadeiro — \(p(\mathbf{x})=P(D_M(\mathbf{X}')^2\ge D_M(\mathbf{x})^2)\). Como \(D_M(\mathbf{X}')^2\ge 0\) sempre (é uma soma de quadrados), a probabilidade de ser \(\ge 0\) é trivialmente \(1\). Um ponto exatamente na média é, por definição, o menos surpreendente possível sob o modelo ajustado — daí o \(p\)-valor máximo.
  • ✔ Verdadeiro — A derivação de \(D_M(\mathbf{x})^2\sim\chi^2_d\) (via \(\mathbf{Y}=\Sigma^{-1/2}(\mathbf{X}-\boldsymbol\mu)\sim\mathcal{N}(0,I_d)\), logo \(\mathbf{Y}^T\mathbf{Y}=D_M(\mathbf{X})^2\sim\chi^2_d\) por definição) depende só da suposição de que \(\mathbf{x}\) vem de uma Gaussiana multivariada — um resultado de estatística geral, não específico de sensores de máquina. A fórmula de conversão se aplica sempre que essa suposição for razoável.
  • ✗ Falso — As duas funções não são mutuamente exclusivas. O \(p\)-valor generaliza o limiar fixo (que é um caso particular dele, \(p(\mathbf{x})<\alpha\)), mas continua permitindo decisões binárias exatamente da mesma forma — só que com a opção adicional de, se desejado, também usar o ranking completo. Ganhar uma capacidade extra (ordenar por surpresa) não implica perder a capacidade anterior (decidir com um limiar).
NotaTeste 9 — A armadilha de interpretação do \(p\)-valor
  • □ Se o modelo ajustado (\(\hat{\boldsymbol\mu}\), \(\hat\Sigma\)) estivesse severamente errado (por exemplo, ajustado a partir de dados de um regime de operação diferente do real), o \(p\)-valor calculado ainda seria uma medida confiável da probabilidade de \(\mathbf{x}\) pertencer à verdadeira distribuição dos dados.
  • □ No caso extremo em que o modelo ajustado é uma aproximação perfeita da distribuição verdadeira dos dados (nenhum erro de especificação), a distinção entre “probabilidade de um ponto do modelo ajustado ser tão extremo quanto x” e “probabilidade de x vir da distribuição verdadeira” desaparece — as duas interpretações coincidem.
  • □ Um sistema de triagem de spam que calcula um “\(p\)-valor” de quão atípico um e-mail é, comparado a um modelo ajustado de e-mails legítimos, sofreria exatamente da mesma armadilha de interpretação — confundir “improvável sob o modelo ajustado” com “improvável sob a distribuição real de e-mails legítimos” — caso o modelo ajustado não represente bem os e-mails legítimos reais.
  • □ Como um \(p\)-valor pequeno indica que um ponto é estatisticamente surpreendente sob o modelo ajustado, isso significa, sem mais suposições, que esse ponto certamente não pertence à população de interesse.
Dica(Resposta) Teste 9 — A armadilha de interpretação do \(p\)-valor
  • ✗ Falso — O \(p\)-valor é uma afirmação sobre o modelo, condicional a ele estar certo — não é uma afirmação sobre a origem de \(\mathbf{x}\). Se o modelo estiver errado, o \(p\)-valor também estará.
  • ✔ Verdadeiro — A armadilha de interpretação existe precisamente por causa do risco de erro de especificação (modelo ajustado ≠ distribuição verdadeira). Se esse erro for zero — o modelo ajustado é idêntico à distribuição verdadeira —, as duas afirmações (“sob o modelo ajustado” e “amostrado na realidade”) se referem exatamente à mesma distribuição, e a distinção colapsa por não haver mais nada para distinguir.
  • ✔ Verdadeiro — A armadilha de interpretação é uma propriedade lógica da definição de \(p\)-valor (uma afirmação condicional ao modelo estar certo), independente do domínio de aplicação. Qualquer sistema que use essa mesma lógica — sensores de máquina, e-mails, ou qualquer outro — herda a mesma vulnerabilidade se o modelo ajustado for uma má aproximação da realidade.
  • ✗ Falso — “Surpreendente sob o modelo ajustado” é uma afirmação sobre o modelo; “surpreendente na hipótese analisada” é uma afirmação sobre a realidade — as duas só coincidem se o modelo estiver certo, uma suposição adicional que o item tenta remover (“em modo geral”).
NotaTeste 10 — Conjunta vs. por dimensão
  • □ Se as duas variáveis fossem, de fato, estatisticamente independentes uma da outra, o teste “por dimensão” (que assume independência) produziria, em geral, resultados muito parecidos com o teste “conjunto” (Mahalanobis).
  • □ No caso-limite em que a correlação entre as duas variáveis tende a \(1\) (correlação perfeita), o teste “por dimensão” (que ignora a correlação) cometeria o maior erro possível de sobre ou subestimação do \(p\)-valor, comparado ao teste conjunto.
  • □ No Naive Bayes de Aprendizado Supervisionado, a mesma suposição de independência entre atributos é feita para simplificar o cálculo, ao custo de limitar a capacidade do modelo de capturar correlações interessantes nos dados — exatamente a mesma tensão custo/benefício do teste por dimensão contra o teste conjunto.
  • □ Como o teste conjunto (Mahalanobis) usa mais parâmetros (\(d(d+1)/2\) em vez de \(d\)), ele é sempre estritamente mais preciso do que o teste por dimensão, para qualquer conjunto de dados e qualquer tamanho de amostra \(N\).
Dica(Resposta) Teste 10 — Conjunta vs. por dimensão
  • ✔ Verdadeiro — O erro do teste por dimensão vem especificamente de ignorar correlação que de fato existe. Se a suposição de independência que ele faz for verdadeira (não há correlação real para ignorar), não há informação sendo descartada, e os dois testes devem convergir para resultados semelhantes.
  • ✔ Verdadeiro — Correlação perfeita é o caso em que a informação ignorada pelo teste por dimensão (a relação entre as variáveis) é máxima — as duas variáveis carregam, nesse limite, a mesma informação de uma única direção, e tratá-las como independentes descarta o máximo possível de estrutura real. É o extremo oposto do item (a) (correlação zero, nenhum erro).
  • ✔ Verdadeiro — É a mesma tensão custo/benefício vista para \(\Sigma\) diagonal: mais rápido de inverter (menos parâmetros), ao custo de limitar a captura de correlações entre variáveis. O Naive Bayes faz exatamente essa mesma suposição de independência entre atributos, pela mesma razão (simplicidade computacional), com o mesmo custo.
  • ✗ Falso — Mais parâmetros não é sinônimo de mais precisão — é exatamente a tensão da armadilha \(N\le d\): estimar \(d(d+1)/2\) parâmetros exige mais dados do que estimar \(d\) parâmetros, e com \(N\) pequeno relativo a \(d\), a estimativa de \(\hat\Sigma\) completa pode ser instável ou até impossível de inverter, enquanto a versão diagonal (por dimensão) continua bem definida com muito menos dados. “Mais expressivo” tem um custo de dados que pode superar seu benefício quando \(N\) é limitado.
NotaTeste 11 — Multimodalidade
  • □ Se a população real de fato tivesse duas subpopulações bem distintas (dois regimes de operação), mas ajustássemos, ainda assim, uma única Gaussiana, os parâmetros \(\hat{\boldsymbol\mu}\) e \(\hat\Sigma\) resultantes seriam matematicamente inválidos (não calculáveis).
  • □ No caso-limite em que as duas subpopulações estão extremamente distantes uma da outra (bem separadas), a Gaussiana única ajustada teria uma variância muito inflada, mas a média ajustada \(\hat{\boldsymbol\mu}\) ainda cairia, aproximadamente, entre as duas subpopulações — numa região onde poucos dados reais efetivamente existem.
  • □ Um modelo de detecção de anomalias em transações financeiras que mistura, sem saber, transações de dois perfis de cliente muito diferentes (por exemplo, pessoa física e pessoa jurídica) sofreria do mesmo problema: uma única Gaussiana ajustada aos dois perfis juntos produziria uma média cega entre eles, sem descrever bem nenhum dos dois grupos.
  • □ Como o ajuste Gaussiano “funciona” no sentido de produzir \(\hat{\boldsymbol\mu}\) e \(\hat\Sigma\) válidos mesmo com dados multimodais, isso significa que a descrição resultante da população é necessariamente confiável para decidir o que é típico ou anômalo.
Dica(Resposta) Teste 11 — Multimodalidade
  • ✗ Falso — O ajuste “funciona” no sentido de que a matemática produz \(\hat{\boldsymbol\mu}\) e \(\hat\Sigma\) válidos. As fórmulas de máxima verossimilhança são simples médias/produtos externos — sempre calculáveis para qualquer conjunto de dados, multimodal ou não. O problema não é a matemática falhar, é a descrição resultante ser enganosa mesmo com números perfeitamente válidos.
  • ✔ Verdadeiro — A média amostral é uma média ponderada de todos os pontos; com duas subpopulações bem separadas e de tamanhos comparáveis, essa média cai entre as duas nuvens, numa região vazia de dados reais — o comportamento clássico de uma média cega entre os dois modos. A variância precisa ser grande o suficiente para cobrir a dispersão total (incluindo a distância entre os centros das duas subpopulações), ficando inflada.
  • ✔ Verdadeiro — O problema de multimodalidade é sobre a estrutura dos dados (duas subpopulações genuinamente distintas) em relação à suposição do modelo (uma única forma Gaussiana), não sobre nenhum domínio específico. Misturar perfis de cliente muito diferentes é a mesma estrutura de dados problemática, em outro domínio.
  • ✗ Falso — Um cálculo ser matematicamente bem-sucedido (produzir números válidos) não garante que o resultado seja uma descrição útil ou confiável da realidade — os dois são propriedades independentes. O ajuste “funciona” e, mesmo assim, a descrição resultante pode mentir sobre a forma real dos dados.
NotaTeste 12 — Outliers no ajuste e ponte para a Aula 2
  • □ Se os outliers estivessem presentes apenas no conjunto de teste (pontos novos avaliados), mas não no conjunto usado para ajustar \(\hat{\boldsymbol\mu}\) e \(\hat\Sigma\), o efeito de outliers deslocarem a média e inflarem a covariância estimadas não ocorreria.
  • □ No caso-limite em que só um único ponto do conjunto de ajuste é um outlier extremo, entre milhares de pontos típicos, o efeito desse único ponto sobre \(\hat{\boldsymbol\mu}\) e \(\hat\Sigma\) tenderia a ser desprezível, na ordem apenas de \(\mathcal{O}(1/N)\).
  • □ A Aula 2 relaxa a suposição de forma única (Gaussiana) usando \(k\)-NN e KDE, mas essa mudança, por si só, não resolve o problema de outliers no ajuste — a mesma vulnerabilidade a outliers poderia, em princípio, aparecer também em estimadores não-paramétricos de densidade, não sendo uma exclusividade do modelo Gaussiano.
  • □ Como a Aula 2 vai abandonar a suposição de forma paramétrica (Gaussiana), isso significa que ela também vai automaticamente resolver o problema da maldição da dimensionalidade que a exigência de \(N>d\) para a invertibilidade de \(\hat\Sigma\) (vista acima) já anunciou.
Dica(Resposta) Teste 12 — Outliers no ajuste e ponte para a Aula 2
  • ✔ Verdadeiro — O mecanismo do problema é específico: outliers no conjunto de ajuste deslocam a média e inflam a covariância estimadas, porque essas estatísticas são calculadas a partir desses mesmos pontos. Um outlier avaliado como ponto de teste, depois do ajuste já ter sido feito com dados limpos, não influencia \(\hat{\boldsymbol\mu}\) e \(\hat\Sigma\) — ele só seria (corretamente) classificado como atípico pelo modelo já ajustado.
  • ✗ Falso — \(\hat{\boldsymbol\mu}\) é uma média sobre \(N\) pontos — a contribuição de um único ponto para uma média de \(N\) termos escala como \(\|x-\mu\|/N\), e não apenas \(1/N\). Com \(N\) da ordem de milhares, o efeito de um único outlier escala linearmente com a distância, tornando-se arbitrariamente relevante se nenhuma suposição sobre \(\|x-\mu\|\) for feita.
  • ✔ Verdadeiro — O problema de outliers é um problema de robustez, não algo intrinsecamente ligado à forma paramétrica Gaussiana. Abandonar a suposição de forma (o que a Aula 2 faz) ataca um problema diferente (a rigidez da forma funcional); a robustez a outliers é uma questão ortogonal, que também pode afetar estimadores não-paramétricos que dependem da posição bruta de todos os pontos.
  • ✗ Falso — Abandonar a suposição de forma paramétrica troca um problema (a forma pode estar errada) por outro (a maldição da dimensionalidade aparece de um jeito diferente, não paramétrico) — não elimina a dificuldade, só muda sua natureza. O preço dessa liberdade é justamente a maldição da dimensionalidade, tratada na Aula 2.