Soluções — Aula 7: Autoencoders e VAEs

Aprendizado Não Supervisionado

Autor

Marcos M. Raimundo — Instituto de Computação, UNICAMP

Data de Publicação

5 de outubro de 2026

Dica

O gabarito comentado das questões de Verdadeiro/Falso está aqui. As questões discursivas não possuem gabarito publicado para incentivar a reflexão e a pesquisa.

Respostas de Verdadeiro/Falso

Teste 1 — Autoencoders Tradicionais

□ Um Autoencoder linear com gargalo \(M\) aprende o mesmo subespaço que a PCA.
□ A função de ativação ReLU impede que o AE aprenda a função identidade.
□ O objetivo principal de um AE é a modelagem da densidade de probabilidade dos dados.
□ A hipótese do manifold sugere que dados de alta dimensão residem em variedades de baixa dimensão.

(Resposta) Teste 1 — Autoencoders Tradicionais

✔ Verdadeiro — Provado na Aula 6.
✗ Falso — A ReLU não impede a identidade; o que impede é a restrição de dimensão (\(M < D\)) ou regularização.
✗ Falso — O AE tradicional aprende um mapeamento de reconstrução, não a densidade \(p(\mathbf{x})\).
✔ Verdadeiro — É a premissa básica para que a compressão faça sentido.

Teste 2 — Gap Generativo e VAE

□ O AE tradicional é um modelo generativo.
□ No VAE, o encoder mapeia a entrada para um ponto único no espaço latente.
□ A continuidade do espaço latente no VAE permite a interpolação suave entre amostras.
□ O decoder de um VAE é condicionado a amostras de uma distribuição latente.

(Resposta) Teste 2 — Gap Generativo e VAE

✗ Falso — O AE reconstrói, mas não sabe como amostrar novos dados de forma coerente.
✗ Falso — O encoder prevê os parâmetros (\(\boldsymbol\mu, \boldsymbol\sigma\)) de uma distribuição.
✔ Verdadeiro — A regularização KL força o preenchimento do espaço.
✔ Verdadeiro — O decoder aprende a mapear \(\mathbf{z} \sim \mathcal{N}(\mathbf{0}, \mathbf{I})\) para o espaço dos dados.

Teste 3 — ELBO e Regularização

□ O termo de reconstrução no ELBO do VAE busca maximizar a fidelidade do dado.
□ A Divergência KL força o espaço latente a se assemelhar a uma Gaussiana padrão.
□ Se o coeficiente \(\beta\) da KL for muito alto, o modelo tende a ignorar a entrada e gerar amostras borradas.
□ O ELBO é uma cota inferior para a evidência (log-verossimilhança marginal).

(Resposta) Teste 3 — ELBO e Regularização

✔ Verdadeiro — Minimiza o erro de reconstrução.
✔ Verdadeiro — Evita que os pontos se afastem demais ou fiquem isolados.
✔ Verdadeiro — O modelo prioriza a regularização sobre a fidelidade (colapso para a média).
✔ Verdadeiro — Definido na Aula 5.

Teste 4 — Reparameterization Trick

□ O truque da reparametrização move a estocasticidade para fora do grafo de computação da rede.
□ Sem o reparameterization trick, o gradiente do erro de reconstrução fluiria normalmente para o encoder.
□ A variável \(\boldsymbol\epsilon\) no truque da reparametrização deve ser amostrada de uma distribuição dependente de \(\mathbf{x}\).
□ O truque transforma a amostragem em uma operação determinística de soma e multiplicação.

(Resposta) Teste 4 — Reparameterization Trick

✔ Verdadeiro — Isola o ruído em \(\boldsymbol\epsilon\).
✗ Falso — A amostragem é um “bloqueio” para o gradiente.
✗ Falso — \(\boldsymbol\epsilon\) deve ser independente de \(\mathbf{x}\) (Gaussiana padrão).
✔ Verdadeiro — \(\mathbf{z} = \boldsymbol\mu + \boldsymbol\sigma \odot \boldsymbol\epsilon\).