---
title: ViTViz
emoji: 👁️
colorFrom: indigo
colorTo: purple
sdk: docker
app_port: 7860
pinned: false
---

# ViTViz

Instrumento interativo de leitura de atenção em Vision Transformers sob ataque
adversarial. Escolha um modelo, uma imagem e um ataque; a ferramenta mostra para
onde a atenção olhava, para onde passou a olhar, e o quanto isso é muito ou pouco
para aquela combinação.

A agregação da atenção é uma escolha explícita: GAE, ancorado numa classe, e
Attention Rollout, agnóstico a classe, alternam no mesmo painel. Eles discordam
com frequência, e a ferramenta existe em boa parte para deixar isso visível.

Níveis de deslocamento não são comparáveis entre operadores, porque eles
normalizam o mapa de formas diferentes. Percentis são, e é por isso que toda
métrica de atenção aparece com o seu percentil dentro da distribuição de
referência do próprio operador.