Pular para o conteúdo
</> Entendendo Algoritmos

Filtro de spam: Naive Bayes

O livro apresenta o Naive Bayes como um classificador simples e eficaz, usado em filtros de spam. Ele conta quantas vezes cada palavra aparece em mensagens de spam e em mensagens normais e, para uma mensagem nova, combina as probabilidades de todas as suas palavras. É "ingênuo" porque trata as palavras como se fossem independentes umas das outras.

Explicação do algoritmo: escolha um nível para ler.

{ }Ver o código
const tokenizar = (texto) =>
  texto.toLowerCase().split(/[^\p{L}]+/u).filter((p) => p.length >= 2);

function treinar(mensagens) {
  const m = { spam: {}, normal: {}, totalSpam: 0, totalNormal: 0, nSpam: 0, nNormal: 0, vocabulario: new Set() };

  for (const { texto, spam } of mensagens) {
    const contagem = spam ? m.spam : m.normal;
    spam ? m.nSpam++ : m.nNormal++;
    for (const p of tokenizar(texto)) {
      contagem[p] = (contagem[p] ?? 0) + 1;
      spam ? m.totalSpam++ : m.totalNormal++;
      m.vocabulario.add(p);
    }
  }
  return m;
}

function chanceDeSpam(m, mensagem) {
  const palavras = tokenizar(mensagem).filter((p) => m.vocabulario.has(p));
  const v = m.vocabulario.size;
  let logSpam = Math.log(m.nSpam / (m.nSpam + m.nNormal));     // ponto de partida
  let logNormal = Math.log(m.nNormal / (m.nSpam + m.nNormal));

  for (const p of palavras) {
    // suavização de Laplace: soma 1 para nenhuma palavra zerar a conta
    logSpam += Math.log(((m.spam[p] ?? 0) + 1) / (m.totalSpam + v));
    logNormal += Math.log(((m.normal[p] ?? 0) + 1) / (m.totalNormal + v));
  }

  return 1 / (1 + Math.exp(logNormal - logSpam));   // logaritmos → probabilidade
}
Classificação
Spam
Chance de spam
99,9%
Palavras conhecidas
6 de 6
NormalSpam

Antes de ler a mensagem, o filtro já parte de 50,0% de chance de spam, a proporção de spam no treino.

PalavraP(palavra | spam)P(palavra | normal)Puxa para
clique0,0470,012spam
aqui0,0350,012spam
ganhe0,0350,012spam
um0,0230,012spam
prêmio0,0470,012spam
grátis0,0470,012spam

Mensagens usadas no treino

14 mensagens inventadas para este exemplo; o vocabulário tem 49 palavras distintas. Palavras que não aparecem aqui são ignoradas, e a probabilidade usa suavização de Laplace (soma 1 a cada contagem) para nenhuma classe zerar o resultado.

Spam
  • ganhe dinheiro rápido agora
  • promoção imperdível clique aqui e ganhe prêmio
  • você ganhou um prêmio grátis clique agora
  • dinheiro fácil oferta grátis
  • compre agora promoção desconto grátis
  • clique aqui para receber seu prêmio
  • oferta imperdível desconto exclusivo agora
Normal
  • reunião amanhã às dez na sala
  • segue o relatório do projeto em anexo
  • vamos almoçar amanhã com a equipe
  • o documento está em anexo para revisão
  • confirmo a reunião de segunda
  • obrigado pelo envio do relatório
  • podemos conversar sobre o projeto amanhã