Filtro de spam: Naive Bayes
O livro apresenta o Naive Bayes como um classificador simples e eficaz, usado em filtros de spam. Ele conta quantas vezes cada palavra aparece em mensagens de spam e em mensagens normais e, para uma mensagem nova, combina as probabilidades de todas as suas palavras. É "ingênuo" porque trata as palavras como se fossem independentes umas das outras.
Explicação do algoritmo: escolha um nível para ler.
{ }Ver o código
const tokenizar = (texto) =>
texto.toLowerCase().split(/[^\p{L}]+/u).filter((p) => p.length >= 2);
function treinar(mensagens) {
const m = { spam: {}, normal: {}, totalSpam: 0, totalNormal: 0, nSpam: 0, nNormal: 0, vocabulario: new Set() };
for (const { texto, spam } of mensagens) {
const contagem = spam ? m.spam : m.normal;
spam ? m.nSpam++ : m.nNormal++;
for (const p of tokenizar(texto)) {
contagem[p] = (contagem[p] ?? 0) + 1;
spam ? m.totalSpam++ : m.totalNormal++;
m.vocabulario.add(p);
}
}
return m;
}
function chanceDeSpam(m, mensagem) {
const palavras = tokenizar(mensagem).filter((p) => m.vocabulario.has(p));
const v = m.vocabulario.size;
let logSpam = Math.log(m.nSpam / (m.nSpam + m.nNormal)); // ponto de partida
let logNormal = Math.log(m.nNormal / (m.nSpam + m.nNormal));
for (const p of palavras) {
// suavização de Laplace: soma 1 para nenhuma palavra zerar a conta
logSpam += Math.log(((m.spam[p] ?? 0) + 1) / (m.totalSpam + v));
logNormal += Math.log(((m.normal[p] ?? 0) + 1) / (m.totalNormal + v));
}
return 1 / (1 + Math.exp(logNormal - logSpam)); // logaritmos → probabilidade
}Classificação
Spam
Chance de spam
99,9%
Palavras conhecidas
6 de 6
NormalSpam
Antes de ler a mensagem, o filtro já parte de 50,0% de chance de spam, a proporção de spam no treino.
| Palavra | P(palavra | spam) | P(palavra | normal) | Puxa para |
|---|---|---|---|
| clique | 0,047 | 0,012 | spam |
| aqui | 0,035 | 0,012 | spam |
| ganhe | 0,035 | 0,012 | spam |
| um | 0,023 | 0,012 | spam |
| prêmio | 0,047 | 0,012 | spam |
| grátis | 0,047 | 0,012 | spam |
Mensagens usadas no treino
14 mensagens inventadas para este exemplo; o vocabulário tem 49 palavras distintas. Palavras que não aparecem aqui são ignoradas, e a probabilidade usa suavização de Laplace (soma 1 a cada contagem) para nenhuma classe zerar o resultado.
Spam
- ganhe dinheiro rápido agora
- promoção imperdível clique aqui e ganhe prêmio
- você ganhou um prêmio grátis clique agora
- dinheiro fácil oferta grátis
- compre agora promoção desconto grátis
- clique aqui para receber seu prêmio
- oferta imperdível desconto exclusivo agora
Normal
- reunião amanhã às dez na sala
- segue o relatório do projeto em anexo
- vamos almoçar amanhã com a equipe
- o documento está em anexo para revisão
- confirmo a reunião de segunda
- obrigado pelo envio do relatório
- podemos conversar sobre o projeto amanhã