Regressão de melhores subconjuntos (Best Subsets)

A regressão de melhores subconjuntos (Best Subsets Regression) ajusta modelos de mínimos quadrados ordinários para todos os subconjuntos de preditores livres, podendo forçar alguns em todos os modelos, e mostra de um a cinco melhores modelos de cada tamanho. Cada linha traz R-Sq, R-Sq(adj), R-Sq(pred), Cp de Mallows e S, com PRESS, AICc, BIC e VIF opcionais. Use-a no início para pré-selecionar preditores e depois ajuste o modelo escolhido com Fit Regression Model.

Última revisão

Conclusão principal

A regressão de melhores subconjuntos ajusta uma regressão linear para cada combinação de preditores candidatos e lista os melhores modelos de cada tamanho, ajudando a achar o menor conjunto que explica a maior parte da variação da resposta.

Nesta página
  1. Finalidade
  2. Principais recursos
  3. Métodos estatísticos
  4. Campos de entrada e opções
  5. Descrição da saída
  6. Exemplo prático

Finalidade

A regressão de melhores subconjuntos (Best Subsets Regression) ajusta uma regressão linear para cada combinação dos preditores candidatos e lista lado a lado os melhores modelos de cada tamanho. Use-a no início de um estudo, quando houver vários possíveis ajustes de processo e você quiser o menor conjunto que explique a maior parte da variação da resposta, antes de ajustar o modelo escolhido em detalhe com Fit Regression Model.

Principais recursos

  • Ajusta todos os subconjuntos dos preditores livres, do número mínimo ao máximo definido.
  • Mostra de um a cinco melhores modelos de cada tamanho, classificados por R-Sq.
  • Informa R-Sq, R-Sq(adj), R-Sq(pred), Cp de Mallows e S para cada modelo, com PRESS, AICc e BIC sob demanda.
  • Predictors in all models: force variáveis que você sabe serem importantes em todos os subconjuntos.
  • As tabelas aprimoradas (Enhanced) acrescentam o fator de inflação da variância (VIF) de cada preditor em cada modelo, para identificar preditores correlacionados.
  • Modelo com ou sem intercepto.

Métodos estatísticos

As linhas com valor ausente ou não numérico na resposta ou em qualquer preditor selecionado são descartadas. Para cada tamanho de subconjunto, do mínimo ao máximo, a ferramenta ajusta um modelo de mínimos quadrados ordinários para cada combinação desse número de preditores livres (mais os preditores forçados), classifica-os por R-Sq e mantém os melhores modelos de cada tamanho. Com p preditores livres há 2ᵖ − 1 subconjuntos, de modo que cada candidato adicionado dobra o número de ajustes.

Para um modelo com k coeficientes (incluindo a constante) ajustado a n linhas: S = √MSE; o R-Sq(adj) corrige o R-Sq pelo número de termos; PRESS = Σ (eᵢ / (1 − hᵢ))², a soma dos quadrados dos erros de predição leave-one-out (exclusão de uma observação) usando as alavancagens hᵢ; R-Sq(pred) = 1 − PRESS / SS Total. Cp de Mallows = SSE / MSE(full) − (n − 2k), em que MSE(full) é o quadrado médio do erro do modelo com todos os preditores; um modelo com pouco vício tem Cp próximo de k, e o modelo completo sempre tem Cp = k. AICc = −2 log L + 2(k+1) + 2(k+1)(k+2)/(n − k − 2) e BIC = −2 log L + (k+1) ln n, contando σ como parâmetro; quanto menor, melhor para PRESS, AICc e BIC.

Procure o modelo em que R-Sq(adj) e R-Sq(pred) deixam de aumentar, Cp é próximo do número de coeficientes e S é pequeno. Uma grande diferença entre R-Sq e R-Sq(pred) alerta para sobreajuste. A regressão de melhores subconjuntos apenas compara ajustes: verifique os resíduos e os coeficientes do modelo escolhido em Fit Regression Model.

Campos de entrada e opções

Campo

Descrição

Response (Y)

Coluna numérica a ser explicada. Obrigatório.

Free predictors

Preditores candidatos numéricos; todas as combinações são testadas. Obrigatório. Ctrl ou Command + clique para selecionar vários.

Predictors in all models (optional)

Preditores numéricos incluídos em todos os modelos. Não podem ser também preditores livres.

Models of each size to display

Quantos dos melhores modelos de cada tamanho são listados, de 1 a 5. Padrão: 2.

Display PRESS / Display AICc / Display BIC

Acrescentam essas colunas à tabela. Desativado por padrão.

Free Predictors: Minimum / Maximum

Menor e maior número de preditores livres em um modelo. Padrão: de 1 até todos.

Fit intercept

Marcado por padrão. Desmarque para ajustar modelos passando pela origem (o R-Sq passa então a ser não centrado).

Display of results

Tabelas simples (Simple, padrão) ou aprimoradas (Enhanced), que acrescentam uma coluna de VIF para cada preditor.

best-subsets-regression-inputs


Figura 1 — Opções do exemplo da barrilha: NaCl_Conversion_pct como resposta, os três ajustes de processo como preditores livres, com PRESS, AICc e BIC exibidos.

Descrição da saída

  • Linha Response — nomeia a resposta e os preditores forçados em todos os modelos.
  • Tabela Best Subsets Results — uma linha por modelo: Vars (número de preditores livres), R-Sq, R-Sq(adj), R-Sq(pred), Cp de Mallows, S, PRESS, AICc e BIC opcionais, e um X sob cada preditor do modelo; com tabelas aprimoradas, o VIF de cada preditor do modelo.
  • Exportação em PDF por meio de Download.

best-subsets-regression-output


Figura 2 — Resultados de melhores subconjuntos para a conversão de NaCl: o modelo com três preditores tem R-Sq 86.25%, R-Sq(pred) 83.01%, Cp 4 e S 0.6385.

Exemplo prático

Uma fábrica de barrilha (carbonato de sódio) quer saber quais ajustes de processo explicam a conversão diária de NaCl (%). Ao longo de 36 dias de produção, a equipe registra a concentração de NaCl na salmoura (Brine_NaCl_gpl), a razão molar NH3/NaCl (NH3_Ratio) e a temperatura do fundo da torre de carbonatação (Carb_Temp_C). Selecionam NaCl_Conversion_pct como resposta e os três ajustes como preditores livres, mantêm dois modelos de cada tamanho e marcam Display PRESS, AICc e BIC.

Isoladamente, a razão de NH3 é o melhor preditor único, mas explica apenas 50.48% da variação (Cp 83.22). Ao acrescentar a temperatura de carbonatação, o R-Sq sobe para 80.78% e o S cai de 1.1753 para 0.7432 ponto percentual, mas o Cp ainda é 14.72, bem acima dos 3 coeficientes desse modelo, então algo está faltando. Com os três ajustes, o R-Sq é 86.25%, o R-Sq(pred) 83.01%, o S 0.6385, e PRESS, AICc e BIC são os menores da tabela (16.1081, 77.62 e 83.53). A pequena diferença entre R-Sq e R-Sq(pred) mostra que o modelo não está sobreajustado.

A equipe mantém os três ajustes e os ajusta com Fit Regression Model. Ao marcar Enhanced tables, os VIFs ficam entre 1.01 e 1.03, de modo que os três ajustes não variaram em conjunto e cada efeito pode ser lido isoladamente.

Perguntas frequentes

O que é regressão de melhores subconjuntos?

A regressão de melhores subconjuntos ajusta uma regressão linear para cada combinação dos preditores candidatos e lista lado a lado os melhores modelos de cada tamanho, classificados por R-Sq. É usada no início de um estudo para encontrar o menor conjunto de preditores, como ajustes de processo, que explica a maior parte da variação da resposta.

Como escolher o melhor modelo na saída da regressão de melhores subconjuntos?

Procure o modelo em que R-Sq(adj) e R-Sq(pred) deixam de aumentar, o Cp de Mallows é próximo do número de coeficientes e o S é pequeno. Quanto menores PRESS, AICc e BIC, melhor. Uma grande diferença entre R-Sq e R-Sq(pred) alerta para sobreajuste. Depois, verifique os resíduos e os coeficientes do modelo escolhido em Fit Regression Model.

O que significa o Cp de Mallows na regressão de melhores subconjuntos?

O Cp de Mallows compara o erro de um modelo com o do modelo completo, com todos os preditores. Um modelo com pouco vício tem Cp próximo de k, seu número de coeficientes incluindo a constante, e o modelo completo sempre tem Cp igual a k. Um Cp bem acima de k, como 14.72 para um modelo de 3 coeficientes no exemplo, sugere que falta um preditor importante.

Quantos modelos a regressão de melhores subconjuntos ajusta?

Com p preditores livres há 2 elevado a p menos 1 subconjuntos, de modo que cada preditor candidato adicionado dobra o número de ajustes. Você pode limitar o número mínimo e máximo de preditores livres por modelo, forçar preditores conhecidos em todos os modelos e escolher quantos dos melhores modelos de cada tamanho exibir, de 1 a 5.