Como classificar estudantes com regressão logística

12.3K views
•
October 21, 2018
by
Sandeco
YouTube video player
Como classificar estudantes com regressão logística

TL;DR

A regressão logística usa a função sigmóide para transformar o resultado da regressão em uma probabilidade de pertencer à classe 1 e decidir a classificação com um limiar de 0,5. O exemplo em Python prevê a admissão de estudantes pelas notas de dois exames, com dados padronizados, treinamento por gradiente descendente e entropia cruzada binária como função de custo.

Transcript

[Música] [Música] bom dia boa tarde boa noite pra você onde você estiver agora assistindo mais um vídeo do canal san deco hoje é dia de python regressão logística em python vamos em frente e não se esqueça que todo este código e já está no meu kit rambi que você pode acessar um link na descrição embaixo beleza pois muito bem agora vou abrir aqui um... Read More

Key Insights

  • A base de admissão reúne notas de dois exames e um alvo que indica se cada estudante foi admitido.
  • A dispersão mostra admitidos em azul e não admitidos com marcas vermelhas para visualizar as classes.
  • A média e o desvio padrão do treinamento são guardados para padronizar as notas de novos estudantes.
  • A sigmóide transforma o resultado da regressão na probabilidade de uma observação pertencer à classe 1.
  • A entropia cruzada binária reúne parcelas associadas aos alvos iguais a 1 e iguais a 0.
  • O gradiente descendente recebe a sigmóide e a entropia cruzada binária na adaptação para classificação.
  • O estudante com notas 45 e 85 apresenta aproximadamente 70% de probabilidade de pertencer à classe 1.
  • Uma pequena alteração na nota pode mudar a classe prevista quando a probabilidade está próxima de 0,5.

Explore YouTube Video Summarizer or Get YouTube Transcript Extractor

Questions & Answers

Q: Como a regressão logística é aplicada à previsão de admissão de estudantes?

A regressão logística é aplicada usando as notas de dois exames como características e a informação de admissão como alvo. A base apresentada contém as colunas exame 1, exame 2 e admitido. Depois de visualizar a dispersão das classes, a implementação separa as características em X e o alvo em y, padroniza os dados e prepara os pesos do modelo. O treinamento combina a função sigmóide, a entropia cruzada binária e o gradiente descendente. Para um novo estudante, as notas passam pelo mesmo processamento antes de produzir a probabilidade e a classificação.

Q: Qual é o papel da função sigmóide na regressão logística?

A função sigmóide é apresentada como a função de ativação que permite aplicar a regressão a um problema de classificação. Ela recebe o resultado da regressão e retorna a probabilidade de pertencer à classe 1. Na implementação, sua operação é inicialmente verificada com uma distribuição de dados aleatórios. Depois, a sigmóide aparece no cálculo da função de custo, na adaptação do gradiente e na previsão dos estudantes. A classificação final depende da comparação dessa probabilidade com o limiar definido na função de previsão, cujo valor padrão apresentado é 0,5.

Q: Como padronizar os dados de treinamento e as notas de um novo estudante?

A padronização começa depois da separação entre as características e o alvo da base de admissão. A implementação utiliza uma ferramenta de padronização da biblioteca mencionada no tutorial para obter as características usadas no treinamento. Também guarda os vetores de média e desvio padrão, pois esses valores serão necessários nas classificações futuras. Quando recebe as notas de um novo estudante, aplica a mesma padronização feita anteriormente com os parâmetros guardados. Em seguida, insere a entrada x0 preenchida com 1 e utiliza os pesos treinados para calcular a probabilidade pela sigmóide.

Q: Como a entropia cruzada binária é construída no exemplo?

A entropia cruzada binária é construída como a função de custo da regressão logística. A implementação começa obtendo a quantidade de observações da base e calcula separadamente as duas partes da expressão apresentada. Uma parte é ativada quando o alvo y é igual a 1, enquanto a outra é ativada quando y é igual a 0. Nas duas partes, a previsão é obtida aplicando a sigmóide ao resultado da regressão. Por fim, a função soma as contribuições e divide o resultado pela quantidade de observações, retornando o custo utilizado no treinamento.

Q: Como adaptar o gradiente descendente para treinar a regressão logística?

A adaptação apresentada parte de uma implementação de gradiente descendente com múltiplas variáveis usada anteriormente na série. O tutorial reutiliza essa estrutura e acrescenta a aplicação da sigmóide ao resultado da regressão. Também substitui a função de custo anterior pela entropia cruzada binária, aproveitando que as entradas das funções são iguais na implementação mostrada. Para executar o treinamento, prepara a entrada x0, define alfa e a quantidade de repetições. Depois da execução, apresenta o comportamento de queda do custo e os valores finais do vetor de pesos w.

Q: Como o limiar de 0,5 determina a classe prevista?

O limiar de 0,5 é o valor padrão da função de previsão apresentada. Essa função recebe os pesos w, as características X e um parâmetro de limiar, que pode ser informado na chamada. A sigmóide calcula a probabilidade de o estudante pertencer à classe 1, e a função compara esse resultado com o limiar para retornar a classificação. No exemplo, uma probabilidade maior que 0,5 leva à classe 1, enquanto uma probabilidade menor leva à classe 0. O tutorial relaciona essas previsões à admissão ou à não admissão dos estudantes.

Q: Quais previsões são mostradas para estudantes com notas diferentes?

O primeiro estudante usado na demonstração recebe notas 45 e 85. Depois da padronização e da inclusão de x0, a sigmóide indica aproximadamente 70% de probabilidade de pertencer à classe 1, e a função de previsão confirma a admissão. Outro estudante recebe 90 nos dois exames e apresenta uma probabilidade bem maior de pertencer à classe 1, estando mais distante da fronteira de decisão. Já o estudante com 45 nos dois exames apresenta uma probabilidade pequena de pertencer à classe 1 e é associado à classe 0 no exemplo.

Q: Por que pequenas mudanças nas notas podem alterar a previsão de admissão?

Pequenas mudanças nas notas podem alterar a previsão quando o estudante está próximo da fronteira de decisão. A demonstração final procura um caso nessa região e mostra que a alteração de um ponto na nota já muda a classe prevista. Nesse exemplo, a probabilidade calculada fica muito próxima de 0,5, que é o limiar padrão utilizado pela função de previsão. Assim, a mudança nas notas pode levar o resultado para o outro lado do limiar. O tutorial descreve esse comportamento como uma situação em que o modelo fica indeciso em relação ao estudante.

Summary & Key Takeaways

  • A base de admissão contém notas de dois exames e o resultado de admissão. O processamento separa as características do alvo e guarda média e desvio padrão para padronizar também os novos estudantes.

  • A implementação combina sigmóide, entropia cruzada binária e gradiente descendente. O treinamento utiliza uma taxa de aprendizado e uma quantidade de repetições, exibindo o custo e os pesos finais.

  • A previsão usa um limiar padrão de 0,5. O estudante com notas 45 e 85 recebe aproximadamente 70% de probabilidade de admissão; perto da fronteira, uma pequena mudança na nota pode alterar a classe.


Read in Other Languages (beta)

Share This Summary 📚

Explore More Summaries from Sandeco 📚