Como aplicar gradiente a várias variáveis em Python

4.4K views
•
September 30, 2018
by
Sandeco
YouTube video player
Como aplicar gradiente a várias variáveis em Python

TL;DR

O gradiente descendente ajusta os pesos de várias variáveis ao calcular previsões, comparar seus resultados com os valores reais e atualizar os parâmetros repetidamente. Na implementação em Python, os dados de apartamentos passam por padronização com média e desvio padrão, recebem uma coluna de uns e alimentam operações vetorizadas. O custo baseado no erro quadrático médio permite acompanhar a queda do erro durante as épocas.

Transcript

[Música] [Música] uau o bom dia boa tarde boa noite pra você onde você estiver assistindo mais um vídeo do canal são deco e hoje nós vamos ver gradiente descendente aplicado há múltiplas variáveis muito legal velho antes de começar quero te falar que você pode acessar esse código do meio bit hang que teve ponto com barras andré kuhn eo link para a ... Read More

Key Insights

  • Os dados de apartamentos incluem tamanho, quartos e preço, com valores em escalas diferentes.
  • A padronização usa média e desvio padrão para criar um novo conjunto de dados normalizado.
  • O vetor de pesos começa com valores aleatórios entre 0 e 1 para os parâmetros do exemplo.
  • Uma coluna de uns representa x0 e é concatenada às características antes do treinamento.
  • A hipótese é calculada pelo produto de X pelos pesos transpostos, usando uma operação NumPy.
  • O erro resulta da diferença entre a hipótese calculada e os valores originais do alvo y.
  • A atualização dos pesos utiliza alfa, a quantidade de observações e a soma dos produtos do erro por X.
  • O histórico de custos permite visualizar a queda do erro durante as épocas de treinamento.

Explore YouTube Video Summarizer or Get YouTube Transcript Extractor

Questions & Answers

Q: Como aplicar gradiente descendente a múltiplas variáveis em Python?

A implementação começa pela leitura dos dados de apartamentos e pelo pré-processamento dos valores com média e desvio padrão. Em seguida, separa as características dos valores do alvo, inicializa o vetor de pesos e acrescenta uma coluna de uns às características. A função de treinamento recebe os pesos, X, y, alfa e a quantidade de épocas. Em cada repetição, calcula a hipótese, obtém o erro e atualiza todos os pesos com operações vetorizadas. Também registra o custo ao longo das épocas e retorna os pesos ajustados junto com esse histórico.

Q: Por que padronizar os dados antes de executar o gradiente descendente?

A padronização é motivada pelas diferenças entre os valores das colunas do conjunto de apartamentos. O exemplo apresenta tamanho, quantidade de quartos e preço, e destaca especialmente a discrepância entre as características usadas no treinamento. Para preparar esses dados, aplica um procedimento chamado standard score, baseado na média e no desvio padrão, que gera um novo conjunto de dados normalizado. Depois desse pré-processamento, as características e o alvo são extraídos para a implementação do gradiente descendente. A demonstração também exibe as primeiras linhas para conferir os dados preparados.

Q: Como criar a coluna x0 usada no treinamento com múltiplas variáveis?

A coluna x0 é criada com valores iguais a um e acrescentada às características que já foram extraídas do conjunto de dados. A demonstração organiza essa preparação em uma função: ela cria a coluna de uns, concatena essa coluna com as características anteriores e devolve o resultado. Esse conjunto passa a ser usado como X na chamada do gradiente descendente. O vetor de pesos apresentado inclui w0, w1 e w2, e a preparação de x0 é retomada antes da execução do treinamento, conectando a implementação ao algoritmo discutido na teoria.

Q: Como calcular a hipótese e o erro no gradiente descendente apresentado?

A hipótese é calculada a partir do produto de X pelos pesos transpostos. Na implementação apresentada, essa operação usa np.dot, e a transposição dos pesos é expressa com w.T. Depois de obter a hipótese, o código subtrai os valores originais armazenados em y para calcular o erro. Esse resultado participa tanto da atualização dos parâmetros quanto do cálculo do custo. Na atualização, o erro é multiplicado pelas características e somado; na função de custo, os erros são elevados ao quadrado e reunidos em um somatório dividido pela quantidade de observações.

Q: Como atualizar todos os pesos usando operações vetorizadas?

A atualização começa pelo cálculo do erro, definido como a hipótese menos os valores originais de y. O código multiplica esse erro por X e realiza um somatório com np.sum, usando axis=0 para somar ao longo das linhas. O resultado é multiplicado por alfa dividido pela quantidade de observações em X, formando o ajuste aplicado aos pesos. A demonstração ressalta que os parâmetros são atualizados de uma vez só. Depois de apresentar as etapas separadamente, reúne o cálculo em uma linha para aproximar a escrita do código da expressão do algoritmo.

Q: Como calcular o custo baseado no erro quadrático médio?

A função de custo recebe os pesos, as características X e os valores do alvo y. Primeiro, determina a quantidade de observações em X. Em seguida, calcula a hipótese e subtrai os valores originais de y para obter o erro. Esses erros são elevados ao quadrado, somados e divididos pela quantidade de observações. A demonstração identifica esse cálculo como baseado no erro quadrático médio. A função é chamada durante o treinamento para registrar a evolução do custo e novamente após o ajuste dos pesos para verificar o custo final do exemplo.

Q: Para que serve registrar o custo durante as épocas de treinamento?

O registro do custo permite verificar sua queda ao longo das repetições do gradiente descendente. A função de treinamento cria inicialmente um vetor de custos com tamanho correspondente à quantidade de épocas e preenche esse vetor durante a execução. Ao terminar, devolve tanto os pesos ajustados quanto o histórico de custos. A demonstração utiliza esse histórico em uma visualização que mostra a redução do custo ao longo das operações. Além desse acompanhamento, calcula o custo final com os pesos obtidos e apresenta os valores dos parâmetros ajustados para o problema de apartamentos.

Q: Como organizar as entradas e os resultados da função de gradiente descendente?

A função de gradiente descendente recebe w, X, y, alfa e a quantidade de épocas. Os pesos w são inicializados com valores aleatórios entre zero e um, enquanto X contém as características acrescidas da coluna x0 e y reúne os valores do alvo. Antes da chamada, a demonstração prepara essas entradas e define os parâmetros de execução. Dentro da função, um laço realiza as atualizações e registra os custos. O retorno reúne os pesos finais e o histórico de custos, utilizados depois para calcular o custo final, visualizar sua evolução e exibir os parâmetros encontrados.

Summary & Key Takeaways

  • O exemplo utiliza dados de apartamentos com tamanho, quartos e preço. O pré-processamento padroniza os valores com média e desvio padrão, pois as variáveis apresentam valores muito diferentes.

  • As características recebem uma coluna de uns para representar x0. A previsão usa o produto de X pelos pesos transpostos, e o erro orienta a atualização conjunta dos parâmetros em cada época.

  • A função de treinamento retorna pesos e histórico de custos. O custo soma os erros ao quadrado e divide pela quantidade de observações, permitindo visualizar sua queda ao longo das repetições.


Read in Other Languages (beta)

Share This Summary 📚

Explore More Summaries from Sandeco 📚