Como executar o DeepSeek R1 localmente com Ollama

100.1K views
•
January 28, 2025
by
Sandeco
YouTube video player
Como executar o DeepSeek R1 localmente com Ollama

TL;DR

Instale o Ollama, escolha uma versão do DeepSeek R1 compatível com a memória disponível e execute o comando exibido na página do modelo. No exemplo, a versão de 14 bilhões de parâmetros ocupa cerca de 9 GB e funciona em uma máquina com 16 GB de memória, permitindo consultas locais mesmo sem internet.

Transcript

um verdadeiro terremoto aconteceu no mundo da Inteligência Artificial ontem ontem eu fiz uma live bacana para caramba vou deixar aqui para vocês no card aqui em cima sobre o deeps né mostrando sobre as configurações algumas coisas interessantes na Live eu mostrei como instalar o di psic localmente mas eu vou fazer uma coisa específica para vocês aq... Read More

Key Insights

  • O Ollama permite baixar e executar o DeepSeek R1 localmente usando um único comando no terminal.
  • A memória disponível é o principal fator apresentado para escolher qual variante do modelo executar.
  • A versão demonstrada possui 14 bilhões de parâmetros e ocupa aproximadamente 9 GB de armazenamento.
  • O modelo de 14 bilhões de parâmetros foi executado em uma máquina equipada com 16 GB de memória.
  • O uso de memória chegou a 86% durante o carregamento do modelo junto com outros programas abertos.
  • A página do Ollama oferece variantes do DeepSeek R1 entre 1,5 bilhão e 671 bilhões de parâmetros.
  • O comando de execução também inicia o download automaticamente quando o modelo ainda não está instalado.
  • A execução local permite usar o modelo sem internet e sem enviar as perguntas para um serviço externo.

Explore YouTube Video Summarizer or Get YouTube Transcript Extractor

Questions & Answers

Q: Como instalar e executar o DeepSeek R1 localmente com o Ollama?

Acesse o site do Ollama, abra a área de downloads e instale o programa no computador seguindo o instalador. Depois, entre na seção de modelos, selecione o DeepSeek R1 e escolha a variante adequada, como a de 14 bilhões de parâmetros usada na demonstração. Copie o comando fornecido pela página, abra o prompt de comando do Windows ou um terminal no Linux e cole esse comando. Não é necessário executar uma instrução separada para baixar o modelo, pois o próprio comando de execução inicia o download e, quando ele termina, carrega o modelo para uso.

Q: Quanta memória é necessária para executar o DeepSeek R1 de 14 bilhões de parâmetros?

Na demonstração, o DeepSeek R1 de 14 bilhões de parâmetros funciona em um computador com 16 GB de memória. O arquivo do modelo ocupa aproximadamente 9 GB e precisa ser carregado na memória para ser executado. Durante o teste, com outros programas ainda abertos, o uso total chegou a 86%. O apresentador também fechou o navegador para reduzir o consumo. Esse exemplo mostra que a variante pode funcionar nessa configuração específica, mas a escolha deve considerar tanto o tamanho do arquivo quanto a memória já utilizada pelo sistema e por outros aplicativos.

Q: Como escolher a variante correta do DeepSeek R1 para o computador?

A escolha deve partir principalmente da quantidade de memória disponível na máquina, segundo a explicação apresentada. A página do Ollama lista versões com 1,5 bilhão, 7 bilhões, 8 bilhões, 14 bilhões, 32 bilhões, 70 bilhões e 671 bilhões de parâmetros. Variantes maiores exigem mais recursos para carregar o arquivo do modelo na memória. A demonstração seleciona a versão de 14 bilhões de parâmetros, que possui um arquivo de cerca de 9 GB e foi executada com 16 GB de memória. Por padrão, a página mostrada estava configurada para a versão de 7 bilhões.

Q: É necessário baixar o DeepSeek R1 antes de executar o comando?

Não é necessário usar primeiro um comando exclusivo de download. Depois de instalar o Ollama, o usuário pode copiar o comando de execução exibido na página do DeepSeek R1 e colá-lo diretamente no terminal. Conforme a demonstração, essa mesma instrução baixa o arquivo quando ele ainda não está presente e depois inicia o modelo. O procedimento reduz a instalação a poucas etapas: instalar o Ollama, selecionar a quantidade de parâmetros, copiar o comando correspondente e executá-lo. Após o download, o modelo é carregado na memória e fica disponível para receber perguntas no próprio prompt.

Q: Quais variantes do DeepSeek R1 aparecem na página do Ollama?

A página apresentada lista variantes com 1,5 bilhão, 7 bilhões, 8 bilhões, 14 bilhões, 32 bilhões, 70 bilhões e 671 bilhões de parâmetros. O site seleciona inicialmente a opção de 7 bilhões, mas o apresentador altera essa escolha para 14 bilhões antes de copiar o comando. A quantidade de parâmetros é usada como referência para diferenciar o tamanho e a capacidade das versões. Segundo a explicação, modelos com menos parâmetros tendem a ter maior dificuldade para produzir respostas assertivas, enquanto versões maiores demandam mais memória e recursos para serem carregadas e executadas localmente.

Q: O DeepSeek R1 pode funcionar localmente sem conexão com a internet?

Depois que o Ollama e o arquivo do modelo já foram baixados, o DeepSeek R1 pode ser executado localmente sem conexão com a internet, conforme a demonstração. As perguntas são processadas na própria máquina, sem a necessidade de enviá-las a um serviço remoto. O apresentador destaca essa característica como relevante para quem se preocupa com dados internos ou informações sensíveis. A conexão ainda é necessária na etapa inicial de obtenção do Ollama e do modelo, mas o uso posterior pode ocorrer fora da internet, desde que os arquivos estejam instalados e a máquina disponha de memória suficiente.

Q: Como o DeepSeek R1 apresenta o raciocínio e a resposta no terminal?

Ao receber uma pergunta, o modelo primeiro mostra uma etapa identificada como pensamento, descrita na demonstração como cadeia de pensamento. Durante esse período, ele prepara o conteúdo que será apresentado ao usuário. Em seguida, entrega a resposta final no próprio terminal. O teste usa uma pergunta sobre o Vasco da Gama para mostrar esse comportamento e acompanhar o processamento. A resposta também aparece organizada em formato Markdown. A demonstração distingue explicitamente o texto exibido durante a etapa de pensamento da resposta final produzida após o término desse processamento.

Q: Qual foi a configuração usada para demonstrar o DeepSeek R1 local?

A demonstração foi feita em um computador com 16 GB de memória e uma placa de vídeo Nvidia 1060, conforme informado pelo apresentador. A variante escolhida foi o DeepSeek R1 de 14 bilhões de parâmetros, cujo arquivo possui aproximadamente 9 GB. Enquanto o modelo era carregado, o consumo total de memória chegou a 86%, mesmo com outros programas abertos. O navegador foi fechado para liberar recursos. O apresentador também menciona outra máquina com uma 4060 Ti e uma placa A100 com 80 GB usada na universidade, mas afirma que o teste mostrado ocorreu no computador com a 1060.

Summary & Key Takeaways

  • O Ollama simplifica a instalação local do DeepSeek R1: após instalar o programa, basta acessar a página de modelos, selecionar a variante desejada e copiar o comando correspondente para o terminal.

  • A escolha da variante depende principalmente da memória disponível. A demonstração usa o modelo de 14 bilhões de parâmetros, cujo arquivo tem cerca de 9 GB, em um computador equipado com 16 GB de memória.

  • Depois do download e carregamento, o DeepSeek R1 recebe perguntas diretamente pelo prompt e exibe seu processo de pensamento antes da resposta. A execução local também evita o envio das consultas para um serviço externo.


Read in Other Languages (beta)

Share This Summary 📚

Explore More Summaries from Sandeco 📚