Bolt et DeepSeek en local

Boras72

Boras72

Jan 31, 2025

2 min read

Voici un résumé des points clés de la vidéo :

Présentation de Bolt

  • Bolt : plateforme de programmation et développement utilisant des modèles d’intelligence artificielle (IA).

  • Fonctionne principalement avec le modèle Cloud 3.5 Sonnet par défaut.

  • Deux configurations possibles : en ligne ou en local.

  • Bolt peut être utilisé pour coder et interagir avec des modèles IA en local ou via des API externes.

Raisons d’installer Bolt en local

  1. Réduction des coûts :

    • En ligne, l’utilisation de tokens peut devenir coûteuse (ex. : 50 $/mois ou plus selon l’usage).

    • Installer en local réduit ces frais en limitant l’achat de tokens.

  2. Flexibilité et compatibilité avec d’autres modèles IA :

    • Bolt peut se connecter à des modèles IA via des API (OpenAI) ou installations locales (opensources) comme OpenAI, Mistral, Llama, et DeepSeek.

    • Certains modèles ou API sont gratuits.

Fonctionnement de Bolt en local

  • Ressources requises :

    • Nécessite une machine puissante pour exécuter des modèles localement.

    • Peut être connecté à des API externes pour réduire les besoins matériels.

  • Bolt DIY :

    • Projet open source permettant d’exécuter Bolt localement.

    • Fonctionne avec n’importe quel modèle IA grâce à des connexions API ou à des modèles locaux.

Installation de Bolt DIY

  1. Téléchargement du code source de Bolt DIY (logiciel fork).

  2. Configuration possible avec des outils comme Docker.

  3. Documentation complète et étapes d’installation disponibles pour :

    • Windows : inclut l’installation de Microsoft Visual C++.

    • Mac/Linux : processus légèrement différent.

Avantages de Bolt DIY

  • Compatible avec tous les modèles LLM (Large Language Models).

  • Mise à jour active et régulière.

  • Interface simple avec options pour sélectionner et connecter des modèles IA.

Ressources supplémentaires

  • Une page Notion détaillée avec des instructions pas à pas (Mac et Windows) est disponible, avec un lien partagé dans la description.

Étapes:

  1. Préparation de l'environnement d'installation

    • Installation de Homebrew (Mac), Node.js, et pnpm pour préparer le système .

    • Utilisation de commandes spécifiques pour configurer les dépendances.

  2. Configuration et lancement de Bolt

    • Installation et configuration sur le localhost.

  3. Connexion au modèle IA Deepseek

    • Exemple : DeepSeek R1 en mode "codeur".

    • Ce modèle est très performant et reste très abordable.

  4. Utilisation optionnelle de Bolt et DeepSeek

    • Utilisation d’outils comme LLM Studio pour tester et gérer plusieurs architectures IA.

    • LLM Studio peut être utilisé en application ou être intégré à Bolt.

  5. Recommandations matérielles (23:00)

    • Nécessité de configurations avec au moins 16 Go de RAM et une carte graphique performante (Nvidia RTX 3090 avec 12 Go VRAM).

Comments

Add a comment