> For the complete documentation index, see [llms.txt](https://docs.verge.io/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.verge.io/automate-protect-and-extend/fr/ia-privee/overview.md). # Présentation de l’IA privée VergeOS Private AI vous permet de déployer et d’exécuter des grands modèles de langage (LLM) localement dans votre environnement VergeOS. Les modèles fonctionnent entièrement sur votre infrastructure, sans aucun appel à une API externe ni transmission de données. ## Architecture Private AI se compose de cinq composants principaux : ```mermaid graph LR A[Application cliente] --> B[API compatible avec OpenAI] B --> C[Assistant] C --> D[Modèle] D --> E[Travailleur] ``` ### Modèles Les modèles sont les fichiers LLM qui fournissent des capacités d’IA. VergeOS prend en charge : * **Modèles sélectionnés**: Modèles préconfigurés disponibles pour une installation en un clic (Llama, Gemma, Phi, Qwen et autres) * **Modèles personnalisés**: Tout modèle au format GGUF provenant de Hugging Face ou d’autres sources Les modèles définissent les exigences en ressources (cœurs CPU, RAM, allocation GPU) et les paramètres d’inférence (taille du contexte, requêtes parallèles). ### Assistants Les assistants sont des instances configurées qui définissent comment les utilisateurs et les applications interagissent avec un modèle. Chaque assistant spécifie : * Quel modèle utiliser * Prompt système (instructions comportementales) * Température et autres paramètres de génération * Évaluation du contexte pour les scénarios RAG * Fichiers de l’espace de travail pour le contexte documentaire Plusieurs assistants peuvent utiliser le même modèle sous-jacent avec des configurations différentes. ### Workers Les workers sont les moteurs d’inférence qui exécutent les modèles. Le système gère deux types : * **AI-Helper Worker**: Gère les requêtes API et le routage (démarre automatiquement) * **Workers de modèles**: Exécutent l’inférence pour chaque modèle en cours d’exécution (mise à l’échelle automatique selon les paramètres de min/max workers) ### Sessions de chat Les sessions de chat conservent l’historique des conversations et le contexte. Les sessions peuvent être : * Créées via l’interface utilisateur VergeOS pour des tests interactifs * Gérées par programme via l’API pour l’intégration d’applications ### API compatible avec OpenAI L’API fournit des points de terminaison OpenAI standard à `https:///v1`, permettant une intégration avec : * Toute bibliothèque cliente OpenAI (Python, JavaScript, Go, etc.) * IDE et outils de développement * Applications existantes conçues pour OpenAI/Ollama Voir [API compatible avec OpenAI](/automate-protect-and-extend/fr/ia-privee/open-ai-router.md) pour la documentation des points de terminaison. ## Prérequis * VergeOS 26.0 ou version ultérieure * Une RAM suffisante pour les fichiers de modèle (variable selon le modèle, généralement 5 à 50 Go) * Stockage pour les téléchargements de modèles ### Prise en charge du GPU L’accélération GPU est recommandée pour les charges de travail de production. VergeOS prend en charge les GPU de tous les fournisseurs (NVIDIA, AMD, Intel) via les groupes de ressources. Les modèles peuvent également s’exécuter sur des systèmes uniquement CPU, bien que l’inférence soit plus lente. ## Démarrage rapide 1. Accédez à **IA → Modèles** 2. Cliquez sur **Cliquez pour installer** sur un modèle sélectionné, ou cliquez sur **Nouveau modèle** pour les modèles personnalisés 3. Configurez l’allocation des ressources (cœurs, RAM, GPU) 4. Un assistant est créé automatiquement avec le nouveau modèle 5. Tester via **IA → Assistants → \[Votre assistant] → Chat** Pour des instructions de configuration détaillées, consultez le [Guide de configuration](/automate-protect-and-extend/fr/ia-privee/configuration.md). ## Documentation associée * [Configuration](/automate-protect-and-extend/fr/ia-privee/configuration.md) - Configuration du modèle et de l’assistant * [API compatible avec OpenAI](/automate-protect-and-extend/fr/ia-privee/open-ai-router.md) - Points de terminaison de l’API et intégration * [Sessions de chat](/automate-protect-and-extend/fr/ia-privee/chat-sessions.md) - Utilisation interactive de l’interface utilisateur --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter: ``` GET https://docs.verge.io/automate-protect-and-extend/fr/ia-privee/overview.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.