> For the complete documentation index, see [llms.txt](https://docs.verge.io/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.verge.io/automate-protect-and-extend/es/ia-privada/overview.md).

# Resumen de Private AI

VergeOS Private AI te permite implementar y ejecutar modelos de lenguaje grandes (LLM) localmente dentro de tu entorno VergeOS. Los modelos se ejecutan completamente en tu infraestructura, sin llamadas a APIs externas ni transmisión de datos.

## Arquitectura

Private AI consta de cinco componentes principales:

```mermaid
graph LR
    A[Aplicación cliente] --> B[API compatible con OpenAI]
    B --> C[Asistente]
    C --> D[Modelo]
    D --> E[Worker]
```

### Modelos

Los modelos son los archivos LLM que proporcionan capacidades de IA. VergeOS admite:

* **Modelos seleccionados**: Modelos preconfigurados disponibles para instalación con un solo clic (Llama, Gemma, Phi, Qwen y otros)
* **Modelos personalizados**: Cualquier modelo en formato GGUF de Hugging Face u otras fuentes

Los modelos definen los requisitos de recursos (núcleos de CPU, RAM, asignación de GPU) y los parámetros de inferencia (tamaño del contexto, solicitudes paralelas).

### Asistentes

Los asistentes son instancias configuradas que definen cómo los usuarios y las aplicaciones interactúan con un modelo. Cada asistente especifica:

* Qué modelo usar
* Prompt del sistema (instrucciones de comportamiento)
* Temperatura y otros parámetros de generación
* Puntuación de contexto para escenarios RAG
* Archivos del espacio de trabajo para contexto de documentos

Varios asistentes pueden usar el mismo modelo subyacente con diferentes configuraciones.

### Workers

Los workers son los motores de inferencia que ejecutan los modelos. El sistema gestiona dos tipos:

* **AI-Helper Worker**: Gestiona las solicitudes de API y el enrutamiento (se inicia automáticamente)
* **Workers de modelos**: Ejecutan la inferencia para cada modelo en ejecución (se escalan automáticamente según la configuración de workers mínimos/máximos)

### Sesiones de chat

Las sesiones de chat mantienen el historial de conversaciones y el contexto. Las sesiones pueden ser:

* Creadas a través de la interfaz de VergeOS para pruebas interactivas
* Gestionadas programáticamente mediante la API para la integración de aplicaciones

### API compatible con OpenAI

La API proporciona endpoints estándar de OpenAI en `https://<your-vergeos-url>/v1`, lo que permite la integración con:

* Cualquier biblioteca cliente de OpenAI (Python, JavaScript, Go, etc.)
* IDEs y herramientas de desarrollo
* Aplicaciones existentes creadas para OpenAI/Ollama

Consulte [API compatible con OpenAI](/automate-protect-and-extend/es/ia-privada/open-ai-router.md) para la documentación de los endpoints.

## Requisitos previos

* VergeOS 26.0 o posterior
* RAM suficiente para los archivos del modelo (varía según el modelo, normalmente entre 5 y 50 GB)
* Almacenamiento para las descargas de modelos

### Compatibilidad con GPU

Se recomienda la aceleración por GPU para cargas de trabajo de producción. VergeOS admite GPU de cualquier fabricante (NVIDIA, AMD, Intel) a través de Grupos de recursos. Los modelos también pueden ejecutarse en sistemas solo con CPU, aunque la inferencia será más lenta.

## Inicio rápido

1. Vaya a **IA → Modelos**
2. Haga clic en **Haga clic para instalar** en un modelo seleccionado, o haga clic **Nuevo modelo** para modelos personalizados
3. Configure la asignación de recursos (núcleos, RAM, GPU)
4. Se crea automáticamente un asistente con el nuevo modelo
5. Probar vía **IA → Asistentes → \[Tu asistente] → Chat**

Para obtener instrucciones detalladas de configuración, consulta la [Guía de configuración](/automate-protect-and-extend/es/ia-privada/configuration.md).

## Documentación relacionada

* [Configuración](/automate-protect-and-extend/es/ia-privada/configuration.md) - Configuración del modelo y del asistente
* [API compatible con OpenAI](/automate-protect-and-extend/es/ia-privada/open-ai-router.md) - Endpoints de la API e integración
* [Sesiones de chat](/automate-protect-and-extend/es/ia-privada/chat-sessions.md) - Uso interactivo de la interfaz


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://docs.verge.io/automate-protect-and-extend/es/ia-privada/overview.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.