Basdonax AI RAG Basdonax AI RAG El Basdonax AI RAG v1.0 es una herramienta

Basdonax AI RAG

El Basdonax AI RAG v1.0 es una herramienta diseñada para aquellos que quieren tener su propia secretaria virtual impulsada por inteligencia artificial, permitiendo la carga y consulta de documentos de una forma fácil y rápida. Este sistema usa modelos de inteligencia artificial de código abierto de Meta y Microsoft, específicamente el Llama3-7b y Phi3-4b, para proporcionar un servicio eficiente en la gestión de tus documentos.

Su instalación y uso están pensados para ser accesibles, incluso para aquellos que no son expertos en tecnología, pero requiere de algunos requisitos previos:

• Docker o Docker Desktop : Esencial para correr los contenedores donde vivirá el AI RAG.
• Tarjeta gráfica RTX (opcional) : Mejora el rendimiento al utilizar el modelo Llama3-7b, pero no es imprescindible.

¿Cómo instalar?

1. Elección del Modelo de Datos (LLM) : Si tienes una tarjeta gráfica adecuada, puedes optar por el modelo Llama3-7b. Si no, el Phi3-4b es una alternativa más ligera que puede correr en CPU sin problemas. Dependiendo de esta elección, se utilizará un archivo de configuración de Docker diferente.
2. Instalación de Docker : Necesitas instalar Docker para poder seguir adelante con la configuración.
3. Ejecución de Docker Compose : Con un simple comando, pones en marcha el sistema una vez que Docker esté funcionando en tu máquina.
4. Instalación del Modelo LLM Elegido : Debes descargar el modelo de IA que elegiste usando un comando específico dentro de Docker.
5. Personalización : Puedes ajustar la prompt de tu asistente virtual según tus preferencias.
6. Acceso : Una vez finalizada la configuración, accedes al RAG a través de un navegador web usando una dirección local.

Uso Posterior Si cierras el sistema y luego quieres volver a usarlo, no necesitas pasar por todo el proceso nuevamente. Simplemente ejecutas un archivo batch (.bat para Windows o .sh para Mac/Linux) que hayas preparado previamente para iniciar Docker Compose de nuevo, permitiéndote acceder al RAG fácilmente.

¿Cuándo usarías Basdonax AI RAG? Lo usarías en situaciones donde necesitas organizar, consultar o gestionar documentos de manera eficiente sin tener que sumergirte manualmente en pilas de archivos o datos. Es ideal para profesionales, investigadores o cualquier persona que maneje una gran cantidad de información y necesite acceso rápido a ella de forma inteligente y automatizada. También puede ser útil como asistente personal para tareas administrativas, haciendo más fácil la vida diaria de sus usuarios.