Aunque tenemos un hilo para la Inteligencia Artificial en el foro, había pensado que quizá estaría bien tener este espacio por aquí. Se trata de una aplicación que permite configurar y ejecutar modelos de lenguaje de forma local.
Requisitos mínimos
- Apple Silicon Mac (M1/M2/M3) con macOS 13.6 o superior.
- Para Windows o Linux, un procesador que soporte AVX2.
- Más de 16GB de RAM es lo ideal.
- Más de 6GB de VRAM.
- GPU NVIDIA o AMD.
Algunos opciones de la aplicación
- Elige el rol que quieras para el prompt.
- Preconfigura una instrucción inicial, por ejemplo: "Responde siempre en español" y se inyectará en el prompt.
- Puedes elegir el número de palabras que quieres que te saque, limitar los tokens y más.
- Guardar múltiples presets y cargarlos o exportalos en un JSON.
- Elegir si quieres que te responda en texto plano o en markdown, esto último es ideal si trabajas con código.
- Añadir notas en un chat.
La idea del hilo es que vayamos charlando sobre las nuevas betas, configuraciones, modelos que nos vayamos encontrando y más.
He hecho una reseña ➡️ aquí por si alguien quiere leerla.
Base de datos de modelos en ➡️ Huggin Face.
Descargar LM Studio
