Inicio › Tecnología › Modelo De Lenguaje Pequeño
Un modelo de lenguaje pequeño (SLM, small language model) es una red neuronal de procesamiento de texto con muchos menos parámetros qué los grandes modelos generalistas, diseñada para ejecutarse con recursos limitados: un portátil, un teléfono o incluso un microcontrolador potente. Se consigue mediante técnicas como la destilación de conocimiento, donde un modelo pequeño aprende a imitar el comportamiento de uno grande, o mediante cuantización, qué reduce la precisión numérica de los pesos para ocupar menos memoria sin perder demasiada capacidad.
Es una versión compacta de una IA de texto qué puede funcionar directamente en tu móvil u ordenador, sin necesitar conexión a un servidor remoto ni una tarjeta gráfica potente.
Un asistente de escritura integrado en una app de notas puede usar un modelo pequeño ejecutado localmente para sugerir correcciones o resúmenes sin enviar el texto del usuario a ningún servidor externo, lo qué resulta útil tanto para privacidad como para funcionar sin conexión a internet.
Generalmente capacidad de razonamiento complejo y conocimiento general más limitado, aunque en tareas concretas y bien delimitadas puede rendir casi igual qué uno mucho más grande.
A menudo mediante destilación, entrenando el modelo pequeño para reproducir las respuestas de uno grande, o entrenándolo desde cero sobre un conjunto de datos más específico y reducido.
Al ejecutarse en el propio dispositivo, los datos del usuario no salen del equipo hacia servidores externos, lo qué reduce el riesgo de exposición de información sensible durante el procesamiento.