Tecnología/Actualidad
Mistral libera los pesos de Large 4, su modelo de un billón de parámetros apodado «Le Chonk»
El laboratorio francés publicó el 29 de octubre los archivos del modelo para descargarlo y ejecutarlo en servidores propios, con una licencia abierta modificada que exige un acuerdo aparte a los servicios de modelo como servicio.
La empresa francesa Mistral publicó el 29 de octubre los pesos de Mistral Large 4, su modelo insignia, apodado «Le Chonk». Con la publicación, cualquier organización puede descargar el modelo desde Hugging Face y ejecutarlo en sus propios servidores, en lugar de alquilar el acceso a través de la nube de un tercero.
Large 4 es un modelo multimodal de mezcla de expertos con alrededor de un billón de parámetros en total, de los cuales cerca de 49.000 millones se activan por cada palabra generada. Acepta texto e imágenes como entrada, trabaja con una ventana de contexto de hasta un millón de tokens y cubre más de 160 idiomas, según la compañía.
El modelo había entrado en vista previa pública el 6 de octubre y la versión liberada incorpora tres semanas adicionales de aprendizaje por refuerzo. Mistral afirma que es el mejor modelo de pesos abiertos para programación y lo orienta también a la ciberseguridad defensiva: dice que obtiene 51 % en el Índice Cibernético de Artificial Analysis y que rechaza 96,6 % de las solicitudes cibernéticas maliciosas en sus pruebas. Son cifras de la propia empresa, sin replicación independiente publicada, y el informe técnico completo todavía está pendiente.
Una licencia abierta con un límite
Los pesos se publican bajo la licencia abierta del ecosistema Mistral, una variante modificada de la licencia MIT. Permite usar, modificar, afinar y comercializar el modelo, con una excepción importante: las empresas que ofrezcan el modelo como servicio deberán obtener antes una licencia comercial aparte de Mistral. No es, por tanto, una liberación sin condiciones como las de licencias Apache 2.0.
A través de la API de Mistral, el modelo cuesta 0,70 dólares por millón de tokens de entrada y 2,10 dólares por millón de tokens de salida, aproximadamente la mitad del precio de la vista previa. También está disponible en Microsoft Foundry y como contenedor de NVIDIA.
Mistral entrenó el modelo en sus propios centros de datos europeos con unas 3.800 tarjetas gráficas Grace Blackwell de NVIDIA, según la compañía. Una variante especializada en pruebas de penetración y equipos rojos no se libera de forma general: quedará restringida a socios previamente evaluados, después de que la empresa detectara potencial de uso para ataques reales durante la vista previa.
La liberación convierte a Large 4 en el mayor modelo de pesos abiertos surgido de un laboratorio europeo y refuerza la apuesta de Mistral por una inteligencia artificial que las empresas y los gobiernos puedan controlar en su propia infraestructura.