Hoje apresento publicamente o CaioLLMX Mini, modelo experimental de propriedade da MarquesInteractive com 53.237.376 parâmetros.
O Mini foi treinado em uma esteira que processou aproximadamente 10,78 bilhões de tokens, atravessou 54.832 passos globais incorporando MTP ao treinamento.
Depois de seu treinamento completo, conduzimos cerca de 140 ciclos de refinamento, avaliação e especialização, preservando o ancestral e acompanhando diferentes descendentes ao longo de suas próprias trajetórias experimentais.
Mas o principal resultado desse trabalho não é apenas um checkpoint.
É a capacidade construída ao redor dele.
Com o CaioLLMX Mini, a MarquesInteractive consolidou uma esteira proprietária para preparar dados, treinar modelos, preservar linhagens, produzir especializações, avaliar comportamentos e decidir quais caminhos devem avançar, ser interrompidos ou reaproveitados.
O Mini é o primeiro resultado público da nossa fábrica de modelos de inteligência artificial.
Um modelo e suas linhagens
O CaioLLMX Mini não foi tratado como um artefato isolado.
A partir de um ancestral preservado, conduzimos diferentes descendentes por combinações específicas de dados, refinamento e avaliação.
Ao comparar essas trajetórias, observamos variações comportamentais e sinais de especialização em eixos como Python, compreensão de sentimentos em frases, iniciação matemática, medicina e botânica, entre outros campos estudados ao longo da esteira.
Essas variantes não representam produtos independentes nem sistemas liberados para uso público.
Elas representam algo mais importante para esta etapa: a possibilidade de observar como decisões diferentes alteram aquilo que um modelo aprende, preserva, esquece ou aprofunda.
Algumas capacidades surgiram com maior clareza.
Outras enfraqueceram durante o refinamento.
Determinados caminhos foram preservados.
Outros foram rejeitados ou utilizados como matéria-prima para novos experimentos.
Esse processo nos permitiu sair da lógica de simplesmente “treinar novamente” e começar a trabalhar com linhagens rastreáveis.
Sabemos de onde cada descendente veio.
Sabemos quais intervenções recebeu.
Sabemos quais comportamentos mudaram.
E podemos usar esse conhecimento para orientar as próximas gerações.
Uma fábrica, não uma demonstração
Treinar um modelo é apenas uma parte da produção de inteligência.
Ao redor do Mini, construímos uma cadeia que inclui:
- preparação, sanitização e proveniência de dados;
- tokenização e empacotamento de corpus;
- pré-treino, refinamento e especialização;
- integração de arquitetura e MTP;
- preservação de checkpoints e genealogias;
- avaliação por eixos e inspeção de respostas cruas;
- comparação entre descendentes;
- critérios para promover, rejeitar ou reaproveitar cada trajetória;
- preparação para inferência, integração e novas escalas.
Essa cadeia transforma experimentação em método.
Um modelo pode nascer de uma execução bem-sucedida.
Uma fábrica exige que o processo possa ser compreendido, repetido, comparado e aperfeiçoado.
Ela precisa preservar não apenas os melhores resultados, mas também a história das decisões que os produziram.
É essa capacidade que o CaioLLMX Mini tornou concreta.
A MarquesInteractive não treinou apenas um modelo. Construiu a capacidade de produzir os próximos.
Compacto por projeto
O CaioLLMX Mini possui 53 milhões de parâmetros por uma decisão deliberada de engenharia.
Esta etapa exigia velocidade experimental, observabilidade e controle sobre cada geração.
O objetivo não era reproduzir em miniatura um grande modelo generalista.
Era construir um ambiente no qual pudéssemos testar hipóteses, acompanhar mudanças de comportamento e consolidar uma cadeia própria de produção.
Um modelo compacto nos permitiu acelerar ciclos sem perder a rastreabilidade.
Permitiu comparar descendentes com maior proximidade.
Permitiu observar como determinadas especializações interagiam com capacidades anteriores.
Permitiu aprender não apenas com aquilo que funcionou, mas também com as trajetórias que precisaram ser interrompidas.
A escala do Mini pertence ao objetivo para o qual ele foi construído.
O Mini é compacto por projeto. A capacidade não.
Uma fábrica não começa produzindo o maior objeto possível.
Ela começa dominando a linha.
O Mini é a nossa primeira linha dominada.
O que essa capacidade torna possível
Modelos generalistas ampliaram de forma extraordinária o acesso à inteligência artificial.
Eles continuarão fundamentais para empresas, desenvolvedores e produtos.
Mas, à medida que capacidades semelhantes se tornam disponíveis para organizações concorrentes, parte da diferenciação começa a surgir em outra camada.
Nos dados selecionados.
Nos comportamentos priorizados.
Nos critérios utilizados para avaliar uma resposta.
Na profundidade da especialização.
Na forma como a inteligência é integrada a um sistema ou operação real.
Essa é a camada na qual a MarquesInteractive decidiu construir.
Chamamos esse movimento de industrialização da inteligência: a transformação de modelos, dados, avaliações e integrações em uma cadeia produtiva controlada, capaz de gerar capacidades com destinos específicos.
Isso não significa que cada empresa precise construir seu próprio laboratório.
Significa que, quando a inteligência se torna parte relevante de uma operação, a escolha de quem consegue produzi-la, especializá-la e integrá-la deixa de ser apenas uma decisão de software.
Ela passa a ser uma decisão estratégica.
A fábrica permanece nossa. O valor chega ao mercado.
O CaioLLMX Mini permanecerá interno.
Seus pesos, dados, linhagens, métodos, receitas de treinamento e decisões de pesquisa fazem parte da propriedade intelectual da MarquesInteractive e não serão disponibilizados publicamente.
Manter o Mini interno não significa fechar o valor produzido por essa capacidade.
A fábrica permanece sob nosso comando.
Seus resultados chegarão ao mercado por meio de:
- produtos proprietários;
- APIs;
- integrações;
- sistemas especializados;
- parcerias tecnológicas;
- novas famílias de modelos desenvolvidas dentro da esteira.
O cliente não precisa acessar os bastidores da pesquisa para se beneficiar do que ela produz.
Ele precisa acessar capacidades transformadas em produtos, infraestrutura e inteligência aplicada a objetivos concretos.
Essa é a nossa arquitetura comercial:
preservar a propriedade intelectual, concentrar o domínio técnico e distribuir valor por superfícies controladas.
Da manufatura de motores à manufatura de inteligência
Minha história profissional começou no chão de fábrica da Mercedes-Benz.
Foi ali que aprendi que excelência não existe apenas no produto final.
Ela nasce do processo que o torna repetível.
Rigor industrial é rastreabilidade.
É controle de qualidade.
É saber de onde cada componente veio, quais testes atravessou e quais critérios permitiram que ele continuasse na linha.
Em uma fábrica, nenhum produto existe sozinho.
Ele é consequência de uma cadeia de decisões, instrumentos, pessoas, medições e responsabilidades.
Anos depois, essa mesma lógica reaparece em outro tipo de manufatura.
Não estamos montando motores.
Estamos construindo sistemas de inteligência.
A matéria-prima agora são dados.
As peças são parâmetros, arquiteturas e comportamentos.
As linhas são esteiras de treinamento, avaliação, especialização e inferência.
Mas o princípio permanece:
não existe excelência sustentável sem domínio do processo que produz o resultado.
Foi essa filosofia que orientou a construção do CaioLLMX Mini.
Uma capacidade construída no Brasil
A MarquesInteractive construiu essa linha sob controle direto de seu fundador, principal arquiteto e único investidor nesta etapa.
Essa estrutura nos permitiu experimentar com velocidade, preservar cada linhagem e tomar decisões técnicas sem terceirizar o comando da pesquisa.
E estamos fazendo isso no Brasil.
Isso importa porque o futuro tecnológico do país não pode depender apenas da nossa capacidade de consumir aquilo que outros construíram.
Consumir tecnologia global continuará sendo necessário.
Desenvolver capacidade própria também.
O Brasil precisa de empresas capazes de pesquisar, formar especialistas, produzir modelos, transformar conhecimento em produtos e participar da construção da próxima infraestrutura tecnológica.
A MarquesInteractive escolheu ocupar parte desse espaço.
Não afirmamos ser os primeiros, os únicos ou os maiores.
Afirmamos algo mais simples e verificável:
uma empresa brasileira independente construiu uma esteira proprietária de modelos e já começou a operá-la.
O CaioLLMX Mini é o primeiro resultado público dessa construção.
Ele não encerra uma jornada.
Ele estabelece um ponto de partida.
A fábrica existe.
A linha está em movimento.
E a nossa primeira linha dominada tem nome:
CaioLLMX Mini.
Ela também tem endereço.
Endereço brasileiro.