A forma como os Modelos de Linguagem Grandes (LLMs) processam e entendem o contexto tem sido um desafio persistente. Frequentemente, o contexto de um LLM é preenchido com uma variedade de componentes – desde prompts de sistema e conversas anteriores até instruções para documentos recuperados e respostas de ferramentas. Essa estrutura, muitas vezes implícita ou codificada em formatos como JSON, não foi originalmente pensada para a digestão por LLMs, levando a falhas inesperadas e vulnerabilidades, como os ataques de injeção de prompt.
Para enfrentar essas questões, a IBM desenvolveu o LLMON (LLM Object Notation), uma linguagem de marcação nativa para LLMs. O objetivo do LLMON é comunicar explicitamente a estrutura e a semântica aos modelos. Componentes semanticamente coerentes são marcados com tags significativas, delimitadas por tokens especiais reservados. Isso permite que os esquemas de dados, incluindo aninhamentos, sejam apresentados de forma inequívoca a um LLM causal. Além disso, IDs únicos possibilitam referenciar instruções específicas, ligando-as aos dados que devem processar, de maneira análoga à chamada de funções e passagem de argumentos em linguagens de programação.
LLMON: Mais Segurança e Clareza para os Modelos
Uma das grandes vantagens do LLMON é sua capacidade de mitigar ataques de injeção de prompt. Ao separar explicitamente instruções e dados, os modelos treinados com LLMON ignoram a maioria das injeções indiretas, que geralmente ficam ocultas nos dados do usuário. Em alguns testes, as taxas de sucesso de ataques caíram para quase zero, enquanto modelos instruídos convencionais eram facilmente comprometidos. Essa melhoria na segurança é alcançada sem comprometer a capacidade geral dos modelos, mantendo o desempenho em linha com os modelos Granite 4.1 Instruct.
Outro benefício crucial é a precisão na recuperação de informações. Passagens irrelevantes, conversas antigas e saídas de ferramentas não são mais incorporadas indevidamente nas respostas, pois cada instrução é vinculada exatamente aos dados a que se aplica. Isso garante que a estrutura e os significados das instruções, dados e requisitos sejam claramente marcados, permitindo que o modelo os utilize de forma eficaz no nível do código da aplicação. A plataforma Mellea já oferece suporte nativo ao LLMON, automatizando a "LLMONização" de suas chamadas de LLM.
Por Que LLMON Supera o JSON para LLMs
O JSON, embora amplamente utilizado, foi projetado para parsers, não para modelos de linguagem causais. Para um LLM, um caractere de aspas dentro de um documento e um que fecha um campo JSON são o mesmo token. As regras de escape, claras para um parser, são apenas padrões estatísticos para um modelo. A profundidade de aninhamento, codificada pela contagem de colchetes, é uma tarefa em que os transformadores são notoriamente fracos, especialmente em sequências longas.
Em contraste, o LLMON é uma linguagem de marcação semelhante ao XML, cujos delimitadores estruturais são tokens especiais reservados, e não caracteres comuns. Isso significa que a estrutura e o conteúdo utilizam partes separadas do vocabulário do modelo. As tags são declaradas no início de cada trecho, e os limites entre os trechos são explícitos. Estruturas aninhadas são declaradas localmente, eliminando a necessidade de o modelo rastrear a hierarquia em longas sequências. Para facilitar a transição, a IBM disponibilizou ferramentas de conversão que transformam JSON em LLMON e vice-versa sem perda de dados, além de permitir a definição de estruturas e tags personalizadas, com a possibilidade de ajustar um LoRA sobre os modelos LLMON para compreendê-las.
O LLMON não substitui os templates de chat existentes, mas os enriquece. Enquanto os templates de chat tradicionais informam ao modelo qual parte pertence a qual papel (sistema, usuário, assistente), o LLMON detalha o significado de cada componente e como eles se relacionam entre si, dentro e entre os papéis. Os modelos de pré-visualização LLMON já vêm com seu próprio template de chat, permitindo que os desenvolvedores construam a mesma lista de mensagens que passariam para qualquer modelo de chat, com a diferença de que agora cada parte pode ser marcada como `exec: True` ou `False`, indicando se deve ser executada ou apenas referenciada no contexto.
O que isso muda para você
A introdução do LLMON representa um avanço significativo para profissionais brasileiros que trabalham com desenvolvimento e implementação de LLMs. A maior clareza e segurança na comunicação com os modelos significa menos tempo gasto em depuração de prompts e uma redução drástica na preocupação com ataques de injeção, que podem comprometer a integridade e a segurança de aplicações baseadas em IA.
Para desenvolvedores e engenheiros de IA, a capacidade de definir estruturas de dados de forma mais explícita e robusta, sem as limitações do JSON para LLMs, abre portas para a criação de sistemas mais complexos e confiáveis. A disponibilidade de modelos experimentais como o granite-4.1-3b-LLMON-preview e granite-4.1-8b-LLMON-preview, juntamente com um repositório GitHub com ferramentas e exemplos, oferece uma oportunidade concreta para experimentar e integrar essa nova abordagem em seus projetos. Comece a explorar as ferramentas de conversão de JSON para LLMON e teste os modelos de pré-visualização para entender como essa linguagem pode otimizar suas interações com LLMs e fortalecer a segurança de suas aplicações.

