Já disponível na Multicortex, o Qwen3 é uma das suítes mais completas de modelos de linguagem de código aberto já lançadas. Desenvolvido pela equipe Qwen da Alibaba, ele traz desde modelos gigantes com desempenho de ponta até versões compactas que rodam localmente em hardwares mais modestos.

Neste artigo, faço um panorama geral da linha Qwen3, explico como os modelos foram treinados, analiso os principais benchmarks e mostro como começar a usá-los. Também vamos disponibilizar tutoriais sobre como rodar o Qwen3 localmente e ajustar os modelos — e este post será atualizado com os links assim que eles estiverem prontos.

Para ficar por dentro das novidades em IA, inscreva-se no nosso boletim gratuito The Median, enviado toda sexta-feira com os destaques da semana.

O que é o Qwen3?

O Qwen3 é a nova família de modelos de linguagem da Alibaba, com código aberto sob licença Apache 2.0. Um dos recursos mais inovadores é o “orçamento de raciocínio”: usuários podem ajustar diretamente o nível de raciocínio dos modelos, controlando a precisão e profundidade das respostas.

Aumentar o orçamento melhora o desempenho, especialmente em tarefas complexas como matemática, programação e ciências.

Principais modelos da linha Qwen3

MoE = Mixture of Experts: só parte dos parâmetros é usada a cada geração, economizando recursos.

Como os modelos foram treinados

Pré-treinamento em 3 fases, com 36 trilhões de tokens:

1. Habilidades básicas com 30T tokens.
2. Ênfase em matemática, STEM e código (5T tokens).
3. Expansão para janelas de 32K com dados de contexto longo.

Pós-treinamento em 4 etapas:

• Aprendizado passo a passo (Cold Start)
• Aprimoramento via Reforço (RL)
• Equilíbrio entre raciocínio lento e respostas rápidas
• Ajuste geral com dados de instruções e tarefas de agentes

Modelos menores são destilados dos maiores, mantendo qualidade com menos recursos.

Resultados de Benchmark

Qwen3-235B-A22B lidera ou disputa o topo em quase todos os testes:

• ArenaHard (raciocínio): 95,6 (atrás apenas do Gemini 2.5 Pro)
• AIME’24: 85,7 em matemática avançada
• CodeForces Elo: 2056 — melhor que Gemini e DeepSeek
• LiveBench: 77.1, excelente para tarefas do mundo real

Qwen3-30B-A3B também impressiona:

• ArenaHard: 91,0 — supera QwQ-32B e GPT-4o
• CodeForces Elo: 1974 — desempenho competitivo com modelos maiores

Qwen3-4B se destaca para seu tamanho:

• AIME’24: 73,8 — melhor que muitos modelos maiores
• MultiIF: 66,3 — ótimo desempenho multilíngue para um 4B

Qual modelo usar?

• Tarefas exigentes? Vá de Qwen3-235B-A22B
• Bom desempenho com custo menor? Use Qwen3-30B-A3B
• Uso geral com latência previsível? Os modelos densos (32B, 14B…) são ideais
• Aplicações leves ou embarcadas? Opte por Qwen3-1.7B ou 0.6B

Conclusão

A linha Qwen3 oferece opções de alto desempenho para uma variedade de cenários — de agentes inteligentes a aplicações embarcadas. Com código aberto, janela de 128K tokens e arquitetura moderna, eles elevam o padrão dos modelos disponíveis publicamente.

A Universidade de Hong Kong, em colaboração com o Huawei Noah’s Ark Lab, apresenta o Dream 7B, um modelo de linguagem baseado em difusão que marca um avanço significativo na geração de texto. Lançado como software de código aberto, o Dream 7B permite ajustar o número de etapas de difusão, oferecendo um equilíbrio dinâmico entre velocidade e qualidade — uma inovação promissora frente às arquiteturas autorregressivas tradicionais. Vejam o funcionamento no vídeo abaixo:

Arquitetura Inovadora: Difusão em Linguagem Natural

Com 7 bilhões de parâmetros, o Dream 7B adota uma abordagem de difusão discreta para a geração textual. Ao contrário dos modelos convencionais como GPT ou LLaMA, que produzem texto token a token da esquerda para a direita, o Dream 7B refina sequências inteiras simultaneamente, partindo de um estado completamente ruidoso.

Essa arquitetura permite ao modelo explorar o contexto de forma bidirecional, resultando em maior coerência e capacidade de raciocínio. Inicializado com os pesos do Qwen2.5 7B e treinado com cerca de 580 bilhões de tokens (provenientes de conjuntos como Dolma v1.7, OpenCoder e DCLM-Baseline), o Dream 7B combina fundamentos sólidos com inovação técnica.

Vantagens sobre Modelos Autorregressivos

O Dream 7B apresenta diversos diferenciais que o destacam:

• Contexto bidirecional: Ao processar a sequência inteira de uma vez, o modelo compreende melhor relações e restrições globais no texto.
• Raciocínio e planejamento aprimorados: Supera modelos equivalentes em tarefas complexas que exigem múltiplas etapas de raciocínio, como Sudoku e Countdown.
• Geração controlada e flexível: A geração não precisa seguir uma ordem fixa, permitindo preenchimentos arbitrários e produções condicionadas.
• Qualidade vs. desempenho ajustável: O número de passos de difusão pode ser personalizado para priorizar qualidade ou eficiência computacional conforme a demanda.

Desempenho em Benchmarks

Em benchmarks de linguagem, matemática e geração de código, o Dream 7B iguala ou supera modelos líderes de sua categoria, como LLaMA3 8B e Qwen2.5 7B. Em tarefas que envolvem raciocínio sob restrição, chega a competir com modelos significativamente maiores, como o DeepSeek V3 671B — evidência clara de sua eficiência estrutural.

Inovações de Treinamento

Entre as principais inovações utilizadas no treinamento do Dream 7B estão:

• Inicialização com pesos de modelos autorregressivos: Aproveita o conhecimento pré-existente do Qwen2.5 7B, otimizando tempo e recursos de treinamento.
• Reprogramação de ruído adaptativa ao contexto: Em vez de aplicar ruído uniforme, o modelo ajusta dinamicamente o nível de ruído por token, melhorando a eficácia do aprendizado de difusão.

Aplicações Práticas

O Dream 7B é ideal para aplicações onde modelos tradicionais enfrentam limitações:

• Conclusão e preenchimento de texto com restrições: Gera conteúdo em ordem arbitrária, ideal para completar trechos específicos ou condicionar a geração a frases-alvo.
• Decodificação customizável: Geração pode seguir diversas ordens, adaptando-se a diferentes tipos de tarefa.
• Ajuste de desempenho: Possibilita controle fino sobre a relação entre tempo de inferência e qualidade do texto.

Aprimoramento Supervisionado e Versão Instruct

Para melhorar a aderência a instruções, foi realizado um ajuste supervisionado com 1,8 milhão de pares de dados do Tulu 3 e SmolLM2. Após três épocas de refinamento, o modelo demonstrou desempenho equivalente a soluções autorregressivas em tarefas orientadas por comandos do usuário.

As versões resultantes — Dream-v0-Base-7B e Dream-v0-Instruct-7B — estão publicamente disponíveis, promovendo a experimentação aberta e o avanço da pesquisa.

Conclusão: O Futuro da Geração de Texto com Difusão

O Dream 7B desafia a hegemonia dos modelos autorregressivos e comprova que a modelagem por difusão é uma alternativa viável e promissora para tarefas de linguagem natural. Sua arquitetura flexível, aliada a resultados expressivos, abre caminho para uma nova geração de sistemas de IA mais versáteis e eficazes.

Com o lançamento em código aberto, a equipe da Universidade de Hong Kong impulsiona a inovação na área, permitindo que pesquisadores e desenvolvedores explorem novas fronteiras na geração de linguagem natural.

Fonte https://hkunlp.github.io/blog/2025/dream/#why-diffusion-for-text-generation

Ao editar arquivos no Vim, o editor pode aplicar automaticamente regras de indentação que, embora úteis em muitas situações, podem ser indesejadas em outros contextos (como ao editar arquivos de configuração, logs ou trechos de código com formatação específica). Para desativar essas funcionalidades, você pode usar os seguintes comandos:

:setlocal noautoindent
:setlocal nocindent
:setlocal nosmartindent
:setlocal indentexpr=

ou

:setl noai nocin nosi inde=

Abaixo, explico o que cada uma dessas opções faz:

• :setl (ou :setlocal) — Aplica as configurações apenas ao buffer atual, sem afetar outros arquivos abertos.
• noai (noautoindent) — Desativa a cópia automática da indentação da linha anterior ao iniciar uma nova linha.
• nocin (nocindent) — Desativa a indentação baseada em sintaxe e estrutura do código, comum em linguagens como C.
• nosi (nosmartindent) — Impede que o Vim tente “adivinhar” a indentação com base na estrutura do código (como abrir chaves {).
• inde= — Limpa a expressão de indentação usada pelo indentexpr, garantindo que nenhuma lógica personalizada de indentação seja aplicada.

Com esse conjunto de comandos, você garante que o Vim não altere a indentação automaticamente, permitindo um controle total e manual sobre a formatação do seu texto.

A partir desse momento, o Vim deixará de aplicar indentação automática no buffer atual.

Tornando a configuração permanente

Se você quer que o Vim sempre abra com a indentação automática desativada, edite o arquivo ~/.vimrc:

vim ~/.vimrc

Adicione estas linhas:

" Desativa indentação automática globalmente
set noautoindent
set nocindent
set nosmartindent
set indentexpr=

Aplicando apenas para arquivos específicos

Não quer desativar a indentação para tudo? Você pode aplicar a regra apenas para certos tipos de arquivos usando autocmd:

" Desativa indentação automática apenas para arquivos .txt e .yaml
autocmd FileType txt,yaml setlocal noautoindent nocindent nosmartindent indentexpr=

Essa é uma forma elegante de manter a indentação automática em linguagens como Python ou C, e desabilitá-la onde ela atrapalha.

Conclusão

Saber como o Vim lida com indentação pode poupar muita dor de cabeça. Com comandos simples, você assume o controle do editor e molda o comportamento conforme seu fluxo de trabalho. Teste as opções acima e ajuste conforme sua necessidade.

Instalou o openSUSE Leap 15.5? E agora o que instalar? E os codecs proprietários ? E os codecs multimídia? Demorou mas foi concluído! O Cool Package é um processo que instala alguns software necessários para a dia a dia de um SUSEIRO e resolver todas as questões de dependências. O Cool Package disponibiliza:

• Thunderbird
• Codecs
• VLC
• KDEnlive
• DVDAuthor
• MPV
• ffmpeg
• Lame
• E outros…

A seguir o botão 1-click Install. que resolver estes questionamentos, pois este botão instala os primeiros softwares principais para a tarefa do dia a dia como: o cliente de email Thunderbird, VLC, MPV, Codecs proprietários e editores de vídeos. Qualquer dúvida, críticas e sugestões em cabelo@opensuse.org

*** Imagem ilustrativa

Faz 4 horas que a nova geração da família GLM acaba de ser lançada, e o modelo GLM-4-32B-0414 está dando o que falar! Com incríveis 32 bilhões de parâmetros, essa IA open-source se posiciona no mesmo nível de gigantes como GPT-4o e DeepSeek-V3, superando-os em vários benchmarks – tudo isso com código aberto e licença MIT!

Destaques do GLM-4-32B:

• Treinado com 15 trilhões de tokens de dados de alta qualidade, incluindo dados sintéticos focados em raciocínio.
• Otimizado com rejection sampling e reforço por RL para tarefas de agentes, código, chamadas de função e busca com Q&A.
• Supera modelos como GPT-4o, Qwen2.5-Max e DeepSeek em testes como IFEval (87.6), TAU-Bench e SimpleQA.
• Equivalência com GPT-4o em chamadas de função (BFCL-v3).
• Suporte nativo ao Hugging Face Transformers desde o primeiro dia.

GLM-Z1-32B-0414 – Raciocínio profundo e preciso
Versão turbinada para lógica, matemática e programação. Desenvolvido com técnicas avançadas de RL e feedback por ranking pareado, esse modelo é ideal para tarefas complexas.

GLM-Z1-Rumination-32B-0414 – Pensamento prolongado, estilo pesquisa
Perfeito para problemas abertos e análises profundas (como comparar estratégias de IA entre cidades). Integra ferramentas de busca e múltiplas recompensas para gerar respostas mais inteligentes e fundamentadas.

GLM-Z1-9B-0414 – Pequeno notável
Mesmo com apenas 9B de parâmetros, essa versão mantém performance de ponta em raciocínio matemático e geral, sendo excelente para cenários com recursos limitados.

Todos os modelos estão disponíveis no Hugging Face Hub com integração total aos Transformers — prontos para uso local, sem complicações.

Se você curte IA open-source, raciocínio complexo e desempenho comparável aos maiores modelos do mercado, GLM-4 é sua próxima parada. Bora testar esse titã dos algoritmos?

#GLM4 #IAOpenSource #MachineLearning #DeepReasoning #Transformers #AGI #GLMZ1 #AIForAll

O Dia Mundial do Quântico é celebrado anualmente no dia 14 de abril. A escolha desta data não é aleatória: ela faz referência à notação 4,14, que representa os dígitos iniciais, de forma arredondada, da constante de Planck — um dos pilares fundamentais da física quântica.

Essa constante, cujo valor exato é 4,1356677 × 10⁻¹⁵ elétron-volt segundo (eV·s), estabelece a relação entre a energia de uma partícula e a frequência da sua onda associada.

Em termos simples, trata-se de um valor extremamente pequeno, equivalente a 0,000 000 000 000 004 1356677 eV·s, e é essencial para descrever o comportamento das partículas subatômicas. Assim, o dia 14/4 simboliza a grandiosidade do infinitamente pequeno, homenageando a revolução científica trazida pela mecânica quântica.

Como mantenedor do OpenVINO na distribuição OpenSUSE for INNOVATORS base de tecnologia MultiCortex, disponibilizo as principais novidades desta versão.

Maior cobertura em Gen AI e integração com frameworks para minimizar alterações no código:

• Novos modelos suportados: Phi-4 Mini, Jina CLIP v1 e Bce Embedding Base v1.
• O OpenVINO Model Server agora suporta modelos VLM, incluindo Qwen2-VL, Phi-3.5-Vision e InternVL2.
• OpenVINO GenAI agora inclui recursos de image-to-image e inpainting para pipelines baseados em transformers como Flux.1 e Stable Diffusion 3.
• Prévia: O AI Playground agora utiliza o backend do OpenVINO GenAI para inferência altamente otimizada em PCs com IA.

Suporte ampliado para LLMs e novas técnicas de compressão:

• Redução no tamanho do binário via otimização do plugin CPU e remoção do kernel GEMM.
• Novos kernels otimizados para GPU melhoram o desempenho de modelos LSTM usados em reconhecimento de fala, modelagem de linguagem e previsão de séries temporais.
• Prévia: Implementação de Token Eviction no GenAI reduz o uso de memória do KV Cache ao descartar tokens irrelevantes, útil para chatbots e geração de código.
• Aceleração por NPU agora habilitada no OpenVINO Runtime e Model Server para modelos VLM em PCs com IA de baixa concorrência.

Mais portabilidade e desempenho para executar IA na borda, na nuvem ou localmente:

• Suporte para os mais recentes processadores Intel® Core (série 2, codinome Bartlett Lake), Core 3 Processor N-series e Processor N-series (Twin Lake) no Windows.
• Otimizações de LLM em processadores Intel® Core Ultra 200H com melhor latência do segundo token.
• Paged Attention e Continuous Batching ativados por padrão no plugin GPU.
• Prévia: Backend OpenVINO para Executorch trará inferência acelerada em CPUs, GPUs e NPUs Intel.

OpenVINO Runtime

Geral

• Compressão de pesos agora pode ser feita com atraso para economizar memória.
• Registro de extensões por frontend (nova API).
• Tensors com mmap permitem leitura direta do disco com menos uso de memória (ex.: ao usar LoRa em GenAI).

Plugin de dispositivo CPU

• Quantização dinâmica de camadas Fully Connected com pesos assimétricos ativada em AVX2.
• Desempenho de LLMs com pesos comprimidos otimizado, especialmente na latência do primeiro token.
• Suporte a fusão de projeção QKV e MLP em BF16 no Windows em plataformas AMX.
• Kernel GEMM removido da biblioteca CPU.
• Suporte a modelos FP8 (f8e4m3 e f8e5m2) aprimorado.

Plugin de dispositivo GPU

• Latência do segundo token melhorada com otimizações no TLB e Group Query Attention.
• Latência do primeiro token reduzida com Paged Attention.
• Cache KV comprimido em Int8 ativado por padrão.
• Desempenho de modelos VLM melhorado com extensões XMX.

Plugin de dispositivo NPU

• Suporte a cache sem pesos e criptografia de blobs de LLMs.
• Novas APIs para carregar modelos do cache com menor uso de memória.
• Suporte a entrada/saída NF4 (4-bit NormalFloat).
• Correções de bugs: modelos com estado e erros com zeContextDestroy.

API Python

• Agora é possível criar Tensor diretamente a partir de uma imagem Pillow.
• Redução no uso de memória em export_model, read_model, compile_model.

API Node.js

• Bindings GenAI agora disponíveis no pacote genai-node no npm.

Suporte a Frameworks

PyTorch

• Suporte ao PyTorch 2.6.
• Tradutores comuns para operações em PyTorch, TensorFlow, ONNX e JAX.
• Conversão de modelos FP8 e TTS com STFT/ISTFT ativada.

JAX

• Suporte validado para JAX 0.5.2 e Flax 0.10.4.

Keras 3

• Compatível com Keras 3.9.0.
• Testes mais granulares por operação.

TensorFlow Lite

• Suporte para modelos com tensores quantizados entre camadas em tempo de execução.

OpenVINO Model Server

Novos recursos principais:

• Suporte a modelos VLM com batching contínuo e envio de imagens no contexto do chat.
• Suporte a aceleração por NPU para geração de texto com endpoints de completions.

Melhorias gerais:

• Modelos e grafos mediapipe agora iniciáveis via linha de comando.
• Demonstração de escalabilidade com múltiplas instâncias.
• Aumento do número de stop words permitido por requisição (4 → 16).
• Integração com a extensão VS Code Continue.
• Melhorias de desempenho para cargas de alta concorrência.

Mudanças críticas:

• Servidor gRPC agora é opcional. É obrigatório passar --port ou --rest_port.
• Correções em contexto de LLM (excede comprimento, erro se prompt muito longo, etc.).
• Melhorias de segurança, estabilidade e suporte ao cancelamento sem streaming.

Limitações conhecidas:

• Chat/completions só aceita imagens em base64, não em URL.

Neural Network Compression Framework (NNCF)

• Suporte preview para Treinamento Ciente de Quantização (QAT) com LoRA em PyTorch (método FQ_LORA).
• Novos métodos de compressão 4-bit para pesos em PyTorch.
• Redução no tempo e uso de memória em compressão GPTQ e mista.
• Novo tracing baseado em TorchFunctionMode.
• Várias melhorias no backend TorchFX e adoção de quantizadores personalizados.
• Suporte preview para backend OpenVINO no ExecuTorch.
• Suporte a PyTorch 2.6.

OpenVINO Tokenizers

• Suporte ao modelo de tokenização Unigram.
• Compilação com ICU opcional para reduzir binário.
• Ajuste dinâmico de max_length e padding com classe Tokenizer.
• Dependência de fast_tokenizer removida.

OpenVINO GenAI

• Métodos demorados liberam o GIL.
• Suporte preview a Token Eviction.
• Bindings C e JavaScript para LLMPipeline.
• suporte aos modelos Phi-3-vision-128k-instruct e Phi-3.5-vision-instruct.
• Novos pipelines de Image2image e Inpainting com FLUX e Stable Diffusion 3.
• LLMPipeline agora usa Paged Attention por padrão.
• Streaming ocorre em thread separada.
• Template de chat aplicado mesmo com modo desativado (configurável).

A Meta acaba de revelar sua nova geração de modelos de linguagem Llama 4, com grandes avanços em visão, raciocínio, codificação e mitigação de vieses. A família é composta por três modelos principais: Llama 4 Scout, Llama 4 Maverick e o colossal Llama 4 Behemoth.

Llama 4 Scout: excelência multimodal

O Llama 4 Scout é destaque em tarefas visuais, com suporte para múltiplas imagens e alinhamento preciso entre o texto e regiões específicas da imagem (image grounding). Ele entende ações temporais em imagens e oferece respostas mais precisas em tarefas visuais complexas. Também supera modelos concorrentes em benchmarks de raciocínio, contexto longo e programação.

Llama 4 Maverick: versatilidade e performance

Codestilado a partir do modelo Behemoth, o Llama 4 Maverick é otimizado para oferecer alta performance com menor custo computacional. Ele se destaca em tarefas gerais, mantendo robustez, velocidade e compatibilidade com diversas plataformas (incluindo Hugging Face e Llama.com).

Behemoth: 2 trilhões de parâmetros de inteligência

O Llama 4 Behemoth é o maior e mais inteligente da linha. Com quase 2 trilhões de parâmetros e arquitetura mixture-of-experts (MoE), foi projetado para ensinar os modelos menores. Ele lidera em benchmarks de matemática, multilinguismo e visão, e seu treinamento envolveu infraestrutura de RL inovadora, com ganhos de eficiência de até 10x.

Foco em segurança e mitigação de riscos

A Meta reforçou o compromisso com segurança, incluindo ferramentas como:

• Llama Guard: segurança de entrada/saída com base em taxonomias de risco;
• Prompt Guard: detecção de prompts maliciosos ou injetados;
• CyberSecEval: avaliações para mitigar riscos cibernéticos em IA.

Além disso, houve avanços no combate a vieses. O Llama 4 recusa menos responder questões polêmicas, é mais equilibrado nas respostas e apresenta viés político significativamente menor que o Llama 3.

Ecossistema Llama em expansão

Mais do que modelos, a Meta aposta em um ecossistema completo com código aberto, integração em nuvem, edge devices e colaborações com a comunidade. A nova geração Llama promete experiências mais seguras, rápidas e personalizadas — e já está disponível para desenvolvedores.

Mais informações : https://ai.meta.com/blog/llama-4-multimodal-intelligence/

Olá!

Está chegando a hora de mais um meetup imperdível da OWASP São Paulo, e queremos muito contar com a sua presença!

Local: Oracle Brasil – ao lado do Shopping Morumbi
Data: 08 de abril de 2025
Horário: a partir das 18h30

Prepare-se para uma noite de alto nível com dois palestrantes de destaque no cenário de segurança da informação:

Michel Roitman – LATAM Master Principal Solution Engineer for Cybersecurity na Oracle
Marcon, Marcelo – IT Specialist e 1º Tenente R2 do Exército Brasileiro – trazendo uma visão estratégica e técnica sobre cibersegurança no setor público e privado

Garanta já sua vaga: https://4soci.al/owaspsp

A confirmação da sua inscrição nos ajuda a dimensionar melhor o nosso coffee break e garantir uma experiência ainda mais completa para todos os participantes.

Participe, conecte-se com a comunidade e fique por dentro das tendências que estão moldando o futuro da segurança digital!

Esperamos você lá!

Equipe OWASP São Paulo