Novo: Suporte a Llama 3.3 70B no Jetson AGX Orin com TensorRT-LLM. Ver benchmark

#1 Plataforma de Edge AI Benchmarking

Benchmarks de LLMs para edge computing que importam.

Do Jetson Orin ao ESP32. Descubra o modelo certo para seu hardware, simule viabilidade antes do deploy e valide resultados com a comunidade técnica mais rigorosa do Brasil.

Free para sempre em benchmarks públicos · Pro a partir de R$ 29/mês

4.2k+benchmarks
38plataformas
850+engenheiros
edgebench · benchmark ativo● LIVE
Jetson Orin Nano · Llama 3 8B · INT4 · TensorRT-LLM
39.2tokens/s
Llama 3 8B · Jetson Orin Nano · INT439.2
TinyLlama 1.1B · Raspberry Pi 5 · INT812.8
Phi-3 Mini · MacBook M2 · FP1667.4
Latência p50
25ms
Consumo
8.4W
Acurácia
94.1%
Hardware suportado

Do servidor ao microcontrolador.

Edge server
39.2
tok/s
Jetson Orin Nano
Llama 3 8B INT4
Edge IoT
12.8
tok/s
Raspberry Pi 5
TinyLlama 1.1B
MCU
1.4
tok/s
ESP32-S3
MiniLM-L6 TFLite
WebGPU
67.4
tok/s
MacBook M2
Phi-3 Mini FP16
Preços

Simples, transparente, escalável.

Comece grátis. Upgrade quando precisar de mais poder.

Free
R$ 0
  • 3 simulações/mês
  • Benchmarks públicos
  • Comunidade básica
Mais popular
Pro
R$ 29/mês
  • Simulações ilimitadas
  • Exportação CI/CD
  • Suporte 24h
Team
R$ 79/usuário
  • Tudo do Pro
  • API de benchmarking
  • Dashboard de equipe
Comunidade

Confiado por engenheiros de edge AI.

Reduzi o tempo de viabilidade de 3 semanas para 2 horas. A estimativa INT4+TensorRT ficou dentro de 8% do resultado real.

RL
Rafael Lima
ML Engineer · NVIDIA Partner

A comunidade foi o que me faltava. Reproduzir um benchmark no Jetson Orin Nano e receber feedback em 1 hora é incrível.

AS
Ana Souza
Pesquisadora · UFMG

O plano Team substituiu 3 ferramentas que usávamos. O CI/CD integration com GitHub Actions salvou nosso pipeline.

JC
Juliana Costa
CTO · EmbedAI Solutions

Pronto para otimizar seus modelos?

Junte-se a 850+ engenheiros que economizam semanas de trabalho por mês. Grátis para sempre em benchmarks públicos.

Sem cartão de crédito Trial de 14 dias LGPD compliant

Benchmarks em destaque

Llama-3-8BINT4
Jetson Orin Nano
39.2 tok/s
25ms p50
TinyLlama-1.1BINT8
Raspberry Pi 5
12.8 tok/s
78ms p50
Phi-3 MiniFP16
MacBook M2
67.4 tok/s
15ms p50