Revisão da eficiência energética das grandes YOLOv8 e RT-DETR em dispositivos edge para detecção em tempo real

A implantação de detectores de objetos grandes em plataformas embarcadas edge é regida por um compromisso conjunto entre precisão de detecção, taxa de transferência de ponta a ponta e potência total do sistema. Este artigo avalia as variantes grandes YOLOv8l e RT-DETR-l em ambientes heterogêneos de execução em duas plataformas edge: Raspberry Pi 5 com CPU e aceleração NPU, e Nvidia Jetson Orin NX com aceleração GPU. A precisão é avaliada no COCO val2017 usando mAP50-95, enquanto a taxa de transferência e eficiência energética (FPS/W) são medidas em um pipeline realista de vídeo ponta a ponta que inclui decodificação, pré-processamento, inferência e pós-processamento. A latência de execução do modelo é analisada separadamente da taxa de transferência do pipeline para evitar ambiguidade entre o tempo de inferência e a taxa de processamento ponta a ponta. No Raspberry Pi 5, a execução apenas por CPU dos modelos grandes é impraticável devido à latência de vários segundos por quadro, enquanto a aceleração NPU melhora substancialmente a eficiência energética para YOLOv8l, embora com restrições de implantação que podem reduzir a precisão. No Jetson Orin NX, o TensorRT oferece o caminho de implantação mais robusto para ambas as arquiteturas; contudo, o ranking relativo entre YOLOv8l e RT-DETR-l depende da realização em tempo de execução, e não apenas dos FLOPs nominais. Uma interpretação generalizada baseada na latência normalizada e energia por GFLOP nominal, assim como uma decomposição da sensibilidade à conversão e à quantização, mostra que a eficiência da implantação é determinada conjuntamente pela demanda nominal de computação, comportamento do sistema de memória, overhead de tempo de execução e retenção da precisão após exportação e quantização. Sob as condições testadas, nenhuma das configurações avaliadas de modelos grandes atinge o rigoroso alvo de tempo real de 25 FPS para o pipeline completo, indicando que são necessárias otimizações adicionais específicas para hardware e/ou variantes menores do modelo para implantação edge em tempo real.