مراجعة كفاءة الطاقة لنماذج YOLOv8 الكبيرة وRT-DETR على أجهزة الحافة للكشف في الوقت الحقيقي

يشرف على نشر كواشف الأشياء الكبيرة على منصات الحافة المُدمجة موازنة مشتركة بين دقة الكشف، ومعدل النقل من البداية إلى النهاية، وإجمالي استهلاك الطاقة للنظام. تقوم هذه الورقة بتقييم متغيرات YOLOv8l وRT-DETR-l الكبيرة عبر أطر زمنية للتوزيع متنوعة على جهازين طرفيين: Raspberry Pi 5 مع تحميل على المعالج المركزي ووحدة معالجة الشبكات العصبية (NPU)، وNvidia Jetson Orin NX مع تسريع GPU. تم تقييم الدقة على COCO val2017 باستخدام mAP50-95، في حين قيس معدل النقل وكفاءة الطاقة (FPS/W) على خط أنابيب فيديو واقعي يشمل فك التشفير والمعالجة المسبقة والاستدلال والمعالجة اللاحقة. تم تحليل زمن تنفيذ النموذج بشكل منفصل عن معدل نقل الخط لأن ذلك يمنع الالتباس بين زمن الاستدلال ومعدل المعالجة من البداية إلى النهاية. على Raspberry Pi 5، التنفيذ باستخدام المعالج المركزي فقط للنماذج الكبيرة غير عملي بسبب تأخير يزيد عن عدة ثواني لكل إطار، في حين يحسن تسريع NPU كفاءة الطاقة بشكل كبير لـ YOLOv8l، لكن مع قيود على النشر يمكن أن تقلل الدقة. على Jetson Orin NX، يوفر TensorRT المسار الأقوى للنشر لكلتا المعماريتين؛ إلا أن الترتيب النسبي بين YOLOv8l وRT-DETR-l يعتمد على التنفيذ الزمني وليس فقط على FLOPs الاسمية. يوضح التفسير المعمم استنادًا إلى زمن التأخير المعتمد والطاقة لكل GFLOP اسمي، إلى جانب تحليل حساسية التحويل وحساسية التكميم، أن كفاءة النشر تحددها مركبًا طلب الحوسبة الاسمي، وسلوك نظام الذاكرة، والعبء الزمني للتشغيل، واحتفاظ الدقة بعد التصدير والتكميم. في ظل الظروف المختبرة، لم تصل أي من التكوينات النموذجية الكبيرة إلى الهدف الصارم للكشف في الوقت الحقيقي بمعدل 25 إطارًا في الثانية لخط الأنابيب الكامل، مما يشير إلى أن تحسينات خاصة بالأجهزة و/أو استخدام نماذج أصغر لا تزال مطلوبة للنشر الفوري على الحافة.