دراسة مقارنة للمحوّلات في معالجة الصور

المحوّلات، الشبكات العصبية المعتمدة كليًا على آليات الانتباه الذاتي، حققت نجاحًا كبيرًا في معالجة اللغات الطبيعية. أصبحت الحل القياسي في هذا المجال. BERT وGPT هما مثالان على أحدث المحوّلات المتطورة. بالإضافة إلى ذلك، جذبت المحوّلات اهتمامًا كبيرًا في معالجة الصور في السنوات الأخيرة. في البحث الحالي، هناك عدة نهوج، ولم يستطع أي منها فرض نفسه حتى الآن. في هذه الرسالة نشرح آلية الانتباه وكيفية استخدامها في بنية المحوّل. باستخدام أمثلة مختارة، نظهر كيف يتم نقل البنية إلى مجال الصور. نقارن بين النهوج المختلفة مع بعضها البعض ومع الحل المتطور الحالي، شبكات الأعصاب الالتفافية. علاوة على ذلك، نُصور الانتباه داخل المحوّل لاكتساب رؤى حول قرارات الشبكة.