التسقُط كتقريب بايزي: تمثيل عدم اليقين في النموذج في التعلم العميق

حصلت أدوات التعلم العميق على اهتمام هائل في تطبيقات التعلم الآلي. ولكن هذه الأدوات الخاصة بالانحدار والتصنيف لا تلتقط عدم اليقين. بالمقارنة، تقدم النماذج البايزية إطارًا رياضيًا للتعامل مع عدم اليقين في النموذج، لكنها غالباً ما تأتي مع تكلفة حسابية عالية. في هذه الورقة، نطور صياغة نظرية جديدة تصور تدريب التسقُط في الشبكات العصبية العميقة كاستدلال تقريبي في عمليات غاوس العميقة. النتيجة المباشرة لهذه النظرية هي أدوات لنمذجة عدم اليقين باستخدام الشبكات العصبية التي تعتمد على التسقُط — استخراج المعلومات التي كانت النماذج الحالية تتجاهلها حتى الآن. هذا يخفف من صعوبة تمثيل عدم اليقين في التعلم العميق دون التضحية بالتعقيد أو دقة الاختبار. أجرينا دراسة شاملة على أثر عدم اليقين الناتج عن التسقُط. تم تقييم بنى شبكات متنوعة وغير الخطيات على مهام الانحدار والتصنيف، باستخدام كمثال. نُظهر تحسُّنًا ملموسًا في تقدير الاحتمالية التنبؤية وجذر متوسط مربعات الخطأ مقارنةً بالطرق الحديثة المتقدمة، وباستخدام عدم اليقين للتسقُط في التعلم التعزيزي العميق.