GPTCast: نموذج لغوي للأحوال الجوية للتنبؤ الفوري بالهطول

الملخص. يُقدّم هذا العمل GPTCast، وهي طريقة توليدية للتعلم العميق للتنبؤ الفوري التشاركي باستخدام رادار الهطول، مستوحاة من التطورات في نماذج اللغة الكبيرة (LLMs). نستخدم نموذج المحول المدرب مسبقًا التوليدي (GPT) كمُنَبِّئ ليتعلم ديناميكيات الهطول المكاني والزمني باستخدام صور رادارية مقسمة إلى رموز. يعتمد محول الرموز على مشفر تلقائي مشفّر متغير (VQGAN) مع وظيفة خسارة إعادة بناء جديدة مصممة لتوزيع الهطول المنحرف، تعزز إعادة البناء الدقيقة لمعدلات الأمطار العالية. تنتج هذه الطريقة توقعات تشاركية واقعية وتوفر مخرجات احتمالية مع تقدير دقيق لعدم اليقين. يعمل الهيكل الأساسي بشكل حتمي أثناء التمرير الأمامي؛ ويأتي تباين التوقعات من أخذ عينات من التوزيع الاحتمالي الفئوي الذي يتنبأ به المُنبئ أثناء الاستدلال، بدلاً من الحاجة إلى مدخلات عشوائية خارجية مثل حقن الضوضاء الشائعة في نماذج توليدية أخرى. إذًا، يتم تعلُّم كل تباين التوقعات فقط من توزيع البيانات. ندرب ونختبر GPTCast باستخدام مجموعة بيانات رادارية لست سنوات في منطقة إميليا-رومانيا في شمال إيطاليا، مظهرين نتائج متفوقة مقارنة بأساليب التوسيع التشاركي الرائدة.