التجميع التوزيعي لكلمات اللغة الإنجليزية

نصف ونقيم تجريبياً طريقة لتجميع الكلمات وفقاً لتوزيعها في سياقات نحوية معينة. تُمثل الكلمات بتوزيعات التردد النسبي للسياقات التي تظهر فيها، ويُستخدم الإنتروبيا النسبية بين تلك التوزيعات كمقياس للتشابه في التجميع. تمثل المجموعات بتوزيعات سياقية متوسطة مشتقة من الكلمات المعطاة وفقاً للاحتمالات المتعلقة بانتمائها للمجموعة. في كثير من الحالات، يمكن اعتبار المجموعات كترميز للفروق العامة في المعنى. يُستخدم التلدين الحتمي لإيجاد مجموعات تجميع ذات أقل تشويه: مع زيادة معامل التلدين، تصبح المجموعات الحالية غير مستقرة وتنقسم، مما ينتج تجميعًا هرميًا "ناعماً" للبيانات. تُستخدم المجموعات كأساس لنماذج الفئة للتزامن بين الكلمات، وتُقيّم النماذج بالنسبة لبيانات الاختبار المحتجزة.