English  

كتب data as a markov process

اذا لم تجد ما تبحث عنه يمكنك استخدام كلمات أكثر دقة.

عرض المزيد

البيانات كعملية ماركوف (معلومة)


طريقة شائعة لتعريف الانتروبي لنص مبنية على نموذج ماركوف الخاص بالنص. بالنسبة لمصدر ترتيب-0 (order-0) (يتم تحديد كل حرف بشكل مستقل عن الأحرف الأخيرة) ، فإن الانتروبي الثنائي هو:

حيث pi هو احتمال i . بالنسبة لمصدر ماركوف من الترتيب-الأول (first-order)( مصدر يعتمد فيه احتمال اختيار الحرف فقط على الحرف السابق مباشرة) ، فإن معدل الإنتروبيا هو:

حيث i حالة (بعض الأحرف السابقة) و هو احتمال j بالنظر إلى الحرف i السابق.

بالنسبة لمصدر ماركوف من الترتيب الثاني (second order)، فإن معدل الإنتروبيا هو

المصدر: wikipedia.org