مهدی مشایخی
2 سال پیش توسط مهدی مشایخی مطرح شد
2 پاسخ

مفهوم و توضیح آنتروپی Entropy در ریاضیات و یادگیری ماشین

سلام
کسی از دوستان میتونه مفهوم آنتروپی (Entropy) رو به صورت ساده و کامل توضیح بده
برای بخش درخت تصمیم در یادگیری ماشینی مورداستفاده قرار میگیره


ثبت پرسش جدید
علیرضا غلامیان پور
تخصص : برنامه نویس و کارشناس ابزار دق...
@AlirezaQolamian 2 سال پیش مطرح شد
0

سلام مهدی وقتت بخیر
در تئوری اطلاعات، آنتروپی اطلاعات یا به صورت دقیق‌تر، آنتروپی شانون (از این اسم گرفته شده)، امید ریاضی (میانگین) اطلاعات موجود در هر پیام دریافت شده است. در اینجا «پیام» لزوما متن نیست و هر جریانی از اطلاعات می‌تواند باشد. آنتروپی هر پیام، مقدار عدم قطعیت آن است.
هر چی پیام رندوم تر باشه تصادف بیشتر.
هر چی پیام دقیق و رندوم نباشه مقدارش کمتر میشه.
کلا هر چه یک اتفاقی کمتر تصادفی و رندوم باشه زمان رخداد اطلاعات بیشتری رو فراهم میکنه.


مهدی مشایخی
تخصص : برنامه نویس پایتون - ماشین لرن...
@MahdiMashayekhi 2 سال پیش مطرح شد
0

ممنون تشکر
تا حدودی متوجه این موضوع شدم ولی امکانش هست به صورت ساده تر و اگه میشه با یک مثال توضیح بدی؟


برای ارسال پاسخ لازم است وارد شده یا ثبت‌نام کنید

ورود یا ثبت‌نام