Э. А. Абдыкеримова
Ақпарат мӛлшерінің бірліктері
жүктеу/скачать 1,31 Mb. Pdf көрінісі
|
Э.А.Абдыкеримова.ИНФОРМАТИКАНЫҢ ТЕОРИЯЛЫҚ НЕГІЗДЕРІ
|
2.6 Ақпарат мӛлшерінің бірліктері «Ақпарат мӛлшері» ҧғымын анықтау ӛте қиын. Бҧл мәселені шешу екі негізгі тҧрғыда қарастырылды. ХХ ғасырдың 40-жылдары кибернетиканың негізін салушы Клод Шеннон бҧл мәселені ықтималдық тҧрғыдан қарастырды. Ықтималдық тұрғы Мысал ретінде N жағы бар дҧрыс ойын сҥйегін лақтырумен байланысты тәжірибені қарастырайық (кӛбінесе N=6). Тәжірибе нәтижесі тӛмендегідей болуы мҥмкін: яғни 1, 2, ..., N белгілерінің бірі бар жақпен тҥсу. Анықталмағандықты ӛлшейтін H – энтропия сандық шамасын енгіземіз. N және H қандай да бір функциялық байланыста: H=f(N) (1.1) Ал f - ӛспелі N=1..6 ҥшін анықталған функция. Сҥйекті лақтыру процедурасы нақтырақ: 1) сҥйекті лақтыруға дайындық; тәжірибе нәтижесі белгісіз, яғни анықталмағандық - H1 шамасын енгіземіз. 2) сҥйек лақтырылды; тәжірибе нәтижесі туралы ақпарат алынды, оның мӛлшерін І деп белгілейміз 3) тәжірибе іске асырылғаннан кейінгі анықталмағандық - H2. 23 Осы тәжірибені жҥзеге асыру кезіндегі ақпарат мӛлшері ретінде тәжірибеге ―дейін‖ және ―кейінгі‖ белгілердің айырымын аламыз: І=H1-H2 (1.2) Егер нақты нәтиже алынса, яғни H2=0 болса, онда І=Н1, яғни бастапқы энтропияға тең. Басқаша айтқанда, тәжірибедегі анықталмағандық - сол тәжірибенің нәтижесі туралы ақпаратпен беттеседі. Енді (1.1)-дегі f функциясының тҥрін анықтау қажет. Егер N жақ пен лақтыру саны –M десек, онда жалпы нәтиже саны: жүктеу/скачать 1,31 Mb. Достарыңызбен бөлісу:
|