Ќазахстан республикасы білім жјне єылым министрлігі

Бұл формула бойынша егер p₁, ..., p_N ықтималдықтары тең болса, онда олардың әрқайсысының мәні 1/N –ге тең болады да, Шеннон формуласы Хартли формуласына айналып кетеді.

Бұл екі формуладан басқа да ұсыныстар болған. Бірақ бір есте ұстайтын жайт – кез келген теориялық ұсыныс бастапқы алынған шарттарға қарай тек кейбір оқиғаларға байланысты ғана дұрыс нәтиже береді.

Клод Шеннон информацияны өлшеу үшін бір  бит (ағылшынша bit — binary digit — екілік сан) бірлігін ұсынды.

Ақпарат теориясында: Бит — ықтималдықтары бірдей екі оқиғаның бірінен бірін ажыратуға қажетті информация мөлшері.  

Бит — өлшеудің ең кіші бірлігі, сондықтан практикада одан үлкенірек өлшем бірлігі —  байт қолданылады. Байт — қатар тұрған сегіз биттен тұрады. Компью-тер пернетақтасының 256 символдан тұратын таңбала-рының кез келгенін кодтау үшін 8 бит қажет (256=2⁸).

Бұдан басқа іріленген өлшем бірліктері де қолданылады:

1 Килобайт (Кбайт) = 1024 байт = 2¹⁰ байт,

1 Мегабайт (Мбайт) = 1024 Кбайт = 2²⁰ байт,

1 Гигабайт (Гбайт) = 1024 Мбайт = 2³⁰ байт.
1 Терабайт (Тбайт) = 1024 Гбайт = 2⁴⁰ байт,

1 Петабайт (Пбайт) = 1024 Тбайт = 2⁵⁰ байт