1 / 5

Формула Шеннона

Формула Шеннона. ФОРМУЛА ШЕННОНА. Количество информации для событий с различными вероятностями определяется по формуле:. I – количество информации, N – количество возможных событий p i – вероятности отдельных событий. Если события равновероятны ( p i =1/ N ) :.

ata
Download Presentation

Формула Шеннона

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. Формула Шеннона

  2. ФОРМУЛА ШЕННОНА Количество информации для событий с различными вероятностями определяется по формуле: I – количество информации, N– количество возможных событий pi– вероятности отдельных событий Если события равновероятны( pi=1/N):

  3. ЗАДАНИЕ «БРОСАНИЕ ПЕРАМИДКИ» Определить количество информации, которую мы получим в результате бросания несимметричной и симметричной пирамидок. При бросании несимметричной четырехгранной пирамидки вероятности отдельных событий равны: Количество информации рассчитываем по формуле: p1=1/2; p2=1/4; p3=1/8; p4=1/8. I=(1/2·log21/2+ 1/4·log21/4 + 1/8·log21/8 + 1/8·log21/8) битов = = (1/2·log22+ 1/4·log24 + 1/8·log28 + 1/8·log28) битов = = (1/2+ 2/4+ 3/8+ 3/8)битов = 14/8 битов = 1,75бита. При бросании симметричной четырехгранной пирамидки вероятности отдельных событий равны между собой: Количество информации рассчитываем по формуле: p1= p2= p3= p4=1/4. I= log24 = 2бита. Количество информации, которую мы получаем, достигает максимальногозначения, если события равновероятны.

  4. ВЫБОР ПРАВИЛЬНОЙ СТРАТЕГИИ На получении максимального количества информации строится выбор правильной стратегии в игре «Угадай число», в которой первый участник загадывает целое число (например, 3) из заданного интервала (например от 1 до 16), а второй должен «угадать» задуманное число. Информационная модель игры «Угадай число»

  5. КОМПЬЮТЕРНЫЙ ПРАКТИКУМ Определение количества информации Задача.В непрозрачном мешочке хранятся 10 белых, 30 красных, 30 синих и 40 зеленых шариков. Какое количество информации будет содержать зрительное сообщение о цвете вынутого шарика? Так как количество шариков различных цветов неодинаково, то вероятности зрительных сообщений о цвете вынутого из мешочка шарика также различаются и равны количеству шариков данного цвета, деленному на общее количество шариков: рб=0.1; pк = 0,2; рс= 0,3;рз= 0,4. События неравновероятны, поэтому воспользуемся формулой I=(0,1·log20,1 + 0,2·log20,2 + 0,3·log20,3 + 0,4·log20,4) битов. Для вычисления этого выражения воспользуемся компьютерным калькулятором Wise Calculator. Таким образом, I ≈1,85бита.

More Related