Теорія та методи оцінки ентропії дискретних маніпульованих сигналів

Я. М. Николайчук, Т. І. Пастух, А. Р. Воронич

Анотація


Викладені теоретичні основи аналітичної оцінки ентропії випадкових процесів. Здійснена систематизація оцінок ентропії згідно методів розроблених Р. Хартлі, К. Крампа, Н. Колмогорова,
К. Шенона, Дж. Лонго, Г. Шульца, Б. Олівера, Д. Мідлтона, В. Таллера, В. Боюна, Я. Николайчука. Проведений аналіз аналітики різних оцінок ентропії дозволив встановити, що їх базовою основою є логарифмічні функції імовірнісних станів джерел інформації, багатомірних статистичних розподілів, оцінок приростів математичного сподівання, дисперсії, середньоквадратичного відхилення та різних аналітичних виразів автокореляційних функцій (АКФ). Показано що міра ентропії Р.Хартлі є верхньою оцінкою об’єму інформації, міра Дж.Лонго та Г.Шульца враховують коефіцієнти корисності інформації. Міра К.Шенона враховує імовірнісні стани, а міра Я.Николайчука враховує дисперсію та АКФ, в найбільшій степені наближається до власної ентропії джерела інформації.

Ключові слова


Теорія, ентропія, дискретні маніпульовані сигнали

Повний текст:

PDF

Посилання


К. Шеннон. Работы по теории информации и кибернетике. Издательство иностранной литературы, Москва 1963. — 438 с.

Хартли Р. Л. Передача информации // Теория информации и ее приложения. — М., 1959. — 350 с.

Харкевич А. А. Спектры и анализ. — М. : ГИТТЛ, 1957. — 280 с.

Колмогоров А. Н. Теория передачи информации: Сес. АН СССР по науч. пробл. автоматизации пр–ва. Пленар. заседания. — М. : Изд–во АН СССР, 1957. — 15 с.

Longo G. Quantitative–qualitative measure of information. Inetrnat. Center of mechan. Sciences(Sommerkurs in Undient)/ Springer–Verlag, 1972.

Shults G/ Informations theorie mit Bewertung. Wiss/Zeitschrift d. Humbold Univer. Berlin XX – 1971.S.175–183

Оливер Б. Эффетивное кодирование/ Теория информации и её применение/Под ред.

А. А. Харкевича. — М. : Физматгиз, 1959. — С. 159—190

Миддлтон Д. Введение в статистическую связи. — М. : Советское радио, 1961. — 768 с.

Николайчук Я. М. Теорія джерел інформації. / Монографія: Тернопіль: — ТНЕУ,2008. —536 с.

Николайчук Я. М. Коди поля Галуа:теорія та застосування. —Монографія: / Тернопіль : ТзОВ «Терно—граф». 2012. — 320 с.

Николайчук Я. М. Проектування спеціалізованих комп’ютерних систем. Навчальний посібник/ Тернопіль : ТзОВ «Терно-граф». 2010. —392 с.,іл.

Computer tecnologic 2015

Николайчук Я. М. Концепція інтегрованої теорії джерел інформації // Збірникнаукових праць Бучацького інституту менеджменту і аудиту. — Бучач. — 2009. —№ 5. — С. 52—61.

Боюн В. П. Динамическая теория информации. Основы и приложения. — К. : Ин-т кибернетики им. В. М. Глушкова НАН Украины, 2001. —326 с.

Воронич А. Р. Ентропійні методи формування та процесори опрацювання сигналів на основі коректуючих кодів Галуа : Дис.канд.тех.наук. — Т., 2013

Погонець І. О. Ентропійні методи та обчислювальні засоби ідентифікації станів квазістаціонарних об’єктів керування : Дис.канд.тех.наук. — Т.,2012

Сегін А. І. Моделі джерел інформації та методи їх формування в системах реального часу: Дис.канд.тех.наук — Л., 2001

Кузьмин И. В. Основы теории информации и кодирования / И. В.Кузьмин, В. А. Кедрус. — К. : Вища школа, 1986, —238 с.

Николайчук Я. М., Сегін А. І., Сабодаж І. Метод розпізнавання графічних на основі власних функцій Карунена-Лоєва // Компютерні технології друкарства. Збірник наукових праць. 2000.Львів, — № 5, — 200. — С. 433—347.

Пат. 58743 Україна МПК(2006) G06F 17/15(2011/01). Пристрій для визначення автокореляційної міри ентропії/Івано–Франківський національний технічний університет нафти і газу/ Николайчук Я. М., Воронич А. Р., Погонець І. О №u201011297; заявл. 22.09.2010; опубл. 26.04.2011, Бюл. № 8.

Пат. 68044 Україна МПК G06F 17/15(2006.01). Пристрій для визначення автокореляційної міри ентропії / Івано–Франківський національний технічний університет нафти і газу/ Николайчук Я. М., Воронич А. Р., Погонець І. О., №u 01110818; заявл. 09.09.2011; опубл. 12.03.2012, Бюл. № 5.


Посилання

  • Поки немає зовнішніх посилань.


ISSN 2311-2662 (Online), ISSN 1681-7893 (Print)