Теорія та методи оцінки ентропії дискретних маніпульованих сигналів

  • Я. М. Николайчук Тернопільський національний економічний університет, Україна
  • Т. І. Пастух Тернопільський національний економічний університет, Україна
  • А. Р. Воронич Івано-Франківський національний технічний університет нафти і газу, Україна
Ключові слова: Теорія, ентропія, дискретні маніпульовані сигнали

Анотація

Викладені теоретичні основи аналітичної оцінки ентропії випадкових процесів. Здійснена систематизація оцінок ентропії згідно методів розроблених Р. Хартлі, К. Крампа, Н. Колмогорова,
К. Шенона, Дж. Лонго, Г. Шульца, Б. Олівера, Д. Мідлтона, В. Таллера, В. Боюна, Я. Николайчука. Проведений аналіз аналітики різних оцінок ентропії дозволив встановити, що їх базовою основою є логарифмічні функції імовірнісних станів джерел інформації, багатомірних статистичних розподілів, оцінок приростів математичного сподівання, дисперсії, середньоквадратичного відхилення та різних аналітичних виразів автокореляційних функцій (АКФ). Показано що міра ентропії Р.Хартлі є верхньою оцінкою об’єму інформації, міра Дж.Лонго та Г.Шульца враховують коефіцієнти корисності інформації. Міра К.Шенона враховує імовірнісні стани, а міра Я.Николайчука враховує дисперсію та АКФ, в найбільшій степені наближається до власної ентропії джерела інформації.

Біографії авторів

Я. М. Николайчук, Тернопільський національний економічний університет, Україна
д.т.н.,професор,завідувач кафедри спеціалізованих комп’ютерних систем
Т. І. Пастух, Тернопільський національний економічний університет, Україна
аспірант кафедри спеціалізованих комп’ютерних систем
А. Р. Воронич, Івано-Франківський національний технічний університет нафти і газу, Україна
к.т.н., доцент кафедри комп’ютерних систем та мереж

Посилання

1. К. Шеннон. Работы по теории информации и кибернетике. Издательство иностранной литературы, Москва 1963. — 438 с.
2. Хартли Р. Л. Передача информации // Теория информации и ее приложения. — М., 1959. — 350 с.
3. Харкевич А. А. Спектры и анализ. — М. : ГИТТЛ, 1957. — 280 с.
4. Колмогоров А. Н. Теория передачи информации: Сес. АН СССР по науч. пробл. автоматизации пр–ва. Пленар. заседания. — М. : Изд–во АН СССР, 1957. — 15 с.
5. Longo G. Quantitative–qualitative measure of information. Inetrnat. Center of mechan. Sciences(Sommerkurs in Undient)/ Springer–Verlag, 1972.
6. Shults G/ Informations theorie mit Bewertung. Wiss/Zeitschrift d. Humbold Univer. Berlin XX – 1971.S.175–183
7. Оливер Б. Эффетивное кодирование/ Теория информации и её применение/Под ред.
А. А. Харкевича. — М. : Физматгиз, 1959. — С. 159—190
8. Миддлтон Д. Введение в статистическую связи. — М. : Советское радио, 1961. — 768 с.
9. Николайчук Я. М. Теорія джерел інформації. / Монографія: Тернопіль: — ТНЕУ,2008. —536 с.
10. Николайчук Я. М. Коди поля Галуа:теорія та застосування. —Монографія: / Тернопіль : ТзОВ «Терно—граф». 2012. — 320 с.
11. Николайчук Я. М. Проектування спеціалізованих комп’ютерних систем. Навчальний посібник/ Тернопіль : ТзОВ «Терно-граф». 2010. —392 с.,іл.
12. Computer tecnologic 2015
13. Николайчук Я. М. Концепція інтегрованої теорії джерел інформації // Збірникнаукових праць Бучацького інституту менеджменту і аудиту. — Бучач. — 2009. —№ 5. — С. 52—61.
14. Боюн В. П. Динамическая теория информации. Основы и приложения. — К. : Ин-т кибернетики им. В. М. Глушкова НАН Украины, 2001. —326 с.
15. Воронич А. Р. Ентропійні методи формування та процесори опрацювання сигналів на основі коректуючих кодів Галуа : Дис.канд.тех.наук. — Т., 2013
16. Погонець І. О. Ентропійні методи та обчислювальні засоби ідентифікації станів квазістаціонарних об’єктів керування : Дис.канд.тех.наук. — Т.,2012
17. Сегін А. І. Моделі джерел інформації та методи їх формування в системах реального часу: Дис.канд.тех.наук — Л., 2001
18. Кузьмин И. В. Основы теории информации и кодирования / И. В.Кузьмин, В. А. Кедрус. — К. : Вища школа, 1986, —238 с.
19. Николайчук Я. М., Сегін А. І., Сабодаж І. Метод розпізнавання графічних на основі власних функцій Карунена-Лоєва // Компютерні технології друкарства. Збірник наукових праць. 2000.Львів, — № 5, — 200. — С. 433—347.
20. Пат. 58743 Україна МПК(2006) G06F 17/15(2011/01). Пристрій для визначення автокореляційної міри ентропії/Івано–Франківський національний технічний університет нафти і газу/ Николайчук Я. М., Воронич А. Р., Погонець І. О №u201011297; заявл. 22.09.2010; опубл. 26.04.2011, Бюл. № 8.
21. Пат. 68044 Україна МПК G06F 17/15(2006.01). Пристрій для визначення автокореляційної міри ентропії / Івано–Франківський національний технічний університет нафти і газу/ Николайчук Я. М., Воронич А. Р., Погонець І. О., №u 01110818; заявл. 09.09.2011; опубл. 12.03.2012, Бюл. № 5.
Опубліковано
2015-07-20
Як цитувати
[1]
Я. Николайчук, Т. Пастух, і А. Воронич, Теорія та методи оцінки ентропії дискретних маніпульованих сигналів, ОЕІЕТ, vol 29, no 1, pp 18-29, Лип 2015.
Розділ
Методи та системи оптико-електронної і цифрової обробки зображень та сигналів