Теорія та методи оцінки ентропії дискретних маніпульованих сигналів
Ключові слова:
Теорія, ентропія, дискретні маніпульовані сигналиАнотація
Викладені теоретичні основи аналітичної оцінки ентропії випадкових процесів. Здійснена систематизація оцінок ентропії згідно методів розроблених Р. Хартлі, К. Крампа, Н. Колмогорова,К. Шенона, Дж. Лонго, Г. Шульца, Б. Олівера, Д. Мідлтона, В. Таллера, В. Боюна, Я. Николайчука. Проведений аналіз аналітики різних оцінок ентропії дозволив встановити, що їх базовою основою є логарифмічні функції імовірнісних станів джерел інформації, багатомірних статистичних розподілів, оцінок приростів математичного сподівання, дисперсії, середньоквадратичного відхилення та різних аналітичних виразів автокореляційних функцій (АКФ). Показано що міра ентропії Р.Хартлі є верхньою оцінкою об’єму інформації, міра Дж.Лонго та Г.Шульца враховують коефіцієнти корисності інформації. Міра К.Шенона враховує імовірнісні стани, а міра Я.Николайчука враховує дисперсію та АКФ, в найбільшій степені наближається до власної ентропії джерела інформації.
Посилання
1. К. Шеннон. Работы по теории информации и кибернетике. Издательство иностранной литературы, Москва 1963. — 438 с.
2. Хартли Р. Л. Передача информации // Теория информации и ее приложения. — М., 1959. — 350 с.
3. Харкевич А. А. Спектры и анализ. — М. : ГИТТЛ, 1957. — 280 с.
4. Колмогоров А. Н. Теория передачи информации: Сес. АН СССР по науч. пробл. автоматизации пр–ва. Пленар. заседания. — М. : Изд–во АН СССР, 1957. — 15 с.
5. Longo G. Quantitative–qualitative measure of information. Inetrnat. Center of mechan. Sciences(Sommerkurs in Undient)/ Springer–Verlag, 1972.
6. Shults G/ Informations theorie mit Bewertung. Wiss/Zeitschrift d. Humbold Univer. Berlin XX – 1971.S.175–183
7. Оливер Б. Эффетивное кодирование/ Теория информации и её применение/Под ред.
А. А. Харкевича. — М. : Физматгиз, 1959. — С. 159—190
8. Миддлтон Д. Введение в статистическую связи. — М. : Советское радио, 1961. — 768 с.
9. Николайчук Я. М. Теорія джерел інформації. / Монографія: Тернопіль: — ТНЕУ,2008. —536 с.
10. Николайчук Я. М. Коди поля Галуа:теорія та застосування. —Монографія: / Тернопіль : ТзОВ «Терно—граф». 2012. — 320 с.
11. Николайчук Я. М. Проектування спеціалізованих комп’ютерних систем. Навчальний посібник/ Тернопіль : ТзОВ «Терно-граф». 2010. —392 с.,іл.
12. Computer tecnologic 2015
13. Николайчук Я. М. Концепція інтегрованої теорії джерел інформації // Збірникнаукових праць Бучацького інституту менеджменту і аудиту. — Бучач. — 2009. —№ 5. — С. 52—61.
14. Боюн В. П. Динамическая теория информации. Основы и приложения. — К. : Ин-т кибернетики им. В. М. Глушкова НАН Украины, 2001. —326 с.
15. Воронич А. Р. Ентропійні методи формування та процесори опрацювання сигналів на основі коректуючих кодів Галуа : Дис.канд.тех.наук. — Т., 2013
16. Погонець І. О. Ентропійні методи та обчислювальні засоби ідентифікації станів квазістаціонарних об’єктів керування : Дис.канд.тех.наук. — Т.,2012
17. Сегін А. І. Моделі джерел інформації та методи їх формування в системах реального часу: Дис.канд.тех.наук — Л., 2001
18. Кузьмин И. В. Основы теории информации и кодирования / И. В.Кузьмин, В. А. Кедрус. — К. : Вища школа, 1986, —238 с.
19. Николайчук Я. М., Сегін А. І., Сабодаж І. Метод розпізнавання графічних на основі власних функцій Карунена-Лоєва // Компютерні технології друкарства. Збірник наукових праць. 2000.Львів, — № 5, — 200. — С. 433—347.
20. Пат. 58743 Україна МПК(2006) G06F 17/15(2011/01). Пристрій для визначення автокореляційної міри ентропії/Івано–Франківський національний технічний університет нафти і газу/ Николайчук Я. М., Воронич А. Р., Погонець І. О №u201011297; заявл. 22.09.2010; опубл. 26.04.2011, Бюл. № 8.
21. Пат. 68044 Україна МПК G06F 17/15(2006.01). Пристрій для визначення автокореляційної міри ентропії / Івано–Франківський національний технічний університет нафти і газу/ Николайчук Я. М., Воронич А. Р., Погонець І. О., №u 01110818; заявл. 09.09.2011; опубл. 12.03.2012, Бюл. № 5.
2. Хартли Р. Л. Передача информации // Теория информации и ее приложения. — М., 1959. — 350 с.
3. Харкевич А. А. Спектры и анализ. — М. : ГИТТЛ, 1957. — 280 с.
4. Колмогоров А. Н. Теория передачи информации: Сес. АН СССР по науч. пробл. автоматизации пр–ва. Пленар. заседания. — М. : Изд–во АН СССР, 1957. — 15 с.
5. Longo G. Quantitative–qualitative measure of information. Inetrnat. Center of mechan. Sciences(Sommerkurs in Undient)/ Springer–Verlag, 1972.
6. Shults G/ Informations theorie mit Bewertung. Wiss/Zeitschrift d. Humbold Univer. Berlin XX – 1971.S.175–183
7. Оливер Б. Эффетивное кодирование/ Теория информации и её применение/Под ред.
А. А. Харкевича. — М. : Физматгиз, 1959. — С. 159—190
8. Миддлтон Д. Введение в статистическую связи. — М. : Советское радио, 1961. — 768 с.
9. Николайчук Я. М. Теорія джерел інформації. / Монографія: Тернопіль: — ТНЕУ,2008. —536 с.
10. Николайчук Я. М. Коди поля Галуа:теорія та застосування. —Монографія: / Тернопіль : ТзОВ «Терно—граф». 2012. — 320 с.
11. Николайчук Я. М. Проектування спеціалізованих комп’ютерних систем. Навчальний посібник/ Тернопіль : ТзОВ «Терно-граф». 2010. —392 с.,іл.
12. Computer tecnologic 2015
13. Николайчук Я. М. Концепція інтегрованої теорії джерел інформації // Збірникнаукових праць Бучацького інституту менеджменту і аудиту. — Бучач. — 2009. —№ 5. — С. 52—61.
14. Боюн В. П. Динамическая теория информации. Основы и приложения. — К. : Ин-т кибернетики им. В. М. Глушкова НАН Украины, 2001. —326 с.
15. Воронич А. Р. Ентропійні методи формування та процесори опрацювання сигналів на основі коректуючих кодів Галуа : Дис.канд.тех.наук. — Т., 2013
16. Погонець І. О. Ентропійні методи та обчислювальні засоби ідентифікації станів квазістаціонарних об’єктів керування : Дис.канд.тех.наук. — Т.,2012
17. Сегін А. І. Моделі джерел інформації та методи їх формування в системах реального часу: Дис.канд.тех.наук — Л., 2001
18. Кузьмин И. В. Основы теории информации и кодирования / И. В.Кузьмин, В. А. Кедрус. — К. : Вища школа, 1986, —238 с.
19. Николайчук Я. М., Сегін А. І., Сабодаж І. Метод розпізнавання графічних на основі власних функцій Карунена-Лоєва // Компютерні технології друкарства. Збірник наукових праць. 2000.Львів, — № 5, — 200. — С. 433—347.
20. Пат. 58743 Україна МПК(2006) G06F 17/15(2011/01). Пристрій для визначення автокореляційної міри ентропії/Івано–Франківський національний технічний університет нафти і газу/ Николайчук Я. М., Воронич А. Р., Погонець І. О №u201011297; заявл. 22.09.2010; опубл. 26.04.2011, Бюл. № 8.
21. Пат. 68044 Україна МПК G06F 17/15(2006.01). Пристрій для визначення автокореляційної міри ентропії / Івано–Франківський національний технічний університет нафти і газу/ Николайчук Я. М., Воронич А. Р., Погонець І. О., №u 01110818; заявл. 09.09.2011; опубл. 12.03.2012, Бюл. № 5.
##submission.downloads##
-
PDF
Завантажень: 411
Переглядів анотації: 322
Опубліковано
2015-07-20
Як цитувати
[1]
Я. М. Николайчук, Т. І. Пастух, і А. Р. Воронич, «Теорія та методи оцінки ентропії дискретних маніпульованих сигналів», Опт-ел. інф-енерг. техн., вип. 29, вип. 1, с. 18–29, Лип 2015.
Номер
Розділ
Методи та системи оптико-електронної і цифрової обробки зображень та сигналів
Ліцензія
Автори, які публікуються у цьому журналі, погоджуються з наступними умовами:- Автори залишають за собою право на авторство своєї роботи та передають журналу право першої публікації цієї роботи на умовах ліцензії Creative Commons Attribution License, котра дозволяє іншим особам вільно розповсюджувати опубліковану роботу з обов'язковим посиланням на авторів оригінальної роботи та першу публікацію роботи у цьому журналі.
- Автори мають право укладати самостійні додаткові угоди щодо неексклюзивного розповсюдження роботи у тому вигляді, в якому вона була опублікована цим журналом (наприклад, розміщувати роботу в електронному сховищі установи або публікувати у складі монографії), за умови збереження посилання на першу публікацію роботи у цьому журналі.
- Політика журналу дозволяє і заохочує розміщення авторами в мережі Інтернет (наприклад, у сховищах установ або на особистих веб-сайтах) рукопису роботи, як до подання цього рукопису до редакції, так і під час його редакційного опрацювання, оскільки це сприяє виникненню продуктивної наукової дискусії та позитивно позначається на оперативності та динаміці цитування опублікованої роботи (див. The Effect of Open Access).