Please use this identifier to cite or link to this item:
https://hdl.handle.net/11147/7115
Title: | Ortak bilgi miktarının modelden-bağımsız ve hızlı hesaplanması için yeni yöntemler | Other Titles: | Novel techniques for model-free and fast computation of mutual information | Authors: | Çağdaş, Serhat Karaçalı, Bilge |
Keywords: | Conditional entropy Mutual information Signal processing Model free Ortak bilgi miktarı Koşullu entropi Model bağımsız Parametrik olmayan |
Publisher: | Institute of Electrical and Electronics Engineers Inc. | Source: | Çağdaş, S., and Karaçalı, B. (2018 May 2-5). Novel techniques for model-free and fast computation of mutual information. Paper presented at the 26th IEEE Signal Processing and Communications Applications Conference, SIU 2018. doi:10.1109/SIU.2018.8404637 | Abstract: | Bu çalışmada, iki rastlantısal değişken arasındaki ortak bilgi miktarının veri üzerinden hesaplanmasına yönelik yeni yaklaşımlar önerilmiştir. Bu yaklaşımlar, doğrusal dönüşüm altında diferansiyel entropinin gösterdiği özellikleri kullarak ve koşullu entropiyi modelden-bağımsız bir şekilde küçültmeye
çalışarak kestirim yapacak şekilde kurgulanmıştır. Birim vektör parametrizasyonu ve veri oturtmaya dayanan tahmin edici olarak adlandırdığımız yöntemlerin, yaygın olarak kullanılan Kraskov yöntemiyle yapılan karşılaştırmalarda, örnek sayısı arttıkça işlem hızı açısından avantaj sağladığı görülmüştür. In this study, two new approaches are proposed to calculate mutual information between two random variables from data. These approaches are constructed in a way to use the properties of the differential entropy under linear transformations and to try to minimize conditional entropy in a model-free manner. In comparisons with a widely used mutual information estimator, the Kraskov method, the methods that we termed as unit vector parametrization and data fitting based estimators, offered an advantage in terms of computation speed. |
Description: | 26th IEEE Signal Processing and Communications Applications Conference, SIU 2018; Altin Yunus Resort ve Thermal Hotel, Izmir; Turkey; 2 May 2018 through 5 May 2018 | URI: | http://doi.org/10.1109/SIU.2018.8404637 http://hdl.handle.net/11147/7115 |
ISBN: | 9781538615010 |
Appears in Collections: | Electrical - Electronic Engineering / Elektrik - Elektronik Mühendisliği Scopus İndeksli Yayınlar Koleksiyonu / Scopus Indexed Publications Collection |
Show full item record
CORE Recommender
Page view(s)
268
checked on Dec 2, 2024
Download(s)
302
checked on Dec 2, 2024
Google ScholarTM
Check
Altmetric
Items in GCRIS Repository are protected by copyright, with all rights reserved, unless otherwise indicated.