Geometria, Estatística e Aplicações a Comunicações e Aprendizado
DOI:
https://doi.org/10.5540/03.2023.010.01.0004Palavras-chave:
Aprendizado supervisionado, compressão de dados, empacotamento de esferas, geometria da informação, teoria da informaçãoResumo
Esta dissertação é composta por três contribuições, que têm em comum a utilização de ferramentas de geometria e/ou estatística em aplicações a comunicações e aprendizado. A primeira trata da construção de códigos esféricos a partir de um procedimento recursivo que se baseia em folheações de esferas dadas pela fibração de Hopf. Na segunda, propomos um método de compressão vetorial com perdas, formado por um quantizador adaptável aos dados, seguido de compressão dos índices de quantização com um algoritmo de árvores de contexto. A terceira consiste em usar uma função perda baseada na distância de Fisher–Rao da variedade de distribuições discretas para o treinamento de redes neurais, particularmente sob ruído de rótulo.
Downloads
Referências
S. Amari e H. Nagaoka. Methods of Information Geometry. Providence, RI: American Mathematical Society, 2000. isbn: 978-0-8218-4302-4.
O. Calin e C. Udrişte. Geometric Modeling in Probability and Statistics. Cham: Springer, 2014. isbn: 978-3-319-07778-9.
T. M. Cover e J. A. Thomas. Elements of Information Theory. 2nd. Hoboken, NJ: Wiley, 2006. isbn: 978-0-4712-4195-9.
T. Ericson e V. Zinoviev. Codes on Euclidean Spheres. Amsterdam: North-Holland, 2001. isbn: 0-444-50329-3.
E. Gassiat. Universal Coding and Order Identification by Model Selection Mehtods. Cham: Springer, 2018. isbn: 978-3-0300-7167-7.
A. Ghosh, H. Kumar e P. S. Sastry. “Robust loss functions under label noise for deep neural networks”. Em: Proceedings of the 31st AAAI Conference on Artificial Intelligence. 2017, pp. 1919–1925.
D. W. Lyons. “An elementary introduction to the Hopf fibration”. Em: Mathematics Magazine 76.2 (2003), pp. 87–98. doi: 10.2307/3219300.
H. K. Miyamoto. “Geometria, estatística e aplicações a comunicações e aprendizado”. Dissertação de mestrado. Universidade Estadual de Campinas, 2022. url: https://hdl.handle.net/20.500.12733/6633.
H. K. Miyamoto, S. I. R. Costa e H. N. Sá Earp. “Constructive spherical codes by Hopf foliations”. Em: IEEE Transactions on Information Theory 67.12 (2021), pp. 7925–7939. doi: 10.1109/TIT.2021.3114094.
H. K. Miyamoto, F. C. C. Meneghetti e S. I. R. Costa. “On closed-form expressions for the Fisher–Rao distance”. Em: arXiv Preprints (2023). doi: 10.48550/arXiv.2304.14885.
H. K. Miyamoto, F. C. C. Meneghetti e S. I. R. Costa. “The Fisher–Rao loss for learning under label noise”. Em: Information Geometry 6 (2023), pp. 107–126. doi: 10.1007/s41884-022-00076-8.
H. K. Miyamoto e S. Yang. “Context-tree-based lossy compression and its application to CSI representation”. Em: IEEE Transactions on Communications 70.7 (2022), pp. 4417–4428. doi: 10.1109/TCOMM.2022.3173002.
H. Vân Lê. “The uniqueness of the Fisher metric as information metric”. Em: Annals of the Institute of Statistical Mathematics 69 (2017), pp. 879–896. doi: 10.1007/s10463-016-0562-0.
F. M. J. Willems, Y. M. Shtarkov e T. J. Tjalkens. “The context-tree weighting method: basic properties”. Em: IEEE Transactions on Information Theory 41.3 (1995), pp. 653–664. doi: 10.1109/18.382012.
F. M. J. Willems, T. J. Tjalkens e Y. M. Shtarkov. “Context-tree maximizing”. Em: Proceedings of the 34th Annual Conference on Information Sciences and Systems. 2000, TP6-7–TP6-12.
