Tenzory a kanonické tenzorové rozklady: Tuckerův rozklad
Loading...
Date
Authors
Journal Title
Journal ISSN
Volume Title
Publisher
Abstract
Soudobý vývoj v aplikované a numerické lineární algebře stále více směřuje, mimo jiné, od maticových výpočtů směrem k výpočtům tenzorovým. Tenzorové úlohy se přirozeně vyskytují např. ve výpočtech v kvantové chemii, ale i v jednodušších problémech, např. chceme-li řešit úlohu vedení tepla závislou na parametru tepelné vodivosti (nebo několika parametrech) pro široké spektrum hodnot parametru. Úlohy s tenzory se přirozeně vyskytují i v úlohách zpracování vícerozměrných dat. Používají se při jejich efektivním ukládání (např. při kompresi videa), nebo k identifikování informace, která je v nějakém smyslu důležitá (např. v úlohách data-mining), atd. Úkolem této práce je seznámit čtenáře s~popisem tenzoru tak, jak je v tenzorových výpočtechchápán, tj. jakožto vícerozměrného pole čísel (víceindexové matice, hypermatrix). Zavádí značení tenzorů a popisuje základní operace a nástroje pro práci s tenzory, tj. součiny tenzorů, rozvoj tenzoru v matici, atd. Poukazuje také na rozdíly a obtíže, které vyvstávají při tenzorových výpočtech, se kterými se v klasické lineární algebře a maticovém počtu nesetkáváme, zejména problém zavedení hodnosti tenzoru. Klíčovým nástrojem maticové algebry je singulární rozklad (SVD), který lze použít právě v úlohách komprese dvourozměrných dat (matice), pod názvem analýza hlavních komponent (PCA) se s ním setkáváme ve statistice, třeba právě v úlohách data-mining. Důležité je s daty (maticí) takto komprimovanými pomocí singulárního rozkladu umět provádět alespoň některé základní maticové operace. Jedním z možných zobecnění singulárního rozkladu pro tenzory vyššího řádu je tzv. Tuckerův rozklad (také nazývaný high-order SVD, HOSVD). Ten přirozeně zobecňuje některé z vlastností singulárního rozkladu, které se využívají ve výše uvedených aplikacích, pro vícerozměrná data. Zejména umožňuje daný tenzor dobře aproximovat tenzorem nižší hodnosti. Stejně jako v případě matic je i zde důležité umět provádět s tenzory ve tvaru Tuckerova rozkladu základní tenzorové operace.
Contemporary applied and numerical linear algebra is expanding from matrix to tensor computations. Tensor problems naturally arise in, e.g., computational quantum chemistry, but also in more common areas. For example while solving the heat equation in a domain with parameter-dependent thermal conductivity for many particular values of the parameter (or several parametres) in a wide range. Tensor problems arise naturally also in multidimensional data processing. They are in the background of effective storing of big data (e.g., in video compression), they arise in problems of extracting important information hidden in data (e.g., in data-mining problems), etc. The goal of this thesis is to introduce a tensor as a multidimensional array (hypermatrix) to the reader. In this way tensors are understood, studied, and analyzed in modern tensor computation. We summarize the standard notation, and introduce some important parts of tensor arithmetic, such as tensor products, matricization, etc. Differences between matrices and tensors are emphasized. In particular, we discuss difficulties linked with the concept of a tensor rank. One of the most important tools in matrix algebra is the singular value decomposition (SVD).It can be used, e.g., for compression of two-dimensional data (a matrix). In statistics, the SVD is known as the principal component analysis (PCA), which can also be interpreted as a data-mining problem. In many applications, it is important to know how to do basic arithmetic with data compressed and stored by the SVD. One of possible generalizations of the SVD to higher-order tensors, is the so-called Tucker decomposition (also known as high-order SVD, HOSVD). The Tucker decomposition naturally generalizes some of the properties of the SVD, which are used in applications mentioned above, to multidimensional data. In particular, it allows to approximate a given tensor by another one with lower rank. Similarly to the two-dimensional case, it is important to know how to do basic arithmetic with multidimensional data compressed and stored by the Tucker decomposition.
Contemporary applied and numerical linear algebra is expanding from matrix to tensor computations. Tensor problems naturally arise in, e.g., computational quantum chemistry, but also in more common areas. For example while solving the heat equation in a domain with parameter-dependent thermal conductivity for many particular values of the parameter (or several parametres) in a wide range. Tensor problems arise naturally also in multidimensional data processing. They are in the background of effective storing of big data (e.g., in video compression), they arise in problems of extracting important information hidden in data (e.g., in data-mining problems), etc. The goal of this thesis is to introduce a tensor as a multidimensional array (hypermatrix) to the reader. In this way tensors are understood, studied, and analyzed in modern tensor computation. We summarize the standard notation, and introduce some important parts of tensor arithmetic, such as tensor products, matricization, etc. Differences between matrices and tensors are emphasized. In particular, we discuss difficulties linked with the concept of a tensor rank. One of the most important tools in matrix algebra is the singular value decomposition (SVD).It can be used, e.g., for compression of two-dimensional data (a matrix). In statistics, the SVD is known as the principal component analysis (PCA), which can also be interpreted as a data-mining problem. In many applications, it is important to know how to do basic arithmetic with data compressed and stored by the SVD. One of possible generalizations of the SVD to higher-order tensors, is the so-called Tucker decomposition (also known as high-order SVD, HOSVD). The Tucker decomposition naturally generalizes some of the properties of the SVD, which are used in applications mentioned above, to multidimensional data. In particular, it allows to approximate a given tensor by another one with lower rank. Similarly to the two-dimensional case, it is important to know how to do basic arithmetic with multidimensional data compressed and stored by the Tucker decomposition.
Description
Subject(s)
multilinerání algebra; tenzor; hodnost tenzoru; singulární rozklad (SVD); tenzorové rozklady; polyadický rozvoj (CP rozklad); Tuckerův rozklad; low-rank aritmetika; aproximace tenzoru tenzorem nižší hodnosti, multilinear algebra; tensor; tensor rank; singular value decomposition (SVD); tensor decompositions; CP decomposition; Tucker decomposition; low-rank arithmetic; low rank tensor approximation