Řešení optimalizační úlohy LASSO pomocí proximálních algoritmů

dc.contributorRajmic Pavel, doc. Ing. Ph.D.
dc.contributor.advisorKoldovský Zbyněk, doc. Ing. Ph.D.
dc.contributor.authorLangr, Václav
dc.contributor.otherSkolitel : 64111 Ducháčková Eva, prof. Ing. CSc.
dc.contributor.otherKonzultant : 61653 Málek Jiří, Ing. Ph.D.
dc.contributor.otherKonzultant2 : 59772 Vlach Jaroslav, Ing. Ph.D.
dc.date2016
dc.date.accessioned2018-05-03
dc.date.available2018-05-03
dc.date.committed2016-05-16
dc.date.defense2016-06-14
dc.date.submitted2015-09-14
dc.date.updated9.8.2016 13:16
dc.degree.levelBc.
dc.description.abstractTato bakalářská práce je zaměřena na rekonstrukci řídkého vektoru z jeho komprimovaného pozorování. Pro rekonstrukci se využívá optimalizačního problému LASSO a jeho řešení pomocí proximálních algoritmů. Po vytvoření takového algoritmu, který je schopen původní signál rekonstruovat, se využívá metody Monte Carlo pro pozorování závislosti chyby řešení na parametru lambda. U takto získaného výpočtu je zjištěna kvadratická chyba řešení LASSO vzhledem k původnímu vektoru dat.Vypracování bylo rozděleno do několika navazujících částí. Prvním a také nejdůležitějším krokem bylo nastudování vlastností proximálních algoritmů a výpočet proximálního operátora při různých vstupních funkcích. Po takto provedené rešerši proximálních algoritmů proběhla také rešerše vlastností optimalizační úlohy LASSO a jejích variant. V dalším kroku bylo možné přistoupit k implementaci algoritmu v programovacím jazyce a vývojovém prostředí MATLAB. Při postupné implementaci byl algoritmus upraven tak, aby vždy zkonvergoval ke správnému nebo alespoň co nejbližšímu přibližnému řešení optimalizačního problému. Z tohoto důvodu byl algoritmus rozšířen o podmínky optimality, jež ukončují výpočet při dosažení poměrně přesné aproximace. Dále byl algoritmus rozšířen o výpočet dynamické velikosti kroku, aby uživatel nemusel zadávat tento parametr, který velice ovlivňuje celkový chod algoritmu. S takto připraveným algoritmem mohla být použita metodika Monte Carlo k vytvoření numerické simulace, jež generuje nekomprimovaný řídký vektor dat, měřící matice s prvky, které mají Gaussovo rozložení a parametr lambda v zadaném rozsahu s logaritmickým rozdělením. Závěrečnou fází této práce bylo vytvoření metod vytvářející analytickou předpověď spolu s numerickou simulací pro rešeršní účely.Zároveň tato práce navrhuje způsoby, jak může být pokračováno s nástroji, jež byly vytvořeny v průběhu jejího zpracování a získat tak přesnější výsledky.cs
dc.description.abstractThis bachelor thesis is focused on the reconstruction of a sparse vector from its compressed observation. For the reconstruction, the LASSO problem is used and its solution using proximal algorithms. After the implementation of an algorithm that is able to restore the original signal, Monte Carlo method is used to analyze the dependence of computation error of the lambda parameter.Realization was divided into several parts. The very first and the most important step was a study of the properties of proximal algorithms and the evaluation of proximal operator for different functions. After the study on proximal algorithms there was also survey on the properties of LASSO and its variants. After that is was possible to implement an algorithm using the MATLAB language and its development environment. The algorithm was modified during the implementation so it always converges to the correct or, at least, approximate solution of LASSO. Because of this reason optimality conditions were added that terminates the optimization process if the approximation is sufficiently accurate. Then a computation of dynamical step size was added that affects the whole algorithm so the user does not have to choose it. This algorithm could be numerically analysed using the Monte Carlo approach that generates uncompressed sparse vector of data, random measurement matrix with Gaussian distribution, and a lambda parameter within an interval with logarithmic spacing. The last step was to study methods for analytic prediction of the numerical simulation.At the same time, this bachelor thesis suggests how it can be used to continue with prepared tools that were created during this project and how to arrive at more accurate results.en
dc.description.mark
dc.format51 s.
dc.format.extentIlustrace 1 ROM , Schémata, Grafy 1
dc.identifier.urihttps://dspace.tul.cz/handle/15240/24171
dc.language.isocs
dc.relation.isbasedonbegin*arab* renewcommand*labelenumi**[arabic*enumi*]* item N. Parikh and S. Boyd, ?Proximal Algorithms,? Foundations and Trends in Optimization, vol. 1, no. 3, pp. 123?231, Nov. 2013. item Babak Hassibi, Recovering Structured Signals in Noise: Comparison Lemmas and the Performance of Convex Relaxation Methods, Eusipco, 2015. item S. J. Wright, R. D. Nowak, M. A. T. Figueiredo, ?Sparse Reconstruction by Separable Approximation,? IEEE Transactions on Signal Processing, vol. 57, no. 7, pp. 2479?2493, July 2009. end*arab*
dc.rightsVysokoškolská závěrečná práce je autorské dílo chráněné dle zákona č. 121/2000 Sb., autorský zákon, ve znění pozdějších předpisů. Je možné pořizovat z něj na své náklady a pro svoji osobní potřebu výpisy, opisy a rozmnoženiny. Jeho využití musí být v souladu s autorským zákonem https://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf a citační etikou https://knihovna.tul.cz/document/26cs
dc.rightsA university thesis is a work protected by the Copyright Act. Extracts, copies and transcripts of the thesis are allowed for personal use only and at one?s own expense. The use of thesis should be in compliance with the Copyright Act. https://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf and the citation ethics https://knihovna.tul.cz/document/26en
dc.rights.urihttps://knihovna.tul.cz/document/26
dc.rights.urihttps://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf
dc.subjectMATLABcs
dc.subjectproximální algoritmuscs
dc.subjectproximální operátorcs
dc.subjectLASSOcs
dc.subjectMonte Carlocs
dc.subjectMATLABen
dc.subjectProximal Algorithmen
dc.subjectProximal Operatoren
dc.subjectLASSOen
dc.subjectMonte Carloen
dc.subject.verbisalgoritmy (programování)cs
dc.titleŘešení optimalizační úlohy LASSO pomocí proximálních algoritmůcs
dc.titleSolution to LASSO Using Proximal Algorithmsen
dc.title.alternativecs
dc.typebakalářská prácecs
local.degree.disciplineIT
local.degree.programmeInformační technologie
local.degree.programmeabbreviationB2646
local.department.abbreviationITE
local.facultyFakulta mechatroniky, informatiky a mezioborových studiícs
local.faculty.abbreviationFM
local.identifier.stag33413
local.identifier.verbis521696
local.note.administratorsautomat
local.verbis.aktualizace2019-10-05 06:21:29cs
local.verbis.studijniprogramITE Informační technologie/Informační technologiecs
Files
Original bundle
Now showing 1 - 4 of 4
Loading...
Thumbnail Image
Name:
Dokumentace.pdf
Size:
1.72 MB
Format:
Adobe Portable Document Format
Description:
VSKP
Loading...
Thumbnail Image
Name:
BP_Langr_Vaclav_vedouci.pdf
Size:
312.27 KB
Format:
Adobe Portable Document Format
Description:
Posudek_vedouciho_VSKP
Loading...
Thumbnail Image
Name:
BP_Langr_Vaclav_oponent.pdf
Size:
357.08 KB
Format:
Adobe Portable Document Format
Description:
Posudek_oponenta_VSKP
Loading...
Thumbnail Image
Name:
langr.pdf
Size:
323.25 KB
Format:
Adobe Portable Document Format
Description:
Prubeh_obhajoby_VSKP