Available theses topics

Na tej strani so naštete proste teme za izdelavo zaključnih del pod mojim mentorstvom. Pri izbiri prosim sledite navodilom, ki so opisana na strani glede metodologije priprave zaključnega dela.

Uporaba novejših *post-LLM* modelov

Veliki jezikovni modeli uporabljajo transformer arhitekturo kodirnik-dekodirnik, ki je bila v osnovi predstavljena v letu 2018, seveda z mnogimi izboljšavami, ki omogočajo optimizacije in skalabilnost za praktično uporabo.

V zadnjem času je postala potreba, da se v VJM-je vključuje tudi strukturirano znanje (npr. semantične tehnologije, področje nevro-simbolne umetne inteligence). VJM-ji tudi v osnovi niso namenjeni delu s tabelaričnimi podatki (v primerjavi s tradicionalnimi pristopi umetne inteligence) - npr. podatki v relacijskih bazah.

Namen vašega zaključnega dela bi bil, da si izberete tip modelov - npr. v zadnjem času popularni *world modeli* ([Uvodno branje https://www.mindstudio.ai/blog/yann-lecun-jepa-world-model-paper], [Predstavitev članka https://le-wm.github.io], [H-JEPA https://huggingface.co/jepa-world-models/h-jepa], [Primer članka (Yann LeCun) https://arxiv.org/abs/2601.00844]) ali tabelarični modeli ([KUMO/Nvidia Tabular https://huggingface.co/blog/nvidia/kumo-tabular], [Nvidia Tabular https://build.nvidia.com/nvidia/kumo-tabular/modelcard], [PriorLabs TabPFN Models https://huggingface.co/Prior-Labs]). Nato opišete delovanje modelov v primerjavi s splošno arhitekturo transformer ((Modern)BERT, GPT). Delovanje modelov pa nato vrednotite nad izbrabnimi podatki. Podatke lahko izbirate nad svojimi podatkovnimi bazami, do katerih imate dostop ali pa uporabite javne vire (npr. [ortal OPSI https://podatki.gov.si]).

Ključne besede

LLMs, Agents, information retrieval

Tip zaključnega dela

Magistrska naloga

Zaključne naloge v sodelovanju z Državnim odvetništvom Republike Slovenije

Nekateri študenti na UL FRI že delajo na DODV v okviru študentskega dela. Prav tako kot fakulteta z njimi in ostalimi institucijamo sodelujemo v okviru razvojno-raziskovalnih projektov. V sodelovanju z njimi smo oblikovali teme, ki bi bile zanimive za delo z njihovimi podatki:

1. Digitalizacija fizičnega arhiva Državnega odvetništva RS: pravni okvir, organizacijski izzivi in predlog pilotne uvedbe novega organizacijskega in tehnološkega postopka digitalnega upravljanja arhiva 2. Digitalna transformacija Državnega odvetništva RS: analiza trenutnega stanja in predlogi izboljšav 3. Optimizacija notranjih delovnih procesov na Državnem odvetništvu RS (z uporabo BPMN-modeliranja) 4. Možnosti avtomatizacije administrativnih postopkov na Državnem odvetništvu RS: organizacijski, pravni in tehnološki vidiki 5. Uporaba umetne inteligence kot podpornega orodja pri obravnavi zadev na Državnem odvetništvu RS 6. Model upravljanja tveganj pri uporabi umetne inteligence v pravnih institucijah javnega sektorja: primer Državnega odvetništva RS 7. Upravljanje sprememb pri uvajanju digitalnih rešitev v pravnih institucijah javnega sektorja: študija primera Državnega odvetništva RS 8. Digitalne kompetence zaposlenih na Državnem odvetništvu RS: analiza potreb in predlog razvojnega programa 9. Dostopnost in zadovoljstvo pri uporabi digitalnih storitev Državnega odvetništva RS: analiza skladnosti in možnosti izboljšav 10. Vloga vodstva pri digitalni transformaciji pravnih institucij javnega sektorja: primer Državnega odvetništva RS 11. Razvoj uporabniku prijaznega iskalnika za odkrivanje vsebinsko povezanih dokumentov v informacijsko-dokumentarnem sistemu Državnega odvetništva RS 12. Avtomatizirano povezovanje zadev v informacijskem sistemu Državnega odvetništva RS: model za preprečevanje podvajanja dela in konfliktov stališč 13. Uporaba metod umetne inteligence za analizo in napoved podatkovnih potreb na Državnem odvetništvu RS 14. Umetna inteligenca kot orodje za optimizacijo vodenja podatkov v spisih in pripravo statističnih poizvedb za letno poročanje Državnega odvetništva RS 15. Možnost uvedbe postopka avtomatskega dodeljevanja zadev na Državnem odvetništvu RS (pregled zakonodaje, kritična analiza in priprava predloga) 16. Možnost uvedbe postopka avtomatskega preverjanja popolnosti vlog Državnemu odvetništvu RS z generiranim osnutkom predloga dopolnitev za stranke 17. Možnost uvedbe postopka avtomatskega zapisa enostavnih vlog Državnega odvetništva RS z generiranim osnutkom predloga 19. Generiranje procesnih diagramov iz opisov poslovnih procesov (v naravnem jeziku) 20. Samodejno pridobivanje metapodatkov iz pravnih dokumentov z uporabo velikih jezikovnih modelov 21. Razvoj algoritma za avtomatizirano dodeljevanje zadev ob upoštevanju razpoložljivosti nosilcev 22. Razvoj rešitve za avtomatiziran zajem in povezovanje insolvenčnih objav AJPES z zadevami v IS Državnega odvetništva

Za kandidate, ki jih bodo zanimale zgornje tematike, bomo organizirali usklajevalni sestanek s predstavniki DODV. Pri izdelavi naloge se pričakuje, da boste predvidoma imeli tudi somentorja iz DODV.

Ključne besede

pravna besedila, RAG, VJM, digitalizacija

Tip zaključnega dela

Diplomsko delo ali Magistrska naloga

SloBench: Slovenski vrednotnik metod za obdelavo naravnega jezika

Z nedavno priljubljenostjo modelov obdelave naravnega jezika, ki temeljijo na arhitekturi transformer, in njihove najsodobnejše zmogljivosti pri številnih nalogah NLP, je vse večja potreba po objektivnem ocenjevanju teh orodij in omogočanju njihove primerjave. Obstajajo številni nabori podatkov in meril za NLP naloge, ki pa večinoma temeljijo na angleškem jeziku. V diplomski nalogi kandidat opiše razvoj prve slovenske platforme za avtomatsko primerjavo NLP modelov - SloBench, skupaj z njenim razširljivim in od sistemske arhitekture neodvisnim ogrodjem za evalvacijo sistemov. Nato kritično oceni projekt, ga primerja z obstoječimi merili uspešnosti NLP in poda nekaj idej za prihodnje razširitve platforme.

Evalvacija nalog procesiranja naravnega jezika (NLP) je bistven del raziskav in napredka na tem področju. Zagotavlja objektiven standard za uspešnost in primerjavo sistemov pri določeni nalogi. Podamo pregled nedavnih javnih lestvic za najboljše sisteme in trendov njihovega ocenjevanja s poudarkom na avtomatskem vrednotenju sistemov. Nato predlagamo, implementiramo in dokumentiramo splošno, razširljivo in od sistemske arhitekture neodvisno ogrodje za evalvacijo sistemov, skupaj s prvo spletno platformo za avtomatsko vrednotenje NLP nalog v slovenščini z javnimi lestvicami, ki prikazujejo rezultate objavljenih sistemov.

Cilj vašega dela bo nadgradnja ogrodja SloBench z dodatnimi funkcionalnostmi. Najprej boste pregledali ostale obstoječe vrednotnike, nato se bomo odločili za implementacijo dodatnih funkcionalnosti (npr. parameter za spreminjanje tipa metrike, vizualizacija rezultatov, avtomatska analiza napak).

Ključne besede

procesiranje naravnega jezika, vrednotenje, lestvica najboljših, strojno učenje, spletna platforma

Tip zaključnega dela

Diplomsko delo ali Magistrska naloga

MLOps / AI Workflows

To complete a successful machine learning project, understanding machine learning theory and concepts is essential, but you need engineering capabilities as well. Effectively developing and deploying machine learning models requires competencies more commonly found in technical fields such as software engineering and DevOps. Within the thesis, the idea is to cover the follwing aspects: (a) how to plan, (b) build, and (c) maintain a machine learning project. In contrast with the standard machine learning cycle, models in production need to integrate with other services or applications, need to run continuously with maximum performance and minimal cost, and have an ability to handle evolving data and business requirements. In this hands-on course you will become familiar with challenges, patterns and well-established tools for doing this effectively.

The idea is to review MLOps in general and then focus on a specific topic - e.g. data versioning (DVC), MLFlow, business perspective and visualizations, pipelines and packaging, deployment and CI/CD, monitoring, regulation compliance tools, ...

Ključne besede

MLOps, DevOps, produktivizacija, razvoj orodij umetne inteligence

Tip zaključnega dela

Diplomsko delo ali Magistrska naloga

Vključevanje strukturiranega znanja v jezikovne modele

Jezikovni modeli vsebujejo splošno znanje, saj so bili izpostavljeni ogromnim količinam besedil. Lahko se jih prilagodi za posamezne domene, vendar ostaja problem osveževanja modela z novimi podatki. Dodatno znanje je v model možno vstavljati na različne načine (npr. na vhodu ali kasneje - tehnika RAG).

V okviru naloge se pričakuje, da bo kandidat raziskal možnosti vstavljanja dodatnega znanja v jezikovni model. Dodatno znanje se lahko nahaja na spletu, v bazi znanja (npr. grafu, ontologiji, ...) ali dodatnih besedilnih virih. Glede na izbran način bo kandidat tudi implementiral iskanje dodatnih vsebin (npr. s tehnikami RAG). Delo bo vrednoteno glede na izbrano domeno (npr. reševanje težav študentskega referata FRI, ugotavljanje razumevanje slovenske slovnice, ...)

Ključne besede

jezikovni modeli, slovenščina, RAG, baze znanja

Tip zaključnega dela

Diplomsko delo ali Magistrska naloga

Portali odprtih podatkov - deljenje, objava, ponovna uporaba

Evropska unija želi ustvariti okolje za boljšo podatkovno ekonomijo. Že pred leti so zato članice EU začele vzpostavljati portale odprtih podatkov, ki večinoma temeljijo na odprtokodnem ogrodju CKAN. Tudi v Sloveniji imamo v tem smislu vzpostavljen portal [1].

Za boljšo ponovno uporabo podatkov morajo biti le ti bolje (avtomatsko) dostopni in ponujeni preko vmesnikov. Projekt Podatkovni zemljevid je omogočil enostavno iskanje in pretvorbo v semantično obliko, kar mora biti še integrirano. Možnosti za inovativnost je še mnogo ...

V okviru naloge se pričakuje podroben pregled izbranega (pod)področja/ogrodja, primerjava obstoječih rešitev in implementacija prototipa s pomočjo odprtokodnih orodij. Prototip je lahko izboljšava/avtomatizacija posameznega dela Podatkovnega zemljevida ali vključitev napredne obdelave naravnega jezika za ponujanje podatkov (npr. iskanje, povzemanje, ...).

Ključne besede

odprti podatki, OPSI, repozitoriji

Tip zaključnega dela

Diplomsko delo ali Magistrska naloga

Evropski podatkovni prostori - infrastruktura

Podatkovni prostori (angl. Dataspaces) predstavljajo abstrakcijo upravljanja podatkov, kjer je osredni cilj odprava težav, ki se pojavijo pri integraciji podatkov. Osrednji namen podatkovnih prostorov je zmanjšati napor, ki je potreben za vzpostavitev sistema za integracijo podatkov, kjer uporabimo obstoječe tehnike ujemanj in preslikav ter vpeljava plačila po uporabi. Na ravni EU je prisotnih veliko aktivnosti, kjer je na voljo številno gradivo:

• Evropska podatkovna strategija,
• Strategija digitalnih javnih storitev 2030 (SDJU 2030),
• Načrt za okrevanje in odpornost (NOO),
• Usmeritve Evropske komisije,
• International Data Spaces,
• MyData Principles,
• SOLID Intiative,
• GAIA-X,
• OCEAN protocol.

V okviru naloge se pričakuje podroben pregled izbranega (pod)področja/ogordja, primerjava obstoječih rešitev in implementacija prototipa s pomočjo odprtokodnih orodij.

Ključne besede

podatkovni prostori, semantika, spletne tehnologije

Tip zaključnega dela

Diplomsko delo ali Magistrska naloga

Evropski podatkovni prostor za jezik (Language Data Space)

Podatkovni prostori (angl. Dataspaces) predstavljajo abstrakcijo upravljanja podatkov, kjer je osredni cilj odprava težav, ki se pojavijo pri integraciji podatkov. Osrednji namen podatkovnih prostorov je zmanjšati napor, ki je potreben za vzpostavitev sistema za integracijo podatkov, kjer uporabimo obstoječe tehnike ujemanj in preslikav ter vpeljava plačila po uporabi. Glejte tudi zgornje gradivo.

V okviru naloge se pričakuje podroben pregled stanja in razvoja Evropskega podatkovnega prostora za jezik. Izvede naj se primerjava z drugimi podatkovnimi prostori (predvsem glede izbire infrastrukture). Implementira naj se prototip, ki bi omogočil vključitev in/ali uporabo podatkov iz podatkovnega prostora.

Ključne besede

podatkovni prostori, semantika, jezikovne tehnologije

Tip zaključnega dela

Diplomsko delo ali Magistrska naloga

Izdelava Sociogramov - sedežni red

Sociometrija je tehnika iz socialne psihologije in sociologije, ki se uporablja za merjenje družbenih odnosov v skupinah (npr. ekipe, razredi v šolah, ...). Z njo se opredeli povezanost skupine ter vlogo posameznika v tej skupini (npr. izločen, priljubljen, vodja, ...). Vodji skupine (npr. trenerju, učitelju, socialnemu pedagogu) tehnika pomaga razumeti latentne odnose v skupinah in jim omogoča učinkovitejše ter ustreznejše delo s skupino.

V okviru projekta se pričakuje:

• Nadgradnja obstoječe aplikacije Sociogram (sedežni red ali oddaljeno izpolnjevanje sociogramov). Uporaba tehnologij Java 18+, Python/Django, React (ali drugo ogrodje) in MariaDB.
• Sodelovanje s študentkami/študenti iz Fakultete za šport (FSP) in podjetjem MikroGrafArt d.o.o..
• Predvidenih 80 ur dela, plačanih po postavki 11,30 EUR bruto bruto.
• Čas sodelovanja v obdobju od aprila do septembra 2024.

Delo se lahko nadgradi in uporabi tudi v okviru predmetov RvP/OSD ali se jih prilagodi v zaključno delo (npr. diplomska naloga)

Predlaganje sedežnega reda v učilnicah glede na rezultat Sociograma: Na podlagi rezultatov medsebojnih odnosov in dinamike pri pouku se bo pregledalo teoretične vidike in predlagalo metodologije za izdelavo sedežnih redov na podlagi sociometrije (študent FSP). Metodologije bodo nato implementirane v dodatnem modulu programa Sociogram, ki bo omogočal avtomatsko izdelavo sedežnega reda za poljubno vnešen tloris učilnice (študent FRI). Rezultat bo omogočil kakovostnejše izobraževanje, zmanjšanje neenakosti in večjo integracijo skupin.

Ključne besede

sociogram, psihologija, delo v skupinah, namizna aplikacija, spletne storitve

Tip zaključnega dela

Diplomsko delo

Izdelava Sociogramov - oddaljen način

Sociometrija je tehnika iz socialne psihologije in sociologije, ki se uporablja za merjenje družbenih odnosov v skupinah (npr. ekipe, razredi v šolah, ...). Z njo se opredeli povezanost skupine ter vlogo posameznika v tej skupini (npr. izločen, priljubljen, vodja, ...). Vodji skupine (npr. trenerju, učitelju, socialnemu pedagogu) tehnika pomaga razumeti latentne odnose v skupinah in jim omogoča učinkovitejše ter ustreznejše delo s skupino.

V okviru projekta se pričakuje

• Nadgradnja obstoječe aplikacije Sociogram (sedežni red ali oddaljeno izpolnjevanje sociogramov). Uporaba tehnologij Java 18+, Python/Django, React (ali drugo ogrodje) in MariaDB.
• Sodelovanje s študentkami/študenti iz Fakultete za šport (FSP) in podjetjem MikroGrafArt d.o.o..
• Predvidenih 80 ur dela, plačanih po postavki 11,30 EUR bruto bruto.
• Čas sodelovanja v obdobju od aprila do septembra 2024.

Delo se lahko nadgradi in uporabi tudi v okviru predmetov RvP/OSD ali se jih prilagodi v zaključno delo (npr. diplomska naloga).

Izdelava Sociograma na oddaljen način: Trenutno se Sociogram printa na liste, od koder se nato rezultate vnese v program. Potrebno je preveriti in izdelati varen protokol (študent FSP) in implementirati avtomatske mehanizme za oddaljeno izpolnjevanje sociograma preko e-pošte ali drugih kanalov, pri čemer je potrebno zagotavljati varnost in anonimnost (študent FRI). Rezultat bo bolj učinkovito anketiranje in bolj trajnostna izdelava sociogramov brez potrebe printanja.

Ključne besede

sociogram, psihologija, delo v skupinah, namizna aplikacija, spletne storitve

Tip zaključnega dela

Diplomsko delo

Evalvacija in produktivizacija orodja TextCaptcha

Martin Čebular je v okviru svoje magistrske naloge razvil orodje TextCaptcha - Preprečevanje neželenih komentarjev za spletne novice s pomočjo tehnik za procesiranje naravnega jezika (Martin Čebular). Ideja za orodje izhaja iz storitve reCaptcha, ki se uporablja za bolj natančno digitalizacijo knjig. V osnovi deluje tako, da bralcu prikaže npr. dva niza, pri katerem sistem za enega pozna rešitev, za drugega ne. Uporabnik mora oba niza vpisati v vnosno polje. Sistem nato preko več odgovorov ugotovi, kakšna je pravilna digializacija neznanega niza.

Izdelano orodje je že bilo validirano in kot Javascript vtičnik na spletnih straneh [rtvslo.si]. Namen magistrske naloge bi bil (a) izdelati natančno metodologijo uporabe orodja TextCaptcha za namene zbiranja označenih korpusov v slovenskem jeziku, (b) prikazati smiselne primere uporabe in (c) evalvirati orodje na realnih primerih.

Ključne besede

ekstrakcija informacij, gradnja podatkovnih množic, preverjanje vnosov

Tip zaključnega dela

Magistrsko delo

Primerjava standardne slovenščine v Sloveniji in izzven nje

Za primerjavo jezikov obstajajo že uveljavljene metode, s katerimi se lahko primerja, kdaj sta si jezika sorodna, enaka oz. kako različna sta si. V okviru zaključnega dela naj se primerja besedila novic iz področja Slovenije z besedili novic zamejskih Slovencev ali izseljencev. Primeri novic izseljencev so na primer novice.at (Avstrija), Novi list (Argentina), ipd., pri čemer naj se pregleda možnosti za pridobitev tudi drugih primernih virov. Izdela naj se referenčni korpus, katerega se bo primerjalo z referenčnim korpusom standardne slovenščine v Sloveniji (vir bo zagotovljen). Množice je potrebno nato primerjati in ugotoviti jezikovne različnosti (npr. raba besed v različnih kontekstih, pojavljanje starih/novih besed, vpliv tujega jezika, vrstni red besed).

Uporabne povezave

Lexical distance map among languages

Ključne besede

slovenščina, primerjava besedil, novice

Tip zaključnega dela

Magistrsko delo

Produktivizacija modelov globokega učenja

V zadnjem času se globoki modeli nevronskih mrež čedalje bolj uporabljajo v praksi. Seveda je možno implementirati lastno infrastrukturo, ki bo služila namenu, da bodo rezultati našega modela dostopni uporabnikom, vendar za ta namen obstajajo tudi specifična orodja ali ogrodja. V okviru zaključnega dela naj se pregleda in primerja platforme, ki to omogočajo (npr. Nvidia Triton). Izbrano platformo naj se tudi preskusi in prikaže delovanje na praktičnem primeru (npr. produktivizacija obstoječega globokega modela).

Možne druge variacije zaključnega dela

(a) Pregled in preskus platforme za zaganjanje globokih modelov v brskalniku (npr. www.tensorflow.org/js).

(b) Pregled in preskus platforme za zaganjanje globokih modelov na mobilnih napravah (npr. Tensorflow Android, Tensorflow iOS, Apple CoreML).

Ključne besede

globoko učenje, ogrodja za umetno inteligenco, produktivizacija

Tip zaključnega dela

Magistrsko delo

Izdelava ogrodja za demokratizacijo obdelave naravnega jezika

V okviru projekta Razvoj slovenščine v digitalnem okolju smo pregledali možnosti za izdelavo orodja za procesiranje naravnega jezika po vzoru obstoječih orodij - GATE, UIMA, Orange3 (Text mining Addon, Textable). Poleg tega smo pripravili tudi zasnovo splošnega podatkovnega modela, arhitekturo orodja in definirali programske vmesnike za komunikacijo med vsebniki Docker.

Namen zaključnega dela je implementirati predlagano orodja in pokazati možnosti za izvedljivost projekta ter uporabo orodja v praksi. Končna specifikacija kmalu na voljo javnosti.

Ključne besede

Docker, procesiranje naravnega jezika, podatkovni model, programski vmesniki

Tip zaključnega dela

Diplomsko delo delo

Ostale možne tematike

Kandidat si lahko zamisli svoj lasten problem iz področja iskanja in ekstrakcije vsebin is spleta ali procesiranja naravnega jezika ter ga uskladi z menoj. Tematike se lahko dotikajo tudi analize in uporabe odprtokodnih sistemov, ki so morda trenutno aktualne, uporabe in analize odprtih podatkov (npr. iz portala OPSI) ali izdelave speficičnih orodij za obdelavo podatkov (ETL, informacijski sistemi, ipd.).

Prav tako vsako leto na področju procesiranja naravnega jezika potekajo tekmovanja z zanimivimi tematikami, ki lahko predstavljajo zaključno delo. Največkrat so to delavnice (angl., workshops) na konferencah ACL, CoNLL, BSNLP, EMNLP, ipd.