Research and evaluation of methods for automatic review of software code using Large Linguistic Models

Abstract

The first chapter is devoted to analysis of the research area, which examines the role of code review in software engineering, reviews existing solutions on the market, and defines the goals and objectives of the master's thesis. The first chapter also examines theoretical foundations and architectural models of LLM and mechanisms of semantic code understanding. The second chapter is devoted to research design and methods, during which the main stages for practical work are defined, fine-tuning methodology is described, and one of the methods is selected for application in the practical part. This chapter also covers aspects such as context management and attention mechanisms, multimodal learning approaches, and prompting strategies. The third chapter is devoted to obtaining experimental results. In this chapter, the system and dataset for the work are selected, and the data is analyzed. Next, based on the requirements, a large language model is determined, prompting strategies are applied in practice, and the initial results obtained are analyzed. Next, LoRA-based fine-tuning is performed, and the final results are analyzed. This chapter also discusses the limitations and difficulties encountered in the course of the work, as well as potential ways to further develop the topic under study.

Teza este alcătuită dintr-o introducere, trei capitole, o concluzie și o listă de referințe. Primul capitol este dedicat analizei domeniului de cercetare, care examinează rolul revizuirii codului în ingineria software, analizează soluțiile existente pe piață și definește scopurile și obiectivele tezei de masterat. Primul capitol examinează, de asemenea, fundamentele teoretice și modelele arhitecturale ale LLM și mecanismele de înțelegere semantică a codului. Al doilea capitol este dedicat proiectării și metodelor de cercetare, în cadrul căruia sunt definite etapele principale ale lucrării practice, este descrisă metodologia de reglare fină și este selectată una dintre metode pentru aplicarea în partea practică. Acest capitol acoperă, de asemenea, aspecte precum gestionarea contextului și mecanismele de atenție, abordările de învățare multimodală și strategiile de promptare. Al treilea capitol este dedicat obținerii rezultatelor experimentale. În acest capitol, sunt selectate sistemul și setul de date pentru lucrare, iar datele sunt analizate. Apoi, pe baza cerințelor, se determină un model lingvistic de mari dimensiuni, se aplică strategii de promptare în practică și se analizează rezultatele inițiale obținute. Apoi, se efectuează o reglare fină bazată pe LoRA și se analizează rezultatele finale. Acest capitol discută, de asemenea, limitările și dificultățile întâmpinate în cursul lucrării, precum și modalitățile potențiale de dezvoltare ulterioară a temei studiate.