Đồ án tốt nghiệp - Xây dựng hệ thống trả lời câu hỏi dựa trên mô hình ngôn ngữ lớn

TRƯỜNG ĐẠI HỌC SƯ PHẠM KỸ THUẬT TP.HCM
KHOA CÔNG NGHỆ THÔNG TIN
BỘ MÔN HỆ THỐNG THÔNG TIN

LÊ HUỲNH THANH DƯỠNG : 20110628

Đề tài :

XÂY DỰNG HỆ THỐNG TRẢ LỜI
CÂU HỎI DỰA TRÊN MÔ HÌNH
NGÔN NGỮ LỚN
KHÓA LUẬN TỐT NGHIỆP KỸ SƯ CNTT

GIÁO VIÊN HƯỚNG DẪN
Th.s QUÁCH ĐÌNH HOÀNG

KHÓA 2020 – 2024

ĐH SƯ
CỘNG
PHẠM
HOÀ
KỸ THUẬT TP.HCM
Độc KHOA CNTT
*******

XÃ HỘI CHỦ NGHĨA VIỆT NAM
Độc lập – Tự do – Hạnh Phúc
*******

PHIẾU NHẬN XÉT CỦA GIÁO VIÊN HƯỚNG DẪN
Họ và tên Sinh viên : Lê Huỳnh Thanh Dưỡng

MSSV : 20110628

Ngành : Công nghệ Thông tin
Tên đề tài : Xây dựng hệ thống trả lời câu hỏi dựa trên mô hình ngôn ngữ lớn
Họ và tên Giáo viên hướng dẫn : Ths. Quách Đình Hoàng
NHẬN XÉT
1. Về nội dung đề tài &amp khối lượng thực hiện
…………………………………………………………………………………………
…………………………………………………………………………………………
…………………………………………………………………………………………
2. Ưu điểm
…………………………………………………………………………………………
…………………………………………………………………………………………
3. Khuyết điểm
…………………………………………………………………………………………
…………………………………………………………………………………………
4. Đề nghị cho bảo vệ hay không ?
5. Đánh giá loại :
6. Điểm :

Tp. Hồ Chí Minh, ngày 26 tháng 05 năm 2023
Giáo viên hướng dẫn
(Ký &amp ghi rõ họ tên)

ĐH SƯ
CỘNG
PHẠM
HOÀ
KỸ THUẬT TP.HCM
Độc KHOA CNTT
*******

XÃ HỘI CHỦ NGHĨA VIỆT NAM
Độc lập – Tự do – Hạnh Phúc
*******

PHIẾU NHẬN XÉT CỦA GIÁO VIÊN PHẢN BIỆN
Họ và tên Sinh viên: Lê Huỳnh Thanh Dưỡng

MSSV: 20110628

Ngành: Công nghệ Thông tin
Tên đề tài: Xây dựng hệ thống trả lời câu hỏi dựa trên mô hình ngôn ngữ lớn
Họ và tên Giáo viên phản biện: Ths. Lê Thị Minh Châu
NHẬN XÉT
1. Về nội dung đề tài &amp khối lượng thực hiện
…………………………………………………………………………………………
…………………………………………………………………………………………
…………………………………………………………………………………………
2. Ưu điểm
…………………………………………………………………………………………
…………………………………………………………………………………………
3. Khuyết điểm
…………………………………………………………………………………………
…………………………………………………………………………………………
4. Đề nghị cho bảo vệ hay không ?
5. Đánh giá loại :
6. Điểm :

Tp. Hồ Chí Minh, ngày 26 tháng 05 năm 2024
Giáo viên phản biện
(Ký &amp ghi rõ họ tên)

LỜI CẢM ƠN
Lời đầu tiên, em xin chân thành cảm ơn các thầy, cô trong khoa Công nghệ thông
tin, trường Đại học Sư phạm Kỹ thuật Thành phố Hồ Chí Minh đã tạo điều kiện thuận
lợi cho em trong quá trình học tập tại trường cũng như trong thời gian thực hiện khóa
luận tốt nghiệp. Đặc biệt, em muốn gửi lời cảm ơn tới Thạc sĩ Quách Đình Hoàng –
giảng viên hướng dẫn khóa luận tốt nghiệp. Thầy đã giành phần lớn thời gian để trực
tiếp chỉ bảo, định hướng, giúp em
...

...
.com/blog/2023/03/an-introduction-to-large-language-models-llms/, 2023.
[7] IBM, What is natural language processing? https://www.ibm.com/topics/natural-languageprocessing, n.d.
[8] Kang, B., Kim, J., Yun, T.R., Kim, C.E. et al., Prompt-RAG: Pioneering Embedding vector-Free
Retrieval-Augmented Generation in Niche Domains, Exemplified by Korean Medicine, arXiv
(Cornell University), 2024. doi: 10.48550/arXiv.2401.11246.
[9] Manning, C.D., Human language understanding &amp reasoning, Daedalus, 151, 2022, pp. 127-138.
doi: 10.1162/daed_a_01905.
[10] Meyer, J.G., Urbanowicz, R.J., Martin, P.C.N. et al., ChatGPT and large language models in
academia: opportunities and challenges, BioData Mining, 16, 20, 2023. doi: 10.1186/s13040-02300339-9.
[11] OpenAI, ChatGPT, Computer software, https://openai.com/blog/ChatGPT, Accessed 23 Apr
2023, 2022.
[12] RAG Documentation, https://docs.ragas.io/en/stable/index.html, 2023.
[13] Stanford University, Training, CS324: Systems for Machine Learning, https://stanfordcs324.github.io/winter2022/lectures/training/, 2022.
[14] Vaswani, A., Shazeer, N., Parmar, N. et al., Attention is all you need, arXiv (Cornell
University), 2017. doi: 10.48550/arXiv.1706.03762.

GVHD. Ths Quách Đình Hoàng

60

S

K

L

0

0

2

1

5

4

[15] Yang, J., Jin, H., Tang, R. et al., Survey on ChatGPT and Beyond, arXiv (Cornell University),
2023. doi: 10.48550/arXiv.2304.13712.
[16] Cổng thông tin điện tử pháp điển, https://phapdien.moj.gov.vn/Pages/home.aspx, 2023.
[17] Yang, J., Jin, H., Tang, R. et al., Survey on ChatGPT and Beyond, arXiv (Cornell University),
2023. doi: 10.48550/arXiv.2304.13712).
[18] Life Architect. (n.d.). Models. Retrieved from https://lifearchitect.ai/models/.
[19] Retrieval Augmented Generation từ Youtube AI VIET NAM.
[20] Selvaganapathy C, The Impact of Relevant Context Position and Context Size on LLM
Performance, The AI Discovery, 30 Jul. 2023. Retrieved from newsletter.theaidiscovery.com/p/theimpact-of-relevant-context-position.
[21] Alzubi, J. A., Jain, R., Singh, et all, “COBERT: COVID-19 Question Answering System Using
BERT,” Arabian Journal for Science and Engineering, 2021, doi:10.1007/s13369-021-05810-5.
[22] Tian, L. (2023, December 20). Introducing Hybrid Search and Rerank to Improve the Retrieval
Accuracy of the RAG System. LinkedIn. https://www.linkedin.com/pulse/introducing-hybrid-searchrerank-improve-retrieval-accuracy-levi-tian-gjmzc/.

GVHD. Ths Quách Đình Hoàng

61