TS. Cao Tiến Dũng tham gia công trình nghiên cứu về Federated Learning được chấp nhận tại CSoNet 2026



Một công trình nghiên cứu có sự tham gia của TS. Cao Tiến Dũng – Trường Đại học Tân Tạo đã được chấp nhận tại The 15th International Conference on Computational Science and Network Intelligence (CSoNet 2026), hội thảo quốc tế về khoa học tính toán và trí tuệ mạng diễn ra tại TP. Hồ Chí Minh từ ngày 16–18/11/2026.

Công trình có tên “FALCON: Adaptive Federated LoRA via Agent-Guided Selective Sharing”, được thực hiện bởi nhóm nghiên cứu gồm Nhat-Tan Vo, Dan-Chi Le Truong, Thai Hoai Nam Nguyen, Nguyen Khanh, Hieu Hoang Tran Nguyen, Quynh Vo, Tien-Dung Cao, Tho T. Quan và Thai Nguyen, với sự phối hợp giữa các nhà nghiên cứu thuộc Trường Đại học Bách khoa – Đại học Quốc gia TP. Hồ Chí Minh và Trường Đại học Tân Tạo.

Hướng tiếp cận mới cho Federated Learning và mô hình ngôn ngữ lớn

Nghiên cứu tập trung vào bài toán tối ưu quá trình fine-tuning các mô hình ngôn ngữ lớn (Large Language Models – LLMs) trong môi trường Federated Learning, nơi nhiều thiết bị hoặc tổ chức có thể cùng huấn luyện mô hình mà không cần tập trung toàn bộ dữ liệu về một máy chủ.

Một trong những thách thức của phương pháp này là lượng dữ liệu trao đổi giữa các bên có thể rất lớn, trong khi cấu hình và năng lực tính toán của các thiết bị tham gia không đồng nhất. Đặc biệt, khi sử dụng kỹ thuật Low-Rank Adaptation (LoRA), việc tổng hợp tham số từ nhiều máy khách có thể phát sinh sai lệch khi dữ liệu phân bố không đồng đều.

Để giải quyết vấn đề trên, nhóm nghiên cứu đề xuất FALCON, một framework Federated LoRA sử dụng cơ chế agent-guided selective sharing – cho phép hệ thống chủ động lựa chọn những thành phần tham số cần chia sẻ dựa trên ngân sách truyền thông và đặc điểm của từng máy khách.

FALCON xây dựng một không gian đồng thuận toàn cục thông qua Singular Value Decomposition (SVD), đồng thời sử dụng cơ chế lựa chọn dựa trên bài toán Knapsack để xác định những client phù hợp cho việc truyền các thành phần LoRA cần thiết.

Theo kết quả thực nghiệm được trình bày trong nghiên cứu trên bộ dữ liệu Dolly-15k, FALCON giúp giảm tổng lượng truyền thông từ 33% đến 41% so với các phương pháp đối chứng, trong khi mức thay đổi về evaluation loss nhỏ hơn 0,01. Kết quả cho thấy tiềm năng của phương pháp trong việc cân bằng giữa hiệu quả truyền thông và chất lượng mô hình khi triển khai Federated Learning cho các mô hình ngôn ngữ lớn.

Công trình được chấp nhận tại CSoNet 2026

CSoNet 2026 – The 15th International Conference on Computational Science and Network Intelligence sẽ được tổ chức từ ngày 16 đến 18/11/2026 tại TP. Hồ Chí Minh, do Trường Đại học Bách khoa – Đại học Quốc gia TP. Hồ Chí Minh tổ chức. Hội thảo tập trung vào các hướng nghiên cứu về khoa học tính toán, network intelligence, machine learning, network learning và các phương pháp AI dựa trên cấu trúc mạng. 

Theo thông tin chính thức từ Ban Tổ chức, các bài báo được chấp nhận thuộc conference track của CSoNet 2026 sẽ được xuất bản trong kỷ yếu Lecture Notes in Computer Science (LNCS) của Springer. Kỷ yếu được Ban Tổ chức công bố thuộc các hệ thống lập chỉ mục như Web of Science – Conference Proceedings Citation Index – Science (CPCI-S), EI Compendex, Inspec, ACM Digital Library, DBLP, Google Scholar và MathSciNet. 

Việc công trình được chấp nhận tại CSoNet 2026 ghi nhận những nỗ lực nghiên cứu trong các hướng công nghệ đang được quan tâm như trí tuệ nhân tạo, mô hình ngôn ngữ lớn, Federated Learning và tối ưu hóa quá trình huấn luyện mô hình phân tán, đồng thời góp phần thúc đẩy hoạt động nghiên cứu và hợp tác khoa học giữa giảng viên Trường Đại học Tân Tạo với các nhóm nghiên cứu trong nước.