JBNews.id ā Cathay Financial Holdings (Cathay FHC) memaparkan hasil riset terbaru model bahasa kecil (SLM) yang telah disempurnakan untuk layanan keuangan di ajang NVIDIA GTC Taipei 2026. SLM open source ini mampu mengelompokkan kebutuhan nasabah dengan kinerja mendekati model bahasa besar (LLM) closed-source terdepan.
Setelah membuktikan potensi LLM untuk sektor keuangan pada tahun lalu, Cathay FHC kini menunjukkan bahwa SLM yang telah disempurnakan dapat menjadi solusi yang lebih efisien. Hasil riset ini dipresentasikan di hadapan para pelaku industri teknologi dan keuangan yang hadir dalam acara bergengsi tersebut.
Studi tersebut mengevaluasi sejumlah model open source terkemuka yang dikembangkan oleh Meta, TAIDE, TAME, NVIDIA, dan OpenAI. Hasil awal menunjukkan bahwa SLM yang telah disempurnakan berpotensi mengurangi ketergantungan terhadap teknik prompt engineering yang kompleks serta modul vector retrieval. Pendekatan ini dapat menyederhanakan arsitektur sistem dan menekan kompleksitas operasional serta pemeliharaan sistem pada masa mendatang.
Dalam tugas klasifikasi kebutuhan nasabah, SLM yang telah disempurnakan ini menghasilkan kinerja yang mendekati LLM closed-source yang banyak beredar, bahkan hampir menandingi kemampuan model terdepan. Temuan ini menjadi referensi praktis bagi perusahaan untuk menyusun strategi pelatihan dan implementasi model AI.
Dari sisi tata kelola data dan privasi, penelitian ini menggunakan pendekatan data sintetis sehingga tidak memanfaatkan informasi nasabah dalam proses pelatihan model. Cathay FHC juga menerapkan berbagai teknik, termasuk pengelompokan fungsi layanan, perancangan rangkaian data untuk kebutuhan tunggal maupun ganda, lokalisasi konteks Taiwan, serta perluasan kata kunci. Pendekatan tersebut memperkuat kemampuan model dalam memahami konteks layanan keuangan lokal, terminologi industri, serta pertanyaan nasabah yang bersifat ambigu.
Model bahasa kecil yang telah disempurnakan ini mampu memahami konteks layanan keuangan lokal, istilah industri, hingga pertanyaan nasabah yang ambigu. Hal ini menjadi kunci dalam menghadirkan layanan yang lebih responsif dan personal.
Cathay FHC menilai teknologi tersebut dapat diterapkan pada berbagai layanan masa depan, seperti pengecekan saldo kredit pemilikan rumah (KPR), bantuan pembayaran kartu kredit, hingga navigasi layanan cabang. Pengembangan ini menjadi fondasi bagi layanan pencarian cerdas, pengalihan layanan secara otomatis, serta pengalaman interaksi nasabah generasi berikutnya.
Dari sisi arsitektur teknologi, Cathay FHC mengintegrasikan berbagai perangkat AI NVIDIA, termasuk NVIDIA NeMo Customizer, NVIDIA NeMo Curator, dan NVIDIA TensorRT-LLM, serta memanfaatkan sumber daya komputasi berbasis arsitektur NVIDIA Hopper. Infrastruktur tersebut mendukung proses pembuatan data, penyesuaian model, optimalisasi inferensi, hingga evaluasi eksperimen.
Hasil penelitian juga menunjukkan bahwa kombinasi antara rangkaian data sektor keuangan yang dirancang secara cermat dan proses penyempurnaan yang terarah mampu meningkatkan stabilitas model, efisiensi inferensi, serta kendali dalam proses implementasi.
Baca Juga:
Dengan ekosistem AI NVIDIA, Cathay FHC terus memperkuat kapabilitasnya dalam pengembangan model khusus sektor keuangan, tata kelola data, dan validasi aplikasi. Dalam beberapa tahun terakhir, Cathay FHC secara konsisten memperluas inovasi AI di berbagai skenario layanan keuangan.
Cathay FHC membangun fondasi teknologi yang dapat dikembangkan untuk mendukung optimalisasi proses internal, peningkatan layanan nasabah, pemahaman pengetahuan keuangan, hingga tata kelola model AI. Di tengah regulasi yang semakin ketat, tuntutan tata kelola data, serta ekspektasi nasabah yang cepat berubah, Cathay FHC menegaskan komitmennya untuk terus mengembangkan riset AI yang aman, tangguh, dan sesuai dengan ketentuan yang berlaku.
Ke depan, Cathay FHC akan terus mengeksplorasi teknologi klasifikasi berbasis konteks panjang, pemahaman dokumen keuangan tingkat lanjut, serta penerapan AI lintas-skenario. Perusahaan ini juga akan terus mengembangkan metode pelatihan dan implementasi model yang dirancang khusus untuk sektor keuangan guna mempercepat inovasi dan menghadirkan layanan keuangan yang lebih cerdas, efisien, serta berorientasi pada kebutuhan nasabah.
Pendekatan yang digunakan Cathay FHC ini menjadi sorotan di tengah meningkatnya kekhawatiran tentang keamanan siber dan privasi di era AI. Penggunaan data sintetis menjadi solusi yang relevan untuk menjaga kerahasiaan informasi nasabah.
Pengembangan SLM ini juga menjadi alternatif yang lebih efisien dibandingkan ketergantungan pada LLM besar yang membutuhkan sumber daya komputasi masif. Hal ini sejalan dengan tren industri yang mulai beralih ke fokus pusat data AI yang lebih terukur dan aplikatif.
Implikasi dari riset ini bagi industri keuangan sangat jelas: perusahaan tidak lagi harus bergantung pada model AI raksasa yang mahal dan kompleks. SLM yang telah disempurnakan dapat menjadi solusi yang lebih terjangkau, efisien, dan tetap memberikan kinerja yang kompetitif dalam tugas-tugas spesifik seperti klasifikasi kebutuhan nasabah.
