BursaPolitika
Di balik kemajuan teknologi, masih banyak perusahaan yang menghadapi masalah dalam membuat model prediksi yang dapat dipercaya dari data tabel. Biasanya, mereka harus melatih model dari awal untuk setiap dataset dan melakukan pembaruan parameter, pengolahan fitur, serta pengembangan pipa retraining untuk menghadapi pergeseran data. Namun, tim Google Research telah menemukan solusi yang inovatif.
Mereka telah menciptakan sebuah model dasar yang disebut TabFM, yang dapat memprediksi tabel data yang belum pernah dilihat sebelumnya dengan cepat dan akurat. Model ini dapat menghasilkan prediksi dalam satu kali lompatan, sehingga mengurangi waktu sampai produksi dari minggu-minggu pengembangan pipa menjadi satu panggilan API saja.
Di balik kemajuan ini, masih banyak perusahaan yang menghadapi tantangan dalam membuat model prediksi yang dapat dipercaya dari data tabel. Mereka harus membersihkan input yang berantakan, mengganti nilai yang hilang, mengkodekan variabel kategori menjadi format numerik, serta mengembangkan fitur khusus dengan mengaitkan nilai-nilai yang relevan. Setelah data siap, mereka harus menjalankan ulang loop optimasi parameter yang berulang, mencari konfigurasi yang terbaik melalui tingkat belajar, kedalaman pohon, rasio subsampling, dan grid regulasi untuk memastikan akurasi yang optimal.
Model tradisional ini juga harus mendapatkan pelayanan operasional yang berkepanjangan, karena perlu diawasi dan di-retraining secara teratur untuk tetap akurat. Sementara itu, industri AI lainnya telah melangkah maju. Model generatif AI untuk teks dan penglihatan komputer telah dengan mudah berpindah ke pengujian tanpa-shot, di mana model dapat melakukan tugas baru secara langsung dengan diberikan konteks. Model bahasa besar (LLMs) telah menunjukkan kemampuan luar biasa dalam belajar konteks, sehingga mengapa tidak kita langsung mengisinya dengan data tabel?
Tetapi, ada beberapa alasan mengapa LLM tidak dapat dipakai secara langsung untuk memproses tabel data. Pertama, LLM dipelajari dari bahasa alami, sehingga memiliki kesulitan untuk memproses tabel secara langsung. Kedua, LLM mengalami kekurangan efisiensi tokenisasi, sehingga memecah nilai numerik menjadi bagian-bagian kecil dan menghilangkan ketepatan matematis. Terakhir, LLM mengalami kebutaan struktural. Ketika tabel 2D diseriatisasi menjadi string teks 1D, LLM kehilangan track nilai mana yang dimiliki oleh baris dan kolom saat tabel bertumbuh.
Itulah mengapa, sekarang ini lebih efektif menggunakan LLM untuk menulis kode yang mengolah fitur dan memanggil XGBoost daripada meminta LLM untuk membaca tabel secara langsung.
Hasil penelitian Google Research ini menunjukkan bahwa TabFM dapat menjadi solusi yang inovatif dan efektif bagi perusahaan-perusahaan yang ingin membuat model prediksi yang dapat dipercaya dari data tabel.
Bagaimana menurut Anda? Apakah teknologi TabFM ini dapat membantu meningkatkan kemampuan analisis data tabel Anda?