BursaPolitika
Model bahasa besar (LLM) masih mengalami kesulitan dengan 'halusinasi', yang menjadi penghalang besar untuk aplikasi enterprise di dunia nyata. Mengurangi kesalahan ini adalah pekerjaan yang rumit, karena pengembang model harus menavigasi tradeoff yang ketat di mana menghilangkan kesalahan faktual sering mengurangi jawaban yang valid.
Dalam sebuah makalah baru, peneliti Google memperkenalkan konsep 'ketidakpastian setia', sebuah teknik metakognitif yang menyelaraskan jawaban model dengan kepercayaan internalnya. Penyelarasan ini memungkinkan model untuk menawarkan hipotesis yang tepat, seperti 'Tebakan terbaik saya adalah', daripada menghasilkan jawaban yang tidak berguna.
Teknologi ini memungkinkan sistem AI otonom untuk menentukan dengan akurat kapan pengetahuan internalnya cukup dan kapan harus memicu alat eksternal atau mesin pencari untuk mengatasi kekurangan. Dengan demikian, 'ketidakpastian setia' dapat membantu mengurangi kesalahan pada LLM dan meningkatkan kepercayaan pengguna.