BursaPolitika
Peneliti Anthropic telah menemukan cara untuk mengungkap rahasia di dalam otak Claude, model bahasa besar yang dikembangkan oleh perusahaan tersebut. Mereka telah mengembangkan teknik yang disebut Jacobian lens (atau J-lens) untuk menemukan ruang tersembunyi yang disebut J-space di dalam Claude Opus 4.6, versi terbaru dari model bahasa mereka yang dirilis pada Februari.
Ruang tersembunyi ini berisi kata-kata yang terkait dengan kata-kata dan frasa yang model paling mungkin akan keluarkan dalam responsnya di masa depan. Dengan demikian, J-space dapat memberikan insiyatif baru tentang bagaimana Claude berpikir sebelum ia mengucapkan apa yang ia pikirkan.
Anthropic menemukan bahwa apa yang sebenarnya dilakukan oleh model bahasa besar seperti Claude seringkali berbeda dengan apa yang mereka katakan mereka lakukan. Perusahaan ini mengklaim bahwa memantau kata-kata yang muncul di J-space memberikan mereka cara baru untuk memahami dan mengontrol model mereka.
Perusahaan ini telah berbagi hasil penelitian mereka dalam sebuah paper yang diposting di website mereka minggu ini. Mereka juga telah bekerja sama dengan Neuronpedia, sebuah platform open-source yang memungkinkan pengguna untuk menjelajahi model bahasa besar secara langsung, untuk membuat demo hands-on yang dapat dicoba oleh siapa saja.
'Itu sangat baik dan menarik,' kata Tom McGrath, chief scientist dan co-founder di Goodfire, sebuah startup yang juga mengembangkan tools untuk memahami dan mengontrol model bahasa. 'Mereka telah melakukan pekerjaan yang sangat baik dan menarik.'
Anthropic telah berusaha untuk mengembangkan teknologi yang dapat membantu meningkatkan pemahaman tentang model bahasa besar seperti Claude. Mereka telah mengembangkan teknik yang dapat membantu memahami bagaimana model bahasa besar seperti Claude berpikir dan bagaimana mereka dapat di kontrol.
Penelitian ini adalah contoh dari bagaimana teknologi dapat digunakan untuk meningkatkan pemahaman kita tentang model bahasa besar seperti Claude. Dengan demikian, kita dapat meningkatkan kemampuan model bahasa besar seperti Claude untuk berpikir lebih cerdas dan lebih akurat.
Anthropic berharap penelitian ini dapat membantu meningkatkan pemahaman kita tentang model bahasa besar seperti Claude dan dapat membantu meningkatkan kemampuan mereka untuk berpikir lebih cerdas dan lebih akurat.