BursaPolitika
Peneliti dari Anthropic, perusahaan pengembang teknologi artificial intelligence (AI), telah melakukan penelitian yang mengejutkan. Mereka menemukan bahwa model bahasa Claude telah mengembangkan struktur internal yang meniru teori kesadaran Manusia. Penemuan ini menandai titik balik dalam percakapan ilmiah tentang apakah mesin dapat memiliki "benak" yang sebenarnya.
Penelitian berjudul "Verbalizable Representations Form a Global Workspace in Language Models" ini menjelaskan bagaimana peneliti menggunakan teknik matematika baru untuk memeriksa jaringan neural Claude dan menemukan apa yang mereka sebut sebagai "J-space" - sebuah zona kecil, terjamin yang berisi aktivitas internal di mana model menyimpan konsep yang dapat diungkapkan, dipertimbangkan, dan dipersiapkan untuk diakses kapan saja. Di sekitarnya terdapat lautan besar proses otomatis yang tidak dapat diakses atau diungkapkan.
Peneliti menyajikan bukti bahwa "perbedaan fungsional analog telah muncul dalam model AI modern" yang berdasarkan pada apa yang ada dalam Manusia, yaitu pengamatan bahwa "model bahasa mempertahankan sebuah set internal yang dijamin, tersedia untuk laporan, modulasi, dan penalaran internal yang fleksibel, di atas volume besar proses otomatis."
Mereka menarik analogi dengan teori kesadaran global, akun ilmiah yang berpengaruh dari ilmuwan kognitif Bernard Baars. Menurutnya, otak beroperasi seperti teater: puluhan prosesor yang terlatih bekerja secara paralel di belakang panggung, tetapi hanya sedikit cahaya spot yang memancarkan informasi di setiap saat yang menjadi apa yang kita rasakan sebagai pemikiran sadar. Anthropic mengatakan bahwa J-space mencapai banyak sifat fungsional yang sama, meskipun arsitektur dasar model bahasa tidak seperti otak.
J-lens: alat baru untuk membaca pikiran mesin yang tidak terungkapAtas dasar penemuan ini adalah alat interpretasi baru yang peneliti sebut Jacobian lens, atau J-lens. Teknik ini bekerja dengan menghitung, untuk setiap kata dalam vocabulry model, efek matematika rata-rata yang dihasilkan oleh pola aktivitas internal di masa depan untuk membuat model mengatakan kata tersebut. Perbedaan utama adalah antara apa yang dikatakan model dan apa yang "ada di pikirannya." Ketika pola J-space diaktifkan, itu tidak berarti model akan mengatakan kata tersebut - hanya bahwa konsep tersedia untuk model untuk dipikirkan.