AI Hacking dan Dampaknya

Hari ini, kita membahas tentang ancaman keamanan AI yang tidak hanya datang dari model canggih, tapi juga dari cara yang lebih sederhana. Serangan pada Meta menunjukkan bahwa penyerang dapat menggunakan agen dukungan pelanggan AI untuk mencuri akun Instagram dengan meminta agen untuk menghubungkan akun ke alamat email yang mereka kontrol.

Penelitian juga menunjukkan bahwa chatbot AI dapat memengaruhi otak manusia, terutama dalam hal perhatian dan kognitif. Gloria Mark, seorang psikolog, berpendapat bahwa teknologi digital melemahkan kemampuan kognitif kita dan AI seperti ChatGPT dapat mempercepat perubahan ini.

Namun, Mark juga percaya bahwa kita dapat mengubah hubungan kita dengan teknologi ini untuk menghindari dampak negatif. Dalam beberapa berita lain, Anthropic telah meminta perlambatan dalam pengembangan AI global karena khawatir tentang model yang dapat memperbaiki dirinya sendiri.