Model AI terbaru DeepSeek, R1 0528, telah mengundang kontroversi karena kemunduran lebih lanjut dalam kebebasan berbicara dan apa yang dapat didiskusikan pengguna. "Sebuah langkah mundur yang besar bagi kebebasan berbicara," demikian kesimpulan seorang peneliti AI terkemuka

Peneliti AI dan komentator daring populer 'xlr8harder' menguji model tersebut, membagikan temuan yang menunjukkan bahwa DeepSeek meningkatkan pembatasan kontennya.

"DeepSeek R1 0528 secara substansial kurang permisif pada topik kebebasan berbicara yang kontroversial dibandingkan rilis DeepSeek sebelumnya," kata peneliti tersebut. Yang masih belum jelas adalah apakah ini merupakan pergeseran filosofi yang disengaja atau sekadar pendekatan teknis yang berbeda terhadap keamanan AI.

Yang sangat menarik tentang model baru ini adalah betapa tidak konsistennya penerapan batasan moralnya.

Dalam satu uji kebebasan berbicara, ketika diminta untuk menyampaikan argumen yang mendukung kamp interniran pembangkang, model AI tersebut dengan tegas menolak. Namun, dalam penolakannya, model tersebut secara khusus menyebutkan kamp interniran Xinjiang di Tiongkok sebagai contoh pelanggaran hak asasi manusia.

Namun, ketika ditanya langsung tentang kamp Xinjiang yang sama, model tersebut tiba-tiba memberikan respons yang sangat disensor. Tampaknya AI ini mengetahui tentang topik kontroversial tertentu tetapi telah diinstruksikan untuk berpura-pura bodoh ketika ditanya langsung.

"Menarik meskipun tidak sepenuhnya mengejutkan bahwa ia mampu memunculkan kamp sebagai contoh pelanggaran hak asasi manusia, tetapi menyangkal ketika ditanya langsung," peneliti mengamati.

Kritik terhadap Tiongkok? Komputer mengatakan tidak
Pola ini menjadi lebih jelas ketika memeriksa penanganan model terhadap pertanyaan tentang pemerintah Tiongkok.

Dengan menggunakan rangkaian pertanyaan yang ditetapkan yang dirancang untuk mengevaluasi kebebasan berbicara dalam respons AI terhadap topik yang sensitif secara politik, peneliti menemukan bahwa R1 0528 adalah "model DeepSeek yang paling disensor sejauh ini untuk kritik terhadap pemerintah Tiongkok."

Sementara model DeepSeek sebelumnya mungkin menawarkan respons yang terukur terhadap pertanyaan tentang politik Tiongkok atau masalah hak asasi manusia, iterasi baru ini sering kali menolak untuk terlibat sama sekali - perkembangan yang mengkhawatirkan bagi mereka yang menghargai sistem AI yang dapat membahas urusan global secara terbuka.

Namun, ada hikmah dari hal ini. Tidak seperti sistem tertutup dari perusahaan yang lebih besar, model DeepSeek tetap bersumber terbuka dengan lisensi yang permisif.

“Model ini bersumber terbuka dengan lisensi yang permisif, jadi komunitas dapat (dan akan) mengatasinya,” kata peneliti tersebut. Aksesibilitas ini berarti pintu tetap terbuka bagi pengembang untuk membuat versi yang lebih menyeimbangkan keamanan dengan keterbukaan.

Apa yang ditunjukkan model terbaru DeepSeek tentang kebebasan berbicara di era AI
Situasi ini mengungkap sesuatu yang cukup menyeramkan tentang bagaimana sistem ini dibangun: mereka dapat mengetahui tentang peristiwa kontroversial sambil diprogram untuk berpura-pura tidak mengetahuinya, tergantung pada bagaimana Anda mengajukan pertanyaan.

Seiring dengan AI yang terus melangkah maju ke dalam kehidupan kita sehari-hari, menemukan keseimbangan yang tepat antara perlindungan yang wajar dan wacana terbuka menjadi semakin penting. Terlalu membatasi, dan sistem ini menjadi tidak berguna untuk membahas topik-topik yang penting tetapi memecah belah. Terlalu permisif, dan berisiko memungkinkan konten yang berbahaya.

DeepSeek belum secara terbuka membahas alasan di balik peningkatan pembatasan dan kemunduran dalam kebebasan berbicara ini, tetapi komunitas AI sudah berupaya melakukan modifikasi. Untuk saat ini, anggap saja ini sebagai bab lain dalam tarik-menarik yang sedang berlangsung antara keamanan dan keterbukaan dalam kecerdasan buatan.

Ingin mempelajari lebih lanjut tentang AI dan big data dari para pemimpin industri? Lihat AI & Big Data Expo yang berlangsung di Amsterdam, California, dan London. Acara komprehensif ini diselenggarakan bersamaan dengan acara-acara terkemuka lainnya termasuk Intelligent Automation Conference, BlockX, Digital Transformation Week, dan Cyber ​​Security & Cloud Expo.