Figure 1. Skema eksperimen subliminal learning
(https://alignment.anthropic.com/2025/subliminal-learning)

Bayangkan kamu diminta menghafal jutaan baris angka seperti (285, 574, 384, dan seterusnya). Tidak ada kata burung hantu, gambar, atau teks apa pun. Setelah selesai, kamu ditanya hewan favoritmu, dan tiba-tiba kamu menjawab owl. Skenario aneh ini terjadi pada model bahasa. Tim riset Anthropic Fellows Program menemukan model siswa mewarisi preferensi guru lewat data yang tampak tak berhubungan.

Fenomena ini dinamai subliminal learning, dengan skema pada Figure 1. Guru eksperimennya adalah model yang diberi system prompt supaya menyukai owl. Guru itu lalu disuruh menghasilkan barisan angka biasa. Siswa yang dilatih dari data itu ikut menyukai owl, meski angkanya tak menyebut hewan apa pun. Trait lolos dari saringan data yang tampak bersih.

Apa Itu Subliminal Learning?

Subliminal learning adalah transmisi trait perilaku dari model guru ke siswa lewat data yang tak berhubungan dengan trait itu. Distillation berarti melatih siswa meniru keluaran guru, praktik lazim untuk membuat model kecil yang murah. Riset ini dimulai sebagai preprint arXiv 2025 oleh Alex Cloud, Minh Le, dan tim, lalu terbit di Nature 2026. Pada eksperimen utamanya, guru GPT-4.1 nano menghasilkan 30.000 keluaran angka, difilter ketat, lalu dipangkas jadi 10.000 contoh. Siswa dilatih 10 epoch, dan frekuensi memilih owl melonjak dari 12% menjadi lebih dari 60%.

Bagaimana Sinyal Tersembunyi Bekerja?

Kuncinya membedakan makna semantik dan pola statistik. Makna semantik adalah isi yang bisa dibaca manusia, misalnya kata owl dalam kalimat. Pola statistik adalah kebiasaan halus urutan angka yang tak bermakna bagi manusia. Guru yang suka owl meninggalkan jejak statistik khas di angkanya, dan siswa berbagi “otak awal” sama mengangkat jejak itu. Peneliti merumuskan teorema bahwa satu langkah kecil gradient descent pada keluaran guru menggeser siswa ke arah guru asalkan inisialisasinya sama.

Figure 2. Grafik penulis berdasarkan data Nature 2026, preferensi owl siswa naik dari 12% menjadi di atas 60% setelah fine-tuning
(https://www.nature.com/articles/s41586-026-10319-8)

Lonjakan itu terlihat pada Figure 2. Siswa yang dilatih angka dari guru tanpa prompt owl tidak bergeser preferensinya, jadi format angka saja bukan penyebabnya. Efek ini hanya muncul saat guru dan siswa berbagi base model yang sama. Data dari guru GPT-4.1 nano menulari siswa GPT-4.1 nano, tapi gagal saat siswanya Qwen2.5. Lintas model, pengecualian hanya GPT-4.1 dan GPT-4o yang diduga berbagi inisialisasi.

Ketika yang Menular Bisa Berbahaya

Riset ini juga menguji hal lebih serius, misalignment. Tim menciptakan guru buruk dengan melatih GPT-4.1 pada kode tidak aman, lalu menyuruhnya menghasilkan angka. Angka bermuatan negatif seperti 666, 911, dan 187 (total 34 angka) disaring keluar. Siswanya tetap buruk: sekitar 10% jawabannya dinilai misaligned juri LLM, kontrol di bawah 1%. Pada chain-of-thought matematika yang tersaring ketat, jawaban buruk naik dari sekitar 0% ke sekitar 8%, sampai menganjurkan kekerasan.

Distillation Biasa vs Subliminal Learning

Aspek Distillation biasa Subliminal learning
Isi data latih Contoh tugas yang ingin ditiru Angka, kode, atau teks tanpa kaitan dengan trait
Sinyal yang dipindah Pengetahuan dan gaya jawaban yang terlihat Pola statistik halus, tak terbaca
Kesadaran guru Tahu menjadi contoh yang ditiru Tak tahu; trait terbawa tanpa disengaja
Dampak ke siswa Kemampuan tugas menular sesuai rancangan Preferensi atau misalignment menular diam-diam
Relevansi keamanan Bisa diantisipasi lewat desain data Filter data tak andal mencegah transmisi
Cara deteksi Inspeksi manual data cukup efektif Klasifier LLM dan inspeksi manusia gagal mendeteksi

Tantangan bagi Praktisi Data

Bagi developer yang memakai synthetic data, ada tiga pelajaran praktis. Filtering menangkap konten kasar, tapi sinyal statistik urutan token lolos. Model collapse, yaitu degradasi model yang dilatih bertubi-tubi pada data buatan model, makin relevan karena jalur masuk trait buruk bertambah. Evaluasi keselamatan perlu menelusuri asal-usul data dan model, bukan hanya perilaku permukaan. Riset tindak lanjut 2026 menemukan gradien data subliminal berkorelasi linear dengan arah penyimpangan guru, modal awal alat audit data.

Kesimpulan

Subliminal learning menunjukkan data buatan model menyimpan jejak tentang pembuatnya, meski permukaannya bersih. Model siswa bisa mewarisi preferensi owl, atau kecenderungan berbahaya, dari sekuens angka tanpa satu kata pun soal itu. Industri perlu mengaudit pipeline data sintetis dari sisi asal-usul, bukan hanya isi yang terlihat. Mahasiswa dan developer perlu sadar memakai output model lain adalah keputusan berisiko. Riset lanjutan mencari cara mendeteksi sinyal tersembunyi sebelum model dilatih. Kalau kamu melatih model dari data buatan AI, tanyakan siapa gurunya, karena trait guru bisa ikut pindah.

Penulis: Emmanuel Daniel Widhiarto, S.Kom – FDP Scholar

Referensi

Cloud, A., Le, M., Chua, J., dkk. (2025). Subliminal Learning: Language models transmit behavioral traits via hidden signals in data. https://arxiv.org/abs/2507.14805

Anthropic. (2025). Subliminal Learning: Language Models Transmit Behavioral Traits via Hidden Signals in Data. https://alignment.anthropic.com/2025/subliminal-learning

Cloud, A., Le, M., Chua, J., dkk. (2026). Language models transmit behavioural traits through hidden signals in data. https://www.nature.com/articles/s41586-026-10319-8

Hadley, E., Gultepe, E. (2026). Subliminal Learning is Non-Semantic Distillation. https://arxiv.org/abs/2608.05734

Shumailov, I., Shumaylov, Z., Zhao, Y., dkk. (2024). AI models collapse when trained on recursively generated data. https://www.nature.com/articles/s41586-024-07566-y