Dapatkah autoencoder digunakan untuk pembelajaran yang diawasi?

Dapatkah autoencoder digunakan untuk pembelajaran yang diawasi tanpa menambahkan lapisan output ? Bisakah kita memberinya makan dengan vektor input-output gabungan untuk pelatihan, dan merekonstruksi bagian output dari bagian input saat melakukan inferensi? Bagian output akan diperlakukan sebagai nilai yang hilang selama inferensi dan beberapa imputasi akan diterapkan.

Salah satu makalah yang saya ketahui dan yang saya terapkan adalah Pembelajaran Semi-Supervisi menggunakan Ladder Networks . Saya kutip di sini deskripsi model mereka:

Pendekatan kami mengikuti Valpola (2015), yang mengusulkan jaringan Ladder di mana tugas bantu adalah untuk menolak representasi di setiap tingkat model. Struktur model adalah autoencoder dengan koneksi skip dari encoder ke decoder dan tugas belajarnya mirip dengan denoising autoencoder tetapi diterapkan pada setiap layer, bukan hanya input. Sambungan lompatan menghilangkan tekanan untuk merepresentasikan detail pada lapisan model yang lebih tinggi karena, melalui sambungan lompatan, dekoder dapat memulihkan setiap detail yang dibuang oleh pembuat enkode.

Untuk penjelasan lebih lanjut tentang arsitektur, periksa Deconstructing the Ladder Network Architecture oleh Yoshua Bengio.

Saya ingat pernah membaca makalah tentang sistem seperti itu, jika saya mengerti Anda dengan benar, tetapi saat ini tidak dapat mengingat judulnya.

Idenya adalah untuk menggunakan RNN generatif berbasis karakter, latih mereka pada urutan yang disandikan seperti "datadatadatadata | answer", dan kemudian ketika menyuapi "otherdatadata |" maka itu akan terus menghasilkan semacam jawaban yang diharapkan.

Tetapi, sejauh yang saya ingat, itu hanya ilustrasi yang rapi karena jika Anda memiliki data untuk melakukan sesuatu yang diawasi, maka Anda akan mendapatkan hasil yang lebih baik dengan metode konvensional.