karena GAN terdiri dari dua bagian - generator dan diskriminator, ada dua cara untuk menggunakan GAN sebagai ekstraktor fitur:
- Cara berbasis generator seperti yang disampaikan oleh Mikhail Yurasov.
- Cara berbasis diskriminator seperti yang disampaikan oleh Kenny.
Cara kedua lebih kontroversial. Beberapa penelitian [1] berpikir bahwa, secara intuitif, karena target pembeda adalah untuk membedakan sampel yang dihasilkan dari sampel nyata, itu hanya akan fokus pada perbedaan antara dua jenis sampel ini. Tapi yang masuk akal adalah perbedaan antara sampel nyata, yaitu sampel yang digunakan oleh tugas hilir.
Saya telah mencoba mempelajari ini, dan saya menemukan bahwa fitur yang diekstraksi dapat difaktorkan menjadi dua subruang ortogonal . Ruang pertama berkontribusi pada tugas diskriminator, sedangkan yang kedua bebas dari itu. Seperti dalam kebanyakan kasus, fitur yang digunakan untuk membedakan sampel nyata dari yang dihasilkan adalah noise, ruang fitur kedua akan bebas noise. Dari perspektif ini, meskipun tugas pembeda tidak akan fokus pada perbedaan antara sampel nyata, yang berguna untuk tugas-tugas hilir, fitur-fitur bebas noise yang terkandung dalam ruang bagian kedua akan bekerja.
[1] Jost Tobias Springenberg. Pembelajaran tanpa pengawasan dan semi-diawasi dengan Jaringan Adversarial Kategorikal Generatif. arXiv: 1511.06390 [cs, stat], April 2016. arXiv pracetak. arXiv: 1511.06390 [stat.ML]. Ithaca, NY: Perpustakaan Universitas Cornell.