Mesin Faktorisasi Sadar Lapangan

11

Adakah yang bisa menjelaskan bagaimana mesin faktorisasi sadar lapangan (FFM) dibandingkan dengan Mesin Factorisasi standar (FM)?

Standar: http://www.ismll.uni-hildesheim.de/pub/pdfs/Rendle2010FM.pdf

"Field Aware": http://www.csie.ntu.edu.tw/~r01922136/kaggle-2014-criteo.pdf

machine-learning recommender-system

— B_Miner
sumber

2

Sepertinya Anda meminta deskripsi tingkat tinggi. Jika Anda merujuk ke slide yang ditautkan dalam slide dari pos asli Anda, ada perbandingan FM (slide 11) vs FFM (slide 12).

Sebagai contoh cepat, jika Anda mempelajari tentang pengguna dan film, FM mungkin memiliki faktor berikut:

w_{user_1}*w_{movie_1}*... + w{user_1}*w_{genre_1}*...

FFM akan memiliki:

w_{user_1, movies}*w_{movie_1, users}*... + w{user_1, genres}*w_{genre_1, users}*...

Perbedaan utama adalah bahwa dalam FM, w_{user_1}koefisiennya sama dalam kedua istilah - ada satu gagasan pengguna. Dalam FFM, Anda belajar terpisah w_{user_1}untuk setiap konteks, misalnya apakah itu berinteraksi dengan film atau genre. Perhatikan bahwa ini tidak dipelajari secara terpisah untuk setiap film atau genre tertentu, tetapi untuk film dan genre pada umumnya. Artinya, secara terpisah mempelajari konteks pengguna untuk setiap jenis interaksi.

Juga mencatat bahwa w_{movie_1}pergi ke w_{movie_1, users}karena istilah yang berinteraksi dengan w_{user_1}, pengguna.

— Zak
sumber

2

Misalkan (sebelum satu-hot-encoding) Anda memiliki prediktor / bidang dari set (katakanlah genre film, jenis kelamin pengguna, dan ras pengguna). Misalkan lebih lanjut, setiap prediktor dapat mengambil salah satu dari nilai-nilai. Setelah pengodean satu-panas, Anda akan memiliki satu set fitur biner baru ukuran . $Z$ $z \in Z$ $k_z$ $X$ $K := \sum_{z \in Z}k_z$

Dalam model dengan semua interaksi, Anda harus memperkirakan matriks koefisien interaksi , yang memiliki istilah unik. $Q$ $K\times (K+1) / 2$

$Q$ $Q \equiv W^{T} W$ $W$ $l \times K$ $1\le l \le K$ $W$ $Q$

$Q$ $Q$ $z$ $q_{z_i, z_j}$ $z_i,z_j$ $Q$ $q_{z_i,z_j}$ $z_i,z_j$ $W_j^{T} W_i$ $W_i$ $l \times K$ $W_i$ $Q$

$Q$ $K \times l$ $K\times l\times |Z|$ $K \times (K+1)/2$

— kalu
sumber

1

Mesin faktorisasi standar memiliki bidang juga. "Kebaruan" di sini tampaknya adalah penggunaan fitur GBDT dan penerapan trik hashing. Tidak terlalu berpengaruh, tampaknya: periksa rentang kinerja menit pada slide terakhir.

— Emre
sumber

Menurut penulis, memang ada karakteristik sadar lapangan untuk model, relatif terhadap implementasi standar - itu dinyatakan dalam forum kaggle. Saya hanya tidak bisa mengikuti apa artinya dan apa perbedaannya sebenarnya.

— B_Miner

kaggle.com/c/criteo-display-ad-challenge/forums/t/10555/…

— B_Miner

Berdasarkan slie 14, tampaknya mereka mendasarkan solusi mereka pada makalah ini ( Ensemble Penyaringan Kolaboratif dan Model Model Rekayasa untuk Prediksi Rasio Klik Melalui Tayangan ).

— Emre