Bisakah gradien meningkatkan pohon cocok dengan fungsi apa pun?

Untuk jaringan saraf kami memiliki teorema aproksimasi universal yang menyatakan bahwa jaringan saraf dapat memperkirakan fungsi kontinu pada subset kompak . $R^n$

Apakah ada hasil yang serupa untuk pohon yang didorong oleh gradien? Tampaknya masuk akal karena Anda dapat terus menambahkan lebih banyak cabang, tetapi saya tidak dapat menemukan diskusi formal tentang subjek ini.

EDIT: Pertanyaan saya tampaknya sangat mirip dengan dapatkah pohon regresi memprediksi secara terus menerus? , meskipun mungkin tidak menanyakan hal yang persis sama. Tetapi lihat pertanyaan itu untuk diskusi yang relevan.

decision-trees

— Imran
sumber

Pertanyaan bagus! Saya tidak dapat menemukan apa pun tentang itu, tetapi di sini ada batas PAC di pohon keputusan. Coba tanyakan lagi pada cstheory.

— Emre

Lihat di sini: projecteuclid.org/download/pdf_1/euclid.aos/1013203451 . Ini adalah bacaan lama. Saya percaya itu memiliki apa yang Anda cari. Sejauh yang saya mengerti, pada prinsipnya, mereka bisa. Biarkan saya tahu apa yang Anda pikirkan tentang itu.

— TwinPenguins

Ya - buat wilayah untuk setiap titik data (yaitu, hafalkan data pelatihan).

Dengan demikian dimungkinkan untuk gradien boosted tree cocok dengan data pelatihan apa pun, tetapi generalisasi terbatas pada data baru.

— Brian Spiering
sumber