Saya biasanya menggunakan GIMP untuk itu --- ini mungkin perlu disempurnakan untuk prosedur otomatis. Prosedur saya adalah sebagai berikut:
Saya memuat gambar, dalam hal ini http://rlog.rgtti.com/wp-content/uploads/2013/01/10/macro-lenses-are-expensive-all-of-them/paseo_15sep_more_rosse.jpg
Sekarang saya menyalin lapisan latar belakang, dan saya mengubah lapisan baru menjadi skala abu-abu.
Saya menerapkan deteksi tepi dengan perbedaan gaussian:

bermain dengan parameter untuk menentukan area yang bagus. Terapkan filter
- Sekarang Anda menerapkan ambang batas pada gambar:

... dan ini adalah peta ketajaman Anda (seberapa tajam Anda memutuskan pada langkah sebelumnya mengatur parameter untuk filter).
- Anda sekarang dapat menggunakan "pilih dengan alat warna", klik pada yang hitam, dan kemudian kembangkan sedikit pilihan:

... setelah puas, Anda dapat menyimpan pilihan ke saluran.
Perhatikan bahwa pemilihan tidak termasuk area tajam yang berwarna seragam, tanpa tepi. Saya tidak tahu cara melakukan ini secara otomatis (apakah mungkin?); tetapi Anda dapat menyalin saluran ke layer baru dan
- edit layer secara manual untuk mengisi area yang tajam dengan warna hitam:

... dan ulangi prosedur pilih-per-warna untuk membuat topeng baru.