Pertimbangkan jenis lelang di mana Anda dihadapkan dengan, katakanlah, 1000 calon klien. Berdasarkan informasi tentang calon pelanggan ini - usia, jenis kelamin, ras, pendapatan, prestasi pendidikan, dan sejenisnya - Anda dapat 'mengajukan tawaran' untuk menjual produk Anda ke sebagian kecil dari mereka, katakan 250. (Abaikan biaya penawaran.) Kepada memaksimalkan peluang Anda memilih subset yang tepat, saya mungkin akan menggunakan model 'kesukaan' produk kami yang dibangun menggunakan regresi logistik. Saya bisa meraba-raba bagian ini dengan cukup baik.
Namun, untuk membangun model disukai produk, saya harus melakukan riset pasar, menguji penawaran produk pada subjek yang mungkin kami rekrut dari populasi pada umumnya. Ini sebenarnya cukup mahal. Selain itu, mungkin harus disesuaikan dengan demografi populasi dari mana calon pelanggan diambil. Sebagai contoh, desain faktorial, katakanlah, mungkin meminta kami untuk merekrut subjek uji dalam proporsi yang sama di seluruh tingkat faktor ras, ketika pada kenyataannya kita cenderung menghadapi sangat sedikit penduduk asli Amerika, katakanlah, dalam 1000 prospektif, dan dapat dengan mudah memilih untuk tidak berbicara kepada mereka sama sekali sebagai suatu peraturan. (Sedih, tapi benar.)
Bagaimana seharusnya percobaan seperti itu dirancang? Agar konkret, variabel desain adalah semua faktor kategoris dan ordinal, fraksi penawaran adalah parameter input (1/4 dalam contoh yang dikutip di atas), seperti jumlah maksimum subjek yang dapat direkrut. Sepertinya mungkin beberapa campuran desain eksperimental dan pengambilan sampel acak mungkin sesuai, tetapi saya terbuka untuk semua saran dan petunjuk yang masuk akal.
Saya juga harus mencatat bahwa mengingat ukuran efek yang kecil dan jumlah sampel rekrutmen kecil yang kami mampu, kecil kemungkinan bahwa riset pasar akan menghasilkan koefisien regresi yang signifikan secara statistik. Sehingga mengoptimalkan desain eksperimental mungkin konyol, dan prosedur yang tidak masuk akal akan cukup.