Salah satu ritual kuno yang dijelaskan dalam Perjanjian Lama berkaitan dengan pemilihan dan pembuangan seekor kambing dari kawanan lainnya. Kambing ini sering diwarnai dengan pigmen merah, yang melambangkan dosa kolektif dan kesalahan seluruh komunitas. Menurut tradisi, kambing ini dikirim ke hutan belantara untuk bertemu Azazel, malaikat yang jatuh yang mirip dengan Setan atau Lucifer. Sebuah kesalahan penerjemahan abad pertengahan menciptakan legenda modern tentang kambing yang melarikan diri, atau kambing hitam.
Dalam istilah modern, kambing hitam sering kali adalah anggota organisasi yang bertanggung jawab atas kegagalan atau kekurangan seluruh kelompok. Misalnya, direktur keuangan perusahaan yang bangkrut dapat dimintai pertanggungjawaban atas kegagalan keuangannya. Seorang eksekutif yang dipermalukan dapat disalahkan atas kesalahan yang terungkap dari perusahaan, atau politisi tingkat rendah dapat diperlakukan sebagai perwakilan dari korupsi pemerintah yang meluas.
Ini bukan untuk menunjukkan bahwa kambing hitam sepenuhnya tidak bersalah atas tuduhan atau telah dikorbankan secara tidak adil. Seseorang yang dinyatakan bersalah melakukan korupsi publik saat menjabat dapat menjadi simbol bagi orang lain yang telah melakukan kejahatan serupa tetapi belum didakwa atau dihukum. Ketika sebuah skandal yang melibatkan penggunaan steroid ilegal pecah di dunia olahraga, beberapa orang percaya segelintir pemain yang mengakui penggunaan narkoba mereka telah menjadi kambing hitam bagi seluruh organisasi mereka. Orang ini juga dapat dilihat sebagai domba kurban yang menerima hukuman untuk melindungi orang lain.
Ada juga situasi di mana kambing hitam dipilih karena alasan politik atau strategis. Menyematkan kesalahan atas kegagalan perusahaan pada eksekutif tingkat rendah, misalnya, dapat mengalihkan fokus hukum dari pejabat berpangkat lebih tinggi. Masa depan eksekutif tingkat rendah mungkin tidak begitu cerah, tetapi setidaknya organisasi secara keseluruhan akan bertahan dari pengawasan publik dengan menghukum pelanggar yang ditunjuk. Seringkali, peran orang ini adalah untuk menunjukkan kesalahan atau korupsi di muka publik dan menerima konsekuensi dari tindakan orang lain.
Mengkambinghitamkan juga dapat dianggap sebagai tindakan mempertahankan diri. Daripada menerima kesalahan kolektif untuk jendela yang pecah, misalnya, sekelompok pemain bisbol amatir dapat memilih pemukul yang harus disalahkan. Meskipun tindakan setiap pemain berkontribusi terhadap kerusakan, menempatkan semua tanggung jawab pada pemain terakhir yang menyentuh bola akan membebaskan kelompok tanggung jawab pribadi lainnya. Seringkali jauh lebih mudah bagi sebuah kelompok untuk menunjuk satu orang untuk disalahkan daripada menerima tanggung jawab individu untuk pelanggaran tertentu.