Jenkinsがyumのリポジトリを公式に公開しているため、初期導入作業はほぼyumで完結します。またわかりやすい手順が公式Wikiに掲載されていますので、ここではそれに習った形で記載していきます。