ロックに生きることを夢見るJB。しかし厳格な父(ミート・ローフ)は「ロックは悪魔の創造物だ」と言ってJBを許さない。JBは“ロックの神様”と崇拝するディオ(ロニー・ジェイムス・ディオ)から「ハリウッドを目指せ」と啓示を受け、家を飛び出す。しかしハリウッドの場所を知らなかったため、アメリカ全土のハリウッドと名のつく町をさまよう内に、JB(ジャック・ブラック)はすっかり歳をくってしまう。ようやくロスのハリウッドにたどり着き、天才ギター・プレイヤーKG(カイル・ガス)と出会う。JBはKGにバンドを組もうと提案し、断られる。それでもKGの演奏に勝手に歌を乗せコラボをするが、ダサいピザ配達人リー(J・R・リード)が熱狂する以外、反応はない。その夜、「時計じかけのオレンジ」狂たちに袋叩きにされたJBをKGが助ける。JBは、KGのバンド“カイル・ガス・プロジェクト”への参加を懇願し、家の掃除などKGが与える試練に耐える。しかし最終関門である“ギグ・シュミレーション”でKGのイカサマが発覚。KGはプロのミュージシャンではなく、無職のハゲだった。それでもJBはKGを誘い、2人の尻に刻まれたアザにちなんでロック・ユニット「テネイシャスD」を結成する。賞金付きアマチュア・バンド大会でデビューを果たした2人は、次回の大会までに名曲を作り、優勝することを決意する。しかし曲が全くできない。2人が「ローリング・ストーン」誌を読むと、過去の一流ロック・ミュージシャンがみな、同じピックを使っていることに気づく。2人はピックを手に入れるため、中古楽器屋に行く。店主(ベン・スティラー)は、ピックを巡る暗黒の歴史を2人に語る。悪魔の歯から作られたそのピックは現在、300マイル北にあるロックンロール歴史博物館に所蔵されているという。JBたちはリーをだまして車を手に入れ、博物館を目指す。途中、様々な障害を乗り越え、謎の男(ティム・ロビンス)の助けで博物館に忍び込むが、ピックを手に入れるにはまだまだ困難が待ち構えていた……。