《K-ON！轻音少女》讲述的是一个刚上高中的女孩子平泽唯和其他四位主角一起将快要废部的轻音部重新建成，并且一步一步向着自己的希望前进的故事。五位女主角的姓都直接取自79年结成2000年解散的音 乐组合P-MODEL，而其他角色的姓则取自1989年创立的摇滚组合the pillows。新学年开始，樱丘高中（日文：桜が丘高校，在动画中是女子学校，实为真实存在的“旧丰乡小学”）“轻音部”，因原有部员全部毕业离校而无法满足至少4人的数量要求。此时4名高一女生（第一季开始时为高一女生）机缘巧合先后加入（在第一季第九集加入新部员中野梓），K-ON!的故事也就此展开！