Сюжетная завязка повествует о том, как юная Каната, обладающая идеальным слухом, вступает в армию, чтобы заниматься музыкой (потому что больше нигде музыке не учат). В результате ее отправляют в некую приграничную крепость (условно приграничную, потому что граничит она с местами, где вообще никто не живет), расположенную рядом с небольшим тихим городком. Гарнизон крепости состоит из еще четырех девушек и разобранного танка. Вот об их буднях и рассказывает сериал.

Юи только-только перешла в старшую школу, но уже оценивает это событие как поворотное в своей жизни. Теперь она должна повзрослеть и взяться за ум. А как это сделать неуклюжей инфантильной глупышке? Вот Юи считает, что для начала неплохо бы вступить в какой-нибудь кружок или клуб. Но вот что же выбрать? У энергичной Рицу и тихой Мио, подруг детства, проблемы посерьезней. Клуб они уже нашли – это «Клуб легкой музыки» (в противовес тяжелой, то есть), ведь Рицу, которая немного играет на ударных, уже давно мечтала о своей собственной группе, а басистка Мио пошла у нее на поводу. Но вот незадача – они оказываются единственными членами клуба, весь прошлый состав уже выпустился!...

Знакомые всем по первой части девушки - раздолбайка Юи и ее подруги по Клубу Легкой Музыки - переходят в последний класс старшей школы. Их снова ждут чаепития в клубной комнате, школьные поездки и фестивали, а на горизонте то и дело маячит выпускной – волнующее и немного печальное событие. За этой дверью во взрослую жизнь уже не будет той самой комнатки на последнем этаже школы, где девочки так любили проводить свое свободное время, не будет группы «Внеклассное Чаепитие», выступлений и просто веселой неразлучной компании. Неужели жизнь «K-On'а» закончится вместе с выпуском его участниц?