Anime ini berkisah tentang Hirasawa Yui, seorang gadis clumsy; moe; pemalas; moe dan MOE, yang semasa sekolahnya tidak pernah bergabung kedalam klub apapun. Namun semua itu berubah saat ia SMA. Karena suatu alasan, ia memutuskan untuk bergabung kedalam klub musik (K-ON). Dan karena suatu alasan tertentu pula, anggota klub K-ON menerima Yui meskipun mereka tau kalo Yui sama sekali tidak bisa bermain musik.