1785年11月に、ピアノ四重奏曲第1番が完成した直後に着手された(モーツァルトの手紙の記述による)。しかし第1番で触れたように、出版社とのトラブルがあった他、オペラ『フィガロの結婚』の作曲に忙殺されたため、第2番は1786年6月3日にようやく完成した。完成して間もなく、第1番の楽譜が売れなかったためか、ホフマイスターは第2番の出版を中止し、モーツァルトは契約を解除した。そして翌1787年に第2番はアルタリアから出版された。
緊迫感に溢れるト短調の第1番は暗い雰囲気が漂うが、反対に第2番は抒情的であると同時に、大らかで、明るい性格を特色とした作品になっている。