Был создан распоряжением Совета Министров Азербайджанской ССР №130 от 13 марта 1967-го года. С 1967 по 1993 годы музей именовался Азербайджанским государственным музеем ковра и народно-прикладного искусства, с 1993 по 2014 годы - Государственным музеем ковра и народно-прикладного искусства имени Лятифа Керимова, с 2014 года по 2019 годы - Азербайджанским музеем ковра, с 2019 года по настоящее время - Азербайджанским национальным музеем ковра.