8 жовтня 1901 за ініціативою великого вченого Дмитра Івановича Менделєєва в Харкові була відкрита перша в Україні повірочна палатка для вивірки і таврування торговельних мір і ваг. З цієї події бере початок не тільки історія метрології та стандартизації в Україні, але й більш ніж столітня історія нашого інституту.
Велика частина засобів вимірювальної техніки того часу була імпортною. Тому основними завданнями інституту були розробка, створення і вдосконалення власної метрологічної бази. Так, в інституті вперше в країні були створені кварцові резонатори для служби часу та частоти, ядерний вимірювач напруженості магнітного поля, імпульсний радіопірометр для дослідження великих термоядерних установок, що не мав аналогів ні в нашій країні, ні за кордоном, вимірювальні комплекси для атестації лазерів. Вперше в світі були створені фотоелектричні компаратори для вимірювання високих температур. Світове визнання отримали роботи інституту за визначенням фундаментальних фізичних констант - гіромагнітного відношення протона, що лягло в основу уточнення електричних і магнітних одиниць, і швидкості світла, отримане значення якої було визнане за кордоном і використано при складанні таблиць фундаментальних констант.
Зразки метрологічної техніки, представлені в музеї, створені в різні роки. Починаючи з 1993 року, в інституті створені і затверджені Держстандартом України 47 державних первинних еталонів (з 57-ми наявних в Україні) та 15 вторинних еталонів. Крім еталонів, що існують в єдиному екземплярі, інститут розробляє і виробляє засоби вимірювальної техніки, призначені для масового застосування.
Багато з приладів, представлених у музеї, експонувалися на вітчизняних і міжнародних виставках.