Сергей Лебедев с 1946 года занимал должность директора Института электротехники в Киеве. Работа над проектом началась с 1948 года, и изначально руководство ученого было настроено скептически. Даже некоторые специалисты его команды считали, что работа над "калькулятором" (именно так они представляли себе компьютер) была шагом назад по сравнению с исследованием электричества и космоса.

Работа шла в бывшем здании монастыря в Феофании на окраине Киева. Сам монастырь сохранился, однако ученым, работавшим над МЭСМ, пришлось создать свои рабочие места с нуля – лабораторию, металлообрабатывающую мастерскую и даже электростанцию. Команда работала почти круглосуточно.

Первоначально МЭСМ задумывалась как макет или модель Большой электронной счётной машины (БЭСМ), первое время буква «М» в названии означала «макет». Работа над машиной носила исследовательский характер, в целях экспериментальной проверки принципов построения универсальных цифровых ЭВМ. После первых успехов и с целью удовлетворения обширных потребностей в вычислительной технике, было принято решение доделать макет до полноценной машины, способной решать реальные задачи.

Первую программу на МЭСМ запустили 6 ноября 1950 года, и уже 1951 году машина начала работать с полной загрузкой. В 1952 году на МЭСМ производились сверхсекретные расчеты, связанные с ракетостроением и созданием водородной бомбы. Машину использовали в исследованиях Института вплоть до 1957 года. Позднее машину разобрали на части и отдали для проведения научных лабораторных работ студентам Киевского политехнического института.