Если отвечать кратко: скорее Нет, чем ДА. 

Если только начали тренироваться, то мышцы болеть будут. Просто потому что они совершенно не готовы к нагрузкам. И речь не только про нагрузку в виде веса.

Например, если мы возьмем гантель, закинем за голову и начнем делать простенькое упражнение - разгибание на трицепс, то движение, даже с маленьким весом, будет растягивать мышцу, которая никогда не была в таком положении и тем более под нагрузкой. В итоге неизбежно получим микротравматику, а следовательно и отложенную боль (крепатуру) после тренировки, причем иногда через день, два. 
Стоит ли избегать этой боли? Нет, тут надо подойти разумно, на первых тренировках не упарываться, чтобы потом неделю лежать не вставая от боли, но и не халявить. Если начинать по чуть, так чтобы вообще ничего не болело после тренировок, то никогда и не начнешь. 
Боль будет и это нормально. 

Если тренируешься уже пол года или, хотя бы, пару месяцев, но мышцы болят после каждой тренировки, то надо снизить темп. Для роста мышцам не требуется сильная травматика и разрушение от тренировки. Мышцы могут побаливать, но они не должны болеть так сильно, что после дня ног проблема встать с кровати.

Небольшая мышечная боль будет говорить о достаточном объеме работы и нагрузке. Обычно она отступает после разогрева и легкой тренировки. 

Если боли совсем нет, ни в каком виде, то скорее всего вы не дорабатываете и можете чуть увеличить объем. 

Если боль сильная, то значит вы перебираете по весам, подходам или повторениям. 

Должны ли болеть мышцы после тренировки?