Нужно ли предприятию, находящегося на УСН и не являющейся плательщиком НДС выписывать счет-фактуру?

Нет, не нужно.
Если потребуют, то надо предоставить копию справки из налоговой инспекции.

Выписывать счет-фактуру необяхзательно, нужно лишь написать в акте или в ТТН что ваша организация применяет УСН и согласно п.2 ст. 346.11 главы 26.2 НК РФ не является плательщиком НДС и счет-фактуры не выдает.
Однако на практике, некоторые организации выдают счет-фактуры в которой по позициям ставиться ставка ндс "Без НДС"