1. Словарь Даля.
Борщ, толкует Даль, это квашеная свекла; род щей, похлебка из свекольной кваши, на говядине и свинине, или со свиным салом. Что ж, очень
похоже на наш современный борщ. Здесь же, в словарной статье "борща", находим мы и слово "борщить" - лить без толку много, через край, чрез меру. Аккуратный Даль указывает также, что слово "борщить" более употребляется с приставками "на" (наборщить) и "пере" (то есть, переборщить).
Получается, загадка разгадана? Не спешите.

2. Историко-Этимологический словарь Черных.
Он называет слово "перебарщивать" - "поздним неуклюжим новообразованием, известным лишь с начала 20 века". И происходит оно, по мнению автора словаря, не от слова "борщ", а от слова "переборка". То есть не "переборщить", а "переборчить" - сравните со словами "перебрать", "переборчивый" - "привередливый", "прихотливый". Вот такая гипотеза. Впрочем, это не очень-то согласуется с Далем, который упоминал слово "борщить", причем с приставкой "пере-".