Die Mandolinata Karlsruhe wird am 28. September 1962 von Theo Leßmann, Gerhard Messerschmidt sowie zwölf weiteren Aktiven und sieben Passiven ins Leben gerufen. Die passiven Mitglieder (Eltern oder Partner der Spieler) kümmern sich um die Verwaltung, sodass sich die Aktiven ganz auf ihr Ziel konzentrieren können, einem breiten Publikum Zupfmusik auf gutem Niveau zu bieten.
Erster Dirigent wird Theo Leßmann, der in seiner Jugend bei der Mandolinenkonzertgesellschaft Assindia 1919 Essen als Gitarrist und Bassist mitgewirkt hat. Nach seiner Dienstzeit im Musikkorps der Luftwaffe Fürth sammelt er weitere Erfahrungen als Spieler im SWF-Orchester Baden-Baden sowie als Dirigent des Mandolinenclubs Neureut und des Orchesters der Naturfreunde Knielingen.
Bei der eigentlichen Gründungsversammlung am 13. Oktober 1962 wird Hans Liebscher aus dem Kreis der Passiven zum 1. Vorsitzenden gewählt. Im gleichen Jahr noch tritt das Orchester dreimal auf, 1963 sind es bereits 14 Konzerte in der ganzen Region.