Bereits im Jahre 1920 wurde in der Gemeinderatssitzung vom 25. Juni die Errichtung einer Knabenbürgerschule beschlossen. Die Eröffnung der Schule mußte allerdings auf das Schuljahr 1921/22 verschoben werden, da eine Unterkunft für die Schule und die dazu erforderlichen geprüften Lehrer nicht so rasch gefunden werden konnte.
Schließlich bot sich ein Gebäudeteil der ehemaligen Kaserne(des heutigen Paulinums) für die Bürgerschule an. Am 15. September 1921 wurde sodann das Schuljahr mit 28 Schülern aus Schwaz und 2 Schülern aus Rattenberg, die sich für den Besuch der ersten Klasse gemeldet hatten, eröffnet. Die Unterbringung der Schule war freilich primitiv, so daß bereits im Jahre 1923 Pläne zum Bau einer Bürgerschule geschmiedet wurden.
Im Sommer 1926 wurde der gesamte ehemalige Kasernenkomplex an das Vinzentinum in Brixen verkauft. Dort eröffnete im darauffolgenden Jahr das bischöfliche Gymnasium Paulinum nach eingehendem Umbau seine Pforten. Gleichzeitig damit war aber die Bürgerschule ohne Unterkunft. Im Schuljahr 1926/27 wurden 3 Klassen im Waisenhaus(dem heutigen Kindergarten) und eine Klasse im Kinderasyl(dem heutigen Gesundheitsamt) untergebracht.
Die Aussichten für einen Neubau des Hauptschulgebäudes waren schließlich auf den Nullpunkt gesunken. So bildeten denn die Räumlichkeiten des Grafenhauses eine Unterkunft für die Knabenhausptschule. Neben der steten Schulraumsorge und -not wurde schließlich ab Februar 1932 auch die Existenz der Hauptschule völlig in Frage gestellt, zumal die Schuldenlast der der Stadt bedrohliche Formen angenommen hatte. Am 6. Dezember 1933 erhielt die Stadt Schwaz die Verständigung vom Landesschulrat, daß die Hauptschule mit Schuljahresende 1933/34 geschlossen werden müsse, wenn nicht durch die Eltern der Schüler der betrag von 6000 Schilling freiwillig aufgebracht würde. Tatsächlich wurden von den Schülereltern 3600 Schilling und durch Verzicht des damaligen Bürgermeisters Dr. Huber auf sein Gehalt weitere 2400 Schilling aufgebracht. Somit war der Bestand der Schule wider für eine Weile gesichert.
