Am 10. August 1948 begannen die ersten inhaltlichen Beratungen von Regierungs- und Verfassungsexperten der westdeutschen Länder. Auf der Insel Herrenchiemsee im oberbayerischen Voralpenland trafen sich die Vertreter der Länder, um auf Einladung des bayerischen Ministerpräsidenten ungestört über das Grundgesetz zu beraten (Herrenchiemseer Verfassungskonvent).

In dieser Expertenrunde, die sachlich über Parteigrenzen hinweg diskutierte, war man sich einig, dass das Grundgesetz keine Kopie der Weimarer Reichsverfassung sein durfte. Man wollte bewusst vermeiden, dass die Staatskrisen der Weimarer Republik, die in die Hitler-Diktatur mündeten, erneut in Erscheinung traten. Das Staatsoberhaupt sollte daher auf weitgehend repräsentative Aufgaben beschränkt werden und das "konstruktive Misstrauensvotum" zur Abwahl des Kanzlers sollte die zerstörerischen Regierungsstürze von nicht regierungsfähigen Mehrheit verhindern. Umstritten war die Ausprägung des Föderalismus. Vor allem die norddeutschen Ländervertreter plädierten für einen geschwächten Föderalismus und konnten sich letztlich behaupten. In der Frage einer an die deutsche Verfassungstradition anknüpfenden Zweiten Kammer neben dem Bundestag herrschte Uneinigkeit. Zur Disposition stand das Senatsmodell (gewählte Senatoren aus den Ländern) oder das Bundesratsmodell (Mitglieder der Länderregierungen). Diese Problematik konnte nicht abschließend geklärt werden.

Nach Abschluss der Beratungen am 23. August 1948 umfasste der Abschlussbericht 149 Artikel, vielfach mit alternativen Vorschlägen sowie detaillierten Kommentaren. Die für das Grundgesetz richtungsweisenden Entscheidungen wurden von diesem Gremium unter maßgeblicher Führung von Carlo Schmid formuliert. Der Herrenchiemseer Verfassungskonvent bildete die Grundlage für die Beratungen des Parlamentarischen Rates.