Dok se Luther skrivao u tvrđavi Wartburg (svibanj 1521. – ožujak 1522.), Karlstadt je postao vodećim protagonistom wittenberške reformacije. Gradsko vijeće i Melanchthon ne pružaju znatan otpor struji promjena te koncem 1521. Karlstadt čak Melanchthona poziva na oprez (primjerice oko ukidanja privatnih misa). U sakramentalnoj teologiji tada je još blizak Lutheru i priznaje stvarnu Kristovu prisutnost u objema prilikama. No ubrzo kreće mnogo dalje u praktičnim reformama: sustavno radikalizira bogoslužje, ukida misu, uklanja slike, orgulje i crkvenu glazbu, privatnu ispovijed i posredničku ulogu svećenstva, zastupajući pričest pod objema prilikama i laički kalež.

Na Božić 1521. Karlstadt služi prvo javno bogoslužje na njemačkom jeziku, i to u svjetovnom odijelu i uz dijeljenje kruha i kaleža vjernicima bez prethodne ispovijedi. U veljači 1522. izbijaju neredi oko uklanjanja slika iz crkava. U znak raskida s celibatom ženi Annu von Mochau (19. siječnja 1522.). Obitelj je, koliko je poznato, imala sedmero djece.

Po povratku u Wittenberg u ožujku 1522. Luther u svojim poznatim Invocavit propovijedima zauzdava radikalne novotarije: kritizira Karlstadta što nije mario za „slabe” i nameće mu zabranu propovijedanja te cenzuru i zapljenu spisa preko sveučilišta, vraća stare oblike bogoslužja. Razočaran, Karlstadt napušta sveučilište i Wittenberg te se povlači na posjed kod Wörlitza, živeći od poljodjelstva, a u Wittenbergu mu je objavljivanje zabranjeno. Krajem 1523. do proljeća 1524. koristi tiskaru u Jeni za objavljivanje polemičkih spisa koji su vidno bili rezultat čitanja Erazma, Zwinglija i drugih autora izvan wittenberške reformacije. U Orlamündeu provodi svoje zamisli: propovijedi na njemačkom, prevođenje psalama s hebrejskog, pojačano uvrštavanje Staroga zavjeta i intenzivnije uključivanje žena u crkveni život. Vijesti o njegovu djelovanju stižu do Wittenberga, pri čemu je osobito sporno bilo njegovo izbjegavanje nametnute cenzure, ali i odbijanje krštenja djece, kao i navodna povezanost s Thomasom Müntzerom, iako je Karlstadt odbacivao svako nasilno djelovanje.

U ljeto 1524., tijekom Lutherove vizitacije Tiringije, dolazi do dviju disputacija u Jeni i Orlamündeu. Luther javno uklanja Karlstadta iz crkve, a sukob se prenosi na zajednicu: samosvjesni seljaci inzistiraju na pravu izbora župnika, uklanjanju slika i „unutarnjem mističnom” spoznaju istine. Luther odlazi u otvorenom sukobu sa „zanesenjacima”, koji u njemu vide izdajnika evanđelja. Dana 18. rujna 1524. Karlstadt biva protjeran iz Izborne Saske.

Slijedi put progonstva: Karlstadt odlazi u Rothenburg ob der Tauber, gdje ga prijatelji primaju s obitelji, a zatim u Zürich i Basel, gdje je u međuvremenu davao tiskati spise u kojima kritizira Luthera i odbacuje Kristovu stvarnu prisutnost u euharistiji. Autor je vjerojatno i jednog spisa protiv krštenja djece, koji je morao objaviti anonimno.

Zatim se vraća u Rothenburg, gdje nastavlja pisati protiv Luthera, a u metežu Seljačkog rata jedva izbjegava smrt od ruke jednog seljačkog vođe, budući da se javno protivio oružanoj pobuni, pozivajući seljake da polože oružje i pregovaraju.
Iste godine vraća se u rodni Karlstadt, potom u Frankfurt na Majni. Obitelj živi u velikoj oskudici i njegova žena traži Lutherovu pomoć da obitelj dobije dopuštenje povratka u Sasku.

Izborni knez Johann Postojani napokon dopušta povratak uz uvjet da se Karlstadt izrijekom ogradi od pobune. No situacija se pogoršala kada je u javnost izašla njegova prepiska s Kasparom Schwenckfeldom; izbjegavajući sankcije, početkom 1529. Karlstadt potajice zauvijek napušta Sasku.