Özgürlük bir türküdür. Ve iktidar türkü sevmez. Özgürlük bir türküyse eğer o türküyü en güzel söyleyenlerden biriydi Rudolf Rocker. Hiç bıkmadan usanmadan özgürlüğün türküsünü haykırdı. Nerde iktidarın ve tahakkümün marşı çalınsa orda Rocker’ın sesini duyabilirdiniz. Bu yüzden uzun süre kalamadı hiçbir yerde. Sürgün edildi, sınır dışı edildi, kovuldu, esir alındı.
Önce Alman Sosyalist Partisi içerisinde görece liberter bir çevre olan Jungen’ler olarak bilinen bir Marksist gruba dâhil oldu. Daha sonra buradaki dogmatik yaklaşımları eleştirerek ayrıldı. “Sosyalizm sadece bir karın tokluğu sorunu değildir, kişilik duygusuna ve bireyin özgür inisiyatifine yardımcı olacak bir kültür sorunudur” diye başladı türküsüne.
Bu arada 2. Enternasyonel’de uluslararası anarşist hareketin üyeleriyle tanışmış ve anarşist hareket içerisinde yer almaya başlamıştı. Daha on dokuz yaşında Almanya’dan çıkarıldı. Londra’nın Karanlık Londra diye tarif ettiği yoksulluğun kol gezdiği bölgesinde Yahudi anarşist hareketinin içerisinde yer aldı.
Devletin dayattığı evlilik ritüelini reddettiği için Amerikan Göçmen Bürosu tarafından reddedildi. Almanya tarafından sınır dışı edilen bir Alman olmasına rağmen 1. Dünya Savaşı yıllarında İngiltere devleti tarafından “düşman yabancı” olduğu gerekçesiyle esir alındı. Daha sonra sınır dışı edildi ve Almanya’ya geri gönderildi. Onun bir “devlet düşmanı” olduğu kesindi. Ama herhangi bir devletin ya da bazı devletlerin değil tüm devletlerin: “Kötülüğü yaratan ve onu sürekli besleyen ve güçlendiren, devletin biçimi değil kendisidir. Önemli olan nasıl yönetildiğimiz değil, yönetilmekte oluşumuzdur”
Bunu Almanya’da ispatlaması gecikmedi. Burada Anarko-Sendikalizm mücadelesinde yer aldı. “Sosyalist ekonomik düzenin hükümet kararnameleri ve yasaları ile düzenlemeyeceğine, aksine ancak ve ancak üretimin her branşında işçilerin el ve beyinleri ile dayanışmacı ortak çalışması sonucu gerçekleşebileceğine” inanan sendikalistler üreticilerin tüm fabrikaların yönetimini kendilerinin bizzat üstlenmesini ve özgür karşılıklı anlayış temelinde topluluğun faydasına üretimi ve ürünün paylaşılmasını sistematik bir şekilde devam ettirilmesini savunuyorlardı.
Nazilerin iktidara gelmesine yakın bir dönemde Ulusçuluğa karşı yazdığı Ulusçuluk ve Kültür kitabında ulus’a karşı halk kavramını savundu ve ulusçuluğu “modern devletin siyasal dini” ilan etti. Nazilerin ırk kavramını ise bilimin yaptığı yapay bir sınıflandırma olarak reddetti. Kitabı yüzünden bir kez daha sınır dışı edildi ve ABD’ye yerleşti.