SI yang mengalami perkembangan pesat, kemudian mulai disusupi oleh paham sosialisme revolusioner. Paham ini disebarkan oleh H.J.F.M Sneevliet yang mendirikan organisasi ISDV (Indische Sociaal-Democratische Vereeniging) pada tahun 1914. Pada mulanya ISDV sudah mencoba menyebarkan pengaruhnya, tetapi karena paham yang mereka anut tidak berakar di dalam masyarakat Indonesia melainkan diimpor dari Eropa oleh orang Belanda, sehingga usahanya kurang berhasil. Sehingga mereka menggunakan taktik infiltrasi yang dikenal sebagai "Blok di dalam", mereka berhasil menyusup ke dalam tubuh SI oleh karena dengan tujuan yang sama yaitu membela rakyat kecil dan menentang kapitalisme namun dengan cara yang berbeda.

Dengan usaha yang baik, mereka berhasil memengaruhi tokoh-tokoh muda SI seperti Semaoen, Darsono, Tan Malaka, dan Alimin Prawirodirdjo. Hal ini menyebabkan SI pecah menjadi "SI Putih" yang dipimpin oleh HOS Tjokroaminoto dan "SI Merah" yang dipimpin Semaoen. SI merah berlandaskan asas sosialisme-komunisme.

Faktor-faktor yang mempermudah infiltrasi ISDV ke dalam tubuh SI antar lain:

1.      Centraal Sarekat Islam (CSI) sebagai badan koordinasi pusat memiliki kekuasaan yang lemah. Hal ini dikarenakan tiap cabang SI bertindak sendiri-sendiri. Pemimpin cabang memiliki pengaruh yang kuat untuk menentukan nasib cabangnya, dalam hal ini Semaoen adalah ketua SI Semarang.

2.      Peraturan partai pada waktu itu memperbolehkan keanggotaan multipartai, mengingat pada mulanya organisasi seperti Boedi Oetomo dan SI merupakan organisasi non-politik. Semaoen juga memimpin ISDV (PKI) dan berhasil meningkatkan anggotanya dari 1700 orang pada tahun 1916 menjadi 20.000 orang pada tahun 1917 di sela-sela kesibukannya sebagai Ketua SI Semarang.

3.      Akibat dari Perang Dunia I, hasil panen padi yang jelek mengakibatkan membumbungnya harga-harga dan menurunnya upah karyawan perkebunan untuk mengimbangi kas pemerintah kolonial mengakibatkan dengan mudahnya rakyat memihak pada ISDV.

4.      Akibat kemiskinan yang semakin diderita rakyat semenjak Politik Pintu Terbuka (sistem liberal) dilaksanakan pemerintah kolonialis sejak tahun 1870 dan wabah pes yang melanda pada tahun 1917 di Semarang.

SI Putih (H. Agus Salim, Abdul Muis, Suryopranoto, Sekarmadji Maridjan Kartosoewirjo) berhaluan kanan berpusat di kota Yogyakarta. Sedangkan SI Merah (Semaoen, Alimin, Darsono) berhaluan kiri berpusat di kota Semarang. Sedangkan HOS Tjokroaminoto pada mulanya adalah penengah di antara kedua kubu tersebut.

Jurang antara SI Merah dan SI Putih semakin melebar saat keluarnya pernyataan Komintern (Partai Komunis Internasional) yang menentang cita-cita Pan-Islamisme. Pada saat kongres SI Maret 1921 di Yogyakarta, H. Fachruddin, Wakil Ketua Muhammadiyah mengedarkan brosur yang menyatakan bahwa Pan-Islamisme tidak akan tercapai bila tetap bekerja sama dengan komunis karena keduanya memang bertentangan. Di samping itu Agus Salim mengecam SI Semarang yang mendukung PKI. Darsono membalas kecaman tersebut dengan mengecam beleid (Belanda: kebijaksanaan) keuangan Tjokroaminoto. SI Semarang juga menentang pencampuran agama dan politik dalam SI. Oleh karena itu, Tjokroaminoto lebih condong ke SI haluan kanan (SI Putih).

Penegakan Disiplin Partai

Pecahnya SI terjadi setelah Semaoen dan Darsono dikeluarkan dari organisasi. Hal ini ada kaitannya dengan desakan Abdul Muis dan Agus Salim pada kongres SI yang keenam 6-10 Oktober 1921 tentang perlunya disiplin partai yang melarang keanggotaan rangkap. Anggota SI harus memilih antara SI atau organisasi lain, dengan tujuan agar SI bersih dari unsur-unsur komunis. Hal ini dikhawatirkan oleh PKI sehingga Tan Malaka meminta pengecualian bagi PKI. Namun usaha ini tidak berhasil karena disiplin partai diterima dengan mayoritas suara. Saat itu anggota-anggota PSI dari Muhammadiyah dan Persis pun turut pula dikeluarkan, karena disiplin partai tidak memperbolehkannya. Keputusan mengenai disiplin partai diperkuat lagi dalam kongres SI pada bulan Februari 1923 di Madiun. Dalam kongres Tjokroaminoto memusatkan tentang peningkatan pendidikan kader SI dalam memperkuat organisasi dan pengubahan nama CSI menjadi Partai Sarekat Islam (PSI). Pada kongres PKI bulan Maret 1923, PKI memutuskan untuk menggerakkan SI Merah untuk menandingi SI Putih. Pada tahun 1924, SI Merah berganti nama menjadi "Sarekat Rakyat".

Perjuangan Sarekat Islam sebenarnya dimulai tahun 1912-1923, menempuh cara (kooperatif) dengan pemerintah Belanda. Setelah tahun 1923, sejak terjadi perpecahan dalam tubuh SI, cara perjuangan yang ditempuh menjadi tidak mau bekerjasama (non kooperatif) dengan penjajah. Tahun 1927, SI mengadakan kongres kembali dan menegaskan bahwa tujuan SI ialah mencapai kemerdekaan Indonesia berdasarkan agama Islam. Oleh sebab itu, SI akhirnya menggabungkan diri dengan Pemufakatan Perhimpunan Politik Kebangsaan Indonesia (PPPKI). Tahun 1927, nama Partai Sarekat Islam diubah menjadi Partai Sarekat Islam Indonesia (PSII). Setelah menjadi PSII, semakin terpecah-pecah lagi menjadi PSII pimpinan Kartosuwiryo dan PSII pimpinan Abikusno, Partai Sarekat Islam Indonesia, dan PARI pimpinan dr. Sukiman. Organisasi-organisasi tersebut tetap berdiri hingga zaman Pendudukan Jepang di Indonesia.

Muhammadiyah

Organisasi Muhammadiyah didirikan oleh K.H. Ahmad Dahlan pada tanggal 18 November 1912 di Yogyakarta. Muhammadiyah memberikan pengertian yang jelas tentang masalah-masalah yang berkaitan dengan ajaran Islam.

Tujuan didirikannya Muhammadiyah antara lain:

1.      Memajukan pengajaran dan dan pendidikan berdasarkan agama Islam

2.      Mengembangkan pengetahuan ilmu agama dan cara-cara hidup menurut peraturan agama Islam yang diselaraskan dengan kehidupan modern

Sebagai organisasi yang bergerak dalam bidang sosial keagmaan. Muhammadiyah memiliki anggota yang sangat banyak. Pada tahun 1925 organisasi ini telah memiliki 29 cabang, bahkan pada tahun 1929 telah berkembang menjadi 80 cabang yang tersebar di seluruh Indonesia.

Langkah-langkah yang ditempuh oleh Muhammadiyah dalam mencapai tujuannya antara lain:

1.      Mendirikan, memelihara, dan membantu pendirian sekolah-sekolah berdasarkan agama Islam

2.      Mendirikan dan memelihara masjid, langgar, poliklinik, rumah yatim piatu, dan kegiatan-Kegiatan sosial lainnya

3.      Menyebarluaskan ketentuan-ketentuan dalam agama Islam

4.      Mendirikan organisasi kepemudaan yang diberi nama Hisbul Wathan

5.      Membentuk lembaga Majelis Tarjih, yaitu lembaga yang bertugas mengeluarkan fatwa.

6.      Dalam menjalankan kegiatannya, Muhammadiyah juga memperhatikan pendidikan wanita. Organisasi wanita Muhammadiyah diberi nama Aisyiyah. Tujuan didirikannya ialah untuk membantu memberi pendidikan bagi kaum wanita Islam Indonesia.