Namun, karena perbedaan paham, Jamiat Khair terpecah. Al Irsyad didirikan pada 1915 yang memperjuangkan bahwa non-sayid sama derajatnya dengan sayid. Sedangkan Ar Rabitah Al Alawiyah didirikan pada 28 Desember 1928 yang bertujuan untuk mempertahankan garis keturunan sayid. Selain terbagi menjadi sayid dan non-sayid, orang arab di Hindia Belanda juga terbagi menjadi golongan Arab asli (Wulaiti atau totok) dan kaum keturunan Arab (Muwalad atau peranakan).
Kaum Arab totok lahir dan besar di negeri Arab biasanya dari Hadramaut. Sedangkan kaum Arab peranakan biasanya berdarah campuran serta lahir dan dibesarkan di Indonesia.
Kaum Arab totok membawa kemurnian Arab seperti sifat kearaban serta budaya aslinya. Lain hal dengan Arab peranakan yang banyak mengadopsi budaya Indonesia. Perselisihan kemudian muncul perihal tanah air. Kaum Arab totok beranggapan bahwa mereka hanya merantau di Indonesia, sedangkan tanah air mereka tetaplah Hadramaut.
Sementara Kaum Arab peranakan berpendapat bahwa tanah air mereka adalah Indonesia. Hal inilah yang mendorong AR Baswedan untuk mendirikan persatuan yang dapat menjadi pemersatu, Persatuan Arab Indonesia atau kemudian disebut Partai Arab Indonesia (PAI).





