Kerapatan Pemoeda-Pemoedi Indonesia berawal dari inisiatif para cendikiawan Indonesia dan para pelajar Indonesia yaitu PPPI (Perhimpunan Pelajar-pelajar Indonesia) yang bercita-cita mempersatukan seluruh organisasi pemuda yang ada di Indonesia, pertemuan pertama dilaksanakan pada tahun 1926, dan pertemuan kedua dilakukan pada Mei tahun 1928. Kemudian dilanjutkan dengan pertemuan ketiga pada tanggal 12 Agustus 1928. Pertemuan ketiga adalah pertemuan terakhir yang diikuti oleh barisan barisan organisasi pemuda yang ada di Indonesia. Pertemuan ketiga atau terakhir menghasilkan keputusan bahwa akan dilaksanakannya kongres pemuda kedua pada bulan Oktober 1928 dengan susunan panitia yang diambil dari setiap organisasi yang ada. Selain organisasi PPPI, banyak organisasi pemuda yang terlibat pada saat itu, antara lain Jong Java, Jong Batak, Jong, Celebes, Jong Sumatranen Bond, Jong Islamieten Bond, Jong Ambon juga organisasi lainnya.
Kongres Pemuda Kedua diselenggarakan selama dua hari, yaitu tanggal 27-28 Oktober 1928 di Jakarta (Batavia). Kongres dihadiri oleh berbagai tokoh pemuda antara lain, Soegondo jojopuspito adalah tokoh pemuda yang aktif dalam Perhimpunan Pelajar-pelajar Indonesia (PPPI) yang ditunjuk untuk memimpin Kongres Pemuda Indonesia Kedua, Djoko Marsaid merupakan perwakilan dari Jong Java, beliau merupakan wakil ketua Kongres Pemuda mendampingi Soegondo Djojopuspito. Moehammad Yamin berasal dari Jong Sumatranen Bond atau pemuda dari Sumatera. Beliau merupakan pencetus sekaligus menjadi sekretaris pada saat Kongres Pemuda Indonesia. Beliaulah yang merumuskan isi teks Sumpah Pemuda serta mengusulkannya Bahasa Indonesia sebagai persatuan bahasa. Wage Rudolf Soepratman sang pencipta lagu “Indonesia Raya” dan untuk pertama kali memperkenalkannya pada Kongres tersebut dengan diiringi biola, hingga saat ini dijadikan lagu kebangsaan Indonesia. Amir Syarifuddin Harahap berasal dari Jong Batak. Beliau sebagai Bendahara Kongres Pemuda Indonesia. Sie Kong Liong adalah pemuda keturunan Tionghoa, beliau menyediakan rumahnya sebagai tempat dilaksanakannya Kongres Pemuda. Rumah tersebut kini Museum Sumpah Pemuda, terletak di Jalan Kramat No.106, Jakarta Pusat. Sarmidi Mangoensarkoro, beliau berbicara tentang Pendidikan Nasional, yang mengemukakan bahwa anak harus pendidikan kebangsaan dan dididik secara demokratis, serta perlunya keseimbangan antara pendidikan di sekolah dan di rumah. Soenario Sastrowardoyo merupakan pengacara yang aktif membela para aktivis pergerakan yang berhubungan dengan polisi Hindia Belanda. Pada saat kongres pemuda berlangsung beliau berbicara mengenai tema pergerakan Pemuda dan Persatuan Indonesia. Kongres Kedua tersebut dihadiri juga oleh beberapa tokoh lainnya yang menjadi perwakilan dari berbagai daerah dan profesi yang ada kala itu.