Selama berkarier di dunia militer, ada 19 jabatan yang pernah diembannya sejak 1988. Di antaranya menjadi komandan di delapan tempat yang berbeda.
Setelah lulus dari Akademi Angkatan Laut, Yudo mengawali kariernya di kapal perang. Saat itu, Yudo Margono dipercaya menjadi Asisten Perwira Divisi (Aspadiv) Senjata Artileri Rudal di KRI YNS 332 (1988), Kadep Ops KRI Ki Hajar Dewantara 364.
Kariernya terus merangkak naik, Yudo dipercaya menjadi Komandan KRI Pandrong 801, Komandan KRI Sutanto 877, Komandan KRI Ahmad Yani 351, Komandan Lanal Tual (2004-2008), Komandan Lanal Sorong (2008-2010).
Kemudian pada 2010, dirinya menjabat Komandan Satkat Koarmatim. Ia kemudian ditunjuk menjadi Panglima Komando Lintas Laut Militer (Kolinlamil) pada (2017-2018).
Tak berlangsung lama, Yudo dipercaya untuk mengemban sebagai Panglima Komando Armada I (Pangkoarmabar sebelumnya, red) yang menduduki wilayah laut Indonesia bagian barat (2018-2019).
Saat itu timnya menemukan black box atau kotak hitam Lion Air yang jatuh di perairan Karawang, Jawa Barat, pada 2018.
Dengan kinerjanya yang baik, Yudo kembali ditunjuk sebagai Panglima Komando Gabungan Wilayah Pertahanan (Pangkogabwilhan) I, yang merupakan komando utama operasi Markas Besar Tentara Nasional Indonesia (2019-2020).
