1835年12月26日、現在の鹿児島に、五代家の次男として誕生。通称は、才助。
のちに薩摩藩の家老となる小松帯刀と同年であり、旧知の仲である。
藩校にて郷中教育を受け、文武両道に励む。若くして頭角を現した五代は、藩命を受けて21歳で長崎海軍伝習所へ遊学。勝海舟や、英国武器商人トーマス・グラバーらと出会い、人脈を築く。また、外国船や銃器の購入を手がけ、上海への渡航も経験した。
薩英戦争では捕虜となり故郷(くに)を追われるも、富国強兵・殖産興業を訴え、当時は国禁であった英国留学を提案。藩主より許しを得て、英国留学生と共に、引率者として欧州行きを果たす。《日本国》の未来を見据え、坂本龍馬、高杉晋作、大久保利通、西郷隆盛といった歴史上の名だたる人物たちの橋渡し役を担い、明治維新に多大な影響を与えた。