Gegründet wurde die Junge Sinfonie Berlin im Jahr 1989 von Marc Piollet unter dem Namen Reinickendorfer Jugendsinfonieorchester und war zunächst der Musikschule Reinickendorf angeschlossen. Bereits 1991 gewann das Orchester beim Berliner Jugendorchesterwettbewerb den ersten Preis und belegte auf Bundesebene den vierten Platz.
Die stetig wachsende Bedeutung in der Berliner Orchesterlandschaft bewegte das Orchester schließlich dazu, sich unter einem neuen Namen unabhängig zu machen.
Der Erfolg setzte sich fort, so unternahm das Orchester im Frühjahr 1996, nun unter dem Namen Junge Sinfonie Berlin, seine erste Konzerttournee durch die Niederlande. Auch der berufliche Erfolg des Chefdirigenten Marc Piollet beendete die erfolgreiche Zusammenarbeit nicht. Insbesondere in den letzten Jahren konnte die hervorragende Arbeit durch Festivaleinladungen und fulminante Konzerte bestätigt werden.
Im Januar 2019 gastierte die JSB erstmalig in der Laeiszhalle in Hamburg.