1975年4月、自主運営のオーケストラとして指揮者・堤俊作を中心に若く才能ある演奏家たちによって設立。同年ベオグラード音楽祭開幕演奏会を含むヨーロッパ公演、香港・マカオ公演を成功させ、プロ・オーケストラとしての軌道を築く。

年間100回を超える公演は、定期演奏会および特別演奏会だけでなく、オペラ、バレエ公演やポップスコンサート、映画音楽、テレビ出演、ＣＤ録音、音楽鑑賞教室まで多岐にわたる。特にテレビにおいては、テレビ朝日『題名のない音楽会』を通じてその新鮮な魅力溢れる演奏を披露し、日本全国で好評を博している。

1997年9月、ドイツ音楽、特にワーグナー指揮者として名高い飯守泰次郎が常任指揮者に就任。2000年9月から4年がかりで展開した「東京シティ・フィル オーケストラル・オペラ『ニーベルングの指環』」全4部作上演（高島勲演出・構成）では、飯守＆東京シティ・フィルの創り出す高水準のワーグナー音楽が各方面から大きな反響を巻き起こすと共に、常に高い評価を得ることに成功。続く『ローエングリン』、『パルジファル』、『トリスタンとイゾルデ』でも高水準の音楽と舞台が評価され、2005年、『ローエングリン』で三菱信託音楽賞奨励賞を受賞した。

2002年4月にはフランス音楽に造詣の深いパリ在住の指揮者・矢崎彦太郎が首席客演指揮者に就任。フランス音楽の世界を幅広く系統立てて網羅した「フランス音楽の彩と翳」と題する画期的なシリーズにより、日本の楽壇に広める役割を果たした。

また地域コミュニティでの活動も積極的に展開。1994年から東京都江東区と芸術提携を結び、ティアラこうとうを主な拠点としてティアラこうとう定期演奏会をはじめとする各種コンサートや公開リハーサル、楽器の公開レッスン、音楽鑑賞教室、区内小学校へのアウトリーチ活動など、地域に根ざした音楽文化の振興を目的に幅広い活動を行っている。

2012年4月、宮本文昭が初代音楽監督に就任。シーズン毎に「完全燃焼」「飛翔」「発！」のテーマを掲げ、オーケストラに新風を吹き込んだ。

2015年4月、楽団創立40周年を迎え、第4代常任指揮者に高関健が就任。第300回定期演奏会でのベルリオーズ「ファウストの劫罰」、第50回ティアラこうとう定期演奏会でのオペラ「夕鶴」（演奏会形式）など、オペラ作品も積極的に取り上げ、いずれも好評を博した。

2019年3月にはウラジオストクとサンクトぺテルブルクにおいて團伊玖磨のオペラ「夕鶴」を演奏し、日本のオペラ作品の魅力を海外に発信した。同年4月より藤岡幸夫が首席客演指揮者に就任。

2021年5月には桂冠名誉指揮者飯守泰次郎の傘寿記念として「ニーベルングの指環」ハイライト特別演奏会（演奏会形式）を開催。コロナ禍での開催ながら、海外から世界最高峰のワーグナー歌手陣を招き大成功を収め、2022年8月に第30回三菱UFJ信託音楽賞を受賞。

これからの活躍が最も期待されているオーケストラである。