1989年在
五社英雄导演执导的《
二·二六》（又名《二二六事件》，226/FOUR DAYS OF SNOW AND BLOOD）剧组担任助理制片人，并参与制作
北野武导演的《
凶暴的男人》。1991年，市山尚三担任电影《
无能的人》的制作人，该作品由
竹中直人执导，荣获第48届
威尼斯国际电影节国际影评人联盟奖——
费比西奖。
市山尚三1994年开始与台湾电影大师
侯孝贤合作，相继担任《
好男好女》（1995）、《再见南国，再见》（1996）、《
海上花》（1998）等多部影片的制作人。1992年到1999年期间，市山尚三担任
东京国际电影节最佳
亚洲电影（后更名为电影三棱镜，Cinema Prism）单元的负责人。
1998年，市山尚三离开松竹映画转投T-Mark公司（北野事务所的附属公司），开始和亚洲的青年电影人合作。2000年，市山尚三参加制作了莎米拉·玛克玛尔巴夫（samira makhmalbaf）导演的影片《黑板》以及贾樟柯导演的影片《站台》，其中《黑板》荣获戛纳国际电影节评委会奖，《站台》荣获威尼斯国际电影节亚洲电影推广网络奖（Netpac Award）和法国南特三大洲国际电影节最佳影片金球奖及最佳导演奖。同年，市山尚三创办了致力于培养
亚洲青年导演的东京银座电影节(TOKYO FILMeX)并出任主席一职。2001年，参与制作Abolfazl Jalili导演的影片《爱和希望的小镇》（Delbaran），荣获洛迦诺国际电影节特别评委会奖。2002年参与制作贾樟柯导演的《任逍遥》，该片入围戛纳国际电影节主竞赛单元。
2003年，市山尚三进入北野事务所制作部，继续其制片人的角色，同时也继续担任东京银座电影节(TOKYO FILMeX)主席。2004年制作
贾樟柯导演的影片《
世界》，入围威尼斯国际电影节主竞赛单元，2005年制作船桥淳导演的影片《大河》，入选
釜山国际电影节和
柏林国际电影节。他最新参与制作的影片是贾樟柯2008年导演的《
二十四城记》，该片入选2008年
戛纳国际电影节主竞赛单元。此外，市山尚三还担任威尼斯、鹿特丹、洛迦诺、温哥华、香港、全州、上海等多个国际电影节的评委会成员。
2020年9月24日，参演的电影《急风晚来》入围第四届
平遥国际电影展产业项目“发展中电影计划（WIP）”。
2020年7月31日，由
鹏飞编剧并执导的
剧情《
又见奈良》日在上海国际电影节金爵单元首映，市山尚三担任制片人。
2021年03月15日，知名制片人市山尚三从今年起将担任
东京国际电影节选片委员会主席。
2023年，担任监制的电影《
黑之牛》将在日本上映。在电影《风流一代》中，市山尚三担任监制。同年1月2日，市山尚三受邀参加第九届丝绸之路国际电影节大师班特别企划。