该律师团成立于1994年，尾山宏担任团长，他在20世纪60年代已是日本知名律师。小野寺利孝是这个律师团的干事长，也是最早的发起人。1994年，小野寺第一次踏上中国土地，在南京大屠杀纪念馆，他惊呆了。他说：“面对中国的战争受害者，我只能一次又一次谢罪。”同年5月，日本法务大臣公开否认南京大屠杀的历史事实，给小野寺以强烈刺激，最终坚定了他发起成立律师团为中国受害人伸张正义的决心。律师团8月宣告成立，口号是：“战后50年，日本的良心被追问。”
律师团代理的第一起诉讼是于1995年8月7日起诉的山西慰安妇案件。同一天起诉的还有“731”人体试验、南京大屠杀和浙江永安无差别轰炸案，后来陆续有刘连仁劳工案、遗弃化学武器及炮弹案、李秀英名誉权等一系列案件。律师团的规定是：不向中国受害人收取代理费，受害人来日本的一切费用均由团内解决。律师团的经费是基本由退休的日本老人组成的“支持会”所捐出的一部分退休金。近几年，由于诉讼多为败诉，加上日本经济不景气，“支持会”已是捉襟见肘。律师们除无偿代理所有相关诉讼外，早就开始自觉垫付费用。中方代理律师苏向祥介绍说，他们生活都很一般，没有车，渡边律师一家四口就挤在一间不足40平米的房子里。
苏向祥与日本律师团接触已有8年。8年来，日方律师的锲而不舍给他留下深刻印象，“他们几乎天天都在‘撞南墙’，但绝不回头。”通过律师团努力，南京大屠杀事实被法院认定。2001年7月13日，律师团在刘连仁案上又迎来第一场以日本政府为被告的胜诉。这是中韩民间对日本政府和企业提起的60件战后索赔案中，第一件确认日本政府损害责任的全面胜诉的案件。一向冷静的尾山宏，听到审判结果后，当场瘫倒在法庭上，而其他律师则兴奋得“像疯了一样”。“在国内，还没有任何一个团体像他们那样。”苏向祥感慨地说。2002年3月，苏向祥第三次赴日。他清楚地记得开庭时，整个法庭之上，除了他和受害人以及一个中方翻译外，旁听席上没有一个中国人。先后几次赴日所参与的全部活动，也很难找到一个中国人。对此，苏向祥说，“我多希望在日本，有人用我们的母语对我说：‘苏律师，我们支持你们的诉讼……’”
中日双方律师希望有一天能够利用赔偿金的一部分建立一个“基金”，全部用于受害者诉讼。苏向祥则希望：“有一天我们不拿日本人的一分钱，全部用我们自己的募捐所得，让受害人到日本去告日本政府！”（《南方周末》2003.10.9）
