当时，国家出版局会同教育部成立了“中外语文词典编写领导小组”，并在国家出版局设办公室。在五省一市，同样在政府建立“领导小组”，在出版局设办公室（即后来的省市“词办”），并委托上海负责总集成的工作。随后华东五省一市“词办”，立即聚会商议开展编写工作的步骤。
那时候“四人帮”还没倒台，那股违背词典知识性的规律、要把词典编成政治教科书的极左思潮依然存在；很多语文教师还散落赋闲，组织编写队伍，困难重重。但编纂一部最新最全的《汉语大词典》，无疑具有重大价值和紧迫意义。国家出版局陈翰伯局长有一次说过这样的话：“日本有一部《大汉和词典》，台湾出了一部《中文大词典》，而我们没有，实在脸上无光。”
不仅要编，还必须编出高水平。当时对这部词典的定位是，坚持高起点、高标准，要准确反映汉语源流发展的演变，纠正以往某些汉语词书中存在的误导，在收词、书证、释义、体例、检索等各方面，充分体现出科学性和权威性，在学术上超过台湾和日本的同类词典。大家认识到，这是一项国家重大文化工程，是传承和弘扬中华文化的重要基本建设，务必下最大决心，全力以赴。
有了上述共识，立即制订实施方案，着手物色人选，组建编写队伍。1976年夏天，在上海衡山饭店召开了《汉语大词典》首次编写工作会议，五省一市的编写人员基本上都参加了。这次会议重申了137号文件精神，明确了词典性质、编写方针和选词阶段的工作要求，确立了高起点、高标准的编纂指导思想。
按汉字字头分工承担了各自的编写任务之后，五省一市陆续组建起不同形式的编写机构。有的省将教师抽调在一起，建立集中的编写组，也有的省则在有条件的地市，建立分散的编写组，如江苏省就建立了10个编写组。五省一市前后参与这部大词典编写工作的，涉及43个单位的四百余人。
有人曾经有过这样的疑虑：编词典是复杂细活，通常都是由少数专家集中编纂，现在《汉语大词典》动员这么多人，又是分散来编，其质量如何保证。对此五省一市负责编写的人士认为，新编《汉语大词典》，容量大，标准高，在刚刚经历了“文革”浩劫、文教战线尚处拨乱反正之际，想用传统编词典的办法来编，那简直是不可能的。从现实环境出发，只能采取大协作的方式。这样做虽出于因时制宜的一次尝试，但只要加强领导，精心组织，工作做细，对大协作的全过程扬长避短，也许可以探索出合力编词典的另一种新思路。
“领导小组”做出决策，五省一市必须统一执行，不许走样，没有例外。充分发挥上海“词办”的协调功能。上海“词办”起初由束韧秋、孙厚璞担任正副主任，没多久改由孙厚璞任主任，共事的还有郑拾风、金文明等人，他们对五省一市的编写工作，发挥了很好的协调与指导作用。后来上海“词办”扩展为《汉语大词典》编纂处，由王涛负责，工作也很有成效。
制订统一的编写工作规则是保证大协作不会走样的重要措施。编写人员在领会词典性质、编写方针、编写体例、质量保证等基本精神基础上，还必须吃透统一规定的收词原则、书证选择、准确释义、编辑体例、乃至标点符号等多方面的要求。在编写全过程特别强调，只有统一的规则，没有个人的风格。为了切实做到严谨、规范，上海“词办”还特意出版了一本《〈汉语大词典〉编写手册》，把大小各项要求具体书面化。正因为有了这样一套细化了的编写规则和保证措施，使整个编写工作没有出现“各吹各的调”。
有了规则，还必须辅以必要的沟通、交流和监督。五省一市除有各家“词办”的《编写工作通讯》经常交流情况以外，特别重视及时开会交流磋商。仅在早期选收词条阶段，几乎每年都要召开编写工作会议。先是1977年在青岛开，随后接连在黄山、苏州、杭州、厦门等地召开，这中间还开过多次小型的汇报会、论证会、专题讨论会。这些频繁的交流，有助于及时发现问题，统一认识，监督进度，促进了编写工作的“一盘棋”。
几百人参与词典编写工作，历时一二十年，这项文化工程必然会涉及现行体制、政策、管理、后勤等许多实际问题。为了保障编写工作顺利开展，1979年5月经胡耀邦同志批示，将“中外语文词典编写领导小组”改为“《汉语大词典》工作委员会”，作为领导编写工作的工作班子，由陈翰伯为主任，边春光、季啸风等为副主任。另成立以吕叔湘为首席学术顾问、罗竹风为主编的编委会，作为编写工作的学术指导机构。“工委会”和“编委会”分头开会，研究讨论各自管辖的事务。
1981年9月至1985年9月，陈翰伯会同吕叔湘和罗竹风，三次向中央报告编纂工作中存在的问题，提出稳定编写队伍的建议。特别是1981年9月8日，上报了《关于加强〈汉语大词典〉工作的报告》，得到了胡乔木、王任重的同意与支持，当年10月28日，中央办公厅就批转了这个报告。由于给予了编写人员一定程度的政策倾斜。这对稳定队伍、激发工作热情，起了很好作用。随着落实知识分子政策，不少编写人员被学校抽回去上课，编写队伍面临巨大冲击。对此，《汉语大词典》工作委员会又积极向上反映，主动与教育部门反复磋商，一个个做工作，后来总算稳住了编写队伍。
上世纪80年代电脑尚未普及，五省一市各编写组所做的四百多万张资料卡片，全靠编写人员手写。为防止这么大量的手工操作出现错漏，建立有前后工序复核、验收、入档的严格制度。进入释义阶段，所有卡片全部集中到上海统一调配使用。此外，还要求编写人员，把编写词典的过程，当作学术交流和科研的过程。经过8年的努力，收有词条三万四千条的第一卷于1985年5月完稿。为保证质量，在这之前，先是印出初稿本，分送有关高校、科研部门审核，再送全体编委审阅把关，最后再由编纂处综合各方意见终审定稿。
1994年《汉语大词典》12卷出齐了。总共收汉字20973个，词语495000条，体现了“古今兼收，源流并重，收词严格，书证丰富，义项齐全，科学性强”的特点。尽管对大协作编词典的利弊还存在不同的认识，但从《汉语大词典》终于圆满诞生这项成果来看，应该是大协作编词典的一次成功实践。
