许善心字务本，高阳北部新城人。祖父许茂，父亲许亨，都在《南史》中有传记。

善心九岁就失去父亲，为母亲范氏所抚养。自幼聪明，有思理，所听到的当时就能记下来，见闻多，默默地记下，为当时人所称道。家里有旧藏书一万多卷，所涉猎的范围很广。他十五岁就开始有文字方面的能力，曾经写文笺给父亲的朋友徐陵，徐非常惊奇，对人说：“这是神童啊！”太子詹事江总举荐他为秀才，通过了对策考试，被授予度支郎中，补撰史学士。

祯明二年，加官为通直散骑常侍，由南陈朝廷出使隋朝。遇上隋文帝讨伐陈朝，公务办完却不能回去。多次上奏请辞，皇帝不允许，留他在宾馆。等到陈朝灭亡，皇帝派遣使者告诉他。许善心穿白色衣服号哭于西阶之下。睡在草垫上，面向东方，经过三天，才停止。次日，隋朝廷下诏书就宾馆拜他为通直散骑常侍，并赐衣一袭。善心哭声很悲哀，进入房间改换衣服，又出来向北面站立，流泪拜两拜接受了诏书。第二天，穿朝服哭泣于朝殿之下，悲哀得声音都发不出来。隋文帝顾视左右的人说：“我平定陈国，只获得这一个人。既能怀念他的旧日君王，也即是我的忠臣啊。”令他以本来的职位在门下省当值，赐物千段，草马二十匹。跟从皇帝去泰山，回来，被授予虞部侍郎。

隋文帝十六年，有神雀降落在含章闼，皇帝召百官赐宴，告之大家有祥瑞。善心于座位上请求纸笔，创制了《神雀颂》上奏。皇帝很喜悦，说：“我见到了神雀，和皇后一起观看。现今召你们这些王公，才说了这件事。善心在座位上才知道，立即能做成颂文。文不加点，笔不停毫。经常听见这话，现今才看到这种事。”因而又赐物二百段。十七年，任秘书丞。当时秘藏的图籍，还比较淆乱。善心效仿阮孝绪《七录》，又制作了《七林》。各自为之做总叙，放在每篇之首。又于部录之下申明作者之意，区分类例子。又上奏追寻李文博、陆从典等学者十多人，订定经史错谬。仁寿元年，摄黄门侍郎一职。二年，加摄太常少卿一职。与牛弘等人议定礼乐制度，秘书丞，黄门的职位还兼摄着。四年，留守京师。隋文帝驾崩于仁寿宫，继位的隋炀帝秘不发丧，先更换留守官员，所以善心离开京城任严州刺史。逢汉王杨谅造反，不能上任。

大业元年，转任礼部侍郎，上奏推荐儒人徐文达为国子博士，包恺、陆德明、褚徽、鲁世达之流，都加品级，授为学官。当年，副纳言杨达作为冀州道大使，因为顺从旨意，赐物五百段。

左卫大将军宇文述每天借用本部士兵几十人来供自己私下使用，常常一用半天。御史大夫梁毗上奏弹劾他。皇帝刚将宇文述当做心腹，开始让法官推问详情，千余人都称被役使。经二十多天后，法官依皇帝的意思奏报：“每次使用的人数不超过半天，数量虽多，不可以都计较，纵使是事实，也不应追究罪行。”这些士兵转而说没有被役使。皇帝想放过这事，让众人说这事的虚实，百官都说没这事。善心以为宇文述于侍卫的处所抽取士兵私下役使，虽然不满整天，但有缺于宿卫，与平常役使这些部门，有较特殊的情况。又士兵多离开京城，已经回到家乡，分道追问，不能互相谋议，而说辞却相同。现今大概一个月，才开始翻供，宇文述有罪是明摆的，岂可舍弃？苏威、杨汪等二十多人和善心说同样的话，其余的都称应免罪。隋炀帝赞同免罪。之后几个月，宇文述说善心的坏话：“陈叔宝死后，善心与周罗侯、虞世基、袁充、蔡徵等人一同去送葬。善心还写了祭文，称之为陛下。敢于现在还加陈叔宝尊号。”隋炀帝问善心，称实有此事，自己援引古来的例子。事情虽然得到解释，但炀帝内心却厌恶他。又太史称皇帝即位年与尧帝相同。善心却称国哀刚结束，不宜称贺。宇文述私下让御史弹劾，善心左迁给事郎，降品级二等。

隋炀帝四年，撰写方物志，上奏。七年，从炀帝到涿郡。皇帝想讨伐东部的少部民族。善心上封事劝解，触犯了皇帝的心意被免官。当年又征守给事郎。皇帝曾言及隋文帝受命之符，因为问及鬼神之事，敕令善心与崔祖浚撰《灵异记》十卷。

当初，善心的父亲撰著《梁史》，没有成功而去世，善心继承父志，修续家书。

隋炀帝继位十年，又跟从到怀远镇，加授朝散大夫。突厥包围燕门，摄左亲侍武贲郎将，带领江南士兵宿卫殿省。御驾到江都，追叙前勋，授予善心通议大夫，诏还本品，行给事郎。

隋炀帝十四年，宇文化及作逆杀炀帝当天，隋朝官员都到朝堂拜谒称贺。善心独自不到。许弘仁跑来告诉说：“天子驾崩，宇文将军摄政，满朝文武，都汇集了。天道人事，自然有它的更替，谁想到您竟独自低首徘徊象这样呢？”善心发怒，不能随从而去。弘仁骑马返回，哭泣着说：“将军于他全无恶意，忽然自己想求死，岂不悲痛啊？”回来告诉唐奉义，以其情状告诉宇文化及，派遣士兵就房间里捉住他到朝堂。化及下令释放，善心却不拜舞就出去。化及目送他，说：“这是心中背负了很大的气愤啊。”下令捉回来，骂他说：“我好好放你，竟敢如此不逊！”他的党徒于是牵曳善心，因而被害死。等到越王杨桐称帝，赠善心左光禄大夫，封高阳县令，谥曰文节。