“大道之行也，天下为公”，五帝时代，奉行“以民为先，为民公仆”，民众为了表达其意愿，可以置谏鼓立谤木。
《淮南子·主术训》记载，“尧置敢谏之鼓，舜立诽谤之木”。尧非常善于听取别人的意见，担心在宫中听不到民众的意见导致决策失误，于是就在宫门外设立了一面大鼓，如果有人想直言进谏，就敲鼓求见，此乃谏鼓；舜又扩大了听取范围，担心自己有过失而民众无法当面指出只在背后议论，于是在交通要道旁竖立木柱，绑上木板，让民众把自己的意见写下来，此乃谤木。
到周公时代，提出了“民之所欲，天必从之”的“民本”“民意”思想，并进一步提出“人无以水监，当以民监”，“监”同“鉴”，意思是说要把听取民众的意见作为修正为政错误的一面镜子。周公认为，如果老百姓怨恨你、咒骂你，你就要注意自己的言行了；如果有人指出了你的过错，你就要谦虚承认并改正。
在之后的年代，这种听取百姓意见的主张则较为成熟，逐步上升为思想，认为廉政的基础就是要处理好国君与民众的关系。孟子提出了“民贵君轻”的思想，他说：“民为贵，社稷次之，君为轻。”并在两者关系上进一步提出：“君者，舟也；庶人者，水也。水则载舟，水则覆舟。”而荀子的论断则更为激进，他认为：“天之生民，非为君也；天之立君，以为民也。”
随着历史的不断发展，谏言制度也随之出台，其中唐朝谏官制度独具特色。封建社会最高统治者的权威意志是社会发展的风向标，帝王的好恶决定着社会发展的方向。对此，唐太宗李世民有着无比清醒的认识，他以身作则，遣散三千宫女，居住隋朝旧址，从制度层面看，当时廉政对象不光是文武百官，还包括最高统治者。正是基于这样的政治基础，谏官制度随之产生。当时的谏官组织相当发达，谏议大夫为正四品，上有魏征、褚遂良等人，下有给事中主事，武则天时期增设补阙和拾遗。担任过左拾遗的白居易曾曰：“朝廷得失无不察，天下利病无不言，此国朝置拾遗之本意也。”唐朝这些诤臣也确实为当时社会的进步起到了较大的作用。
宋朝的台谏制度更加完善。台是指御史台，是中央监察机构，谏指谏院，主管规谏讽喻，负责向皇帝谏诤，之后台谏合流。台谏官员谏诤皇帝，弹劾大臣，空前活跃，在当时的政治生活中作用巨大，影响深远。其中著名的案例是张尧佐事件，宋仁宗宠爱张美人，破格提拔张美人叔父张尧佐，对此台谏官员纷纷谏诤，并在朝廷上与宋仁宗争得面红耳赤，最终以张尧佐主动辞去高级职务而告终。台谏制度对专制权力的制衡起到了积极的作用。
古代的谏言制度的特点有三个：一是谏言制度以“民本”思想为基础，并且依赖于统治者的理性自觉。统治者的思想决定着社会的治理和政治的清明，只有统治者心系于民，并且愿意把自己置于被监督的地位，愿意真正倾听民意，愿意采纳老百姓的意见和建议，谏言制度才能得以形成；二是谏言制度受到鼓励和倡导时才能发挥作用。社会的发展离不开批评，盛世的到来正是因为不停地被指出问题，不停地进行自我修正。民意才是权威的基础，而民意则来自倾听。以上的谏鼓、谤木以及某些开明皇帝与谏臣“公开平等”对话，都是对谏言的鼓励和倡导；三是谏言制度要有体制上的保障。只有在制度上保障谏言的行使，谏言才不会沦为形式。谏言制度有形式上的保障，才可以按照一定的方式和程序进行，谏言是公开的和透明的，大家都可以对谏言内容的合理性进行辩论；还要有对谏言的宽容制度，包括谏言者不受打击，当统治者愿意且能够将自己作为被监督的客体时，主动听取直言谏言时，就会带来政治上的清明廉洁，社会经济也会繁荣稳定。
