《宪法》从整体上把法律监督权定位于与行政权、司法权并列的国家权力，但因这一权力设定是具中国特色的（一定程度上继承了中国古代御史台、民国政府监察院的传统，亦借鉴了前苏联检察制度的经验），既缺乏国际上成功的国家制度经验，又缺乏国内的保障权力运作之具体落实的法律制度安排。于是，这一制度在数十年的运作中不断变化，其法律监督职权也不断被削弱。现今，依据现行《宪法》和《刑事诉讼法》中的相关规定，人民法院、人民检察院和公安机关办理刑事案件，应当分工负责，互相配合，互相制约，以保证准确有效地执行法律（《宪法》第135条、《刑事诉讼法》第7条），在《人民检察院组织法》的具体规制下，检察院的法律监督职权主要只剩下了刑事司法监督职权，而其主要职能是从事刑事公诉工作。
如何理解《宪法》第135条，是个需要认真探讨的问题。《宪法》中的所谓“公安机关”其实只是行政机关（政府）中的一个部门。作为政府部门的公安部门所从事的工作之中，与刑事案件相关的只是（也只应该是）一部分。所以，从国家行政机关角度看，与刑事案件相关的工作在其全部行政工作中所占的比例是很小的。从人民法院看，刑事案件只是法院司法工作的一类对象，法院司法工作还包括对民事案件和行政案件的审判。同样道理，对有关刑事案件的执法工作和司法工作的监督也应该只是检察机关的法律监督工作的一部分，因为还有更多的行政机关的其他方面的执法工作需要法律监督机关进行监督，还有民事司法和行政司法的法院司法工作需要法律监督机关进行监督。但是，不知出于什么原因，作为法律监督机关的检察机关，现今却局限于《宪法》第135条的规定，主要只是从事针对刑事司法的法律监督工作，工作稍有扩展，也只是从事针对司法工作（包括刑事司法、民事司法和行政司法）的法律监督工作。
我国设置人民检察机关，原初的目的应该是对国家法律执行机关及其部门和人员及公民进行监督。这一点，我们从1954年《宪法》第81条的规定中可以看出：“中华人民共和国最高人民检察院对于国务院所属各部门、地方各级国家机关、国家机关工作人员和公民是否遵守法律，行使检察权。地方各级人民检察院和专门人民检察院，依照法律规定的范围行使检察权。”因此，1954年《人民检察院组织法》第3条规定：“最高人民检察院对于国务院所属各部门、地方各级国家机关、国家机关工作人员和公民是否遵守法律，行使检察权。”第4条规定：“地方各级人民检察院，依照本法第2条规定的程序行使下列职权：（一）对于地方国家机关的决议、命令和措施是否合法，国家机关工作人员和公民是否遵守法律，实行监督；（二）对于刑事案件进行侦查，提起公诉，支持公诉；（三）对于侦查机关的侦查活动是否合法，实行监督；（四）对于人民法院的审判活动是否合法，实行监督；（五）对于刑事案件判决的执行和劳动改造机关的活动是否合法，实行监督；（六）对于有关国家和人民利益的重要民事案件有权提起诉讼或者参加诉讼。”据此，人民检察机关对公民的法律监督（刑事案件及民事案件的公诉）工作只是检察机关职责工作中的一个部分，检察机关的法律监督工作的主要职责是对行政机关、司法机关等国家机关及其各部门和人员的法律监督。
