然而，需要说明的是，日本国宪法当中并没有“正当法律程序”的规定，日本学着也因探讨行政程序法的宪法基础而争论不休。有人认为，宪法第31条，即 “非依法律规定程序，不得剥夺任何人的生命或自由，或科以其他刑罚”， 虽然是针对刑事程序的，但可以作为行政程序法的基础。其理由是：(1)在剥夺自由这一点上，无论刑事程序还是行政程序，其性质是相同的;(2)因此，在行政承担着非常庞大的任务的现代社会中，如将行政程序置于程序性的正当程序之外，则必然导致人权保障方面的欠缺。[18]有人认为，宪法第13条可以作为基础。该条前款表明了“人格尊严”的原理，它首先要求凡公共判断应正当地考虑个人的人格，其次要求为了正当的公共判断，应建立正当的程序。后款中的“幸福追求权”与人格尊严原理相结合，形成主张作为人格性自律存在的自我在保证这种存在之持续方面所必不可少的、概括权利自由一般性的主观权利。这是人格存在所不可缺少的受正当程序待遇的权利。[19]也有人认为，可以将第13条第31条合并起来作为行政程序法的基础。上述的白石判决就是如此。有人认为，不是宪法的具体条文，而是日本国宪法中法治国原理的程序法的理解之下，从程序上保障国民的权利和利益，这才是宪法上的要求。从宪法原理出发，认为“从意味着充实法治国原理的法治主义的程序性理解这种观点出发”，“可以导出行政程序的整备是宪法上的要求这一结论。在实体性规制之上加入程序性规制，绝对不是质的变化，而是同质的论理性归结。”[20]这种观点实际上是反对条文实证主义，而主张以宪法原理和价值作为行政程序法的基础。
从上面的历史探究当中可以看出，有的宪法文本当中直接有正当程序的规定，有的即使没有明文规定，但也蕴含着相应的原理和价值。当社会发展(包括宪法实践)对行政权运行提出极高要求，即不仅在事前、事后，更要在事中规制行政权时，宪法中的规定或价值就会被激活。行政程序法和宪法的发展不是同步的，但行政程序法的制定如果缺少了宪法的支持又是不可能的。行政程序法的产生需要相当程度的宪政条件，需要行政诉讼法的作用得到充分的发挥，需要权利意识、民主意识等宪法意识得到较大的发展。它是行政法成熟的一个标志。行政程序法因其对行政权运作进行严密规制而必然遭到各种保守势力的阻挠和反对。没有对宪法的广泛认同，没有宪法的成功实践，没有产生严格控制行政权的强大压力，行政程序法是难以成功制定的。
制定行政程序法是需要以宪法为基础的，其中最重要的一个原因就在于，行政程序法对整个行政法制会有一个很大的触动，为防止行政机关的抵触和行政相对人的不满，行政程序法需要寻求广受服膺的宪法的支持。宪法为行政程序法的制定提供了正当性的基础。一部法律如果能在宪法当中找到基础，得到宪法的支持，必然能获得广泛的认同，这样法律的制定和实施也就能获得可靠的保障。行政程序法的重要功能之一就在于规范、制约、监督行政主体的行政行为，使行政权真正置于程序规则的约束之下。行政权为何要受此种约束，行政主体又如何能够接受这种约束，需要作为体现最广泛民意的宪法为此提供依据和基础，需要成功的宪法实践给以压力。行政程序法的另一功能是提高行政效率。而要提高行政效率，其具体途径多种多样，包括实施所谓的职权调查主义，规范行政相对人的行为等。行政相对人要受到何种约束，什么程度的约束，宪法为此提供了标准。行政程序法的根本目的在于保障行政相对人的合法权益。行政相对人的哪些重要的基本的合法权益必须得到保障，保障到什么程度，作为人权保障书的宪法也对行政程序法提出了明确的要求。达到宪法所提出的要求，行政程序法的制定才有其合宪性正当性的基础。