“公案”是禅门中常用的术语，凡禅宗祖师“拈弄”或“评唱”的因缘或“上堂”、 “小参”所作垂示的话头，后人都称之为“公案”。师徒之间的机锋、现存祖师的语录，或偈颂，也都属公案范畴。
“公案”并非来自于禅宗，它原指官府的案牍，包括法律命令，及其相应的案例。可以定法，可以判断是非。禅宗运用它专指前辈祖师的言行范例。通俗地说，公案就是对禅宗祖师言行范例所做的总结和归纳。对于公案定义，圆悟禅师在《碧岩录》第九十八则评唱中说： “古人事不获已，对权垂示，后人唤作公案。”自此，禅宗行人就把禅宗祖师的言行视为公案，也就是把禅师的言行视为判定是非，衡量迷悟的标准，以此来印证禅宗学徒对禅的宗旨是否予以领悟。
禅宗公案盛行于唐末五代时期，当时禅宗内部参禅之风大为流行。在禅宗师徒机语问答中，形成了许多固定的问答句式。禅宗学徒将这些机缘问答之语记录下来，汇集在一起，作为参禅者的指示。天长日久，这些语录便成为禅宗学徒思考研究的对象或坐禅的座右铭，并作为后代禅者依凭的范式，后人于是将此称为“公案”。运用“公案”一词最早的是唐末僧人黄檗希运禅师。他在《传心法要》中说： “既是大丈夫，应看个公案!”至五代宋初， “公案”则被大量运用于禅僧的参禅活动之中。 《碧岩录》三教老人序说： “尝谓祖教之书谓之公案者，倡于唐而盛于宋，其来尚矣。”
按照禅林说法，公案的总数约有1700多则。如《房山夜话》上曰： “且如禅宗门下，自二祖安心、三祖忏罪、南岳磨砖、青原垂足，至若擎叉、逑棍、用棒、使喝，及1700则机缘，莫不八字打开，两手分付。”但实际上公案未必有1700之数，在禅门中经常使用作为启发弟子悟性的也只有五百多则。其余则大多比较冷僻或重复，或却乏参究价值而不为所用。通常而言，公案不可以逻辑推理或一般常识来解释，因为禅宗之精神，超越任何言语之表，超越一切思量分别。所以，师家经常使用公案，利用公案的非逻辑性特征来触发学人，以使之体证真性。
在长期的使用过程中，公案的作用可以概括为以下几种：一是用作禅悟之工具，即修禅者可以在众多的公案中随选一则进行参究，通过此则公案的参究以达到觉悟的目的一是用作考验之方法，即用祖师的公案对自己的修行进行考验一是作究竟的指点，即师家不用逻辑性的语言，而是用公案对弟子进行指点教化一是用作权威之法范，即师家可以用公案对弟子的觉悟进行印证。
公案多记载在禅宗祖师的语录之中。禅宗最初只有独家语录，即某一个禅师的个人语录，其后，语录之书日多，遂编选汇集为公案之书，其中以《碧岩录》、 《从容录》、 《无门关》、 《正法眼藏》、 《景德传灯录》、 《天圣广灯录》、 《建中靖国续灯录》、 《联灯会要》、 《嘉泰普灯录》、 《人天眼目》、《指月录》、 《续指月录》等最为著名。
此外，公案中大多有一个字或一句话供学人参究之用，称为“话头”。如问： “狗子还有佛性也无?”答：“无!”此一对话即一则公案，而“无”字即是话头。参禅时，在公案之话头下功夫，称为“参话头”。参话头的做法，是以沩山灵祜门下的香岩智闲为最早。香岩在沩山门下时，沩山说： “将汝学得者一概不谈，如何是父母未生前本来面目?”为了这一话头，香岩苦参数年，始由大疑深疑而觉悟。至大慧宗杲之后，参话头的风气更为盛行。一般之所参，多为“赵州狗子”一则公案之话头。
师家以言语示予学人之公案，称为话头公案。但公案并不局限于话头公案，有时师徒之间的行为亦可构成一则公案。如“南泉斩猫”即是，南泉普愿(748—834年)一日见两堂僧人争一只猫，遂即将猫提起，说： “道得即不斩。”众人无言以对，南泉将猫斩为两段。后遇到弟子赵州从谂(778—897年)，以此事相说，赵州便脱下草鞋，戴到头上。这就是一则以行动构成的公案。
与此相似的还有“磨砖作镜”公案：马祖道一禅师当年在南岳传法，常独处一室坐禅，不接待来访者。—天，南岳怀让禅师弄了块砖到他庵外磨了起来。磨了半天，马祖才问道： “你磨砖作什么?”怀让禅师说： “磨作镜”。马祖说： “磨砖岂能成镜?”怀让便道： “磨砖既不成镜。坐禅岂能成佛?”怀让又说： “你若是坐禅，禅非坐卧若学坐禅，佛非定相。于无住法，不应取舍。汝若坐佛，即是杀佛。若执坐相，非达其理。”
怀让禅师以“磨砖作镜”的动作告诉马祖道一禅师，禅宗的修行在于自悟自心，并不拘泥于单纯的坐禅形式。他想以此破除弟子对坐禅的执著，希望他能从观照自心中明心见性。这也是这则公案所要告诉我们的道理。
禅宗提倡以心传心，在一切众生皆有佛性的理论基础上，倡导识心见性、顿悟成佛的主张。这个主张首先由六祖惠能明确提出，逐渐产生十分广泛的影响。他们反对以逻辑性进行思维、语言活动，故往往通过日常生活中最普通的事情，或最一般的对话，互相之间进行佛法的激荡，智慧的启发，以期由平凡小事，照见本有之佛性，得到觉悟。这样一种修学方法，使得禅宗公案具有极大的非逻辑性，超越一般人的思维方式，不易为人所懂。禅宗公案一般均具有这些语言特征。