控制单元（CU）是包含在处理器内的数字电路，其协调处理器的许多子单元之间，之外和之间的数据移动序列。这些路由数据通过处理器内的各种数字电路（子单元）的运动的结果产生了软体指令所期望的操纵数据（先前载入，可能来自存储器）。它控制（传导）处理器内部的数据流，并另外向计算机的其余部分提供若干外部控制信号，以进一步将数据和指令引导至处理器外部目的地（即存储器）。

需要CU的设备的示例是CPU和图形处理单元（GPU）。 CU接收外部指令或命令，它将其转换为CU套用于数据路径的一系列控制信号，以实现一系列暂存器传输级操作。

更确切地说，控制单元（CU）通常是相当大的複杂数字电路集合，其互连和控制CPU内包含的许多执行单元（即ALU，数据缓冲器，暂存器）。 CU通常是从外部存储的电脑程式接受的第一个CPU单元，单个指令（基于CPU的指令集）。然后，CU将该单独指令解码为几个连续步骤（从暂存器/存储器获取地址/数据，管理执行[即传送到ALU或I / O的数据]，并将结果数据存储回暂存器/存储器），控制和协调CPU的内部工作以正确运算元据。这些顺序步骤的设计基于每个指令的需要，并且可以包括步骤数，执行顺序以及启用哪些单元。

因此，通过仅使用存储器中的设定指令的程式，CU将根据需要配置所有CPU的数据流以在指令之间正确地操纵数据。这导致计算机可以运行完整的程式并且不需要人为干预来在指令之间进行硬体改变（当在发明具有CU的存储的编程计算机之前仅使用穿孔卡进行计算时必须进行）。 CU的这些详细步骤决定了CPU的互连硬体控制信号中的哪一个启用/禁用，哪些CPU单元被选择/取消选择，以及指令执行操作所需的单元执行顺序以产生所需的运算元据。另外，CU的有序硬体协调正确地对这些控制信号进行排序，然后配置包括CPU的许多硬体单元，指导如何根据指令的目的将数据移动，改变和存储在CPU（即存储器）之外。

根据进入CU的指令类型，CU产生的顺序步骤的顺序和数量可能会改变CPU硬体的哪些部分用于实现指令目标的选择和配置（主要是移动，存储和修改数据）在CPU内）。这一功能有效地仅使用软体指令来控制/选择/配置计算机的CPU硬体（通过CU）并最终操纵程式的数据，这是大多数现代计算机在运行各种程式时灵活且通用的重要原因。与20世纪30年代或40年代的计算机相比，没有合适的CU，他们经常需要在更换程式时重新连线硬体。然后，当程式计数器递增到下一个存储的程式地址并且新指令从该地址进入CU时，重複该CU指令解码处理，依此类推，直到程式结束。

其他更高级形式的控制单元管理指令（但不包含数据的部分）的转换为若干微指令，并且CU管理所选择的执行单元之间的微指令的调度，然后将数据引导和改变根据执行单元的功能（即ALU包含几个功能）。在一些处理器上，控制单元可以进一步分解为附加单元，例如用于处理调度的指令单元或调度单元，或者用于处理来自指令流水线的结果的引退单元。同样，控制单元协调CPU的主要功能：在软体程式中执行存储的指令，然后根据这些指令将数据流引导到整个计算机（大致相当于交通信号灯将如何系统地控制汽车的流动到交通格线[CPU]内的不同位置，直到它停在所需的停车位[存储器地址/暂存器]。汽车乘客然后进入建筑物[执行单元]并返回更改然后以某种方式回到汽车并通过受控交通格线返回到另一个位置。

硬连线控制单元通过使用组合逻辑单元来实现，其具有有限数量的门，其可以基于用于调用那些回响的指令生成特定结果。硬连线控制单元通常比微程式设计更快。

它们的设计採用固定架构 - 如果修改或更改指令集，则需要更改布线。这种架构在精简指令集计算机（RISC）中是首选，因为它们使用更简单的指令集。

使用这种方法的控制器可以高速运行;然而，它几乎没有灵活性，它可以实现的指令集的複杂性是有限的。随着计算机的发展，硬连线方法变得越来越不受欢迎。以前，CPU的控制单元使用ad-hoc逻辑，而且很难设计。

莫里斯威尔克斯于1951年提出了微编程的想法，作为执行电脑程式指令的中间层。微程式被组织为一系列微指令并存储在特殊控制存储器中。与硬连线控制单元不同，微程式控制单元的算法通常由流程图描述指定。微程式控制单元的主要优点是结构简单。控制器的输出以微指令组织，可以轻鬆更换。