中断和中断处理(十)

终结篇

本文是 Linux 内核中断和中断处理的第十节。在上一节,我们了解了延后中断及其相关概念,如 softirqtaskletworkqueue。本节我们继续深入这个主题,现在是见识真正的硬件驱动的时候了。

StringARM** SA-100/21285 评估板串行驱动为例,我们来观察驱动程序如何请求一个 IRQ 线,一个中断被触发时会发生什么之类的。驱动程序代码位于 drivers/tty/serial/21285.c 源文件。好啦,源码在手,说走就走!

一个内核模块的初始化

与本书其他新概念类似,为了考察这个驱动程序,我们从考察它的初始化过程开始。如你所知,Linux 内核为驱动程序或者内核模块的初始化和终止提供了两个宏:

  • module_init
  • module_exit

可以在驱动程序的源代码中查阅这些宏的用法:

  1. module_init(serial21285_init);
  2. module_exit(serial21285_exit);

大多数驱动程序都能编译成一个可装载的内核模块,亦或被静态地链入 Linux 内核。前一种情况下,一个设备驱动程序的初始化由 module_initmodule_exit 宏触发。这些宏定义在 include/linux/init.h 中:

  1. #define module_init(initfn) \
  2. static inline initcall_t __inittest(void) \
  3. { return initfn; } \
  4. int init_module(void) __attribute__((alias(#initfn)));
  5. #define module_exit(exitfn) \
  6. static inline exitcall_t __exittest(void) \
  7. { return exitfn; } \
  8. void cleanup_module(void) __attribute__((alias(#exitfn)));

并被 initcall 函数调用:

  • early_initcall
  • pure_initcall
  • core_initcall
  • postcore_initcall
  • arch_initcall
  • subsys_initcall
  • fs_initcall
  • rootfs_initcall
  • device_initcall
  • late_initcall

这些函数又被 init/main.c 中的 do_initcalls 函数调用。然而,如果设备驱动程序被静态链入 Linux 内核,那么这些宏的实现则如下所示:

  1. #define module_init(x) __initcall(x);
  2. #define module_exit(x) __exitcall(x);

这种情况下,模块装载的实现位于 kernel/module.c 源文件中,而初始化发生在 do_init_module 函数内。我们不打算在本章深入探讨可装载模块的细枝末节,而会在一个专门介绍 Linux 内核模块的章节中窥其真容。话说回来,module_init 宏接受一个参数 - 本例中这个值是 serial21285_init。从函数名可以得知,这个函数做了一些驱动程序初始化的相关工作。请看:

  1. static int __init serial21285_init(void)
  2. {
  3. int ret;
  4. printk(KERN_INFO "Serial: 21285 driver\n");
  5. serial21285_setup_ports();
  6. ret = uart_register_driver(&serial21285_reg);
  7. if (ret == 0)
  8. uart_add_one_port(&serial21285_reg, &serial21285_port);
  9. return ret;
  10. }

如你所见,首先它把驱动程序相关信息写入内核缓冲区,然后调用 serial21285_setup_ports 函数。该函数设置了 serial21285_port 设备的基本 uart 时钟:

  1. unsigned int mem_fclk_21285 = 50000000;
  2. static void serial21285_setup_ports(void)
  3. {
  4. serial21285_port.uartclk = mem_fclk_21285 / 4;
  5. }

此处的 serial21285 是描述 uart 驱动程序的结构体:

  1. static struct uart_driver serial21285_reg = {
  2. .owner = THIS_MODULE,
  3. .driver_name = "ttyFB",
  4. .dev_name = "ttyFB",
  5. .major = SERIAL_21285_MAJOR,
  6. .minor = SERIAL_21285_MINOR,
  7. .nr = 1,
  8. .cons = SERIAL_21285_CONSOLE,
  9. };

如果驱动程序注册成功,我们借助 drivers/tty/serial/serial_core.c 源文件中的 uart_add_one_port 函数添加由驱动程序定义的端口 serial21285_port 结构体,然后从 serial21285_init 函数返回:

  1. if (ret == 0)
  2. uart_add_one_port(&serial21285_reg, &serial21285_port);
  3. return ret;

到此为止,我们的驱动程序初始化完毕。当一个 uart 端口被 drivers/tty/serial/serial_core.c 中的 uart_open 函数打开,该函数会调用 uart_startup 函数来启动这个串行端口,后者会调用 startup 函数。它是 uart_ops 结构体的一部分。每个 uart 驱动程序都会定义这样一个结构体。在本例中,它是这样的:

  1. static struct uart_ops serial21285_ops = {
  2. ...
  3. .startup = serial21285_startup,
  4. ...
  5. }

可以看到,.startup 字段是对 serial21285_startup 函数的引用。这个函数的实现是我们的关注重点,因为它与中断和中断处理密切相关。

请求中断线

我们来看看 serial21285_startup 函数的实现:

  1. static int serial21285_startup(struct uart_port *port)
  2. {
  3. int ret;
  4. tx_enabled(port) = 1;
  5. rx_enabled(port) = 1;
  6. ret = request_irq(IRQ_CONRX, serial21285_rx_chars, 0,
  7. serial21285_name, port);
  8. if (ret == 0) {
  9. ret = request_irq(IRQ_CONTX, serial21285_tx_chars, 0,
  10. serial21285_name, port);
  11. if (ret)
  12. free_irq(IRQ_CONRX, port);
  13. }
  14. return ret;
  15. }

首先是TXRX。一个设备的串行总线仅由两条线组成:一条用于发送数据,另一条用于接收数据。与此对应,串行设备应该有两个串行引脚:接收器 - RX 和发送器 - TX。通过调用 tx_enabledrx_enalbed 这两个宏来激活这些线。函数接下来的部分是我们最感兴趣的。注意 request_irq 这个函数。它注册了一个中断处理程序,然后激活一条给定的中断线。看一下这个函数的实现细节。该函数定义在 include/linux/interrupt.h 头文件中,如下所示:

  1. static inline int __must_check
  2. request_irq(unsigned int irq, irq_handler_t handler, unsigned long flags,
  3. const char *name, void *dev)
  4. {
  5. return request_threaded_irq(irq, handler, NULL, flags, name, dev);
  6. }

可以看到,request_irq 函数接受五个参数:

  • irq - 被请求的中断号
  • handler - 中断处理程序指针
  • flags - 掩码选项
  • name - 中断拥有者的名称
  • dev - 用于共享中断线的指针

现在我们来考察 request_irq 函数的调用。可以看到,第一个参数是 IRQ_CONRX。我们知道它是中断号,但 CONRX 又是什么东西?这个宏定义在 arch/arm/mach-footbridge/include/mach/irqs.h 头文件中。我们可以在这里找到 21285 主板能够产生的全部中断。注意,在第二次调用 request_irq 函数时,我们传入了 IRQ_CONTX 中断号。我们的驱动程序会在这些中断中处理 RXTX 事件。这些宏的实现很简单:

  1. #define IRQ_CONRX _DC21285_IRQ(0)
  2. #define IRQ_CONTX _DC21285_IRQ(1)
  3. ...
  4. ...
  5. ...
  6. #define _DC21285_IRQ(x) (16 + (x))

这个主板的 ISA 中断号分布在015这个范围内。因此,我们的中断号就是在此之后的头两个值:1617。在 request_irq 函数的两次调用中,第二个参数分别是 serial21285_rx_charsserial21285_tx_chars 函数。当一个 RXTX 中断发生时,这些函数就会被调用。我们不会在此深入探究这些函数,因为本章讲述的是中断与中断处理,而并非设备和驱动。下一个参数是 flagsrequest_irq 函数的两次调用中,它的值都是零。所有合法的 flags 都在 include/linux/interrupt.h 中定义成诸如 IRQF_* 此类的宏。一些例子:

  • IRQF_SHARED - 允许多个设备共享此中断号
  • IRQF_PERCPU - 此中断号属于单独cpu的(per cpu)
  • IRQF_NO_THREAD - 中断不能线程化
  • IRQF_NOBALANCING - 此中断步参与irq平衡时
  • IRQF_IRQPOLL - 此中断用于轮询
  • 等等

这里,我们传入的是 0,也就是 IRQF_TRIGGER_NONE。这个标志是说,它不配置任何水平触发或边缘触发的中断行为。至于第四个参数(name),我们传入 serial21285_name ,它定义如下:

  1. static const char serial21285_name[] = "Footbridge UART";

它会显示在 /proc/interrupts 的输出中。针对最后一个参数,我们传入一个指向 uart_port 结构体的指针。对 request_irq 函数及其参数有所了解后,我们来看看它的实现。从上文可知,request_irq 函数内部只是调用了定义在 kernel/irq/manage.c 源文件中的 request_threaded_irq 函数,并分配了一个给定的中断线。该函数起始部分是 irqactionirq_desc 的定义:

  1. int request_threaded_irq(unsigned int irq, irq_handler_t handler,
  2. irq_handler_t thread_fn, unsigned long irqflags,
  3. const char *devname, void *dev_id)
  4. {
  5. struct irqaction *action;
  6. struct irq_desc *desc;
  7. int retval;
  8. ...
  9. ...
  10. ...
  11. }

在本章,我们已经见识过 irqactionirq_desc 结构体了。第一个结构体表示一个中断动作描述符,它包含中断处理程序指针,设备名称,中断号等等。第二个结构体表示一个中断描述符,包含指向 irqaction 的指针,中断标志等等。注意,request_threaded_irq 函数被 request_irq 调用时,带了一个额外的参数:irq_handler_t thread_fn。如果这个参数不为 NULL,它会创建 irq 线程,并在该线程中执行给定的 irq 处理程序。下一步,我们要做如下检查:

  1. if (((irqflags & IRQF_SHARED) && !dev_id) ||
  2. (!(irqflags & IRQF_SHARED) && (irqflags & IRQF_COND_SUSPEND)) ||
  3. ((irqflags & IRQF_NO_SUSPEND) && (irqflags & IRQF_COND_SUSPEND)))
  4. return -EINVAL;

首先,我们确保共享中断时传入了真正的 dev_id(译者注:不然后面搞不清楚哪台设备产生了中断),而且 IRQF_COND_SUSPEND 仅对共享中断生效。否则退出函数,返回 -EINVAL 错误。之后,我们借助 kernel/irq/irqdesc.c 源文件中定义的 irq_to_desc 函数将给定的 irq 中断号转换成 irq 中断描述符。如果不成功,则退出函数,返回 -EINVAL 错误:

  1. desc = irq_to_desc(irq);
  2. if (!desc)
  3. return -EINVAL;

irq_to_desc 函数检查给定的 irq 中断号是否小于最大中断号,并且返回中断描述符。这里,irq 中断号就是 irq_desc 数组的偏移量:

  1. struct irq_desc *irq_to_desc(unsigned int irq)
  2. {
  3. return (irq < NR_IRQS) ? irq_desc + irq : NULL;
  4. }

由于我们已经把 irq 中断号转换成了 irq 中断描述符,现在来检查描述符的状态,确保我们可以请求中断:

  1. if (!irq_settings_can_request(desc) || WARN_ON(irq_settings_is_per_cpu_devid(desc)))
  2. return -EINVAL;

失败则返回 -EINVAL 错误。接着,我们检查给定的中断处理程序(译者注:是指 handler 变量)。如果它没被传入 request_irq 函数,我们就检查 thread_fn。两个都是 NULL 则返回 -EINVAL。如果中断处理程序没有被传入 request_irq 函数而 thread_fn 不为空,则把 handler 设为 irq_default_primary_handler

  1. if (!handler) {
  2. if (!thread_fn)
  3. return -EINVAL;
  4. handler = irq_default_primary_handler;
  5. }

下一步,我们通过 kzalloc 函数为 irqaction 分配内存,若不成功则返回:

  1. action = kzalloc(sizeof(struct irqaction), GFP_KERNEL);
  2. if (!action)
  3. return -ENOMEM;

欲知 kzalloc 详情,请查阅专门介绍 Linux 内核内存管理的章节。为 irqaction 分配空间后,我们即对这个结构体进行初始化,设置它的中断处理程序,中断标志,设备名称等等:

  1. action->handler = handler;
  2. action->thread_fn = thread_fn;
  3. action->flags = irqflags;
  4. action->name = devname;
  5. action->dev_id = dev_id;

request_threaded_irq 函数末尾,我们调用 kernel/irq/manage.c 中的 __setup_irq 函数,并注册一个给定的 irqaction。然后释放 irqaction 内存并返回:

  1. chip_bus_lock(desc);
  2. retval = __setup_irq(irq, desc, action);
  3. chip_bus_sync_unlock(desc);
  4. if (retval)
  5. kfree(action);
  6. return retval;

注意,__setup_irq 函数的调用位于 chip_bus_lockchip_bus_sync_unlock 函数之间。这些函数对慢速总线(如 i2c)芯片进行锁定/解锁。现在来看看 __setup_irq 函数的实现。__setup_irq 函数开头是各种检查。首先我们检查给定的中断描述符不为 NULLirqchip 不为 NULL,以及给定的中断描述符模块拥有者不为 NULL。接下来我们检查中断是否嵌套在其他中断线程中。如果是的,我们则以 irq_nested_primary_handler 替换 irq_default_priamry_handler

下一步,如果给定的中断不是嵌套的,并且 thread_fn 不为空,我们就通过 kthread_create 创建了一个中断处理线程。

  1. if (new->thread_fn && !nested) {
  2. struct task_struct *t;
  3. t = kthread_create(irq_thread, new, "irq/%d-%s", irq, new->name);
  4. ...
  5. }

并在最后为给定的中断描述符的剩余字段赋值。于是,我们的 1617 号中断请求线注册完毕。当一个中断控制器获得这些中断的相关事件时,serial21285_rx_charsserial21285_tx_chars 函数会被调用。现在我们来看一看一个中断发生时到底发生了什么。

准备处理中断

通过上文,我们观察了为给定的中断描述符请求中断号,为给定的中断注册 irqaction 结构体的过程。我们已经知道,当一个中断事件发生时,中断控制器向处理器通知该事件,处理器尝试为这个中断找到一个合适的中断门。如果你已阅读本章第八节,你应该还记得 native_init_IRQ 函数。这个函数会初始化本地 APIC。这个函数的如下部分是我们现在最感兴趣的地方:

  1. for_each_clear_bit_from(i, used_vectors, first_system_vector) {
  2. set_intr_gate(i, irq_entries_start +
  3. 8 * (i - FIRST_EXTERNAL_VECTOR));
  4. }

这里,我们从第 first_system_vector 位开始,依次向后迭代 used_vectors 位图中所有被清除的位:

  1. int first_system_vector = FIRST_SYSTEM_VECTOR; // 0xef

并且设置中断门,i 是向量号,irq_entries_start + 8 * (i - FIRST_EXTERNAL_VECTOR) 是起始地址。仅有一处尚不明了 - irq_entries_start。这个符号定义在 arch/x86/entry/entry_64.S 汇编文件中,并提供了 irq 入口。一起来看:

  1. .align 8
  2. ENTRY(irq_entries_start)
  3. vector=FIRST_EXTERNAL_VECTOR
  4. .rept (FIRST_SYSTEM_VECTOR - FIRST_EXTERNAL_VECTOR)
  5. pushq $(~vector+0x80)
  6. vector=vector+1
  7. jmp common_interrupt
  8. .align 8
  9. .endr
  10. END(irq_entries_start)

这里我们可以看到 GNU 汇编器.rept 指令。这条指令会把 .endr 之前的这几行代码重复 FIRST_SYSTEM_VECTOR - FIRST_EXTERNAL_VECTOR 次。我们已经知道 FIRST_SYSTEM_VECTOR 的值是 0xef,而 FIRST_EXTERNAL_VECTOR 等于 0x20。于是,它将运行:

  1. >>> 0xef - 0x20
  2. 207

次。在 .rept 指令主体中,我们把入口程序地址压入栈中(注意,我们使用负数表示中断向量号,因为正数留作标识系统调用之用),将 vector 变量加 1,并跳转到 common_interrupt 标签。在 common_interrupt 中,我们调整了栈中向量号,执行 interrupt 指令,参数是 do_IRQ

  1. common_interrupt:
  2. addq $-0x80, (%rsp)
  3. interrupt do_IRQ

interrupt 宏定义在同一个源文件中。它把通用寄存器的值保存在栈中。如果需要,它还会通过 SWAPGS 汇编指令在内核中改变用户空间 gs 寄存器。它会增加 per-cpuirq_count 变量,来表明我们处于中断状态,然后调用 do_IRQ 函数。该函数定义于 arch/x86/kernel/irq.c 源文件中,作用是处理我们的设备中断。让我们一起考察这个函数。do_IRQ 函数接受一个参数 - pt_regs 结构体,它存放着用户空间寄存器的值:

  1. __visible unsigned int __irq_entry do_IRQ(struct pt_regs *regs)
  2. {
  3. struct pt_regs *old_regs = set_irq_regs(regs);
  4. unsigned vector = ~regs->orig_ax;
  5. unsigned irq;
  6. irq_enter();
  7. exit_idle();
  8. ...
  9. ...
  10. ...
  11. }

函数开头调用了 set_irq_regs 函数,后者返回被保存的 per-cpu 中断寄存器指针。然后又调用 irq_enterexit_idle 函数。第一个函数 irq_enter 进入到一个中断上下文,更新 __preempt_count 变量。第二个函数 exit_idle 检查当前进程是否是 pid0idle 进程,然后把 IDLE_END 传送给 idle_notifier

接下来,我们从当前 cpu 中读取 irq 值,并调用 handle_irq 函数:

  1. irq = __this_cpu_read(vector_irq[vector]);
  2. if (!handle_irq(irq, regs)) {
  3. ...
  4. ...
  5. ...
  6. }
  7. ...
  8. ...
  9. ...

handle_irq 函数定义于 arch/x86/kernel/irq_64.c 源文件中,它检查给定的中断描述符,然后调用 generic_handle_irq_desc 函数:

  1. desc = irq_to_desc(irq);
  2. if (unlikely(!desc))
  3. return false;
  4. generic_handle_irq_desc(irq, desc);

该函数又调用中断处理程序:

  1. static inline void generic_handle_irq_desc(unsigned int irq, struct irq_desc *desc)
  2. {
  3. desc->handle_irq(irq, desc);
  4. }

但是,停一停……handle_irq 是何方神圣,为什么在知道 irqaction 指向真正的中断处理程序的情况下,偏偏通过中断描述符调用我们的中断处理程序?实际上,irq_desc->handle_irq 是一个用来调用中断处理程序的上层 API。它在设备树APIC 的初始化过程中就设定好了。内核通过它选择正确的函数以及 irq->actions(s) 的调用链。就这样,当一个中断发生时,serial21285_tx_chars 或者 serial21285_rx_chars 函数会被调用。

do_IRQ 函数末尾,我们调用 irq_exit 函数来退出中断上下文,调用 set_irq_regs 函数并传入先前的用户空间寄存器,最后返回:

  1. irq_exit();
  2. set_irq_regs(old_regs);
  3. return 1;

我们已经知道,当一个 IRQ 工作结束之后,如果有延后中断,它们会被执行。

退出中断

好了,中断处理程序执行完毕,我们必须从中断中返回。在 do_IRQ 函数将工作处理完毕后,我们将回到 arch/x86/entry/entry_64.S 汇编代码的 ret_from_intr 标签处。首先,我们通过 DISABLE_INTERRUPTS 宏禁止中断,这个宏被扩展成 cli 指令,将 per-cpuirq_count 变量值减 1。记住,当我们处于中断上下文的时候,这个变量的值是 1

  1. DISABLE_INTERRUPTS(CLBR_NONE)
  2. TRACE_IRQS_OFF
  3. decl PER_CPU_VAR(irq_count)

最后一步,我们检查之前的上下文(用户空间或者内核空间),正确地恢复它,然后通过指令退出中断:

  1. INTERRUPT_RETURN

此处的 INTERRUPT_RETURN 宏是:

  1. #define INTERRUPT_RETURN jmp native_iret

  1. ENTRY(native_iret)
  2. .global native_irq_return_iret
  3. native_irq_return_iret:
  4. iretq

本节到此结束。

总结

这里是中断和中断处理 章节的第十节的结尾。如你在本节开头读到的那样,这是本章的最后一节。本章开篇阐述了中断理论,我们于是明白了什么是中断,中断的类型,然后也了解了异常以及对这种类型中断的处理,延后中断。最后在本节,我们考察了硬件中断和对这些中断的处理。当然,本节甚至本章都未能覆盖到 Linux 内核中断和中断处理的所有方面。这样并不现实,至少对我而言如此。这是一项浩大工程,不知你作何感想,对我来说,它确实浩大。这个主题远远超出本章讲述的内容,我不确定地球上能否找到一本书可以涵盖这个主题。我们漏掉了关于中断和中断处理的很多内容,但我相信,深入研究中断和中断处理相关的内核源码是个不错的点子。

如果有任何疑问或者建议,撰写评论或者在 twitter 上联系我。

请注意,英语并非我的母语。任何不便之处,我深感抱歉。如果发现任何错误,请在 linux-insides 向我发送 PR。(译者注:翻译问题请发送 PR 到 linux-insides-cn)

链接