> 本文摘要：  
> 1. `shm_size` 是使用 RAM 的临时空间。  
> 2. 使用 `ipc: host` 时，`shm_size` 将失效，并分配宿主资源（通常为 RAM 的 50%）来使用。  
> 3. 在许多 AI 模型示例配置中，我们经常看到 `ipc: host` 和 `shm_size` 同时设置，但实际上只设置其中一个会提高可读性。  
> 4. 对于 AI 工作负载，建议至少设置 **8G~16G** 或更高，请根据您的环境选择并配置。  



## 🐳 AI/数据工作负载必备设置：深入理解 Docker 共享内存 (shm_size 与 ipc) {#sec-2161daf65756}


如果您在 AI 和大数据处理工作负载中曾遇到 `OSError: No space left on device` 等不明错误，这通常是由于 **[[Docker]] 容器的共享内存 (`shm_size`) 设置不足**所致。

本文将清晰阐述在容器环境中共享内存的重要性，以及如何正确配置 `shm_size` 和 `ipc: host` 选项。

![shm_size 和 ipc 方式的比较图](/media/whitedec/blog_img/5c8cd9fb5f93404fb70bc6019e296acf.webp)

---

## 1. shm_size 的作用与重要性 {#sec-21161777e576}


### 作用：决定容器的共享内存大小 {#sec-5e3ff7cb88f8}


**`shm_size`** 是一个用于设置容器内部 **/dev/shm (POSIX shared memory)** 文件系统**最大大小**的选项。

*   [[Docker]] 的默认值为 **64MB**，这通常非常小。
*   **注意**：`/dev/shm` 是使用**宿主 RAM** 的 **`tmpfs`**（临时文件系统），与 **VRAM (GPU 内存) 无关**。


### 为何重要？ {#sec-8127b7b9aeb4}

AI/数据处理任务在进程间交换大量数据时，会核心利用到此**共享内存**。

*   `PyTorch DataLoader`：当 `num_workers > 0` 时，工作进程会通过**共享内存传递张量/批次**。如果此空间不足，就会出现 `OSError: No space left on device` 错误。
*   `TensorRT` 引擎构建/服务：它会大量使用共享内存来存储大型中间产物或 IPC 缓冲区，如果不足，可能导致引擎构建失败或段错误。
*   多进程与 IPC 通信：在 `NCCL`、`OpenCV`、`NumPy` 等场景中，它对于进程间共享大型数组/缓冲区至关重要。

---

## 2. ipc 设置：共享内存的隔离范围 {#sec-6d4d31fe3ee4}


**IPC (Inter-Process Communication) 命名空间**是 Docker 的一个选项，用于定义容器进程间通信空间（共享内存、信号量等）的隔离范围。

| **ipc 设置** | **工作方式** | **`/dev/shm` 大小决定方式** |
| --- | --- | --- |
| **默认 (省略)** | 容器使用**自身 IPC 命名空间** (隔离) | 由 `shm_size` 指定的大小 (默认 **64MB**) |
| **`ipc: host`** | 容器**共享宿主的 IPC 命名空间** | **宿主的 `/dev/shm` 大小** (通常为 RAM 的一半) |
| **`ipc: container:<ID>`** | 与指定的其他容器共享 IPC | 遵循共享目标容器的设置 |

---

## 3. shm_size 与 ipc: host 同时使用时的工作原理 (案例分析) {#sec-77e6ca4c4b62}


通常在 AI/LLM 工作中，我们经常看到 `shm_size: "16g"` 与 `ipc: host` 同时设置。本文将通过实际案例分析，了解此时哪种设置会生效。

### 测试：使用 `ipc: host` 时的验证结果 {#sec-f473e8607f63}

我们像下面这样同时设置了 `shm_size` 和 `ipc: host`。

```yaml
shm_size: "16g"
ipc: host
```

然后进入容器内部，检查 `/dev/shm` 的大小。

```bash
~$df -h /dev/shm
Filesystem      Size  Used Avail Use% Mounted on
tmpfs            60G  8.3M   60G   1% /dev/shm
```

**观察结果**：显示的是宿主的 `/dev/shm` 大小 60GB，而不是 `shm_size` 中设置的 16GB。

> **结论：`ipc: host` 会覆盖 `shm_size` 设置。**

**为何会出现这种结果？**

1.  **当 `ipc: host` 生效时：** 容器会直接使用**宿主的 IPC 命名空间**。
2.  **`shm_size: "16g"` 被忽略：** 这个选项仅在容器使用**自身 IPC 命名空间**时才有效。
3.  **60G 的来源：** 宿主 Linux 系统通常默认将 `/dev/shm` 设置为**总 RAM 的一半**左右。因此，在上述示例中，容器看到的是宿主 120G RAM 的一半，即 60G。

**再次强调**

> **当设置 `ipc: host` 时，容器会直接使用宿主的共享内存空间，因此 `shm_size` 的设置实际上不会生效。**

---

## 4. 根据您的环境和目的选择内存管理方案 {#sec-d62a63904765}


### 追求稳定性 vs 容器独立隔离 {#sec-870976b9ffe0}

#### 1. 稳定性优先：保留 `ipc: host`

这是最省心的方法。它直接利用了宿主充足的 RAM 资源。适用于单用户/单项目环境，即使多个容器共享资源也不会有问题。**宿主 50% 的使用率只是最大值，实际占用只取决于实际使用量**，因此在内存没有压力的情况下，保持这种设置会更方便。

*   **设置**：仅保留 `ipc: host`（尽管许多示例中会同时出现 `shm_size`，但它在此处无效，建议直接删除 `shm_size`）。
*   **结果**：使用宿主充足的 `/dev/shm` 大小（例如：60G）。

#### 2. 强制限制每个容器：移除 `ipc: host`

当处于多租户环境或需要防止特定容器过度占用 RAM 时使用。

*   **设置**：**移除** `ipc: host` + 明确指定 `shm_size: "8g"` 或 `"16g"`
*   **结果**：会创建一个容器专用的 16GB `/dev/shm`。
*   **优点**：当运行多个容器时，可以明确**限制每个容器的共享内存使用上限**，从而保护宿主 RAM 并实现隔离。

### 参考：宿主共享内存大小调整方法 (使用 ipc:host 时) {#sec-5e365d4f36e8}


如果在使用 `ipc: host` 的同时，想要更改宿主 `/dev/shm` 的大小，则需要修改 `tmpfs` 配置。

1.  **临时更改大小 (重启后恢复默认)：**

```bash
sudo mount -o remount,size=16G /dev/shm
```

立即对所有进程/容器生效。


2.  **永久更改大小 (修改 `/etc/fstab`)：**

```bash
# /etc/fstab 文件中添加/修改以下行
tmpfs /dev/shm tmpfs defaults,size=16G 0 0
```

保存后重启系统，或使用上述 `remount` 命令立即生效。