部署架构
本页从生产角度概述了 MinIO 部署架构。 有关特定硬件或软件配置的信息,请参考和阅读:
分布式MinIO部署
- 生产 MinIO 部署由至少 4 个具有同构存储和计算资源的 MinIO 主机组成。
MinIO 将这些资源聚合在一起作为一个 服务器池 , 并将其自身呈现为单个对象存储服务。
- 使用本地连接存储(例如连接到主机 PCI-E 控制器板的 NVMe 或 SSD 驱动器)时,MinIO 可提供最佳性能。
存储控制器应以“Just a Bunch of Drives”(JBOD)配置提供 XFS 格式的驱动器,不带 RAID、池或其他硬件/软件弹性层。 MinIO 建议不要在驱动器层或控制器层进行缓存。 任何类型的缓存都可能在缓存填充和清除时导致 I/O(输入/输出)峰值,从而导致不可预测的性能。
- MinIO 自动将池中的驱动器分组为 纠删码(EC) 集合.
纠删码是 MinIO 的基础组件 可用性和弹性. MinIO 在集群池中的节点上对称的条带,以保持EC集驱动器的均匀分布。 然后,MinIO 根据部署将对象划分为数据和奇偶校验分片 parity 并将它们分布在一个纠删码集合中。
有关MinIO冗余和修复的更完整讨论,请参见: 纠删码(Erasure Coding) 和 Object Healing。
使用最大奇偶校验比例“EC:8”,MinIO将对象分割成8个数据块和8个奇偶校验块,并将它们分布在擦除集合中的驱动器上。 该池中的所有纠删码集合都具有相同的条带大小和分片分布。
- MinIO 使用基于对象名称和路径的确定性哈希算法来为给定对象选择纠删码集合。
对于每个唯一的对象命名空间
BUCKET/PREFIX/[PREFIX/...]/OBJECT.EXTENSION
, MinIO 始终选择相同的纠删码集合进行读/写操作。 MinIO 处理池和纠删码集合的所有路由,使选择/读/写过程对应用程序完全透明。- 每个 MinIO 服务器都有分布式拓扑的完整视图,以便应用程序可以连接并指导部署中任何节点的操作。
MinIO 响应节点自动处理将内部请求路由到部署中的其他节点*并将最终响应返回给客户端。
应用程序通常不应管理这些连接,因为对部署拓扑的任何更改都需要应用程序更新。 生产环境应该部署负载均衡器或类似的网络控制平面组件来管理与 MinIO 部署的连接。 例如,您可以部署 NGINX 负载均衡器来针对部署中的可用节点执行 “最少连接” 或 “轮询” 负载均衡。
- 您可以通过 池扩展 来扩展 MinIO 部署的可用存储.
每个池由一组具有自己的纠删码集合的独立节点组成。 MinIO 必须查询每个池以确定其将读写操作定向到的正确纠删码集合,以便每个附加池都会增加每次调用的节点间流量。 然后,包含正确纠删码集合的池响应该操作,对应用程序保持完全透明。
如果通过池扩展修改 MinIO 拓扑,则可以通过修改负载均衡器以包含新池的节点来更新应用程序。 应用程序可以继续使用 MinIO 部署的负载均衡器地址,而无需进行任何更新或修改。 这确保了请求在所有池中均匀分布,同时应用程序继续使用单个负载均衡器 URL 进行 MinIO 操作。
PUT 请求需要检查每个池的正确纠删码集合。 一旦识别出来,MinIO 就会对对象进行分区,并将数据和奇偶校验分片分布在适当的集合中。
- 客户端应用程序可以使用任何与 S3 兼容的 SDK 或库与 MinIO 部署进行交互。
MinIO 发布了自己的 SDK 专门用于与 S3 兼容的部署。
MinIO 使用严格的 S3 API 实现,包括要求客户端使用 AWS Signature V4 或旧版 Signature V2 对所有操作进行签名。 AWS 签名计算使用客户端提供的标头,因此负载均衡器、代理、安全程序或其他组件对这些标头的任何修改都将导致签名不匹配错误和请求失败。 确保任何此类中间组件都支持将未更改的标头从客户端传递到服务器。
虽然 S3 API 使用
GET
和POST
等 HTTP 方法来执行所有操作,但应用程序通常使用 SDK 来执行 S3 操作。 特别是,签名计算的复杂性通常使得通过“curl”或类似的 REST 客户端进行连接是不切实际的。 MinIO 建议使用与 S3 兼容的 SDK 或库,它们会在操作过程中自动执行签名计算。
复制 MinIO 部署
- MinIO 站点复制 提供对同步不同独立部署的支持。
您可以在不同的机架、数据中心或地理区域中部署对等站点,以支持 BC/DR(业务连续性/灾难恢复) 等功能或全球分布式 MinIO 对象存储中的地理本地读/写性能。
- 复制性能主要取决于每个对等站点之间的网络延迟。
对于地理上分布的对等站点,站点之间的高延迟可能会导致显着的复制延迟。 这可能会与接近或达到部署整体性能容量的工作负载混合,因为复制过程本身需要足够的空闲 I/O 来同步对象。
在此对等配置中,站点 A 与其对等站点之间的延迟为 100 毫秒。 对象完全同步到所有站点的最快时间至少为 110 毫秒。
- 部署支持站点到站点故障转移协议的全局负载均衡器或类似网络设备对于多站点部署的功能至关重要。
负载均衡器应支持运行状况探测/检查设置,以检测一个站点的故障,并自动将应用程序重定向到任何剩余的运行状况对等点。
负载均衡器应满足与单站点部署有关连接平衡和标头保留的相同要求。 MinIO 复制通过对复制对象进行排队来处理瞬时故障。