谷歌推出支持机密计算的 TPU 8tx 与 8i Max
谷歌推出 TPU 8tx 与 8i Max,增加机密计算能力,并为推理与训练提供更大的内存和上下文容量。
谷歌发布了两条新的 TPU 芯片产品线,分别为 8tx 和 8i Max。这两条产品线增加了机密计算能力以及更大的内存和上下文容量,面向模型推理与训练两类需求。
在用于 AI 的数据日益敏感的背景下,机密计算是值得注意的补充。该机制着眼于在数据正被处理时保护数据和模型,而不仅仅是在数据存储或传输时提供保护。
内存容量与上下文长度的提升,直接影响基础设施所能承担的任务类型。更大的上下文允许一次放入更多文档或更多处理步骤,而更大的内存有助于减少把工作拆分到多次运行的需求。
对企业而言,具备机密计算的基础设施选项通常与合规和数据管控要求相关。因此在成本、推理性能与数据保护程度之间权衡,成为架构决策的一部分,而不只是硬件选择。
来源: blog.google
新闻 与 VASCOM 沟通