采购 AI 工具前的五个问题
掌握从数据处理、错误责任、扩容成本和数据导出等方面评估 AI 工具的方法,在签约前识别风险、明确成本并保留数据控制权。
一次令人印象深刻的演示不足以决定购买 AI 工具。投入日常工作后,工具会触及内部数据、访问权限以及审批流程。因此,评估应从真实使用场景出发,而不是只看演示功能。以下五个问题有助于企业在签约前厘清风险、成本和主动权。
数据在哪里处理,谁可以查看?
这个问题不止于服务器存放位置。数据可能经过多个环节:上传的文件、对话内容、来自管理软件的记录、AI 处理服务以及备份系统。供应商需以书面形式描述数据流,而不是笼统回答数据已加密。
- 处理与存储位置:数据位于哪个区域,是否经过第三方供应商。
- 访问权限:供应商的哪些人员可以查看数据,在何种情况下查看,是否留有日志。
- 使用目的:数据是否用于训练或改进模型;拒绝的方式是通过设置还是单独条款实现。
- 保存期限:对话历史、附件和备份在用户删除后仍保留多久。
试运行时,应使用权限受限的账号,并直接检查共享、权限和数据删除等设置。对于敏感信息,需明确规定哪些数据不得放入工具。
工具给出错误结果时,谁负责?
不应只问 AI 是否准确。请给出具体情形:工具生成错误订单、给出错误的库存建议,或向客户发送错误内容时,处理流程是怎样的。由此确定工具只是提供建议,还是可以自行在系统中执行操作。
- 界定哪些任务在确认前必须有人检查。
- 要求保留日志,以了解输入数据、AI 结果和用户最后的操作。
- 明确当错误来自系统、模型变更或与其他软件连接时供应商的责任。
对于可能产生财务义务或改变重要数据的操作,应保留人工审批环节。支持条款、故障报告方式和责任限制也需要结合内部运维流程一并阅读。
用户人数增加时成本如何变化?
报价单上的价格通常未体现全部运行成本。需要设定一个接近实际的情景:哪些部门使用、处理频率、文件数量以及需要连接的系统。然后要求供应商按该情景计算成本。
- 按用户、按使用次数或按处理数据量计费。
- 实施、集成、培训和账号管理成本。
- 超出配额、增加容量或使用高级功能时的费率。
- 价格变更条件、续约方式以及最低账号数量。
还应检查工具是否提供用量监控面板和配额告警。如果一开始就无法控制,扩展到多个部门后成本会难以预估。
能否导出数据并在不丢失数据的情况下停止使用?
导出能力需通过实际操作来验证,而不只是查看文档。导出的文件必须保留足够上下文,使企业能够阅读、检查或迁移到其他系统。只能下载屏幕上显示的内容,通常无法满足这一需求。
- 检查导出格式、数据结构以及附件下载能力。
- 确定哪些数据不在导出范围内:修改历史、日志、访问权限或流程配置。
- 明确合同终止后可访问和导出数据的期限。
- 说明如何从系统、备份和相关账号中删除数据。
- 准备工具停止运行后继续工作的方案,包括负责人和数据接收位置。
在大范围推广之前,应演练一次停用流程:导出数据、检查完整性、收回访问权限并断开连接。如果这一步无法完成,企业需要重新考虑放入工具的数据范围。
应立即开展的工作
可以先从一次小型评估开始,并有具体的文档和检查结果。
- 选择一个真实流程进行试运行,准备样本数据并指定负责检查结果的人员。
- 向供应商发送关于数据、错误、成本、导出能力和合同终止的问题清单;要求书面答复。
- 尝试把全部数据导出到一个单独文件,并检查是否缺少某些字段。
以上五个问题不必一开始就有完美答案,但在签约前需要有书面答复。合适的工具,是企业知道如何在需要时停止使用的工具。