AI trong doanh nghiệp: an toàn mô hình, kiểm chứng năng lực và bảo vệ dữ liệu
Ba diễn biến cho thấy doanh nghiệp cần kiểm chứng năng lực AI, quy định người duyệt và kiểm soát dữ liệu trước khi giao việc cho agent.
Từ cách xây dựng mô hình an toàn đến việc chặn agent đọc màn hình, các tin AI tuần này cùng đặt ra câu hỏi về quyền kiểm soát. Với doanh nghiệp, câu hỏi đó cần được trả lời trong từng quy trình cụ thể.
1. Anthropic đặt mục tiêu an toàn trước sức ép phát triển
VnExpress Số hoá nhìn lại quá trình hình thành Anthropic, công ty do Dario và Daniela Amodei cùng 5 đồng nghiệp rời OpenAI thành lập vào tháng 1/2021. Theo bài viết, nhóm sáng lập muốn đưa an toàn và trách nhiệm vào trọng tâm nghiên cứu, sản phẩm. Anthropic mô tả mục tiêu của mình bằng ba đặc tính: hệ thống đáng tin cậy, có thể diễn giải và có thể điều hướng. Đây là các đặc tính liên quan trực tiếp đến việc kết quả có ổn định hay không, con người hiểu được quyết định của mô hình đến đâu và có thể định hướng hành vi của mô hình thế nào.
Bài viết nêu hai hướng nghiên cứu phục vụ mục tiêu đó. Một là tìm cách quan sát hoạt động bên trong mô hình khi xử lý thông tin. Hai là Constitutional AI, phương pháp dùng bộ nguyên tắc bằng văn bản để hệ thống đối chiếu và điều chỉnh câu trả lời. VnExpress cũng đặt câu chuyện an toàn trong bối cảnh công ty cần nguồn lực lớn cho tính toán, trung tâm dữ liệu và nhân sự. Khi một sản phẩm AI mở rộng quy mô, cam kết an toàn phải tiếp tục được kiểm tra trong cách sản phẩm hoạt động.
Với doanh nghiệp, tên phương pháp huấn luyện chỉ là điểm khởi đầu để đặt câu hỏi. Quý công ty vẫn cần xác định hệ thống được phép xem dữ liệu nào, có thể thực hiện hành động gì và ai chịu trách nhiệm duyệt kết quả. Một mô hình có nguyên tắc an toàn không tự biết quy định nội bộ của từng phòng ban. Quy định đó cần được chuyển thành quyền truy cập, bước phê duyệt và cách xử lý khi câu trả lời sai hoặc thiếu căn cứ.
2. OpenAI công bố phép thử AI trong nghiên cứu dược
OpenAI giới thiệu MedChemBench ngày 20/11/2026 để đánh giá khả năng suy luận của mô hình trong hóa dược. Bộ đánh giá gồm 99 bài toán lấy từ 117 bài báo và bằng sáng chế, với 761 cấu trúc phân tử riêng biệt. Mô hình phải đọc cấu trúc, giải thích bằng chứng thí nghiệm, xếp hạng hợp chất và dự đoán thuộc tính. Nhiều bài toán cung cấp bối cảnh tại một thời điểm của quá trình nghiên cứu; kết quả thí nghiệm về sau được giữ lại để đối chiếu với dự đoán.
Ở mức suy luận xhigh, GPT-6.2 Astra đạt 84,5% số điểm có thể nhận. GPT-6 Astra đạt 83,3%, GPT-6.1 Sol đạt 82,0% và GPT-5.6 Sol đạt 58,2%. Những tỷ lệ này là kết quả trên MedChemBench, không phải tỷ lệ thành công khi dùng AI trong mọi công việc. OpenAI cũng mô tả một bài toán mà hợp chất 23 có tác dụng ức chế PRMT5 trong tế bào ở nồng độ thấp hơn, còn hợp chất 24 đi qua hàng rào tế bào tốt hơn và phân hủy chậm hơn trong phép thử với enzyme gan. Chọn hợp chất vì một chỉ số nổi bật có thể bỏ sót các đánh đổi khác.
Bài học cho doanh nghiệp là kiểm tra AI bằng đúng loại việc dự kiến giao. Một điểm số tổng hợp khó cho biết mô hình sẽ xử lý tốt bảng báo giá, phiếu yêu cầu hay hồ sơ kỹ thuật của Quý công ty hay không. Bộ thử nghiệm nội bộ nên có dữ liệu đầu vào thường gặp, trường hợp dễ nhầm và tiêu chí chấm rõ ràng. Người có chuyên môn cần xem cả câu trả lời lẫn căn cứ trước khi quyết định đưa kết quả vào quy trình.
3. Signal hạn chế chụp màn hình trên ứng dụng di động
Theo TechCrunch AI ngày 21/11/2026, Signal đang hạn chế khả năng chụp màn hình trong ứng dụng trên Android và iOS. Trước đó, Signal đã chặn chụp màn hình trên ứng dụng Windows theo mặc định. Chủ tịch Signal Meredith Whittaker nêu lo ngại rằng agent AI ở cấp hệ điều hành có thể đọc thông tin đang hiển thị trên màn hình. Khi nội dung đã bị thu thập, lưu trữ hoặc chuyển tới nơi khác, ứng dụng nhắn tin không còn tự kiểm soát được việc sử dụng dữ liệu ấy.
Signal cho phép người dùng tắt hạn chế mới, đồng thời thừa nhận biện pháp này chưa xử lý mọi cách agent có thể tiếp cận dữ liệu ứng dụng. Vì vậy, việc chặn ảnh chụp màn hình không đồng nghĩa với việc mọi nội dung nhạy cảm đã được bảo vệ. Tin này cho thấy quyền truy cập của agent cần được xem xét ở cả ứng dụng, thiết bị và hệ điều hành. Một cuộc trao đổi có thể được bảo vệ trong ứng dụng nhưng vẫn xuất hiện trên màn hình mà công cụ khác được phép quan sát.
Với doanh nghiệp dùng AI để hỗ trợ công việc hằng ngày, ranh giới dữ liệu cần được xác định trước khi bật quyền đọc màn hình hoặc kết nối ứng dụng. Quý công ty nên biết agent nhìn thấy những gì khi nhân viên mở hợp đồng, thông tin khách hàng hoặc trao đổi nội bộ. Cần có quy tắc về tác vụ được phép, thiết bị sử dụng và tình huống phải dừng để con người kiểm tra.
Ba việc doanh nghiệp nên làm ngay
- Lập danh sách dữ liệu và quyền truy cập cho từng tác vụ AI. Doanh nghiệp vừa và nhỏ ở Việt Nam có thể bắt đầu từ các quy trình đang dùng nhiều tài liệu, như tiếp nhận yêu cầu hoặc soạn báo giá. Chỉ cấp cho agent phần dữ liệu cần thiết để hoàn thành việc được giao.
- Thử AI trên hồ sơ thật đã được kiểm soát trước khi mở rộng sử dụng. Quý công ty nên chọn các trường hợp thông thường và các trường hợp dễ sai, rồi ghi lại kết quả để người phụ trách chuyên môn đánh giá. Cách này giúp thấy rõ việc nào cần thêm dữ liệu, hướng dẫn hoặc bước duyệt.
- Chỉ định người duyệt cho các đầu ra có tác động đến khách hàng hoặc vận hành. Một bản nháp, khuyến nghị hay thao tác do agent đề xuất cần có điểm dừng phù hợp trước khi được gửi hoặc thực hiện. Doanh nghiệp nên ghi rõ ai được duyệt và thông tin nào người đó phải kiểm tra.
VASCOM nhìn các diễn biến này thế nào
VASCOM bắt đầu từ khảo sát quy trình: dữ liệu đi vào từ đâu, nhân viên xử lý qua những bước nào và quyết định nào cần người chịu trách nhiệm. Từ đó, doanh nghiệp có thể xem xét agent theo từng phòng ban với nhiệm vụ và quyền truy cập cụ thể. Việc thử trên một luồng công việc giúp đối chiếu kết quả AI với cách nhân viên đang xử lý.
VASCOM đề xuất giữ người duyệt tại các điểm có ảnh hưởng đến khách hàng, tiền bạc hoặc dữ liệu nhạy cảm. Dữ liệu đặt tại doanh nghiệp cần có quy tắc truy cập rõ ràng, kể cả khi agent được nối với nhiều công cụ. Khi phạm vi tác vụ, nguồn dữ liệu và người phê duyệt được xác định, doanh nghiệp có cơ sở để đánh giá AI bằng kết quả công việc và mức độ kiểm soát thực tế.
Nguồn tham khảo
- VnExpress Số hoá, “Anthropic – từ phòng thí nghiệm AI đến đế chế nghìn tỷ USD”, 21/11/2026, vnexpress.net.
- OpenAI, “Can AI help scientists identify promising drug candidates?”, 20/11/2026, openai.com.
- TechCrunch AI, “Signal restricts mobile screenshots as it confronts ‘existential threat’ of AI surveillance”, 21/11/2026, techcrunch.com.