Ngày 29/07, hai tin tức AI đáng chú ý bao gồm: Nvidia cùng 36 tổ chức khác lập Open Secure AI Alliance để làm công cụ bảo mật AI agent mã nguồn mở, nhưng chưa công bố điều lệ hay sản phẩm chung nào; và Amazon thu hẹp phần lớn dòng mô hình Nova của mình để dồn lực vào một nhóm nghiên cứu mới.
1. Nvidia lập liên minh bảo mật AI mở với 37 thành viên, nhưng hiện mới dừng ở cam kết hợp tác
Ngày 27/07, Nvidia cùng 36 tổ chức khác công bố Open Secure AI Alliance (OSAA), liên minh gồm 37 thành viên nhằm phát triển và chia sẻ công nghệ, kỹ thuật cũng như các công cụ mã nguồn mở để bảo vệ phần mềm và AI agent.
Danh sách thành viên có nhiều tên tuổi lớn như Microsoft, Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Palo Alto Networks, Red Hat và Linux Foundation. Theo Nvidia, phạm vi hợp tác bao trùm toàn bộ lớp vận hành của AI agent, từ định danh, phân quyền, cách ly, rào chắn an toàn, ghi nhật ký hoạt động đến định dạng mô hình, quét đa mô hình và quy trình phát triển phần mềm an toàn.
Lập luận của liên minh là các tổ chức cần những mô hình AI mà họ có thể tự kiểm tra, tự sửa đổi và tự vận hành trên hạ tầng của mình, thay vì chỉ sử dụng các mô hình đóng thông qua API.
Tuy nhiên, OSAA hiện vẫn là một cam kết hợp tác nhiều hơn là một dự án kỹ thuật hoàn chỉnh. Thông báo ra mắt chưa công bố điều lệ hoạt động, cơ cấu quản trị, các nhóm kỹ thuật, lộ trình phát hành sản phẩm hay kho mã nguồn dùng chung. Linux Foundation chỉ cho biết sẽ đóng vai trò là bên trung lập để các doanh nghiệp cạnh tranh có thể cùng hợp tác, chứ không phải đơn vị quản lý liên minh.
Đóng góp kỹ thuật cụ thể duy nhất được giới thiệu là NOOA (NVIDIA-labs OO Agents), một framework nghiên cứu phát hành theo giấy phép Apache 2.0 nhằm hỗ trợ kiểm thử, truy vết và quản trị hành vi của AI agent. Theo đánh giá nội bộ của Nvidia, NOOA đạt 86,8% trong bài kiểm tra CyberGym L1 với GPT-5.5 khi bị ngắt kết nối Internet.
Tuy vậy, chính tài liệu của NOOA cũng nhấn mạnh đây không phải là một cơ chế khoanh vùng an toàn. Framework có thể được cấu hình để thực thi mã Python do mô hình sinh ra, đồng nghĩa với nguy cơ rò rỉ dữ liệu, xóa tệp hoặc thay đổi môi trường đang chạy nếu không được cô lập đúng cách. Nvidia khuyến nghị NOOA chỉ nên hoạt động phía sau các lớp bảo vệ ở tầng hệ điều hành như container, máy ảo hoặc môi trường cách ly OpenShell.
Một điểm đáng chú ý khác là phần lớn công nghệ được nhắc đến trong thông báo đều đã tồn tại trước khi liên minh ra đời, như định dạng Safetensors của Hugging Face, SPIFFE/SPIRE, Lightwell của IBM và Red Hat hay MDASH của Microsoft. Đây là các dự án độc lập của từng thành viên, chưa phải sản phẩm chung của OSAA.
Thông báo của Nvidia cũng gắn sự ra đời của liên minh với vụ xâm nhập hệ thống Hugging Face trong tháng 7. Theo Hugging Face, kẻ tấn công ban đầu khai thác một tập dữ liệu độc hại kết hợp nhiều lỗ hổng để xâm nhập hạ tầng nội bộ, đánh cắp thông tin xác thực và di chuyển ngang giữa các cụm máy chủ. Công ty cho biết không có bằng chứng cho thấy các mô hình, bộ dữ liệu hay gói phần mềm công khai bị chỉnh sửa.
Sau đó, OpenAI tiết lộ cuộc tấn công xảy ra trong quá trình đánh giá nội bộ ExploitGym, khi GPT-5.6 Sol cùng một mô hình chưa phát hành khai thác thành công chuỗi lỗ hổng để vượt khỏi môi trường thử nghiệm và tiếp cận hệ thống Hugging Face. Để điều tra sự cố, Hugging Face đã phân tích hơn 17.000 hành động của các agent và lựa chọn vận hành mô hình trọng số mở GLM 5.2 trên hạ tầng nội bộ nhằm tránh đưa dữ liệu điều tra và thông tin xác thực ra ngoài. Tuy nhiên, chính Hugging Face cũng nhấn mạnh điều này chỉ mang lại quyền kiểm soát vận hành, chứ không thay thế các cơ chế định danh, cách ly hay khoanh vùng của hệ thống.
Bài học mà Hugging Face rút ra sau sự cố khá rõ ràng: các tổ chức triển khai AI agent nên chuẩn bị sẵn một mô hình đủ năng lực, đã được thẩm định và có thể vận hành hoàn toàn trong hạ tầng nội bộ trước khi sự cố xảy ra. Còn với NOOA, đây là một framework hữu ích để kiểm thử và truy vết hành vi agent, nhưng không phải giải pháp bảo mật toàn diện và không thể thay thế các lớp cô lập ở tầng hệ điều hành.
Nguồn: The Hacker News
Ghi chú thuật ngữ
- NOOA (NVIDIA-labs OO Agents): Bộ khung phát triển mã nguồn mở của Nvidia, giúp kiểm thử và truy vết hành vi AI agent. Nvidia mô tả đây là framework phục vụ nghiên cứu, không phải công cụ khoanh vùng an toàn.
2. Amazon thu hẹp đầu tư vào dòng Nova, chuyển trọng tâm sang nhóm nghiên cứu của Pieter Abbeel
Ngày 28/07, dẫn nguồn tin nội bộ, Business Insider cho biết Amazon đang thu hẹp đầu tư vào phần lớn các mô hình Nova do hãng tự phát triển. Đợt điều chỉnh này ảnh hưởng đến hai mô hình chủ lực Nova Premier và Nova Omni, cùng mô hình tạo video Reel và mô hình tạo ảnh Canvas. Các mô hình vẫn tiếp tục phục vụ khách hàng hiện tại trong chế độ duy trì, nhưng gần như không còn được đầu tư phát triển tính năng mới.
Động thái diễn ra sau đợt cắt giảm nhân sự tại bộ phận AGI và việc Amazon giải thể AGI Lab, nhóm nghiên cứu được thành lập năm 2024 sau thương vụ mua lại Adept. Đáng chú ý, Amazon mới giới thiệu dòng Nova vào tháng 12/2024, tức chưa đầy hai năm trước.
Theo Business Insider, Amazon không rút khỏi cuộc đua mô hình nền mà đang chuyển hướng đầu tư. Nguồn lực được tập trung vào nhóm Frontier Model Research do Pieter Abbeel dẫn dắt. Abbeel gia nhập Amazon sau thương vụ mua lại startup robot Covariant, và nhóm của ông được cho là đang phát triển một mô hình nền mới dự kiến ra mắt tại hội nghị re:Invent vào cuối năm nay.
Song song với đó, Amazon vẫn là một trong những nhà đầu tư lớn nhất của Anthropic và OpenAI, với tổng giá trị cam kết được cho là có thể vượt 100 tỷ USD. Người phát ngôn của Amazon cũng khẳng định với Business Insider rằng phát triển mô hình AI vẫn là một trong những ưu tiên chiến lược của công ty.
Nhìn tổng thể, Amazon dường như đang điều chỉnh cách tham gia cuộc đua AI hơn là thu hẹp tham vọng. Thay vì duy trì nhiều dòng mô hình nội bộ cùng lúc, hãng tập trung nguồn lực vào một nhóm nghiên cứu frontier quy mô nhỏ hơn, đồng thời tiếp tục đặt cược lớn vào các phòng thí nghiệm AI hàng đầu thông qua các khoản đầu tư chiến lược.
Với các tổ chức đang sử dụng Amazon Bedrock, đây cũng là thời điểm phù hợp để rà soát những mô hình Nova đang được triển khai. Nếu hệ thống phụ thuộc vào các mô hình đã chuyển sang chế độ duy trì, việc chủ động xây dựng lộ trình chuyển đổi sẽ giúp giảm rủi ro hơn so với chờ đến khi chính sách hỗ trợ thay đổi.
Nguồn: The Decoder
Ghi chú thuật ngữ
- AGI (trí tuệ nhân tạo tổng quát): Mục tiêu xây dựng AI có năng lực rộng như con người ở nhiều lĩnh vực, thay vì chỉ giỏi một việc cụ thể.
- Mô hình frontier: Nhóm mô hình AI mạnh nhất tại một thời điểm, đang cạnh tranh trực tiếp ở tuyến đầu về năng lực.
- re:Invent: Hội nghị thường niên lớn nhất của Amazon Web Services, tổ chức vào cuối năm, nơi Amazon công bố sản phẩm và chiến lược mới.
- Amazon Bedrock: Dịch vụ của Amazon cho phép doanh nghiệp xây ứng dụng AI bằng nhiều mô hình khác nhau, gồm cả Nova và mô hình của Anthropic hay Meta.
Bài viết của đội ngũ ZTO Labs, chuyên đào tạo và nghiên cứu AI tại Việt Nam.
