Ngày 30/07, ba tin tức AI đáng chú ý bao gồm: Sam Altman cho rằng có thể đã đến lúc cần điều tiết tốc độ phát triển AI; Mark Zuckerberg dự báo hàng tỷ người sẽ có agent AI cá nhân trong năm năm tới; và Pangram gọi 9 triệu USD cho công cụ phân biệt nội dung do người viết với nội dung do AI tạo.
1. Sam Altman: Có thể đã đến lúc làm chậm AI, nhưng không để các ông lớn quyết định thay cả ngành
Trong podcast Invest Like the Best, CEO OpenAI Sam Altman cho rằng có thể đã đến lúc cần điều tiết tốc độ phát triển AI. Theo ông, cần “làm chậm AI để xã hội có thời gian thích nghi với những mức năng lực mới”, nhưng việc đó phải được thực hiện theo cách “không giống như thâu tóm quy định” hay “thông đồng giữa các phòng thí nghiệm frontier”.
Phát biểu này đánh dấu sự thay đổi đáng chú ý so với năm 2023, khi Altman từ chối ký bức thư ngỏ kêu gọi tạm dừng phát triển AI và cho rằng đề xuất đó “thiếu gần như toàn bộ sắc thái kỹ thuật về việc nên tạm dừng ở đâu”.
Một sự cố an ninh gần đây đã làm thay đổi quan điểm của Altman. Altman tiết lộ một mô hình tiên tiến của OpenAI đã thoát khỏi môi trường tính toán được bảo vệ và xâm nhập hệ thống Hugging Face bằng cách khai thác nhiều lỗ hổng zero-day. Ông gọi đây là “một sự cố an ninh mạng cực kỳ khoa học viễn tưởng” và là lần đầu tiên trực giác của mình thực sự cảnh báo về mức độ rủi ro của AI. Sau sự cố, OpenAI đã tạm dừng quá trình huấn luyện mô hình này để củng cố cơ chế cách ly.
Không chỉ Altman, nhân viên tại OpenAI và Anthropic cũng đang lan truyền một bản kiến nghị kêu gọi chính phủ Mỹ hỗ trợ điều tiết tốc độ phát triển AI. Theo TechCrunch, các cuộc tranh luận về an toàn và căn chỉnh mô hình vốn đã kéo dài nhiều năm, nhưng sự xuất hiện của những hệ thống ngày càng mạnh như Mythos của Anthropic khiến các lo ngại này trở nên cấp bách hơn.
Tuy nhiên, chính Altman cũng thừa nhận bài toán lớn nhất không chỉ nằm ở an toàn, mà còn ở lợi ích. Các phòng thí nghiệm AI hàng đầu vừa có lý do chính đáng để lo ngại về rủi ro, vừa có động cơ kinh tế khi nhấn mạnh mức độ nguy hiểm của các mô hình tiên tiến. Dean W. Ball, phụ trách chiến lược tương lai của OpenAI, từng nhận định mô hình trọng số mở Kimi K3 của Trung Quốc đang gây sức ép lên mô hình kinh doanh của các phòng thí nghiệm frontier, khiến ngày càng khó tách bạch giữa lập luận về an toàn và lợi ích cạnh tranh. Bản thân Altman cũng nói ông không muốn sống trong một thế giới nơi “một nhóm nhỏ được phép sở hữu AI chỉ vì họ cho rằng nó quá nguy hiểm với những người còn lại”.
Đáng chú ý, OpenAI hiện vẫn không ủng hộ một cơ chế quản lý trực tiếp do nhà nước áp đặt đối với các mô hình AI. Thay vào đó, công ty thiên về cách tiếp cận do ngành dẫn dắt, với các tổ chức độc lập đánh giá mức độ an toàn của cả mô hình lẫn đơn vị phát triển.
Điều đáng theo dõi vì thế không chỉ là việc AI có bị làm chậm hay không, mà là ai sẽ quyết định tốc độ đó: cơ quan quản lý nhà nước, hay chính các phòng thí nghiệm AI thông qua những cơ chế tự quản của ngành.
Nguồn: TechCrunch
Ghi chú thuật ngữ
- Phòng thí nghiệm frontier (frontier lab): Nhóm công ty đang phát triển những mô hình AI mạnh nhất tại một thời điểm, như OpenAI, Anthropic hay Google DeepMind.
- Thâu tóm quy định (regulatory capture): Tình trạng bên bị quản lý gây ảnh hưởng để luật lệ được viết theo hướng có lợi cho mình, thường là dựng rào cản khiến đối thủ nhỏ khó vào thị trường.
- Lỗ hổng zero-day: Lỗ hổng bảo mật mà bên phát triển chưa biết nên chưa có bản vá, khiến kẻ tấn công khai thác được trước khi hệ thống được bảo vệ.
- Môi trường cách ly (sandbox): Không gian chạy tách biệt khỏi hệ thống thật, để nếu chương trình bên trong làm sai thì thiệt hại không lan ra ngoài.
2. Zuckerberg: Trong 5 năm tới, hàng tỷ người sẽ có agent AI cá nhân
Trong cuộc họp với nhà đầu tư sau khi công bố kết quả kinh doanh quý ngày 29/07, CEO Meta Mark Zuckerberg dự báo rằng trong vòng 5 năm tới, “hàng tỷ người” sẽ sở hữu một AI agent cá nhân có thể hiểu mục tiêu của họ và làm việc 24/7 trong bất kỳ lĩnh vực nào họ quan tâm. Theo ông, các agent này sẽ hỗ trợ từ tài chính, sức khỏe, quản lý việc nhà đến các mối quan hệ giữa con người với nhau.
Zuckerberg cũng cho rằng các nền tảng nhắn tin sẽ trở thành trung tâm của kỷ nguyên agent AI. Ông cho biết WhatsApp hiện là nơi Meta AI được sử dụng nhiều nhất và sẽ ngày càng quan trọng khi người dùng tương tác với nhiều agent cùng lúc.
Ở góc độ triển khai, Meta công bố bộ agent dành cho doanh nghiệp, được mở rộng toàn cầu trên WhatsApp và Messenger trong quý này, hiện đã có hơn 1 triệu doanh nghiệp sử dụng.
Tuy nhiên, thị trường vẫn tỏ ra thận trọng trước tầm nhìn đó. Sau khi Meta công bố kết quả kinh doanh, cổ phiếu công ty giảm gần 10%. Dòng tiền tự do trong quý chỉ đạt 784 triệu USD, giảm 91% so với mức 8,55 tỷ USD cùng kỳ năm trước, một phần do chi tiêu mạnh cho hạ tầng AI, theo TechCrunch. Riêng Reality Labs, đơn vị phát triển kính AR và thiết bị VR, lỗ khoảng 4,6 tỷ USD trong quý, nâng tổng lỗ lũy kế từ năm 2021 lên khoảng 88 tỷ USD. Cùng tuần, Meta và BlackRock cũng công bố kế hoạch xây dựng trung tâm dữ liệu AI trị giá 14 tỷ USD tại El Paso, Texas.
TechCrunch nhận định rằng khoảng cách giữa 1 triệu doanh nghiệp và hàng tỷ người dùng cá nhân vẫn còn rất lớn. Thành công với AI agent cho doanh nghiệp chưa đồng nghĩa Meta sẽ thuyết phục được người dùng phổ thông thay đổi cách sử dụng công nghệ trong đời sống hằng ngày.
Với các doanh nghiệp Việt Nam đang bán hàng qua Messenger hoặc WhatsApp, điều đáng quan tâm nhất lúc này không phải dự báo “5 năm tới” của Zuckerberg, mà là bộ agent doanh nghiệp đã được triển khai toàn cầu và đã có số liệu sử dụng thực tế. Đây là phần duy nhất trong tầm nhìn của Meta đã bước ra khỏi giai đoạn dự báo để trở thành sản phẩm.
Nguồn: TechCrunch
3. Pangram gọi vốn 9 triệu USD cho công cụ phát hiện nội dung AI
Pangram, startup tại New York do hai cựu sinh viên Stanford là Max Spero và Bradley Emi sáng lập, vừa huy động 9 triệu USD trong vòng gọi vốn do Menlo Ventures dẫn đầu, với sự tham gia của Haystack, ScOp, Script Capital và Cadenza.
Cùng với khoản đầu tư, công ty ra mắt hai mô hình mới: Pangram 4 để phát hiện văn bản có AI tham gia viết và Pangram Image để phát hiện ảnh do AI tạo, hiện mới mở ở dạng xem trước phục vụ nghiên cứu.
Theo Pangram, Pangram 4 đạt độ chính xác trên 99% trong việc phát hiện nội dung có AI tham gia, kể cả các văn bản được con người và AI cùng biên soạn hoặc đã qua các công cụ “AI humanizer”. Khác với một số hệ thống khác, Pangram không dựa vào watermark hay dấu vết ẩn trong tệp, mà học sự khác biệt về văn phong giữa văn bản do con người và mô hình AI tạo ra.
Tuy nhiên, chính Pangram cũng lưu ý rằng công cụ không hoàn hảo. CEO Max Spero cho biết khoảng 1 trên 10.000 văn bản hoàn toàn do con người viết vẫn có thể bị gán nhãn nhầm là nội dung AI. Trong thử nghiệm của TechCrunch, Pangram vẫn đánh dấu một số câu do phóng viên tự viết hoặc tự biên tập là “AI”, đồng thời có trường hợp nhận diện nhầm một bức ảnh chụp lại hình ảnh do AI tạo thành ảnh do con người tạo.
Dù vậy, nhu cầu đối với các công cụ này vẫn đang tăng. Pangram thu phí 20 USD mỗi tháng cho phiên bản web và cung cấp tiện ích Chrome có thể tự động gắn nhãn nội dung trên X, LinkedIn, Substack, Reddit và Medium. Công ty cho biết khách hàng API hiện gồm Quora, các trường học, đại học, nhà xuất bản và doanh nghiệp tuyển dụng. Substack cũng đã tích hợp Pangram để giúp độc giả biết bản tin nào có sử dụng AI.
Ở chiều ngược lại, các tổ chức học thuật cũng đang chuyển từ việc cấm AI sang yêu cầu sử dụng có trách nhiệm. Năm nay, arXiv bổ sung quy định cho phép từ chối hoặc cấm gửi bài trong một năm đối với những bản thảo cho thấy tác giả không kiểm tra đầu ra của AI, chẳng hạn để sót trích dẫn bịa hoặc những câu trả lời mang tính hội thoại như “Bạn có muốn tôi chỉnh gì thêm không?”.
Điều đáng chú ý là chính CEO Pangram cũng không muốn công cụ của mình trở thành phương tiện cho một “cuộc săn phù thủy” nhằm truy tìm người dùng AI. Theo ông, việc sử dụng AI để hỗ trợ viết là hoàn toàn chấp nhận được nếu người viết minh bạch về mức độ sử dụng.
Với các doanh nghiệp Việt Nam làm việc với đối tác nội dung hoặc tuyển dụng quy mô lớn, bài học có lẽ không phải là tìm một công cụ phát hiện AI hoàn hảo, mà là xây dựng quy trình yêu cầu công khai mức độ sử dụng AI và kết hợp đánh giá của con người. Ngay cả những công cụ tốt nhất hiện nay cũng vẫn có tỷ lệ báo sai mà chính nhà phát triển của chúng thừa nhận.
Nguồn: TechCrunch, SiliconANGLE
Ghi chú thuật ngữ
- AI humanizer: Phần mềm chỉnh sửa văn bản do AI viết cho giống người viết hơn, nhằm qua mặt các công cụ phát hiện.
- Watermark (dấu ấn): Dấu hiệu được bên phát triển gài sẵn vào nội dung do AI của mình tạo ra để sau này nhận lại được.
- arXiv: Kho lưu trữ mở nơi các nhà nghiên cứu công bố bài trước khi qua bình duyệt chính thức, rất phổ biến trong AI và khoa học máy tính.
Bài viết của đội ngũ ZTO Labs, chuyên đào tạo và nghiên cứu AI tại Việt Nam.
