Nvidia và Palantir Technologies đang đưa các mô hình AI mở vào những hệ thống chính phủ Mỹ an toàn thông qua một hợp tác dựa trên các mô hình Nemotron của Nvidia và ngăn xếp AI có chủ quyền (sovereign AI stack) của Palantir.
Các điểm chính:
- Công cụ tình báo mới của Palantir sẽ chạy các mô hình mở Nvidia Nemotron bên trong những môi trường do khách hàng tự kiểm soát.
- Hệ thống nhắm đến các công việc mật và nhạy cảm của chính phủ, nơi kiểm soát dữ liệu và khả năng kiểm toán là cốt lõi.
- Thỏa thuận mang lại cho cả hai công ty con đường lớn hơn vào khu vực công, khi các cơ quan cân nhắc cách dùng AI mà không làm lộ dữ liệu nhạy cảm.
Nvidia Palantir
Hợp tác này, được tường thuật bởi The Motley Fool ngày 6/7, kết nối hạ tầng mô hình mở của Nvidia với các nền tảng phần mềm tập trung vào chính phủ của Palantir.
Công cụ tình báo của Palantir triển khai các mô hình Nvidia Nemotron bên trong những hệ thống an toàn mà khách hàng vận hành trong môi trường riêng của họ.
Công cụ này chạy trên Hệ điều hành Sovereign AI của Palantir, bao gồm Nền tảng Trí tuệ Nhân tạo (Artificial Intelligence Platform) của công ty. Foundry xử lý việc tích hợp dữ liệu quy mô lớn, trong khi Apollo quản lý việc triển khai mô hình và vận hành trên các môi trường khác nhau.
Nvidia mang đến dòng mô hình mở Nemotron, các nền tảng điện toán tăng tốc và phần mềm AI Enterprise. Nvidia cung cấp lớp mô hình và phần cứng, trong khi Palantir cung cấp cơ chế quản trị, tích hợp và kiểm soát vận hành.
Xem thêm: Bài viết về Claude thổi bùng tranh luận ý thức AI mà Anthropic không hoàn toàn chấp nhận
Sovereign AI
Vấn đề chính đối với người mua trong chính phủ không chỉ là một mô hình có đủ mạnh hay không. Cốt lõi là liệu cơ quan đó có thể kiểm tra, tùy biến và vận hành mô hình mà không phải đánh đổi dữ liệu nhạy cảm hay không.
Phân tích của The Motley Fool xem nhu cầu đó là luận điểm kinh doanh trung tâm cho quan hệ đối tác Nvidia–Palantir.
Các hệ thống AI đóng có thể làm dấy lên lo ngại về rò rỉ dữ liệu, trong khi các mô hình mở mà không có kiểm soát triển khai chặt chẽ có thể không đáp ứng được yêu cầu an ninh và kiểm toán của chính phủ. Hợp tác này được thiết kế để nằm giữa hai giới hạn đó.
Cơ hội là rất đáng kể vì lực lượng lao động dân sự của chính phủ Mỹ có khoảng 2 triệu nhân viên trên các lĩnh vực như năng lượng, giao thông, chăm sóc sức khỏe, quốc phòng và dịch vụ tài chính.
Bối cảnh rộng hơn là nỗ lực lâu dài của Palantir nhằm giúp dữ liệu vận hành có thể sử dụng được bên trong các tổ chức với quy định an ninh nghiêm ngặt. Vai trò của Nvidia là bổ sung các mô hình mở và điện toán tăng tốc cho cách tiếp cận đó, khi các cơ quan tìm kiếm những hệ thống AI mà họ có thể sở hữu, kiểm thử và cải tiến trong các môi trường biệt lập.
Đọc tiếp: Biến động dữ dội vì chip AI trên KOSPI cũng đang làm rung chuyển thị trường crypto