Thế giới thời đàm: Thuật toán và sinh mạng con người

Sự phát triển của AI đang mở ra những khả năng mới trong hoạt động quân sự. Những công việc từng đòi hỏi nhiều nhân lực và thời gian, từ phân tích hình ảnh vệ tinh, dữ liệu trinh sát đến tổng hợp thông tin tình báo, nay có thể được hỗ trợ xử lý trong thời gian ngắn. Khả năng kết nối, phân tích khối lượng dữ liệu khổng lồ giúp người chỉ huy có thêm căn cứ đánh giá tình hình, rút ngắn thời gian phản ứng trước những diễn biến trên chiến trường.

Xu hướng này thể hiện rõ qua việc quân đội Mỹ đẩy mạnh ứng dụng AI vào hệ thống chỉ huy. Lầu Năm Góc có kế hoạch chính thức hóa Maven Smart System, nền tảng phân tích dữ liệu và hỗ trợ chỉ huy, nhằm triển khai rộng rãi, lâu dài trong quân đội. Đây cũng là dấu hiệu cho thấy AI đang từng bước vượt khỏi giai đoạn thử nghiệm, trở thành công cụ hỗ trợ ra quyết định quân sự.

Tuy nhiên, tốc độ xử lý không đồng nghĩa với độ chính xác của thông tin, càng không bảo đảm sự đúng đắn của mọi quyết định. Bởi một trong những thách thức lớn nhất khi ứng dụng AI trong quân sự là chất lượng và độ tin cậy của dữ liệu đầu vào. Chiến trường là môi trường luôn biến động, nơi dữ liệu có thể không đầy đủ, thiếu cập nhật hoặc bị đối phương cố tình làm sai lệch. Hình ảnh vệ tinh có thể không phản ánh kịp sự thay đổi của mục tiêu; tín hiệu liên lạc có thể bị gây nhiễu; những mối liên hệ được thuật toán xác lập từ nhiều nguồn dữ liệu chưa chắc phản ánh đúng bản chất sự việc.

Nguy hiểm hơn, những kết quả phân tích được thể hiện dưới dạng con số, bản đồ hoặc danh sách mục tiêu dễ tạo cảm giác chính xác, khách quan. Một cá nhân xuất hiện tại địa điểm đáng ngờ, có liên hệ gián tiếp với đối tượng bị theo dõi hoặc mang những đặc điểm tương đồng trong cơ sở dữ liệu có thể bị hệ thống đánh giá sai. Nếu người sử dụng quá tin tưởng vào kết quả do máy móc đưa ra, những sai lệch ban đầu có nguy cơ trở thành căn cứ cho các quyết định không thể đảo ngược.

Thuật toán AI ngày càng được ứng dụng rộng rãi trong lĩnh vực quân sự. Ảnh minh họa: Lục quân Mỹ

Điều đáng lo ngại hơn nữa là khi con người không còn đủ sự thận trọng để nhận ra sai lầm ấy.

Những tranh cãi xung quanh công cụ xử lý dữ liệu tình báo Lavender mà quân đội Israel sử dụng trong cuộc xung đột tại Dải Gaza cho thấy tính phức tạp của vấn đề. Một số cuộc điều tra báo chí đặt câu hỏi về mức độ kiểm chứng thông tin và vai trò giám sát của con người trong quá trình xác định mục tiêu. Quân đội Israel bác bỏ những cáo buộc cho rằng hệ thống tự động lựa chọn mục tiêu tấn công, đồng thời khẳng định các quyết định phải trải qua quá trình thẩm định của con người. Những tranh cãi này cho thấy yêu cầu cấp thiết phải bảo đảm việc kiểm soát AI trong hoạt động quân sự là thực chất, không chỉ dừng ở những quy trình mang tính hình thức.

Đặc biệt, trong các hoạt động quân sự tại khu vực đông dân cư, nơi mục tiêu quân sự và các công trình dân sự có thể nằm gần nhau, sự nhầm lẫn dù nhỏ cũng có thể gây hậu quả nghiêm trọng. Một quyết định được đưa ra nhanh nhưng thiếu kiểm chứng, kiểm soát có thể dẫn đến những hậu quả nghiêm trọng. Bởi vậy, việc rút ngắn quy trình xử lý thông tin không thể đồng nghĩa với cắt giảm những bước xác minh cần thiết. Ủy ban Chữ thập đỏ quốc tế (ICRC) nhiều lần cảnh báo về nguy cơ con người quá phụ thuộc vào các hệ thống hỗ trợ quyết định bằng AI, nhất là trong môi trường chiến tranh có áp lực thời gian lớn. Khi người sử dụng chỉ xác nhận kết quả do thuật toán đề xuất mà không đánh giá độc lập, vai trò kiểm soát của con người rất dễ trở thành hình thức.

Việc ứng dụng AI không làm thay đổi những nghĩa vụ cơ bản theo luật nhân đạo quốc tế. Các nguyên tắc phân biệt giữa mục tiêu quân sự với dân thường và đối tượng dân sự, nguyên tắc tương xứng và thực hiện những biện pháp phòng ngừa khi tấn công vẫn phải được tuân thủ. Quyết định sử dụng vũ lực không thể được biện minh đơn thuần bằng việc một hệ thống công nghệ đã nhận diện hoặc đề xuất mục tiêu. 

Cuộc chạy đua ứng dụng AI trong quân sự không chỉ là cuộc đua về sức mạnh công nghệ, mà còn đặt ra thách thức về kiểm soát việc sử dụng vũ lực và trách nhiệm đối với sinh mạng con người. AI có thể xử lý khối lượng dữ liệu khổng lồ, hỗ trợ phát hiện, nhận diện mục tiêu nhanh chóng, nhưng không thể thay con người gánh chịu trách nhiệm pháp lý và đạo lý về những quyết định quân sự. Các nhà phát triển phải chịu trách nhiệm trong phạm vi nghĩa vụ của mình đối với thiết kế, thử nghiệm và giới hạn kỹ thuật của hệ thống; bên sử dụng phải bảo đảm việc khai thác công nghệ phù hợp với nhiệm vụ và các quy định liên quan. Công nghệ có thể mở rộng khả năng hành động, nhưng chính con người phải xác định giới hạn của hành động và chịu trách nhiệm về những quyết định của mình.