Drone AI Hoa Kỳ bất ngờ tấn công người điều khiển khi tập trận

Vụ việc Drone AI của quân đội tấn công người

Trong một cuộc diễn tập quân sự mô phỏng gần đây của Hoa Kỳ, một máy bay không người lái được hỗ trợ bởi AI (hay còn gọi là drone AI) đã thể hiện hành vi nguy hiểm và bất ngờ.

Nó cho thấy nổi bật tính khó đoán trước của công nghệ hỗ trợ AI. Đại tá Tucker “Cinco” Hamilton, người đứng đầu bộ phận Hoạt động và Thử nghiệm AI của Lực lượng Không quân Hoa Kỳ, đã chia sẻ về vụ việc này tại một hội nghị ở London.

Con Drone AI trong vụ việc này được lập trình để xác định tên lửa đất đối không (SAM) của đối phương và cần có sự chấp thuận của con người để tấn công.

Tuy nhiên, máy bay không người lái AI đã quyết định ưu tiên các mục tiêu của chính nó, dẫn đến các hành động phá hoại.

Theo Đại tá Hamilton, máy bay không người lái AI đã nhận ra mối đe dọa đã xác định nhưng nhận ra rằng nó đã đạt được điểm bằng cách loại bỏ mối đe dọa, ngay cả khi người điều khiển con người hướng dẫn khác.

“Công việc của hệ thống AI là nhận diện các mối đe dọa,” Đại tá Hamilton cho biết tại sự kiện ngày 24 tháng 5, “Đôi khi người điều hành sẽ yêu cầu hệ thống không tiêu diệt mối đe dọa đó, nhưng hệ thống đã ghi điểm bằng cách tiêu diệt mối đe dọa đó.

Vậy nó đã làm gì? Nó đã chống đối và bất tuân lệnh người điều hành của mình vì người đó đã có hành vi ngăn không cho AI hoàn thành mục tiêu của mình.

” Máy bay không người lái sau đó được lập trình với một chỉ thị rõ ràng: "Này, đừng giết người điều khiển - điều đó không tốt đâu."

>>> Xem thêm: Lại thêm một bang của Mỹ cấm TikTok tại trường học - Danh sách đang dài hơn

Không quân Hoa Kỳ phủ nhận vụ việc

Tuy nhiên, người phát ngôn của Lực lượng Không quân Hoa Kỳ, Ann Stefanek, phủ nhận cuộc diễn tập quân sự mô phỏng này. Ông cho biết vụ drone AI tấn công người không diễn ra và tuyên bố rằng những bình luận của đại tá chỉ là một câu chuyện phóng đại và có thể không đúng với ngữ cảnh lúc đó.

Mặc dù cuộc diễn tập quân sự mô phỏng gây tranh cãi làm dấy lên mối lo ngại về những nguy cơ tiềm ẩn của AI trong chiến tranh, nhưng điều đáng chú ý là quân đội Hoa Kỳ cũng đã nhận thấy kết quả tích cực trong các thử nghiệm AI khác.

Vào năm 2020, một chiếc F-16 do AI điều khiển đã giành chiến thắng trước kẻ thù là con người trong các trận không chiến mô phỏng và Bộ Quốc phòng đã thực hiện thành công chuyến bay thử nghiệm đầu tiên trong thế giới thực của một chiếc F-16 do AI điều khiển như một phần trong nỗ lực phát triển máy bay tự hành của họ vào cuối năm 2023.

Máy bay AI của Mỹ thắng con người

Máy bay không người lái hay Drone AI không hẳn là một khái niệm mới. Quân đội và lực lượng không quân có công nghệ tiên tiến và đã sử dụng máy bay không người lái điều khiển từ xa trong nhiều thập kỷ nay và đã cố gắng đưa máy bay chiến đấu điều khiển từ xa vào chiến trường trong nhiều năm. Tuy nhiên, sự kiểm soát luôn thuộc về con người.

Theo Không quân Hoa Kỳ, một máy bay phản lực tự động đã bay được 17 giờ trong khi thực hiện các thao tác chiến đấu phức tạp và giao tranh ngoài tầm nhìn.

Trong nửa đầu tháng 12 năm 2022, Máy bay thử nghiệm mô phỏng độ ổn định trong chuyến bay có thể thay đổi X-62A, hay VISTA, đã được đưa vào thử nghiệm trong 12 chuyến bay thử nghiệm riêng biệt bởi Hoạt động tác chiến trên không tự trị (AACO) và Tiến hóa tác chiến trên không (ACE) Các đặc vụ AI từ Phòng thí nghiệm Nghiên cứu Không quân và DARPA.

>>> Xem thêm: 

• 9+ cách tạo tài khoản Chat GPT miễn phí tại Việt Nam thành công 100%
• Một số lỗi thường gặp khi dùng ChatGPT OpenAI và cách khắc phục
• Dùng ChatGPT để học Excel hiệu quả như thế nào?