💡 RetroLab chúng mình nhận thấy rằng sự phát triển của AI đang mang lại những tiện ích không thể phủ nhận, nhưng cũng kéo theo những hệ lụy tiềm ẩn mà chúng ta cần đặc biệt lưu tâm. Việc đặt ra câu hỏi về ranh giới đạo đức và trách nhiệm giải trình trong việc sử dụng AI, đặc biệt trong giám sát và quân sự, là vô cùng cấp thiết để đảm bảo công nghệ phục vụ con người một cách an toàn và nhân văn.
Giám sát AI: Mối đe dọa không còn là viễn tưởng
Trong bối cảnh công nghệ trí tuệ nhân tạo (AI) phát triển như vũ bão, một câu hỏi lớn đang được đặt ra: liệu chúng ta có đang tiến gần đến một xã hội mà sự nghi ngờ trở thành mặc định, nơi mọi hành động đều bị giám sát và phân tích bởi AI? Các chuyên gia cảnh báo rằng mối đe dọa từ giám sát hàng loạt và vũ khí tự động không còn là kịch bản khoa học viễn tưởng mà đã và đang diễn ra, định hình lại cuộc sống hàng ngày của chúng ta theo những cách ít ai ngờ tới.
Một ví dụ điển hình gần đây là sự việc Pentagon yêu cầu Anthropic, công ty đứng sau trợ lý AI Claude, sửa đổi hợp đồng trị giá 200 triệu USD. Yêu cầu này nhằm loại bỏ hai điều khoản quan trọng: cấm sử dụng công nghệ của họ cho mục đích giám sát hàng loạt trong nước và phát triển vũ khí hoàn toàn tự động. Anthropic đã từ chối, và hợp đồng sau đó đã thuộc về OpenAI. Vụ việc này đã đẩy một câu hỏi mà hầu hết chúng ta chưa từng nghĩ tới vào tâm điểm chú ý: liệu AI có thực sự làm được những điều này, và chúng ta nên lo lắng đến mức nào?
Theo các chuyên gia, câu trả lời ngắn gọn là: đây không phải là khoa học viễn tưởng. Nó đã hiện hữu. Tuy nhiên, bức tranh thực tế phức tạp và đáng lo ngại hơn nhiều so với hình ảnh robot sát thủ mà chúng ta thường thấy trên màn ảnh rộng.
Giám sát hàng loạt đã trở thành hiện thực
James Wilson, một nhà đạo đức AI toàn cầu và tác giả của cuốn Artificial Negligence, chia sẻ:
"Giám sát hàng loạt không chỉ khả thi, mà nó đã và đang diễn ra. Các công nghệ như Palantir và hệ thống CCTV đã làm điều này trở nên khả thi trong nhiều năm qua. Vấn đề chỉ là các quốc gia có chọn sử dụng chúng hay không."
Chương trình PRISM của chính phủ Mỹ, được Edward Snowden phơi bày hơn một thập kỷ trước, là một ví dụ ban đầu về giám sát quy mô lớn. Wilson cho biết thêm, những tiến bộ trong AI đã đơn giản hóa việc thực hiện giám sát ở quy mô lớn hơn, và sự tồn tại ngày càng kết nối của chúng ta đồng nghĩa với việc có vô số nguồn dữ liệu mà họ có thể truy cập, dù có hoặc không có sự cho phép của mọi người.
Ví dụ mới nhất là tranh cãi xung quanh việc cảnh sát sử dụng camera chuông cửa Ring và hệ thống đọc biển số xe Flock sau sự kiện Super Bowl. Điều này không chỉ ảnh hưởng đến những người bất đồng chính kiến mà còn tác động đến người dân bình thường. Jeff Watkins, một cố vấn AI chuyên về quản trị và an ninh, chỉ ra rằng loại hình giám sát này đã tạo ra một mô hình rõ ràng tại Vương quốc Anh.
"Chúng ta đã thấy nhiều bài báo gần đây về việc mọi người bị nhận diện sai bởi các hệ thống nhận diện khuôn mặt ở siêu thị, với lo ngại lâu nay rằng những nhận diện sai này có thể ảnh hưởng không cân xứng đến phụ nữ và các nhóm thiểu số về sắc tộc," Watkins nói.
Hiệu ứng tích lũy là sự thay đổi trong cách xã hội vận hành. Watkins nhận định:
"Việc phải chịu sự sử dụng thuật toán của các công nghệ giám sát đang chuyển hướng xã hội sang trạng thái 'mặc định nghi ngờ' (suspicion by default), nơi những người vô tội, đang sống cuộc sống hàng ngày của họ, có thể bị AI phân loại và chà đạp quyền lợi."
Vũ khí tự động đã hiện hữu
Tương tự, vũ khí tự động gây chết người cũng đã là một thực tế. Wilson cho biết:
"Lần đầu tiên được ghi nhận là việc Thổ Nhĩ Kỳ sử dụng máy bay không người lái Kargu chống lại một mục tiêu ở Libya vào năm 2021." Kể từ đó, công nghệ này đã phát triển nhanh chóng. "Những tiến bộ trong AI đã khiến điều này giờ đây có thể thực hiện được ở quy mô bầy đàn lớn hơn nhiều, đồng thời với chi phí cực kỳ rẻ."
Tuy nhiên, vấn đề cốt lõi ở đây là độ chính xác – và ý nghĩa của sự thiếu chính xác khi mạng sống con người đang bị đe dọa. Wilson giải thích:
"Thị giác máy tính để nhận diện khuôn mặt chỉ chính xác 90% trong những trường hợp tốt nhất, và nếu hệ thống sử dụng generative AI, nó sẽ 'ảo giác' (hallucinate), vì đó là một tính năng chứ không phải lỗi trong công nghệ."
Chương trình nhắm mục tiêu bằng AI của Lực lượng Phòng vệ Israel, Lavender, được sử dụng để xác định các thành viên bị tình nghi của Hamas, sau đó đã được thừa nhận là sai sót 10% trong các trường hợp. Ngay cả các mô hình ngôn ngữ lớn tốt nhất vẫn có tỷ lệ ảo giác từ 5-10%, theo bảng xếp hạng Vectara benchmark leaderboard của Hugging Face. Mười phần trăm đó có vẻ nhỏ, nhưng ở quy mô mà các hệ thống này hoạt động, nó thực sự không hề nhỏ.
Nhiều người có thể nghĩ rằng giải pháp là tăng cường sự giám sát của con người. Nhưng đó lại chính là điều mà một số ứng dụng quân sự được thiết kế để giảm thiểu. Wilson nói:
"Việc loại bỏ yếu tố 'con người trong vòng lặp' (human-in-the-loop) trong việc xác định mục tiêu là một bãi mìn về đạo đức. Ở cấp độ cơ bản hơn, việc loại bỏ sự quyết định của con người khỏi chuỗi tiêu diệt là loại bỏ mọi hình thức phẩm giá con người."
Watkins bổ sung rằng điều này cũng loại bỏ trách nhiệm.
"Nếu không có ai nhấn nút 'bắn', ai sẽ chịu trách nhiệm trong trường hợp mất mạng, dù có chính đáng hay không? AI không phải là một pháp nhân và không thể tự chịu trách nhiệm."
Liệu chúng ta có nên lo lắng về Terminator?
Đối với bất kỳ ai lớn lên cùng các bộ phim Terminator, những video robot gần đây từ Boston Dynamics và các công ty công nghệ Trung Quốc như Xpeng có lẽ mang lại cảm giác quen thuộc đến khó chịu. Tuy nhiên, Wilson, người đã dành thời gian nghiên cứu các mô hình tương tự, kêu gọi một cái nhìn khách quan hơn.
"Mặc dù có tất cả những video robot ấn tượng và được dàn dựng rất công phu đến từ Trung Quốc và Mỹ – chúng vẫn chưa hoàn thiện. Chúng vẫn cần rất nhiều công sức để đạt đến giai đoạn có thể tương tác hoàn toàn tự động với thế giới của chúng ta."
Mối lo ngại cấp bách hơn, theo ông, không phải là robot hình người.
"Tôi lo lắng hơn về các đàn vũ khí drone tự động. Công nghệ này đã có sẵn, và nó đủ rẻ để có thể được sản xuất hàng loạt ngay hôm nay, bởi bất kỳ ai theo đúng nghĩa đen."
Nhưng lời cảnh báo rộng hơn đến từ Watkins, và nó vượt xa bối cảnh quân sự.
"Khi các tổ chức và chính phủ giao quá nhiều quyền ra quyết định cho các hệ thống còn nhiều sai sót và chưa trưởng thành, chưa được hiểu rõ hoặc giải thích đầy đủ, mà không có sự kiểm toán mạnh mẽ, điều đó có thể làm xói mòn quyền con người và làm mờ đi ranh giới trách nhiệm."
Vụ việc giữa Anthropic và Pentagon ít liên quan đến hợp đồng của một công ty mà hơn thế, nó đặt ra một câu hỏi mà tất cả chúng ta sẽ phải trả lời: ai là người quyết định mức độ tin cậy của chúng ta vào các hệ thống này – và ai sẽ chịu trách nhiệm khi chúng sai sót?
Nguồn: TechRadar - https://www.techradar.com/ai-platforms-assistants/mass-surveillance-isnt-just-viable-it-already-happens-ai-experts-warn-the-threat-is-already-here
