Ngăn chặn một tương lai với các “Cỗ máy giết người thông minh”

Một vũ khí bán tự động của quân đội Mỹ -warisboring.com

Tuần trước, các chuyên gia hàng đầu thế giới về trí tuệ nhân tạo và robot đã cùng ký một thỉnh nguyện thư gửi cho Liên Hiệp Quốc kêu gọi phải thiết lập luật lệ với việc nghiên cứu các “robot sát thủ” (killer robots) trong bối cảnh ngày càng nhiều tiến bộ điều khiển học hiện đại được áp dụng trong lĩnh vực quân sự.

Một hiệp ước toàn cầu về robot giết người?

Những nhà khoa học, luật sư và nhà hoạt động xã hội thuộc Chiến dịch ngăn chặn các robot sát thủ đã có báo cáo trước Liên Hiệp Quốc ngày 20-10 cảnh báo về sự tràn ngập nhanh chóng của những cỗ máy giết người tinh vi được điều khiển từ xa trong thế giới thực.

“Terminator không còn là chuyện phim ảnh. Tôi cho rằng chỉ trong 50 năm nữa điều đó sẽ thành sự thật” - giáo sư chuyên ngành trí tuệ nhân tạo Toby Walsh của Đại học New South Wales (Úc) nói.

Nhưng nhiều học giả khác lo ngại rằng tương lai u ám đó “chỉ còn cách chúng ta vài năm nữa”, với các hệ thống bán tự động và tự động hoàn toàn đang ngày càng được áp dụng nhiều cả trong các hoạt động quân sự lẫn dân sự, điển hình là những máy bay không người lái (drone). “Hiện giờ chẳng khó khăn gì để thay thế con người ở những cỗ máy đó” - giáo sư Walsh nói.

Không như những mối đe dọa khác với loài người như vũ khí hạt nhân, nguồn lực để tạo ra robot sát thủ sẽ ngày càng rẻ hơn và dễ tiếp cận hơn. Ngày nay người ta có thể dễ dàng mua trên mạng một máy bay không người lái, điện thoại thông minh, phần mềm điều khiển, và cả súng ống, tất cả những gì cần thiết nhằm tạo ra một cỗ máy giết người điều khiển từ xa.

“Chúng ta sẽ sớm thấy chúng được sử dụng trong việc duy trì trị an trong nước, kiểm soát đường biên giới, trấn áp bạo động, và cả các cuộc xung đột vũ trang - báo Anh The Guardian dẫn lời Steve Goose, giám đốc bộ phận theo dõi giải trừ vũ khí của Tổ chức Human Rights Watch - Những cơ sở kỹ thuật đã tồn tại rồi, đây không còn là chuyện viễn tưởng nữa”.

“Nếu không có luật lệ, chúng ta sẽ lại mắc vào một cuộc chạy đua vũ trang mới. Và hậu quả là khôn lường” - giáo sư Walsh nói.

Với trình độ công nghệ hiện đại, ngay cả khi con người điều khiển một phần, các vũ khí bán tự động với trí tuệ nhân tạo cũng có thể phạm những sai lầm khủng khiếp, theo giáo sư Walsh. Chẳng hạn trong cuộc chiến vùng Vịnh lần thứ nhất, các tên lửa Patriot đã lạc lối và bắn trúng chính các máy bay của Anh và Mỹ, trong khi những vụ không kích bằng máy bay không người lái bắn nhầm vào mục tiêu dân sự của Mỹ là điều đã được nghe tới nhiều.

“Từ phương diện kỹ thuật, vũ khí tự động hóa có thể mắc nhiều sai lầm hơn con người ở thời điểm hiện tại. Trí tuệ nhân tạo còn ngu xuẩn mà chúng ta đang tạo ra vẫn còn xa mới đạt được tầm mức của bộ não người, nhất là trong thế giới thực” - Walsh nói. Ian Kerr, giáo sư về luân lý và luật pháp ở Đại học Ottawa (Canada), cảnh báo vũ khí trí tuệ nhân tạo là “một trò may rủi sẽ vượt qua mọi lằn ranh đạo đức của loài người”.

Cho tới nay, Mỹ, Anh, Israel và Hàn Quốc - các quốc gia được cho là đang đẩy mạnh những nghiên cứu “Terminator” nhiều nhất - đều im lặng và chưa có hệ thống pháp luật rõ ràng về vấn đề này. Đó là lý do của thỉnh nguyện thư được trình lên Liên Hiệp Quốc.

Anh và Mỹ đã có những chính sách mang tính hướng dẫn với vũ khí trí tuệ nhân tạo, nhưng tất cả còn quá sơ sài và ít ỏi. Thêm vào đó, một nỗ lực hạn chế những cỗ máy giết người thông minh đáng sợ này cần phải được thực hiện ở quy mô toàn cầu.

Máy bay điều khiển từ xa trang bị súng máy đã là sự thật -wearechampionmag.com

Cỗ máy giết người từ xa

Đầu tháng 10, các phóng viên của Đài truyền hình BBC (Anh) đã ghé thăm thành phố Daejeon, Hàn Quốc, nơi đặt binh xưởng sản xuất một loại súng máy tự động có thể xác định, tìm và diệt mục tiêu mà không cần sự can thiệp của con người.

Cỗ máy có kích cỡ như một chú chó lớn, với đạn 50 li, có thể xoay được 180 độ, tích hợp với phần mềm nhận dạng địa hình thông qua ảnh chụp vệ tinh và Google Map, tầm bắn 4km và có cả hệ thống phát cảnh báo bằng giọng nói qua loa phóng thanh rõ ràng và vang xa.

Khẩu súng, được đặt tên Super aEgis II, do Hãng DoDAAM, một nhà thầu quân sự tư nhân, phát triển, hiện giờ vẫn còn tích hợp các hệ thống do người điều khiển. Để kích hoạt nó, người vận hành sẽ phải nhập mật mã vào hệ thống máy tính và ra các lệnh trực tiếp trên bàn phím.

Park Jung Suk, kỹ sư cấp cao của DoDAAM, cho biết: “Về mặt kỹ thuật, chúng tôi có thể thiết kế để nó vận hành tự động hoàn toàn. Nhưng nhiều khách hàng vẫn lo sợ và muốn đảm bảo an toàn. Chúng tôi có thể đảm bảo về kỹ thuật để hệ thống vận hành tự động, nhưng họ lo sợ khẩu súng sẽ phạm sai lầm”.

Super aEgis II, một dự án bắt đầu từ năm 2010, thuộc dòng các vũ khí nhân tạo mới có thể tự động xác định, theo dõi và tiêu diệt một mục tiêu di động từ khoảng cách xa mà không cần sự can thiệp của con người. DoDAAM cho biết đã bán được hơn 30 tổ hợp súng này kể từ năm 2010, với giá mỗi hệ thống là hơn 40 triệu USD.

Khách hàng của họ không chỉ là Chính phủ Hàn Quốc, mà cả các căn cứ không quân ở Trung Đông của Các tiểu vương quốc Ả Rập thống nhất, Abu Dhabi và Qatar.

Và đó chỉ là một ví dụ. Mỹ mới là nước đi đầu trong công nghệ này khi từ năm 2000, Quốc hội Mỹ đã thông qua một đạo luật vạch ra tầm nhìn sẽ sử dụng 1/3 các xe quân sự và các cuộc không kích sâu trong lãnh thổ đối phương là robot. Trong các cuộc chiến ở Iraq và Afghanistan, hàng ngàn loại robot chiến tranh đã được thử nghiệm cả trên không lẫn trên bộ. Từ năm 2005, báo Mỹ The New York Times đã đăng phóng sự về các kế hoạch của Lầu Năm Góc thay thế binh sĩ bằng các cỗ máy.

Tác giả khoa học viễn tưởng Isaac Asimov từng đề ra những nguyên tắc với công nghệ robot, trong đó luật thứ nhất của ông là “một con robot không được phép làm bị thương con người, hay để con người gặp nguy hiểm”. Nhưng luật đó giờ không còn giá trị nữa. Lời kêu gọi của Human Rights Watch về một lệnh cấm toàn cầu “việc phát triển, sản xuất và sử dụng các vũ khí tự động hoàn toàn” có vẻ cũng đã bị bỏ ngoài tai.

Song Yang Chan, giám đốc kế hoạch chiến lược của DoDAAM, nói với BBC: “Chúng tôi nhìn thấy tương lai rộng mở trong ngành này. Vũ khí tự động hóa sẽ là tương lai và chúng tôi đã đúng. Tiến bộ là rất nhanh. Chúng tôi giờ đã qua giai đoạn thiết bị chiến đấu điều khiển từ xa và bước vào giai đoạn các vũ khí thông minh tự ra quyết định”.

Hàn Quốc trở thành một trong những nước đầu ngành trong lĩnh vực này do có một đường biên giới dài phải cảnh giác liên tục với CHDCND Triều Tiên - theo tổng giám đốc DoDAAM Chang Myung Kwang. “Nhu cầu là bà đỡ cho sáng tạo” - ông giải thích.

Những lập luận của Chang và DoDAAM có thể bị thúc đẩy vì lý do lợi nhuận, nhưng không thiếu những người ủng hộ họ. Trên lý thuyết, con người luôn phải kiểm soát máy móc. Nhưng sau vụ thảm họa hàng không với chiếc máy bay của Hãng Germanwings năm 2005, khi phụ lái Andreas Lubitz cố tình đâm máy bay vào dãy Alps khiến tất cả 150 người thiệt mạng, phe ủng hộ giao mọi chuyện cho máy móc đã có thêm lý lẽ biện minh cho việc máy móc sẽ luôn duy lý hơn con người.

Nhưng trong khi cuộc tranh luận chưa ngã ngũ thì thời gian để phân xử không còn nhiều bởi những tiến bộ công nghệ đang diễn ra với tốc độ ngày càng cao. Những công ty như DoDAAM rất có thể sẽ đủ năng lực sản xuất ra những cỗ máy sát thủ toàn bộ trước khi những nhà làm luật và luân lý học đưa ra được câu trả lời về sự cân bằng giữa lợi ích và cái giá phải trả của những con robot giết người.

Với Park hay Song, mục tiêu ngay lúc này của họ chỉ là tạo ra những con robot thông minh hơn và “tăng tính tự động hóa của khẩu súng”, cũng như “khả năng nhận diện mục tiêu” hay “sự hoạt động trơn tru của cả hệ thống”. Giống như những nhà khoa học đã nỗ lực hết mình để chế tạo ra những quả bom hạt nhân trước kia, họ không chú ý nhiều tới những hậu quả luân lý và xã hội mà các phát minh của mình có thể đem lại.

Vẫn chưa có một hệ thống quy chuẩn quốc tế nào cho những loại vũ khí đó, và điều duy nhất ngăn cản các hãng sản xuất lúc này là lương tâm, không phải của kỹ sư chế tạo hay các con robot, mà của người mua và sẽ sử dụng những sản phẩm đó. “Nếu có ai đó tới đặt hàng chúng tôi một loại súng tự động hoàn toàn, tất nhiên chúng tôi sẽ khuyến cáo họ không nên như thế và nêu ra các rủi ro. Nhưng nếu họ cứ khăng khăng thì khách hàng là thượng đế mà” - Park nói.■