Vì sao phải sợ AI?

"Ngôn ngữ là hệ điều hành của nền văn hóa nhân loại. Từ ngôn ngữ sinh ra huyền thoại và luật lệ, thần thánh và tiền bạc, nghệ thuật và khoa học, tình bạn và quốc gia, kể cả ngôn ngữ máy tính. Trí tuệ nhân tạo (AI) đời mới làm chủ được ngôn ngữ, có nghĩa chúng có thể đột nhập và thao túng hệ điều hành của nền văn minh. Bằng cách nắm vững ngôn ngữ, AI đang nắm chìa khóa then chốt của nền văn minh, từ két sắt ngân hàng đến lăng mộ linh thiêng".

Đó là một trong những đoạn mở đầu bài viết sử gia Yuval Harari và hai đồng tác giả về mối nguy AI tạo sinh, cụ thể là các chatbot đời mới, với nhân loại. Đã có nhiều cảnh báo về các hệ thống AI đời mới, gần đây nhất là lá thư của hơn 1.000 chuyên gia, nhà nghiên cứu công nghệ, gồm tỉ phú Elon Musk đòi hỏi tạm ngưng phát triển các hệ thống như thế vì những rủi ro to lớn cho xã hội và loài người.

Nhưng Harari, người nổi tiếng với các cuốn sách bán chạy Sapiens và Homo Deus, đưa ra lập luận với góc nhìn rất độc đáo. Ông đưa người đọc vào tình huống giả định mọi người sắp bước chân lên một chiếc máy bay mà đến phân nửa các kỹ sư tham gia chế tạo tuyên bố có 10% khả năng máy bay sẽ rơi, giết chết mọi hành khách. 

Liệu có ai dám đi một chiếc máy bay như thế? Sở dĩ ông ví von vậy là vì năm 2022, hơn 700 chuyên gia hàng đầu về AI khi được khảo sát về các rủi ro tương lai, đến một nửa cho rằng có 10% khả năng hay cao hơn là loài người sẽ bị diệt vong bởi các hệ thống AI. Các công ty thi nhau cho ra đời các hệ thống AI tạo sinh do đó chẳng khác gì đang đua nhau đưa khách lên chiếc máy bay nói trên!

Harari cho rằng các hãng dược không được phép bán thuốc chưa thử nghiệm một cách nghiêm cẩn. Các phòng thí nghiệm sinh học không đời nào dám tung vi rút mới ra chốn công cộng chỉ để gây ấn tượng với cổ đông. Tương tự, các công ty AI không thể "đùa giỡn" với cuộc sống hàng tỉ người với tốc độ nhanh hơn những gì xã hội có thể hấp thu. Trong các trò chơi như cờ vua, máy đã hơn người - chuyện gì sẽ xảy ra nếu trong nghệ thuật, chính trị hay tôn giáo cũng vậy?

Với khả năng tiêu hóa rồi sản sinh ra ngôn ngữ, bằng văn bản, âm thanh hay hình ảnh, AI có thể nhanh chóng hút hết hàng ngàn năm văn hóa loài người, tiêu hóa hết rồi đẻ ra cuồn cuộn ấn phẩm văn hóa mới, có đúng có sai, có cả thêu dệt, không chỉ là bài luận cho học sinh mà còn diễn văn cho chính khách. 

Thử hỏi con người sẽ chịu tác động thế nào khi một tỉ ngày càng lớn các câu chuyện, giai điệu, hình ảnh, luật lệ, chính sách và công cụ do một thứ không phải con người sinh ra. Chúng biết điểm yếu của loài người; chúng biết cách hình thành các mối quan hệ thân mật với con người, tạo niềm tin để thuyết phục con người tin vào điều chúng nói.

Harari lập luận con người thường đâu có tiếp xúc trực tiếp với thực tại. Chúng ta thường trải nghiệm qua lăng kính văn hóa; chẳng hạn quan điểm về nhiều thứ do báo chí định hình, rồi được củng cố bởi bạn bè, người thân. Sở thích tình dục có thể do nghệ thuật, phim ảnh hay tôn giáo nhào nặn mà thành. 

Nay giả sử lăng kính văn hóa đó do AI tạo ra thì sao? Trong hàng ngàn năm, loài người sống trong giấc mơ của người khác, như thờ phượng các vị thần, theo đuổi lý tưởng về cái đẹp, dồn hết tâm trí cho các sự nghiệp xuất phát từ trí tưởng tượng của các nhà tiên tri, nhà thơ hay chính khách. Nay giả thử chúng ta sống trong ảo giác của AI thì sao?

Mạng xã hội là nơi con người tiếp xúc lần đầu tiên với AI và loài người đã thua trắng. Trên mạng xã hội, các AI thô sơ không cần tạo ra nội dung mới; chúng chỉ cần chọn lọc nội dung con người tạo ra rồi cung cấp các nội dung này, dựa trên tiêu chí chọn cái đang lan tỏa nhiều nhất, gây phản ứng mạnh nhất và lôi cuốn đông người dùng nhất. 

Chỉ cần chừng đó AI đời cũ dù thô sơ cũng đã có thể phá hại sức khỏe tâm thần loài người, họ giận dữ hơn, chia bè chia phái nhiều hơn và lao vào các cuộc tranh cãi vô bổ suốt ngày suốt đêm.

Lần tiếp xúc thứ nhì giữa loài người và các AI tạo sinh như GTP-4, con người sẽ tiếp tục thua trắng nếu không biết điều chỉnh, làm chủ AI theo lợi ích của loài người trước khi chúng làm chủ chúng ta. 

"Dân chủ là cuộc đối thoại, đối thoại dựa vào ngôn ngữ và khi chính ngôn ngữ bị chiếm đoạt, đối thoại sẽ đứt đoạn và dân chủ sẽ khó lòng duy trì. Nếu chúng ta chờ sự hỗn loạn diễn ra, sẽ là quá muộn để sửa sai" - Harari viết. Không biết các công ty công nghệ lớn đang triển khai AI tạo sinh có nghe theo lời khuyên của Yuval Harari hay không.