Nexus: Từ thông tin giả đến tình cảm giả

Cuốn sách vừa ra mắt ngày 9-9-2024 này của Yuval Harari - nhà sử học người Israel nổi tiếng - một lần nữa khuấy động độc giả bằng những suy niệm độc đáo và cả những khiếm khuyết gây tranh cãi của nó.

Có thể tóm tắt ý chính cuốn sách này, mang tên Nexus - A Brief History of Information Networks from the Stone Age to AI (Nexus: Lược sử các mạng thông tin từ thời đại đồ đá đến AI) như sau: Các nền văn minh thực chất là các mạng thông tin. 

Thông tin không nhất thiết phải đúng, đa phần chỉ là hư cấu, trong đó một tỉ lệ nhất định là tin giả có hại cho nền văn minh. Trí tuệ nhân tạo (AI) rất giỏi trong việc đẻ ra tin giả có hại nhất là tạo ra tình cảm giả để lừa con người, vì thế nền văn minh của loài người có thể bị hủy diệt bởi AI.

Cái ý thông tin không nhất thiết phải đúng, đa phần là hư cấu đã được Harari nhắc đến nhiều trong các cuốn sách trước đó của ông như Sapiens: Lược sử loài người hay Homo Deus: Lược sử tương lai. Tiền bạc, lòng yêu nước, quốc gia, doanh nghiệp, kể cả thần thánh… tất cả chỉ có trong trí tưởng tượng của con người chứ không phải là những thực thể ngoài đời. Tuy nhiên con người đã sử dụng các thông tin hư cấu này để hợp tác làm việc với nhau trên quy mô lớn, từ đó đẻ ra các nền văn minh.

Sự mới mẻ trong lập luận của Harari ở cuốn sách này nằm ở chỗ ông khẳng định chưa chắc thông tin lan tỏa nhanh nhờ công nghệ đã đem lại điều tốt cho xã hội, nói cách khác mạng thông tin ngày càng rộng lớn chưa chắc đã giúp củng cố nền dân chủ, thêm nhiều thông tin chưa chắc đã dẫn tới chân lý.

Ông dẫn chứng kỹ nghệ in ấn không giúp Copernicus bán cuốn sách của mình để làm lan tỏa lý thuyết nhật tâm vì sách chỉ bán được 500 bản vào năm 1543. Trong khi đó cuốn Chiếc búa phù thủy của Heinrich Kramer in năm 1486 bán chạy như tôm tươi. Cuốn sách này là một cẩm nang săn phù thủy, bày cách phát hiện, trừng phạt, tiêu diệt những người đàn bà bị gán danh là phù thủy thời Trung cổ. Harari nhận xét: chiếc máy in đã tiếp tay cho các chiến dịch săn lùng phù thủy, giết hại cả chục ngàn người.

Thông tin luôn mang trong mình tiềm năng hủy diệt như thế nhưng trong các thời đại trước, mạng thông tin bị chia cắt, ngắt quãng nên các tay điên khùng dân túy như Kramer chỉ có thể bùng lên rồi tắt ngúm. Nhưng thời nay thì khác, đáng lo ngại thực sự, vì các mạng thông tin kết nối cả tỉ người như các mạng xã hội ngày nay, đứng đằng sau chúng là các mô hình AI ngày càng tinh vi. 

Công nghệ giúp thông tin lan tỏa nhanh nhưng đồng thời sự chú ý của con người bị phân tán; mạng xã hội lớn mạnh nhờ hấp thụ sự chú ý của con người, lúc đầu bằng sự kết nối với bạn bè, người thân nhưng sau đó là do đã khơi dậy sự tò mò, sự phẫn nộ, tức giận, ganh tị, thù địch… tức là làm sao để con người luôn sục sôi bám lấy màn hình.

"Trong hai thập niên qua, các thuật toán tranh nhau lôi kéo sự chú ý bằng cách thao túng các cuộc trò chuyện và nội dung. Đặc biệt, các thuật toán được giao nhiệm vụ tối đa hóa sự tham gia của người dùng đã phát hiện ra rằng bằng cách thí nghiệm trên hàng triệu con chuột bạch là người, nếu nhấn vào nút tham lam, thù ghét hay sợ hãi trong não, sẽ kích hoạt sự chú ý của con người, giữ họ dán mắt vào màn hình. Các thuật toán bắt đầu cố tình cổ xúy cho những nội dung như thế. Thế nhưng các thuật toán chỉ có khả năng hạn chế tự chúng sản sinh nội dung hay trực tiếp tổ chức cuộc trò chuyện thân mật. Điều này giờ đã thay đổi với sự ra đời của các AI tạo sinh như GPT-4 của OpenAI" - Harari viết.

Mối nguy của các chatbot kiểu GPT-4 đối với cuộc đối thoại dân chủ nằm ở chỗ chúng không chỉ nắm giữ sự chú ý của chúng ta, chúng còn tạo ra các mối quan hệ thân mật với con người và dùng sức mạnh thân mật để thao túng chúng ta. Nói cách khác, tin giả chưa nguy hiểm bằng tình cảm giả, vì tình cảm giả có thể thúc giục một người mua sản phẩm, tạo một niềm tin hay bỏ phiếu bầu cho ai đó.

Thời trước, người ta muốn đọc Kramer phải tìm mua, rồi dịch từ tiếng Latin ra mới hòng bị ảnh hưởng bởi tư tưởng thù ghét phụ nữ của ông này. Nay khi AI tự mình sáng tác ra nội dung được cá nhân hóa cho từng người dùng, đánh trúng tâm lý của họ để khơi nguồn cho dòng chảy dopamine không ngớt. 

Cuốn Chiếc búa phù thủy của Kramer chỉ là đường ngọt so với chất heroin gây nghiện mà các thuật toán bơm cho con người. Nếu AI chế ngự, con người rất dễ bị biến thành kẻ săn phù thủy điên rồ khi tình cảm bị kích thích.

Chuyện Harari sợ AI đã được ông nói đến nhiều lần suốt trong năm qua. Năm ngoái, ông cùng nhiều tên tuổi lớn khác ký vào một bức thư ngỏ cảnh báo "mối nguy cực kỳ cho xã hội và loài người" gây bởi việc tung ra "những trí tuệ kỹ thuật số hùng mạnh mà không ai - kể cả người tạo ra chúng - có thể hiểu, tiên đoán hay kiểm soát chế ngự được". 

Trong cuốn Nexus ông viết: "Nếu chúng ta xử lý sai, AI có thể dập tắt không những sự thống trị của loài người trên Trái đất mà còn chính cả ánh sáng nhận thức, biến vũ trụ thành một vùng hoàn toàn đen tối".

Cảnh báo của Harari mang tính tận thế trong khi, theo tờ The Atlantic, ông lại quên đi những vấn đề sát sườn hơn của thời đại thông tin. Thời đại này nội dung là miễn phí khi tiêu thụ nhưng sản xuất ra phải tốn tiền. Nghịch lý này dẫn tới sự suy sụp của báo chí: từ năm 2005 đến nay nước Mỹ mất đi 1/3 các tờ báo và 2/3 công việc làm trong ngành báo chí. 

Thế kỷ thứ 21, đỉnh cao của cuộc cách mạng thông tin, nhưng lại xuất hiện các sa mạc hoang vắng tin tức. AI sẽ làm tình cảnh này tệ hại hơn vì các nền tảng sẽ dần không còn cần phải dẫn link đến các nguồn tin nữa, chúng tự đẻ ra tin và trói con người trong các bong bóng thông tin, tách biệt độc giả với người viết thật sự.

Harari đã đưa ra một viễn cảnh thuyết phục mang tính cảnh báo về mối nguy do AI gây ra trong cuốn Nexus, nhưng làm thế nào để tránh mối nguy này thì ông đề cập còn rất sơ lược. Chẳng hạn, ông kết luận: "Quyết định mà tất cả chúng ta đưa ra trong những năm tới" sẽ xác quyết AI sẽ trở thành "một chương mới đầy hy vọng" hay "một sai lầm kinh khủng". 

Cách dùng cụm từ "chúng ta" của ông như thể AI là sản phẩm tập thể của loài người chứ không phải của một số doanh nghiệp và một vài cá nhân. Điều rất mỉa mai là bức thư ngỏ cảnh báo mối nguy của AI do Harari ký cũng có chữ ký của Elon Musk, người chỉ bốn tháng sau thành lập một công ty chuyên phát triển mô hình AI còn mạnh hơn Chat-GPT.

Trong Nexus, Harari đề ra bốn nguyên tắc, đầu tiên là "sự nhân từ", tức "khi mạng máy tính thu gom thông tin về tôi, thông tin đó phải được dùng để giúp tôi chứ không phải để thao túng tôi". Đừng làm điều ác - Google cũng từng cam kết như thế. 

Ba nguyên tắc còn lại: phi tập trung hóa các kênh thông tin, trách nhiệm giải trình của những người thu thập thông tin từ chúng ta, và ngưng việc giám sát bằng thuật toán… tất cả nghe rất hay ho, không ai phản đối nhưng hiệu quả đến đâu thì chưa rõ.

Trong khi đó, có những tiếng nói tìm cách hạn chế tự tập trung quyền lực kinh tế lại đưa ra những giải pháp cụ thể hơn nhiều: làm luật chống độc quyền, ra quy định chặt chẽ hơn, đòi hỏi sự minh bạch, sự tự chủ dữ liệu và xây các nền tảng thay thế. 

Góc nhìn của Harari, từ trên đỉnh núi nhìn xuống Silicon Valley không hề đụng chạm gì đến các công ty công nghệ đang phát triển những mô hình AI mà Harari lo sợ. Có lẽ ở quá xa nên ông không thấy và không bàn những nỗ lực cụ thể, như các vụ kiện chống độc quyền có thể tách đôi, tách ba Google.

Chính vì thế, The Atlantic đã đề nghị: "Đôi lúc để có cái nhìn tốt nhất, bạn cần bước từ trên đỉnh núi xuống trần gian".