Cuộc sống trong vòng kềm tỏa của thuật toán

TTCT - Chúng ta hãy bước ra khỏi không gian quen thuộc, thử nhìn quanh xem cuộc sống của con người đã thay đổi như thế nào vì thuật toán.

Một podcast của Antonio Radić, kỳ thủ người Croatia, chủ kênh cờ vua Agadmator trên YouTube (có gần 1 triệu người theo dõi) với Hikaru Nakamura - một đại kiện tướng cờ vua tốp đầu thế giới - mới bị YouTube gỡ xuống hồi cuối tuần rồi vì cho rằng có nội dung “độc hại và nguy hiểm”. Hóa ra chỉ là vì podcast này có những câu hai người trò chuyện qua lại về cờ vua, chứa những từ như “[quân] trắng đánh bại [quân] đen”; “đen tháo chạy” nên bị thuật toán của YouTube dán nhãn là phân biệt chủng tộc. Đây chỉ là ví dụ gần nhất về chuyện các thuật toán hiện được sử dụng rộng rãi đang chế ngự con người ra sao. Hôm sau, YouTube đã đưa podcast cờ vua này lên lại sau khi có con người can thiệp, chỉnh sửa kết luận của thuật toán.

Chúng ta hãy bước ra khỏi không gian quen thuộc, thử nhìn quanh xem cuộc sống của con người đã thay đổi như thế nào vì thuật toán.

Thuật toán, một dạng trí tuệ nhân tạo cấp thấp, có thể nhốt chúng ta vào các khuôn mẫu định kiến, riết rồi ai nấy đều chọn một cái giếng êm ái để ngồi, từ đáy giếng ngắm khoảnh trời riêng mà tưởng đấy là cửa sổ nhìn vào toàn thế giới.

Tôi thường đọc tin quốc tế qua trang news.google.com ấn bản tiếng Anh. Trang này có phần For you (cho riêng bạn) rất tiện lợi vì nó theo dõi, ghi nhận thói quen đọc tin, biết mình thường theo dõi loại tin gì để bày mâm bày bát rất đúng sở thích. Chỉ vì một lần tò mò đọc thử các lập luận đằng sau chiến lược “miễn dịch cộng đồng” mà sau đó tôi hiện lên toàn những bài ủng hộ, cổ xúy cho “miễn dịch cộng đồng” trong đại dịch Covid-19. Nếu cứ đọc riết theo dòng thông tin ấy, rất dễ ngộ nhận rằng cả thế giới đang ủng hộ miễn dịch cộng đồng. Và nếu đã “được” trang tin này “huấn luyện” một thời gian, sau đó bạn vào các website khác đọc tin tức, thấy tin bài nào phản bác chuyện “miễn dịch cộng đồng”, cho đó là trái khoa học, bạn sẽ rất dễ lướt qua, nghĩ đây là “tin giả”.

Thuật toán chọn tin như thế của Google đã trói tôi trong một bong bóng ngăn cách với những quan điểm khác biệt.

Thử kiểm tra chuyện chọn tin giùm này, sẽ thấy rõ ràng người nào đã quen với trang tin của Fox News sẽ được đọc toàn tin phản bác chuyện đeo khẩu trang, chuyện giãn cách xã hội để chống dịch; ai đã đọc The New York Times sẽ được đưa đến toàn loại tin chê bai tổng thống Trump đủ kiểu, cho rằng ông này chịu hết trách nhiệm cho những thảm họa nước Mỹ đang gánh chịu. Con người ta vốn chịu xu hướng “confirmation bias”, tức có sẵn thiên kiến rồi nên sẽ luôn đi tìm các luận cứ, bằng chứng, thông tin nào xác nhận thiên kiến của mình, những gì khác thì ngó lơ. Và các thuật toán như Google News tô đậm thiên kiến này một cách nguy hiểm.

“Thiên kiến khẳng định” này càng phô bày tác hại trên môi trường mạng xã hội. Ngoài đời, người ta chọn bạn mà chơi rất cẩn thận, mất nhiều thời gian, qua nhiều thử thách mới dám xác quyết ai là bạn, nhưng trên không gian mạng, chuyện chọn bạn mà chơi dễ dàng hơn bao giờ hết. Và ai nói trái ý thì block, ai nói đúng ý thì follow. Chỉ cần một thời gian ngắn sau, bạn sẽ chỉ còn đọc chủ yếu là những status hay comment y như bạn nghĩ. Khi con người bị nhốt trong những bong bóng đầy thiên kiến như thế, họ sẽ có ảo giác thiên hạ khắp nơi đều đang suy nghĩ như họ. Ảo giác này mạnh đến nỗi tạo ra ảo tưởng người viết Facebook đang là trung tâm chú ý của cả vũ trụ, mỗi lời phán bảo nhất nhất ai cũng nghe theo và tán thưởng.

Thuật toán - là quy trình nhiều bước để giải quyết một vấn đề nào đó - đang được các trang lo chuyện quảng cáo tận dụng nhiều nhất, đặc biệt là quảng cáo do Google đục lỗ, gắn lên các trang báo trực tuyến. Giả dụ bạn tìm một từ khóa nào đó trên Google, như “laptop mỏng nhẹ”, chắc chắn ngay sau đó và kéo dài có khi cả vài tuần là các quảng cáo đủ loại máy tính xách tay dai dẳng đi theo bạn, bất kể bạn vào đọc tin trong nước hay vào các tờ báo nước ngoài. Loại quảng cáo này dai dẳng, chiếm ngự không gian ảo đến nỗi dù ban đầu bạn không có ý định mua mà chỉ tìm hiểu laptop hiện nay nặng cỡ bao nhiêu, nhưng rất có thể sau một tuần bạn sẽ bỏ tiền ra mua.

Những thuật toán như thế đang điều khiển bạn, gợi ý bạn nên xem phim này, nên đọc sách kia, nên nghe album nhạc này, nên ở khách sạn nọ... Đi đâu bạn cũng bị điều khiển như thế bất kể bạn vào Netflix, Spotify, Airbnb hay Audible. Nhiều người sẵn tính lười, tặc lưỡi, ờ có chỗ gợi ý đúng sở thích, đúng thói quen của mình càng tốt chứ hại gì. Hại hay không chưa biết nhưng cuộc sống bao gồm những chọn lựa; một khi từ bỏ quyền được chọn lựa, cũng là khả năng khám phá và tự quyết định của mình, con người còn lại được gì?■

Thuật toán bắt lầm người

Vụ việc đình đám nhất cho thấy “trí tuệ nhân tạo nói sai” là về Robert Williams - nhân viên một hãng cung cấp phụ tùng ôtô - bị bắt giữ ngay trên bãi cỏ trước sân nhà, trước sự chứng kiến của vợ anh và hai con nhỏ, một 2 tuổi, một 5 tuổi. .

Sự thể hóa ra là vào tháng 10-2018, tiệm Shinola tại thành phố Detroit (tiểu bang Michigan, Mỹ) bị đánh cắp 5 chiếc đồng hồ đắt tiền. Camera an ninh ghi được hình kẻ cắp - một người to cao, da đen, mặc đồ màu đen, đầu đội nón đỏ. Tháng 3-2019, cảnh sát Detroit đưa bức hình này (khá mờ) lên hệ thống nhận diện gương mặt của tiểu bang vừa mới lắp đặt (sử dụng những thuật toán tinh vi, được cho là có thể đối chiếu hình ảnh kẻ tình nghi với cơ sở dữ liệu của 49 triệu người và tìm đúng thủ phạm). Máy đã chỉ vào Robert Williams.

Khi các nhân viên điều tra nhìn bức hình camera và gương mặt thật của Williams, họ dễ dàng kết luận ngay anh không phải là kẻ cắp đồng hồ. Nhưng cái thuật toán nhận diện gương mặt này, do một công ty tư nhân biên soạn, đã dán cho Williams cái nhãn bị cảnh sát bắt giữ (và bị tạm giam 30 giờ đồng hồ) với láng giềng, ký ức kinh hãi của vợ và hai con nhỏ của anh khó lòng xóa nhòa.

Sở Cảnh sát Detroit sau đó ra một tuyên bố cho biết sau vụ việc này, họ đã ban hành các quy tắc mới về điều tra. Và từ đó trở đi, chỉ có hình ảnh tĩnh, chứ không phải ảnh trên camera an ninh, mới có thể được sử dụng để nhận dạng khuôn mặt, và chỉ được sử dụng trong trường hợp tội phạm bạo lực.