Cỗ máy ngờ vực

Mỗi năm, TP Rotterdam (Hà Lan) cấp phúc lợi xã hội cho khoảng 30.000 người, giúp họ trả tiền thuê nhà, mua thực phẩm và thanh toán các hóa đơn thiết yếu. Nhưng cũng mỗi năm, chính quyền thành phố triệu tập hàng ngàn người để tra hỏi vì nghi ngờ họ lừa đảo để nhận trợ cấp. 

Từ năm 2017, Rotterdam áp dụng thuật toán "chấm điểm rủi ro", tức xếp hạng khả năng một người có nguy cơ gian dối trong việc nhận trợ cấp đến đâu, và dựa vào kết quả để gọi các "đối tượng tình nghi" đến thẩm vấn.

Được nạp dữ liệu từ 12.707 cuộc điều tra lừa đảo phúc lợi trước đó, thuật toán này cho điểm những người thuộc diện nhận trợ cấp theo 315 yếu tố, gồm tình trạng hôn nhân, nhà ở, trình độ tiếng Hà Lan… và cả những nhận xét chủ quan từ nhân viên xã hội.

Đến năm 2021, việc áp dụng thuật toán phải dừng lại, sau khi Tòa thẩm kế thành phố phát hiện cách làm này có nhiều vấn đề, trong đó có việc những người bị thuật toán đưa vào diện nghi vấn hoàn toàn không biết vì sao mình lại bị như vậy, thậm chí họ còn không biết có phần mềm máy tính can thiệp vào quá trình này. 

Trong gần 4 năm đó, 1/3 số người bị Sở An sinh xã hội gọi lên điều tra là dựa vào điểm số của thuật toán, số còn lại là do con người lựa chọn, theo bộ tiêu chí có sẵn (chẳng hạn nam giới độc thân sống ở một khu phố nào đó).

Gần đây, tạp chí Wired và tổ chức phi lợi nhuận Lighthouse Reports (Hà Lan) có được đầy đủ thông tin - gồm mô hình máy học và dữ liệu để nạp cho thuật toán này, do chính Rotterdam cung cấp theo luật tự do tiếp cận thông tin. Hai đơn vị này đã tái lập lại hệ thống chấm điểm rủi ro đã từng khiến hàng ngàn người nhận phúc lợi xã hội ở Rotterdam khốn đốn mỗi năm.

Theo Wired, thuật toán của Rotterdam chẳng khác nào một "cỗ máy ngờ vực". Bất chấp dữ liệu khổng lồ được sử dụng để tính điểm rủi ro, thuật toán này hoạt động chẳng hơn lựa chọn ngẫu nhiên là mấy. Các phép tính phức tạp sẽ đơn giản hóa nỗi vất vả của một bà mẹ đơn thân đang chật vật nuôi hai con nhỏ thành dữ liệu siêu đơn giản, gồm những gạch đầu dòng có và không, mà máy tính sẽ hiểu dưới dạng các con số 0 và 1. 

Một phụ nữ ly dị vì bị bạo hành, phải nghỉ việc và chưa thể tìm việc mới vì lý do sức khỏe, thỉnh thoảng được người thân hỗ trợ hoặc cho mượn chút tiền, trong hệ thống chỉ tồn tại dưới dạng những dòng thông tin: "Ly dị: 1; Thất nghiệp: 1; Có kế hoạch tìm việc làm: 0. Được người thân cho tiền: 1". Chừng ấy là đủ xếp họ vào diện nguy cơ cao, có thể gian lận để nhận trợ cấp bất kỳ lúc nào.

Bà Pepita Ceelie, 61 tuổi, đã hai lần bị gọi lên thẩm vấn vì nghi ngờ gian lận phúc lợi vào năm 2015 và 2021 (do thuật toán kết luận). Trong cả hai lần, cơ quan phúc lợi xã hội không phát hiện sai phạm gì. Theo thiết kế, một người được cho điểm cuối cùng càng gần 1 thì nguy cơ lừa đảo càng cao. 

Bà Ceelie từng ly hôn, có con trai (không sống cùng nhà, nhưng máy chỉ cần biết bà có con cái hay không), từng được em trai tặng ít tiền vào sinh nhật 60 tuổi, thế mà máy chấm bà 0,643 điểm, tức "nguy cơ cao". "Họ có biết gì về tôi đâu, tôi đâu phải là một con số. Tôi là một con người" - Ceelie bức xúc.

Trong cuộc thanh tra dẫn tới việc dừng thuật toán chấm điểm rủi ro, Tòa thẩm kế Rotterdam kết luận đã có "sự phối hợp không đầy đủ" giữa các nhà phát triển thuật toán và các nhân viên thành phố sử dụng chúng, khiến việc xem xét các vấn đề đạo đức bị bỏ qua. 

Tòa cũng chỉ trích thành phố vì đã không đánh giá liệu các thuật toán có tốt hơn hiệu quả làm việc của các cán bộ mà nó thay thế không mà đã vội áp dụng. Hậu quả là nhiều người bị cắt trợ cấp oan uổng, bị "hủy hoại về mặt tinh thần" hay "chỉ có thể nghĩ đến việc tự tử", theo nhiều nạn nhân nói với Wired.

Rotterdam đã bắt đầu phát triển phiên bản mới, thêm vào nhiều "chốt chặn" để đảm bảo thông tin minh bạch, không thiên kiến. Nhưng với những người còn phải nhận phúc lợi xã hội, những hứa hẹn này không có gì là an ủi. 

Nhiều người nói rằng họ không muốn thành phố sử dụng thuật toán để đánh giá những người vốn đã dễ bị tổn thương. "Có gì thì cứ để một con người gọi điện và nói chuyện với tôi, chứ đừng làm vậy" - Ceelie nói.

Thay vì nhìn tất cả đều là đối tượng tình nghi, giải pháp căn cơ hơn là chính quyền hỗ trợ mạnh mẽ hơn để nhiều người thoát khỏi cảnh phải nhận trợ cấp xã hội. Bởi như nhiều người được Wired tiếp cận cho hay, họ rất muốn tự làm việc kiếm tiền, nhưng hoàn cảnh chưa cho phép. Và những hoàn cảnh không ai giống ai đó đã từng được máy tính đánh giá đơn giản chỉ là những con số, 1 hoặc 0.

Hơn nữa, đơn giản hóa cuộc đời con người thành các con số chưa bao giờ hiệu quả. Năm 2021, chính phủ của Thủ tướng Mark Rutte phải từ chức toàn bộ sau khi cáo buộc hơn 26.000 gia đình lừa đảo tiền trợ cấp chăm sóc trẻ em và bắt 10.000 hộ phải trả lại hàng chục ngàn euro tiền trợ cấp đã nhận từ 2012. Các cáo buộc sai này đã khiến nhiều gia đình tan nát và khánh kiệt về tài chính. 

Cũng từ việc dùng thuật toán mà ra.