Người này không tồn tại

HOA KIM 20/4/2022 6:05 GMT+7

TTCT - Trí tuệ nhân tạo (AI) giờ đây có thể nhào nặn ảnh chân dung con người với quy mô hàng loạt và độ thuyết phục cao. Những bức ảnh của những người không tồn tại này bị kẻ xấu lợi dụng để trao “nhân diện” cho các tài khoản ma chuyên gây rối, trục lợi trên không gian ảo.

 
 Những gương mặt này đều là giả. Những chỗ khoanh tròn là điểm bất thường phổ biến trong chân dung do AI tạo ra. (1) Vết mờ của gọng kính. (2) Dái tai bất thường. (3) Mất một bên bông tai. Ảnh: The Times tổng hợp

Việc tạo chân dung giả giờ hiện nay vô cùng đơn giản, muốn bao nhiêu cũng có, đôi khi còn miễn phí. Trang generated.photos rao bán ảnh chân dung giả cam kết “không đụng hàng” với giá 2,99 USD/tấm hoặc 1.000 tấm tính giá sỉ 1.000 USD. Nếu không quan tâm ảnh có bị trùng lặp ở những nơi khác hay không, bất cứ ai đều có thể tải ảnh AI miễn phí từ trang ThisPersonDoesNotExist.com (tên website nghĩa là “người này không tồn tại”), với mỗi lần tải lại trang sẽ sinh ra một tấm ảnh ngẫu nhiên.

Hồ sơ ảo dán hình thẻ giả

Hòm thư LinkedIn của Renée DiResta - nhà nghiên cứu về tin giả tại Đài quan sát Internet Stanford (SIO) ở Mỹ - luôn đầy ắp các tin nhắn đi kèm lời mời kết nối để tạo quan hệ, tuyển dụng hoặc chào bán các giải pháp doanh nghiệp.

Chính vì vậy, tin nhắn của một người tự xưng là Keenan Ramsey thoạt tiên đối với DiResta không có gì bất thường: người này tự giới thiệu có tham gia một cộng đồng doanh nhân trên LinkedIn mà DiResta cũng là thành viên, trước khi lái câu chuyện đến phần chào bán phần mềm. DiResta hoàn toàn không có hứng thú và đã định phớt lờ tin nhắn của người xa lạ, nhưng có điều gì đó trong tấm ảnh đại diện của Ramsey khiến cô khựng lại. Ramsey chỉ đeo khuyên tai một bên, mái tóc có vài chỗ bỗng nhiên biến mất rồi xuất hiện trở lại, và đôi mắt của bức chân dung nằm trên một trục ngang chia đôi tấm hình vuông vức theo một tỉ lệ hoàn hảo…

“Ấn tượng của tôi đối với gương mặt này là nó trông rất giả” - DiResta nói với Đài NPR. Với cặp mắt của một người dày dặn kinh nghiệm nghiên cứu các chiến dịch tin giả và thuyết âm mưu chống vắc xin trong công việc thường ngày, DiResta nhận ra những chi tiết tưởng chừng nhỏ nhặt kia là những đặc điểm không thể lẫn vào đâu của một bức hình do AI tạo ra chứ không phải ảnh chụp người thật. Tin nhắn tình cờ của Ramsey đã thôi thúc DiResta và đồng nghiệp tại SIO vào cuộc điều tra để rồi cuối cùng khám phá ra hơn 1.000 hồ sơ LinkedIn ảo có “hình thẻ” là ảnh chân dung do AI tạo ra.

Tài khoản mạng xã hội “nhân bản vô tính” từ lâu đã được sử dụng tràn lan để phát tán tin giả, quấy rối, điều hướng dư luận hoặc phục vụ mục đích chính trị trên các nền tảng có hàng tỉ người dùng. Cuộc đổ bộ của những gương mặt giả vào LinkedIn - vốn được thiết kế cho các mối quan hệ công việc - mang một mục đích ít ai ngờ tới: tăng doanh số bán hàng cho các công ty, theo NPR. Các tài khoản ảo như của Keenan Ramsey được tung ra để tiếp cận càng nhiều khách hàng tiềm năng càng tốt, rồi những ai tỏ ra hứng thú sẽ được kết nối với một nhân viên bán hàng thật để “chốt đơn”.

Đây có thể xem như một dạng biến tướng của tiếp thị qua điện thoại trong thời đại kỹ thuật số, trong bối cảnh nhu cầu về tiếp thị trực tuyến bùng nổ trong thời gian đại dịch. Cách làm này giúp các công ty bành trướng mạng lưới bán hàng mà không cần tuyển thêm nhân viên, cũng như lách được giới hạn số lượng tin nhắn có thể gửi trên một tài khoản - một biện pháp được LinkedIn áp dụng để hạn chế tin nhắn rác.

Hơn 70 doanh nghiệp thuộc nhiều lĩnh vực được các tài khoản giả này khai báo là nơi họ làm việc, theo tổng hợp của nhóm nghiên cứu tại SIO. Trong số đó, một số công ty được NPR liên hệ thừa nhận có thuê bên thứ 3 để giúp tăng doanh số bán hàng nhưng khẳng định chưa từng đồng ý đối với việc sử dụng hình ảnh do máy tính tạo ra.

Nhiều công ty tỏ ra vô cùng bất ngờ khi được hỏi về vấn đề này. “Những bức ảnh đại diện trên LinkedIn do máy tính tạo ra này cho thấy công nghệ vốn được sử dụng để tuyên truyền thông tin sai lệch và quấy rối trên mạng nay đã xâm nhập vào thế giới doanh nghiệp” - nhà báo Shannon Bond của NPR bình luận.

Nhưng có những điểm khác thường trong bức ảnh: chiếc bông tai độc nhất, mái tóc thoắt ẩn thoắt hiện, vị trí đôi mắt được sắp đặt hoàn hảo cùng phần hậu cảnh được làm mờ quá mức. Mỗi chi tiết này nếu đứng một mình có thể có cách lý giải hợp lý của riêng nó, nhưng xuất hiện cùng nhau là bằng chứng không thể chối cãi tố giác một bức chân dung không có thật. “Vị trí của các đặc điểm này là thứ mà nếu bạn đã nhìn thấy đủ lần (trên những gương mặt AI), bạn sẽ trở nên quen thuộc với nó” – DiResta giải thích trực giác của mình.

 

“Như ai đó ta quen”

Đứng ở góc độ kinh doanh, việc tạo tài khoản giả với khuôn mặt do máy tính tạo ra có ưu điểm lớn là chi phí rẻ hơn so với thuê người thật sử dụng tài khoản thật, nhất là khi những hình chân dung AI ngày càng thuyết phục đến mức không thể phân biệt bằng mắt thường.

Một nghiên cứu của nhóm tác giả đến từ Đại học Lancaster (Anh) và Đại học California, Berkeley (Mỹ) đăng trên kỷ yếu của Viện hàn lâm Khoa học quốc gia Hoa Kỳ (PNAS) ngày 14-2 cho thấy một người trung bình chỉ có 50% xác suất nhận định chính xác một khuôn mặt có phải được tạo ra bởi máy tính hay không - tỉ lệ đoán trúng không khác gì tung đồng xu may rủi.

“Nếu bạn hỏi một người bình thường trên Internet rằng đây là người thật hay do AI tổng hợp ra, thì về cơ bản họ chỉ có thể đoán mò” - Hany Farid, đồng tác giả nghiên cứu, nhấn mạnh. Nghiên cứu cũng cho thấy chúng ta có xu hướng tin tưởng những khuôn mặt do máy tính tạo ra hơn so với mặt người thật, một phần là do phần mềm AI ưu tiên các đặc điểm trung bình và không quá nổi bật khi lựa chọn chi tiết để đắp vào khuôn mặt giả. “Gương mặt AI có vẻ đáng tin cậy bởi vì nó quen thuộc. Nó trông giống như ai đó ta quen” - Farid lý giải.

Sau khi nhóm nghiên cứu SIO cảnh báo với LinkedIn về những tài khoản giả, nền tảng này cho biết họ đã điều tra và xóa các tài khoản vi phạm. “Các chính sách của chúng tôi nêu rõ rằng mọi hồ sơ LinkedIn phải đại diện cho một người thật” - NPR dẫn lời người phát ngôn LinkedIn Leonna Spilman.

 
 Một hồ sơ LinkedIn dùng ảnh thẻ và thông tin lý lịch giả.

Dịch vụ trọn gói

So với các mô hình bán hàng B2B (doanh nghiệp với doanh nghiệp) truyền thống trong đó đối tác gặp gỡ nhau tại các hội nghị, hẹn ăn tối bàn chuyện công việc và phát triển một mối quan hệ cá nhân, ngày càng nhiều công ty đang tìm cách chuyển đổi quy trình này sang hình thức trực tuyến, theo Hee Gun Eom, CEO của công ty chuyên về tự động hóa tiếp thị qua email Salezilla.

Một công ty tên Renova Digital thậm chí quảng cáo trên trang web của mình gói “ProHunter”, bao gồm 2 tài khoản LinkedIn “có ảnh đại diện và thông tin thương hiệu đầy đủ” với khả năng nhắn tin không giới hạn, cho những khách hàng sẵn sàng chi 1.300 USD/tháng. Công ty này đã gỡ mô tả cũng như bảng giá các dịch vụ khỏi trang web sau khi được NPR liên hệ.

Nhà sáng lập Renova Digital Philip Foti trả lời qua email rằng công ty ông từng thí điểm sử dụng ảnh chân dung do AI tạo ra trong quá khứ nhưng hiện đã chấm dứt. “Chúng tôi quyết định rằng (việc sử dụng hình ảnh AI) không phù hợp với các giá trị của chúng tôi và không đáng so với lợi ích tiếp thị mà nó mang lại” - Foti khẳng định.

Ngoài việc gỡ bỏ hầu hết các tài khoản giả được nhóm nghiên cứu SIO phát hiện, LinkedIn cũng đã mạnh tay xóa trang doanh nghiệp của 2 công ty tiếp thị được cho là đứng đằng sau các tài khoản này: Công ty LIA có trụ sở tại Delhi (Ấn Độ) và Vendisys có trụ sở tại San Francisco (Mỹ). Với 300 USD/tháng, khách hàng của LIA có thể chọn một “hình đại diện do AI tạo ra” trong số hàng trăm hình “sẵn sàng để sử dụng”, theo lời quảng cáo trên trang web của LIA. Trang này sau đó đã gỡ sạch tất cả thông tin, và đại diện công ty cũng không phản hồi các câu hỏi được gửi đến. CEO Vendisys Erik Paulson cũng từ chối bình luận về vụ việc.

Dù việc sử dụng hình ảnh giả do máy tính tạo ra để bán hàng không còn mới, sự lan rộng của công nghệ này khiến các chuyên gia pháp y kỹ thuật số như Farid lo ngại. Khi trí thông minh nhân tạo ngày càng tiến bộ, ông và nhiều nhà nghiên cứu khác dự báo việc phát hiện hình ảnh do máy tính tạo ra bằng mắt thường sẽ càng trở nên khó khăn hơn, đó là chưa kể đến khả năng làm giả cả âm thanh và video ngày càng tinh vi.

Năm 2019, một doanh nhân ngành năng lượng ở Anh đã chuyển 185.000 bảng Anh cho “một nhà cung cấp Hungary”, sau khi nghe điện thoại của tổng giám đốc. Cú điện thoại đó hóa ra là giả - bọn lừa đảo đã bằng cách nào đó dùng AI giả giọng người sếp giống đến mức đủ đánh lừa cấp dưới. “Nhân loại đang trải qua một thời kỳ mới: Thời thấy không có nghĩa là đáng tin và nghe thì càng không thể tin” - Jevin West, giáo sư Đại học Washington, nhận xét.■

Hơn 1.000 tài khoản LinkedIn được cho là dùng chân dung giả do GAN, viết tắt của generative adversarial network (mạng đối nghịch tạo sinh), tạo ra. Nguyên lý của GAN là sử dụng 2 AI - một tạo ra ảnh và một để phân tích ảnh đó là người thật hay do máy tạo - và cho chúng “đấu” nhau đến khi hoàn thiện khả năng tạo ra những tấm ảnh chân thật đến mức không thể phân biệt. Dù mới chỉ xuất hiện từ năm 2014, công nghệ mã nguồn mở này đã nhanh chóng tự cải thiện khả năng tạo ra những khuôn mặt giống thật như đúc bằng cách dung nạp bộ dữ liệu cực lớn về ảnh chân dung người thật. GAN còn cho phép người dùng tùy chỉnh các thông số tác động đến kết quả cuối cùng như tuổi tác, giới tính, sắc tộc hay thậm chí là độ “tươi” của nụ cười công nghiệp trên gương mặt nhân tạo.

Bình luận
    Viết bình luận...