Nhân vật AI khai thác lòng thương cảm của người cao tuổi
Trên các nền tảng video ngắn tại Trung Quốc, những nhân vật nam sinh do trí tuệ nhân tạo (AI) tạo ra đang thu hút sự chú ý của đông đảo phụ nữ trung niên và cao tuổi.
Với ngoại hình trẻ trung, giọng nói gần gũi và những câu chuyện bi thương, các nhân vật này gọi người xem là “các cô, các mẹ”, tạo cảm giác thân thiết, rồi dẫn dắt họ mua các sản phẩm giá cao.
Một trong những nhân vật nổi bật là “Tiểu Hải”, với các chủ đề liên quan đạt hơn 600 triệu lượt xem. Trong các video, cậu thường kể về hoàn cảnh khó khăn, thiếu thốn tình cảm và mong muốn được những người phụ nữ lớn tuổi quan tâm.
Cách xưng hô thân mật cùng những lời tâm sự dễ khơi gợi lòng thương cảm, khiến người xem có cảm giác đang chăm sóc một người con, người cháu ngoài đời thực.
Tiểu Hải xuất hiện sau khi một nhân vật AI khác mang tên “Vương Kiến Quốc” bị gỡ bỏ. Nhân vật trước đó thường gọi người xem là “chị”, còn Tiểu Hải chuyển sang cách gọi “các cô, các mẹ”.
Sau khi một số tài khoản bị xử lý, nhiều tài khoản có nội dung tương tự tiếp tục xuất hiện.
Đằng sau những câu chuyện cảm động là hoạt động bán hàng. Các video gắn đường dẫn đến gian hàng thương mại điện tử, nơi người xem có thể mua sản phẩm được giới thiệu.
Một số mặt hàng có giá cao hơn so với mức giá thị trường, trong khi mức hoa hồng dành cho người bán được cho là lên tới 52-55%.
Một người trong ngành nói với tờ Beijing News rằng, những người sử dụng các câu lệnh AI được công khai trên mạng để sản xuất video Tiểu Hải có thể kiếm 2.000-3.000 NDT (khoảng 7,7-11,6 triệu đồng) mỗi ngày.
Không ít người xem bị cuốn vào mối quan hệ tình cảm với nhân vật ảo mà không nhận ra nội dung được tạo bằng công nghệ.
Trong phần bình luận, nhiều người bày tỏ tình cảm như dành cho con cháu trong gia đình: “Vì sao cháu chỉ ăn bánh bao? Đáng thương quá"; "Con trai yêu quý, mẹ đã đặt mua 4 món. Mẹ yêu con"...
Bà Vương Hồng Mai, 79 tuổi, sống một mình và không biết chữ, từng dự định đến Sơn Tây sau khi nhận lời mời của Tiểu Hải về việc cùng đi ngắm hoa, hái nấm. Cảnh sát đường sắt đã giải thích rằng Tiểu Hải không phải người thật, sau đó gia đình đưa bà trở về.
Theo chuyên gia tâm lý, các nhân vật AI này đánh vào nhu cầu được quan tâm, sự cô đơn và bản năng chăm sóc của người lớn tuổi. Khi cảm xúc được khơi gợi liên tục, người xem có thể khó phân biệt giữa sự thân thiết được dàn dựng trên mạng và một mối quan hệ có thật, từ đó dễ tin tưởng lời giới thiệu sản phẩm.
Ai phải chịu trách nhiệm về những "đứa con AI"?
Vấn đề đáng lo ngại là công nghệ tạo video ngày càng dễ tiếp cận. Một video về nhân vật Tiểu Hải có thể được tạo ra trong hơn 10 phút. Sau một ngày đăng tải trên hai nền tảng, video thu hút hơn 4.000 lượt xem, hơn 200 lượt thích và hơn 60 người theo dõi mới tự xưng là “các cô, các mẹ”.
Trung Quốc đã triển khai quy định về gắn nhãn nội dung do AI tạo ra từ ngày 1.9.2025. Tuy nhiên, việc thực thi và phát hiện các tài khoản dùng nhân vật ảo để dẫn dụ người xem vẫn là thách thức.
Luật sư Lý Tùng cho biết, tùy theo tính chất và mức độ vi phạm, người vận hành những tài khoản này có thể phải chịu trách nhiệm dân sự, hành chính, thậm chí hình sự. Nếu nội dung được sử dụng để lừa đảo hoặc gây thiệt hại cho người khác, trách nhiệm pháp lý sẽ được xem xét dựa trên hành vi cụ thể và chứng cứ liên quan.
Các nền tảng cũng có thể phải chịu trách nhiệm nếu biết hoặc đáng lẽ phải biết nội dung vi phạm nhưng không có biện pháp xử lý phù hợp. Vì vậy, việc kiểm soát không chỉ dừng ở yêu cầu gắn nhãn AI, mà còn cần phát hiện những tài khoản dùng nhân vật ảo để thao túng cảm xúc, quảng cáo sai lệch hoặc trục lợi từ nhóm người dùng dễ bị tổn thương.
Sự phổ biến của “đứa con AI” cho thấy ranh giới giữa nội dung giải trí, tiếp thị và thao túng cảm xúc ngày càng khó nhận biết. Khi một nhân vật không có thật có thể tạo dựng sự thân thiết chỉ trong vài phút, người dùng cần thận trọng trước những lời tâm sự và lời mời mua hàng trên mạng.
