Dù muốn hay không, AI đang tích cực định hình lại thế giới. Tuy nhiên, không phải tất cả đều tiêu cực. Công nghệ này mang lại nhiều lợi ích hữu hình, có tiềm năng cải thiện các khía cạnh khác nhau trong cuộc sống hàng ngày. Các công ty sử dụng AI để giảm ùn tắc giao thông tại các giao lộ đông đúc, trong khi công nghệ này cũng cho thấy triển vọng trong việc chẩn đoán bệnh trước khi các triệu chứng xuất hiện. Ở cấp độ cá nhân, AI có thể được dùng để dịch thuật thời gian thực, viết mã, tự động hóa các tác vụ lặp đi lặp lại, học các chủ đề phức tạp và cho các ứng dụng sáng tạo như tạo video và hình ảnh. Tuy nhiên, khả năng tạo hình ảnh/video này lại là con dao hai lưỡi.
Icon ứng dụng công nghệ AI trên màn hình điện thoại
Mặc dù AI tạo video và hình ảnh mang đến một phương tiện sáng tạo, tiềm năng công nghệ này bị lạm dụng cũng đặt ra thách thức đáng kể – một thách thức mà Meta dường như đang đối mặt. Hầu hết các ứng dụng AI tạo hình ảnh và video lớn đều có các biện pháp ngăn chặn việc tạo deepfake, đánh cắp tác phẩm của nghệ sĩ khác, tạo nội dung sai lệch, cùng với công cụ watermark để phân biệt nội dung thật và nội dung do AI tạo ra.
Tuy nhiên, ở một khía cạnh khác, có những nền tảng chủ động cung cấp công cụ để tạo hình ảnh AI khỏa thân và/hoặc có nội dung khiêu dâm của người khác mà không có sự đồng thuận của họ. Meta hiện đang mạnh tay xử lý một nền tảng nổi bật như vậy.
Meta tăng cường đối phó với ứng dụng lạm dụng AI
Meta đã đệ đơn kiện Joy Timeline HK Limited, một công ty có trụ sở tại Hồng Kông, đứng sau Crush AI và các ứng dụng “nudify” tương tự. Công ty sản xuất ứng dụng này đã thường xuyên tìm cách lách quy trình xét duyệt quảng cáo của gã khổng lồ công nghệ (theo Engadget). Meta hiện đang thực hiện các bước bổ sung để đảm bảo các quảng cáo như vậy không còn hiển thị trên các nền tảng như Instagram và Facebook.
Vụ kiện “diễn ra sau nhiều lần Joy Timeline HK Limited cố gắng lách quy trình xét duyệt quảng cáo của Meta và tiếp tục chạy các quảng cáo này, sau khi chúng liên tục bị gỡ bỏ vì vi phạm quy định của chúng tôi”, Meta viết trong một thông cáo báo chí mới. Như vậy, mặc dù vụ kiện này có vẻ như nhắm vào việc công ty cho phép người dùng tạo nội dung khiêu dâm từ hình ảnh người khác, về bản chất, đây chủ yếu là vụ kiện nhắm vào hành vi cố tình và lặp đi lặp lại việc Joy Timeline HK Limited lách chính sách quảng cáo của Meta.
Công ty cũng cho biết thêm, trong thời gian tới, khi phát hiện và gỡ bỏ quảng cáo, tài khoản hoặc nội dung quảng bá các ứng dụng vi phạm, họ sẽ chia sẻ thông tin – bắt đầu với URL của các ứng dụng và trang web vi phạm – với các công ty công nghệ khác thông qua chương trình Lantern của Tech Coalition, để họ cũng có thể điều tra và hành động. Meta cũng đang triển khai các biện pháp phòng vệ bổ sung được thiết kế để phát hiện loại quảng cáo này, ngay cả khi nội dung quảng cáo không chứa hình ảnh nhạy cảm.
Bảng quảng cáo về AI tại Las Vegas
Động thái này diễn ra ngay sau khi Hội đồng Giám sát (Oversight Board) – một cơ quan độc lập xem xét các quyết định kiểm duyệt nội dung cho các nền tảng như Facebook và Instagram – chỉ trích Meta vì chưa hành động đủ mạnh để thực thi các quy tắc của chính mình.
Kết luận, vụ kiện chống lại Joy Timeline HK Limited và các biện pháp phòng vệ quảng cáo mới cho thấy nỗ lực gia tăng của Meta trong việc chống lại sự lạm dụng công nghệ AI, đặc biệt là các ứng dụng tạo nội dung nhạy cảm phi đồng thuận, trên các nền tảng của mình. Việc hợp tác và chia sẻ thông tin với ngành công nghệ cũng là bước đi quan trọng để đối phó với thách thức này.
Tài liệu tham khảo:
- https://about.fb.com/news/2025/06/taking-action-against-nudify-apps/
- https://www.engadget.com/social-media/meta-is-cracking-down-on-ai-nudify-apps-100034964.html?src=rss
- https://www.oversightboard.com/decision/fb-o7ai7uax/
- https://about.fb.com/news/2023/11/lantern-program-protecting-children-online/
