Phương tiện truyền thông tổng hợp (hoặc do AI tạo ra) đã sẵn sàng để biến đổi ngành quảng cáo toàn cầu. Nó loại bỏ sự phụ thuộc truyền thống vào thiết bị quay quảng cáo và đội ngũ làm phim tốn kém. Tuy nhiên, ngay cả khi công nghệ thời đại mới hứa hẹn rất nhiều cho các nhà quảng cáo, một số lo ngại cơ bản xung quanh việc sử dụng nó để thao túng lòng tin của người tiêu dùng và xâm phạm sự an toàn của người tiêu dùng vẫn chưa được giải quyết về mặt khu vực pháp lý. Đây đang là vấn đề khó giải quyết ở Ấn Độ. Bài viết này tìm hiểu vấn đề này trong bối cảnh chiến dịch ‘NotJustACadburyAd’ của Cadbury và đề xuất một số biện pháp giải quyết.

Ngân hàng trên hình đại diện kỹ thuật số của SRK

Để giúp hồi sinh các doanh nghiệp địa phương trên khắp Ấn Độ, trong thời gian diễn ra lễ Diwali, Cadbury đã khởi động chiến dịch 'NotJustACadburyAd' vào tháng 11 năm 2021. Chiến dịch này dựa trên tính cách đặc trưng của Shah Rukh Khan (SRK), bao gồm các đặc điểm khuôn mặt và giọng nói của ông, để giúp các doanh nghiệp địa phương quảng bá cửa hàng và thúc giục người tiêu dùng mua sản phẩm. Chiến dịch đã cung cấp cho các doanh nghiệp địa phương cơ hội 'tạo quảng cáo của riêng họ' hoặc tự tạo quảng cáo tùy chỉnh cho các sản phẩm của họ. Các chủ cửa hàng địa phương chỉ cần nhập một số chi tiết như tên cửa hàng, mã pin và danh mục sản phẩm cần bán để tạo quảng cáo bằng cách sử dụng trang web của Cadbury. Họ rất vui mừng, không mất thời gian và miễn phí, chủ cửa hàng sẽ nhận được một quảng cáo tùy chỉnh cho cửa hàng của họ qua WhatsApp, với khả năng chia sẻ nó rộng rãi trên các nền tảng truyền thông xã hội.

Rephrase.ai đã sử dụng một số phiên bản quảng cáo do SRK quay trong chiến dịch này cho từng danh mục sản phẩm như giày dép, thời trang, cửa hàng tạp hóa và đồ điện tử, để đào tạo mô hình AI của mình. Sử dụng mạng nơ-ron sâu và tạo ra công nghệ AI, công ty khởi nghiệp đã tạo ra các hình đại diện kỹ thuật số có thể tùy chỉnh của SRK trông giống như thật. Những quảng cáo siêu cá nhân hóa này đã được chia sẻ trên các nền tảng truyền thông xã hội, bao gồm cả YouTube, nhắm mục tiêu đến người tiêu dùng trong và xung quanh cửa hàng để quảng bá các cửa hàng này tại địa phương. Một số quảng cáo tự tạo này như một phần của chiến dịch vẫn có sẵn trên YouTube và đang lưu hành trên WhatsApp.

Liệu có thể tin những gì chúng ta nhìn thấy?

Khi quan sát kỹ các quảng cáo được tạo trong chiến dịch này, chúng ta không tìm thấy hình đại diện kỹ thuật số của SRK mô tả chất lượng của bất kỳ sản phẩm nào. Tuy nhiên, lượng người hâm mộ khổng lồ theo dõi SRK và liên kết ngôi sao với sự tin tưởng, chất lượng và uy tín, và đó cũng là lý do chính đáng để Cadbury chọn SRK làm người “đóng vai chính” và sử dụng hình ảnh của SRK làm hình đại diện kỹ thuật số để tận dụng thiện chí của SRK cho chiến dịch. Người tiêu dùng xem chiến dịch có nhiều khả năng tin rằng các sản phẩm được quảng cáo là thuộc một “tiêu chuẩn cụ thể” và có sự “chấp thuận” của SRK, và có nguy cơ bị lừa mua các sản phẩm chất lượng thấp mà SRK chưa từng được sử dụng hoặc trải nghiệm, đơn giản là vì cách thức và tốc độ tạo ra những quảng cáo này quá nhanh. Hơn nữa, các phiên bản ngắn hơn của quảng cáo do Cadbury chia sẻ và các phiên bản được chia sẻ với chủ cửa hàng qua WhatsApp hoặc YouTube không có bất kỳ tuyên bố từ chối trách nhiệm nào nói rằng quảng cáo được tự động tạo ra từ các phương tiện tổng hợp.

Ngoài ra, trang web đăng ký không yêu cầu các doanh nghiệp nhỏ phải tự xác nhận tính chính xác của thông tin do họ cung cấp và đảm bảo rằng sản phẩm của họ tuân thủ tiêu chuẩn chất lượng cụ thể. Một trong những blog trên nền tảng của Rephrase.ai, “Video được cá nhân hóa từ những người nổi tiếng - Xem Tiếp thị kỹ thuật số thế hệ tiếp theo” đề cập rằng nó có một nhóm lọc các mục để tránh tạo video mà người nổi tiếng có thể không chấp thuận. Tuy nhiên, thật đáng nghi ngờ nếu thông tin được cung cấp trong quá trình đăng ký được sử dụng để xác minh chất lượng sản phẩm bởi các nhà phát triển quảng cáo tại phần phụ trợ. Điều này có nghĩa là, rất có thể, không có bên nào tham gia vào quy trình, đã đánh giá hoặc chứng nhận chất lượng của các sản phẩm đang được quảng cáo trên các nền tảng truyền thông xã hội.

Các nhà phát triển chiến dịch có thể cảm thấy rằng họ có thể kiểm soát việc lạm dụng chiến dịch nhưng một khi các công nghệ lừa đảo bị buông lỏng quản lý, việc kiểm soát chúng sẽ trở nên khó khăn. Ví dụ, Lallan Shoes đã xóa logo Cadbury khỏi quảng cáo của họ. Trường hợp này làm dấy lên lo ngại về lòng tin của người tiêu dùng, cũng như vấn đề đặc điểm nhận diện, cá tính, bản quyền và các quyền sở hữu trí tuệ khác. Vụ bê bối khét tiếng của Nike năm 2001 đã chứng minh rằng, việc trao quyền kiểm soát cho người dùng có thể gây ra rắc rối cho bất kỳ thương hiệu nào. Nike đã phải hủy yêu cầu cá nhân hóa của Jonah Peretti đối với đôi giày của anh, vì anh ấy đã yêu cầu in chữ “cửa hàng bán mồ hôi nước mắt” lên trên giày để thu hút sự chú ý của người tiêu dùng về điều kiện làm việc tồi tệ trong các công xưởng của Nike.

Con đường phía trước

Ngay cả khi Cadbury và Rephrase.ai có thể có ý định cao cả với chiến dịch và nhiều doanh nghiệp địa phương có thể đã hưởng lợi từ nó, không thể phủ nhận rằng sự tin tưởng và an toàn của người tiêu dùng là điều kiện cần lưu ý. Chiến dịch đã thúc đẩy việc sử dụng phương tiện truyền thông tổng hợp một cách phi đạo đức, làm lộ ra những lỗ hổng nghiêm trọng trong các khuôn khổ lập pháp trong việc quản lý quá trình bảo vệ người tiêu dùng ở Ấn Độ. Mặc dù việc sử dụng các phương tiện tổng hợp đã có từ năm 2017, nhưng Đạo luật Bảo vệ Người tiêu dùng 2019 (Đạo luật CP 2019) không cung cấp bất kỳ cơ chế giải trình trách nhiệm và khiếu nại nào cho người tiêu dùng nếu họ bị lừa mua và chịu tổn hại từ sản phẩm được bán bởi một hình đại diện kỹ thuật số. Các biện pháp bảo vệ này thậm chí còn trở nên quan trọng hơn vì có nhiều tác nhân tham gia vào việc tạo ra các quảng cáo tổng hợp và cùng chịu trách nhiệm pháp lý đối với thiệt hại do sử dụng công nghệ trái đạo đức, đồng thời không thể dễ dàng áp dụng các nguyên tắc chung về trách nhiệm dân sự hoặc hình sự cho những trường hợp này. Cần tạo ra ngay các biện pháp an toàn và các biện pháp phòng ngừa để bảo đảm lợi ích cho người tiêu dùng, nhất là trong bối cảnh ngày càng có nhiều đầu tư vào các phương tiện tổng hợp.

Cơ quan bảo vệ người tiêu dùng trung ương, thuộc Chính phủ Ấn Độ, đã đưa ra nguyên tắc để ngăn chặn quảng cáo gây hiểu lầm và xác nhận quảng cáo. Năm 2020, trong Đạo luật CP, các nhà quảng cáo phải nêu rõ trách nhiệm của họ ngay từ đầu nếu sử dụng các công cụ tổng hợp tự động tạo ra quảng cáo. Tuyên bố từ chối trách nhiệm, trong trường hợp này, cực kỳ quan trọng vì tính chính xác của nội dung trong mỗi quảng cáo đang là câu hỏi chưa có kiểm chứng, và có thể tiếp cận vô số người sử dụng truyền thông xã hội. Đạo luật Bảo vệ người dân khỏi quảng cáo sai trái được lấy ý tưởng từ Đạo luật trách nhiệm giải trình (Đạo luật trách nhiệm giải trình DEEP FAKES), được đưa ra tại Quốc hội Mỹ vào năm 2019. Đạo luật này cũng yêu cầu những người tạo ra sản phẩm truyền thông bằng công cụ tự động tổng hợp, hoặc công nghệ sửa đổi video sâu (deep video) để trộn hình ảnh với lời nói, phải đưa ra tuyên bố công khai bằng văn bản mô tả mức độ họ sử dụng công nghệ cho việc tạo ra video sâu. Tài liệu của Liên minh Châu Âu phát hành năm 2021, Đặt ra các Quy tắc hài hòa về Trí tuệ Nhân tạo (Đạo luật AI) và Sửa đổi một số Đạo luật Lập pháp của Liên minh châu Âu, cũng nêu rõ theo Điều 52, “Người dùng hệ thống AI tạo hoặc điều khiển nội dung hình ảnh, âm thanh hoặc video mô phỏng tương tự những người, đồ vật, địa điểm hiện có hoặc các thực thể hoặc sự kiện khác và có vẻ như giả mạo (deep fake), phải công khai rằng nội dung đó được tạo ra từ công cụ tự động và nội dung đó là giả”.

Các phương tiện truyền thông xã hội cũng phải hạn chế chia sẻ các nội dung do máy tự tổng hợp mà không tuyên bố miễn trừ trách nhiệm. Meta, công ty mẹ của Facebook, đã cập nhật chính sách vào năm 2020, tuyên bố rằng, họ sẽ xóa nội dung có thể "đánh lừa những người nghĩ rằng chủ thể trong video nói những từ mà thật ra họ không nói". Tuy nhiên, Facebook lại cho phép những quảng cáo kiểu này chạy trên nền tảng Facebook. Những đề xuất này rất quan trọng để duy trì lòng tin của người tiêu dùng đối với nội dung xác thực được chia sẻ trên nền tảng truyền thông xã hội và không góp phần vào sự hoài nghi chung giữa các công dân đối với văn hóa trực tuyến. Mặc dù hình mờ và tuyên bố từ chối trách nhiệm sẽ đảm bảo rằng người tiêu dùng được thông báo và không có ý định gây hiểu lầm cho người tiêu dùng, nhưng nó không thay thế được việc người bán, nhà sản xuất và người xác nhận bảo đảm rằng hàng hóa được quảng cáo đáp ứng các yêu cầu chất lượng và an toàn cần thiết.

Tác giả: Antara Vats, nghiên cứu viên tại Trung tâm An ninh, Chiến lược và Công nghệ của ORF. Nghiên cứu của cô tập trung vào việc phát triển các khuôn khổ quản trị để phát triển đạo đức và triển khai các công nghệ mới nổi như điện toán lượng tử và AI.

Trung tâm Nghiên cứu Ấn Độ

Nguồn: https://www.orfonline.org/expert-speak/moving-into-an-era-of-advertisements-by-digital-avatars/