Một đoạn video ghi lại cảnh nam diễn viên Bollywood Aamir Khan chế nhạo Đảng Bharatiya Janata (BJP) cầm quyền của Ấn Độ vì không thực hiện lời hứa hàng thập kỷ là gửi 1,5 triệu rupee Ấn Độ (hoặc 18.000 USD) vào tài khoản ngân hàng của mọi công dân Ấn Độ đã lan truyền trong mùa bầu cử này . Giọng nói trong video gần giống giọng của Khan và video kết thúc bằng lời kêu gọi cử tri ủng hộ đảng Quốc đại đối lập. Ngày hôm sau, Khan bác bỏ đoạn video là "giả mạo và hoàn toàn sai sự thật".

Hóa ra video đã được chỉnh sửa bằng trí tuệ nhân tạo (AI) sử dụng công nghệ âm thanh deepfake.

Có vẻ như các nhà sản xuất video đang tìm cách kiếm tiền từ sự nổi tiếng của Khan để thu hút phiếu bầu và chuyển sang công nghệ AI để giả giọng nói của anh ấy. Đây chỉ là một ví dụ về cách AI đang được sử dụng trong cuộc tổng tuyển cử lần thứ 18 đang diễn ra ở Ấn Độ.

Đây không phải là lần đầu tiên thế giới chính trị Ấn Độ chứng kiến việc triển khai AI để truyền tải thông điệp. Công nghệ như vậy đã được sử dụng trong hơn một thập kỷ và BJP luôn đi đầu trong việc tận dụng các công cụ kỹ thuật số.

Trong cuộc tổng tuyển cử ở Ấn Độ năm 2014, BJP đã sử dụng các công cụ do AI điều khiển để nhắm mục tiêu đến cử tri bằng các thông điệp được cá nhân hóa, tạo tiền lệ cho việc tích hợp công nghệ vào các chiến lược chính trị.

Patarlapati Nagaraju từ Đại học Osmania, Ấn Độ nhận xét: “Kể từ đó, AI đã xâm nhập sâu rộng, ảnh hưởng đến cách tiến hành các chiến dịch và cuộc bầu cử”.

Ấn Độ đã chứng kiến ​​việc sử dụng video deepfake lần đầu tiên được biết đến là trong cuộc bầu cử Hội đồng Lập pháp Delhi vào tháng 2 năm 2020. Hai video bị thao túng có sự góp mặt của Manoj Tiwari, chủ tịch lúc bấy giờ của đơn vị BJP's Delhi. Trong một lần, người ta thấy ông nói chuyện bằng tiếng Anh và trong một lần khác, ở Haryanvi, để kết nối với một nhóm cử tri cụ thể. Mặc dù BJP tìm cách biện minh cho hành động của mình bằng cách nói rằng họ đã sử dụng công nghệ AI một cách tích cực để truyền đạt thông điệp của lãnh đạo BJP chứ không phải để chế giễu đối thủ, nhưng các video đã gây ra cuộc thảo luận sôi nổi khi họ nêu lên mối lo ngại về khả năng sử dụng và lạm dụng AI để tạo ra thông tin sai lệch và thao túng trong các chiến dịch chính trị.

Giá trị của công nghệ AI trong giao tiếp và tiếp cận các nhóm dân cư đa dạng đã được nhấn mạnh trong sự kiện Kashi Tamil Sangamam ở Varanasi. Tại lễ nhậm chức vào ngày 17 tháng 12 năm 2023, Thủ tướng Narendra Modi đã lên sân khấu. Khi ông đọc bài phát biểu khai mạc, giọng nói quen thuộc với nhiều người của ông bắt đầu vang vọng trong đám đông.

Ngay khi ông ấy nói, một công cụ dịch thuật dựa trên AI có tên “Bhashini” đang âm thầm hoạt động. Lần đầu tiên, bài phát biểu của ông Modi bằng tiếng Hindi được dịch sang tiếng Tamil theo thời gian thực. Chiến công đáng chú ý này không chỉ thu hẹp khoảng cách ngôn ngữ mà còn đánh dấu bước nhảy vọt về năng lực công nghệ của Ấn Độ, cho thấy tiềm năng của AI trong việc thúc đẩy giao tiếp đa văn hóa.

Bài phát biểu đã được dịch sau đó được phát trên các nền tảng mạng xã hội, tiếp cận hàng nghìn người không nói tiếng Hindi, những người chưa bao giờ nghe thủ tướng nói ngôn ngữ của họ trước đây.

Đó chỉ là sự khởi đầu. Kể từ đó, không chỉ bằng tiếng Tamil, các bài phát biểu của ông Modi còn được dịch sang tiếng Kannada, tiếng Bengali, tiếng Telugu, tiếng Punjabi, tiếng Marathi, Odia và tiếng Malayalam bằng AI.

Việc sử dụng Bhashini tại sự kiện Varanasi là tiền thân cho việc các nhà lãnh đạo chính trị sử dụng công nghệ để đưa thông điệp của họ đến được với nhiều đối tượng khán giả Ấn Độ, phá bỏ rào cản ngôn ngữ và đảm bảo tính toàn diện trong giao tiếp. Nó gợi lên những phản ứng trái chiều.

Trong khi nhiều người hoan nghênh nỗ lực của BJP trong việc kết nối với người dân ở các khu vực khác nhau, những người khác lại nêu lên mối lo ngại về tính xác thực của bản dịch và khả năng hiểu sai.

Nếu cuộc tổng tuyển cử năm 2019 ở Ấn Độ được mệnh danh là “cuộc bầu cử trên mạng xã hội” do tất cả các đảng sử dụng rộng rãi nền tảng mạng xã hội để vận động bầu cử thì cuộc tổng tuyển cử đang diễn ra ở Ấn Độ đang chứng kiến sự nổi lên của AI như một công cụ then chốt trong chiến lược chính trị.

Kéo dài hơn sáu tuần và bảy giai đoạn, cuộc tổng tuyển cử ở Ấn Độ sẽ chứng kiến số lượng cử tri lớn nhất trên thế giới đến thực hiện quyền bầu cử của họ. Thêm vào những thách thức về mặt hậu cần khi tiến hành một cuộc bầu cử cho một lượng cử tri đông đảo như vậy là chi phí liên quan. Trong cuộc bầu cử năm 2019, ước tính Ủy ban bầu cử, các đảng chính trị và ứng cử viên đã chi khoảng 7 tỷ USD. Cuộc bầu cử năm 2024 dự kiến sẽ còn tốn kém hơn nữa.

Vinay Deshpande, giám đốc sản phẩm của Rajneethi, một trong những tổ chức tư vấn quản lý chính trị hàng đầu Ấn Độ, nói rằng: “Việc mở rộng quy mô sản xuất nội dung và chuyển hướng sang phổ biến kỹ thuật số làm nổi bật sự thay đổi mang tính chuyển đổi trong cách truyền tải thông điệp chính trị, đặc biệt là với sự gia tăng nhanh chóng về mức tiêu thụ nội dung chính trị ở các hộ gia đình ở nông thôn".

“Sự thay đổi này nhấn mạnh tầm quan trọng của các câu chuyện kỹ thuật số so với các cuộc biểu tình truyền thống, đánh dấu một kỷ nguyên mới trong chiến lược bầu cử”.

AI được kỳ vọng sẽ góp phần đáng kể vào việc hợp lý hóa quy trình bầu cử và làm cho nó hiệu quả hơn.

Theo Sagar Vishnoi, một nhà vận động chính trị và chuyên gia truyền thông người Ấn Độ, “Một trong những lợi ích chính của việc tích hợp AI vào các chiến dịch bầu cử” là nó sẽ “giảm đáng kể chi phí, tiết kiệm thời gian và nâng cao hiệu quả cũng như năng suất tổng thể”.

“Theo truyền thống, các đảng chính trị dựa vào các trung tâm cuộc gọi do nhân viên và tình nguyện viên điều hành hoặc sử dụng hệ thống IVR [phản hồi bằng giọng nói tương tác] để tiếp cận. Với AI, những chi phí này có thể giảm tới 50 lần, mang lại giải pháp tiết kiệm chi phí hơn cho việc liên lạc và tương tác với cử tri”.

Với sự tích hợp của AI, các đảng phái chính trị và chính phủ sẽ có thể “tăng tốc đáng kể” “tốc độ tiến hành khảo sát, những gì truyền thống phải mất hàng tháng để hoàn thành giờ đây có thể được hoàn thành trong vòng một ngày”.

Theo Deshpande, việc sử dụng AI trong chính trị Ấn Độ “đã mang lại cả sự tiết kiệm và gia tăng chi phí. Nó đã tạo điều kiện cho sự gia tăng đáng kể trong sản xuất nội dung số, lên tới gấp 20 lần mà không cần mở rộng lực lượng lao động. Tuy nhiên, hiệu quả này không chuyển thành giảm chi phí. Thay vào đó, ngày càng có nhiều khoản đầu tư vào công nghệ để đáp ứng nhu cầu về nội dung số tiên tiến hơn. Do đó, trong khi AI hợp lý hóa các quy trình nhất định, nó cũng làm tăng chi phí công nghệ, tiêu tốn phần lớn ngân sách của các bên”.

Khi được sử dụng một cách thích hợp, AI có khả năng thu thập nhanh chóng phản hồi từ rất nhiều người, từ hàng triệu đến hàng chục triệu và hiển thị kết quả theo thời gian thực trên bảng điều khiển cho mục đích phân tích. Hiệu quả này vượt ra ngoài các cuộc khảo sát; AI cũng có thể được sử dụng để phân tích tình cảm, quy trình tuyển dụng và lựa chọn cũng như hỗ trợ các nhà lãnh đạo chính trị ở nhiều năng lực khác nhau.

Ở Ấn Độ, mối quan tâm lớn về AI liên quan đến mối đe dọa từ các video giả mạo sâu sắc. Trong cuộc bầu cử quốc hội Telangana năm ngoái, một đoạn video được cho là có Thủ hiến lúc bấy giờ là K Chandrasekhar Rao và các chính trị gia khác của Bharat Rashtra Samithi kêu gọi cử tri ủng hộ đảng Quốc đại đối thủ. BRS cáo buộc Quốc hội sử dụng công nghệ deepfake và AI để tạo và lưu hành nội dung “âm thanh và video giả” chống lại BRS.

Vào tháng 2 năm nay, Đảng Quốc đại đã tiếp tục thúc đẩy các cuộc tranh luận về AI bằng cách đăng một video nhại lại ông Modi trên Instagram. Đoạn trích, được trích từ một album nhạc tiếng Hindi có tựa đề ‘Chor‘ (kẻ trộm), đả kích Modi vì đã tạo điều kiện thuận lợi cho việc chuyển giao nguồn lực cho các ông trùm kinh doanh. Một meme AI sử dụng giọng nói và khuôn mặt của ông Modi để nhấn mạnh sự chỉ trích của phe đối lập về sự bảo trợ của thủ tướng đối với các doanh nhân tỷ phú Ấn Độ.

Ngay cả khi AI có ích cho các bên chế nhạo đối thủ của họ, nó cũng hữu ích trong việc làm sống lại ký ức về các nhà lãnh đạo đã ra đi. Dravida Munnetra Kazhagam, nắm quyền ở Tamil Nadu, đã hồi sinh người lãnh đạo sáng lập của nó, M. Karunanidhi quá cố thông qua công nghệ deepfake. Karunanidhi là một nhà hùng biện có uy tín và hình đại diện AI của ông có các bài phát biểu ca ngợi khả năng lãnh đạo của con trai ông và người kế nhiệm K. Stalin, chủ tịch DMK và thủ hiến hiện tại của Tamil Nadu.

Theo Senthil Nayagam, người sáng lập Muonium, trong bối cảnh AI sáng tạo đang nổi lên như một “sự đổi mới đáng chú ý sẵn sàng cách mạng hóa thế giới của chúng ta”, chính trị đã trở thành một trong những lĩnh vực “bị ảnh hưởng sâu sắc bởi công nghệ này”.

Sự giả mạo sâu sắc thể hiện một tiến bộ đáng kể được hỗ trợ bởi AI.

Nayagam lập luận rằng, ông coi việc làm giả sâu sắc là có đạo đức “cho đến khi nó đi chệch hướng thành việc tạo ra nội dung không liên quan hoặc thao túng dư luận. Tuy nhiên, mối đe dọa về thông tin sai lệch đang rình rập, đặc biệt là trong các cuộc bầu cử, nhấn mạnh sự cần thiết phải cảnh giác”.

Nayagam chỉ ra rằng, mặc dù hiện tại không có luật nào quản lý công nghệ này nhưng “điều cần thiết là phải xin phép, đặc biệt khi đại diện cho những người đã khuất. Di sản của các chính trị gia, thường được lưu giữ trong sách, bản ghi âm và các phương tiện truyền thông khác, có thể được diễn giải lại. Mặc dù việc tạo lại nội dung như vậy vốn có thể không trái pháp luật nhưng việc chèn các từ bịa đặt có nguy cơ gây hiểu lầm cho cử tri.”

Như đã thảo luận ở trên, việc dịch các bài phát biểu theo thời gian thực được hỗ trợ bởi AI sẽ tạo điều kiện thuận lợi cho việc truyền tải thông điệp tới các cử tri nói các ngôn ngữ khác nhau. Nhưng nó cũng mang lại rủi ro vì việc dịch thuật theo thời gian thực rất phức tạp. Một ngôn ngữ có nhiều sắc thái và hầu hết các mô hình AI được đào tạo ở nước ngoài đều không hiểu rõ bối cảnh văn hóa Ấn Độ. Ngay cả một lỗi nhỏ trong phát âm cũng có thể dẫn đến xung đột.

Như Ankit Lal, nhà chiến lược và cố vấn chiến dịch chính trị người Ấn Độ, đã chỉ ra: “Bản dịch lời nói được hỗ trợ bởi AI từ ngôn ngữ Ấn Độ này sang ngôn ngữ Ấn Độ khác vẫn chưa hoàn hảo. Cách duy nhất để cải thiện nó là sử dụng nhiều dữ liệu hơn, đây là một công việc tốn nhiều thời gian.

Theo Lal, một cách để giải quyết vấn đề này là “chuyển nội dung do AI tạo ra thông qua một biên tập viên là con người, người hiểu rõ hơn về hai ngôn ngữ cũng như bối cảnh và sau đó bằng 'đánh giá ngang hàng' để cẩn thận về bối cảnh văn hóa và sự nhạy cảm.”

 Làm thế nào AI có thể truyền bá những lời dối trá và bóp méo sự thật là một mối lo ngại lớn. Nếu trước đây mọi người “chia sẻ các thuyết âm mưu bằng văn bản” thì giờ đây “AI có thể biến những lời nói dối tương tự đó thành video bằng cách sử dụng khuôn mặt và giọng nói của những người nổi tiếng.

Cũng có lo ngại về việc các quốc gia khác sử dụng AI để phá vỡ môi trường bầu cử. Gần đây, Microsoft đã đưa ra cảnh báo về việc Trung Quốc có thể triển khai nội dung do AI tạo ra để gây ảnh hưởng đến dư luận và thúc đẩy lợi ích địa chính trị của nước này. Nội dung này, bao gồm các meme, video và âm thanh, có thể được phổ biến để gây ảnh hưởng đến kết quả bầu cử, mặc dù tác động tức thời có thể bị hạn chế.

Ấn Độ không có cách tốt để theo dõi nội dung do AI tạo ra. Vì vậy, việc ngăn chặn sự can thiệp lén lút là điều khó khăn. Các cơ quan bầu cử của Ấn Độ nên nói chuyện với các nền tảng này và thiết lập một hệ thống để bảo vệ cuộc bầu cử khỏi nội dung AI xấu.

Vì vậy, việc tích hợp công nghệ AI vào bối cảnh chính trị của Ấn Độ đánh dấu một sự thay đổi đáng kể trong cách thức tiến hành các chiến dịch và phổ biến thông điệp. Từ dịch giọng nói theo thời gian thực đến video deepfake, AI mang đến cả cơ hội và thách thức cho các chủ thể chính trị. Mặc dù nó tạo điều kiện thuận lợi cho giao tiếp đa văn hóa và nâng cao hiệu quả của chiến dịch, nhưng vẫn có những lo ngại về tính xác thực, thông tin sai lệch và sự can thiệp của nước ngoài.

Tác giả: Saqlain Rizve