Sự lệch lạc về giới tính của thế giới không còn chỉ là những câu chuyện trên truyền thông nữa. Sự lệch lạc đó đã gắn chặt vào cấu trúc xã hội thông qua những khuôn mẫu và chuẩn mực truyền thống. Các hệ thống như vậy tạo ra khoảng cách giới cả về mặt xã hội và kỹ thuật số. Trong khi những khoảng cách này có thể được quan sát thấy rõ ràng trong vị thế chính trị xã hội, chúng vẫn tiềm ẩn trong các công nghệ tương lai mới nổi, chủ yếu là học máy và dữ liệu lớn. Do có tỷ lệ lớn dân số sử dụng các dịch vụ trực tuyến, kỹ thuật số và mạng, con người tạo ra vài gigabyte dữ liệu mỗi ngày. Điều này thúc đẩy các thuật toán AI trở nên thông minh hơn với độ chính xác và chất lượng đầu ra được nâng cao.

Chúng ta bắt đầu phụ thuộc nhiều hơn vào các thuật toán để ra quyết định, liên quan đến quyết định cho vay thế chấp, rủi ro bảo hiểm, việc làm, đánh giá, đặt mua trái phiếu, đề xuất tuyên án, chính sách dự đoán, và rất nhiều các quyết định khác. Hơn thế nữa, ước tính rằng AI sẽ đóng góp khoảng 15,7 nghìn tỷ USD cho nền kinh tế thế giới vào năm 2030, trong đó, khoảng 6,6 nghìn tỷ USD sẽ được chuyển giao nhờ năng suất tăng lên, trong khi 9,1 nghìn tỷ USD còn lại sẽ thu được từ các tác động phụ của tiêu dùng.

Chúng ta đã dần dần chuyển từ trí thông minh được hỗ trợ hoặc tăng cường để hỗ trợ con người, sang các hệ thống tự động hơn, loại bỏ hoàn toàn nhu cầu giám sát của con người. Điều thú vị là dù việc này có thể xảy ra, nhưng chúng ta không nên mất cảnh giác, vì công nghệ mới không ý thức được sự bất bình đẳng kinh tế xã hội của thế giới chúng ta. Và khi nó bắt đầu ảnh hưởng đến cuộc sống của các cá nhân, xuất hiện nhu cầu đạo đức yêu cầu xem xét kỹ lưỡng ai làm gì và ai chịu trách nhiệm. Lý thuyết lịch sử về các mối quan hệ giữa giới và công nghệ khẳng định rằng, chúng được tạo ra đồng thời. Điều đó sẽ được thảo luận ở phần sau của bài viết này.

Đạo đức AI nhấn mạnh vào việc đặt tầm quan trọng và quyền của một cá nhân trên phạm vi tiện ích lớn hơn của bất kỳ sản phẩm kỹ thuật số nào. Cách cá nhân hiểu về công bằng có ảnh hưởng tới đạo đức và quản trị lĩnh vực này. Hoặc có thể hiểu rằng, đạo đức của AI được hiểu là của những người sáng tạo ra AI và những người quản lý quyền lực của AI. Do đó, tính minh bạch và trách nhiệm giải trình trở nên quan trọng. Với sự tin tưởng và ưa thích ngày càng tăng đối với các công nghệ tương lai, những giá trị này cần được phổ biến và quy định chặt chẽ hơn trong các khuôn khổ kiểm toán. Quá trình ra quyết định phải luôn được diễn đạt đơn giản và không bị che đậy, phải biến chúng trở nên dễ hiểu và phổ biến.

Ứng dụng AI và Định kiến về Giới

Một cuộc khám phá xã hội học có nhiều sắc thái cho chúng ta biết các ứng dụng AI đang phổ biến định kiến giới. Chắc chắn không phải ngẫu nhiên mà tất cả các trợ lý AI trước đây đều là giọng nói của phụ nữ theo mặc định, ví dụ Cortana của Microsoft, Siri của Apple, Google Assistant và bây giờ là Alexa của Amazon. Các nhà nghiên cứu công nghệ cuối thế kỷ 20 cho rằng khuôn mẫu ngày càng tăng này là do một số nghiên cứu cho rằng giọng nói của phụ nữ dễ hiểu hơn vì có âm vực cao (Định kiến này sau đó đã bị bác bỏ). Điều này cuối cùng thậm chí còn dẫn đến việc thành lập toàn bộ ngành tiếp thị qua điện thoại và điều hành điện thoại với phần lớn nhân lực là phụ nữ.

Hiện tại, xu hướng này được chứng minh bởi các nghiên cứu cho biết người sử dụng phản ứng tốt hơn với giọng nói của phụ nữ. Họ mô tả giọng nữ là "thông cảm và dễ chịu" và giúp tạo ấn tượng về “một trợ lý tốt". Tương tự như vậy, vào năm 2016, khi Google giới thiệu trợ lý mới bằng cả giọng nam và nữ, họ đã thất bại vì không có công cụ đào tạo giọng nam trước đó. Các ý kiến giải thích cho rằng, tất cả các hệ thống chuyển văn bản thành giọng nói trước đây chỉ được đào tạo trên giọng nữ và do đó chỉ hoạt động tốt hơn với giọng nữ.

Giáo sư Safiya Noble, một chuyên gia về chủ đề này, đã nhiều lần phát biểu rằng xu hướng xã hội hóa ngày càng tăng với các trợ lý ảo nữ đang làm giảm nhanh chóng tầm quan trọng của phụ nữ, và khắc sâu định kiến “phụ nữ là giới tính đáp ứng yêu cầu của người khác”. Hơn nữa, khi chúng ta yêu cầu một trợ lý nữ, trẻ trung được mã hóa trong hệ thống thực hiện các chức năng hạn chế như đặt vé máy bay, đặt lời nhắc, tạo lịch hàng tháng, báo cáo thời tiết, v.v., nó sẽ coi đó là những nhiệm vụ cơ bản. Do đó, số đông dân số sẽ coi điều đó là đương nhiên và chỉ phát triển AI nữ những nhiệm vụ như vậy. Một điều khá buồn cười là một trong những siêu máy tính nhanh nhất thế giới, IBM Watson, được sử dụng để đưa ra các quyết định phức tạp về y tế và chơi các chương trình đố vui thay vì chỉ đặt báo thức, thì lại lấy giọng của nghệ sĩ lồng tiếng nam Jeff Woodman.

Một trong những đại diện trên phương tiện truyền thông về những khuôn mẫu như vậy là JARVIS, trợ lý AI cho Tony Stark trong các phim của Marvel là Avengers và Iron Man (2008-2013), trong đó AI giống như một người bạn đồng hành, thay vì một hệ thống tự động của người lính. JARVIS giúp anh hùng cứu thế giới và diễn viên Paul Bettany lồng tiếng cho JARVIS. Mặt khác, Samantha, một nữ trợ lý AI, do Scarlett Johansson lồng tiếng trong bộ phim Her (2013), nói về các mối quan hệ và lên kế hoạch hẹn hò cho nhân vật chính do Joaquin Phoenix thủ vai. Một khuôn mẫu cổ điển về vai trò của người cung cấp/người bảo vệ và người chăm sóc.

Sau bộ đồ khổng lồ, nữ bot hình người, Sophia, cũng tuyên bố mong muốn có con và gia đình, khoảng một tháng sau khi cô tương tác với thế giới thực. Cô ấy thậm chí còn được trao nhiều quyền tự do và quyền lợi với tư cách là công dân Ả Rập Xê-út, hơn là một phụ nữ con người. Thật kỳ lạ là làm thế nào một bot nữ có thể độc lập hơn phụ nữ và người lao động nước ngoài ở một quốc gia tuân thủ các quan niệm truyền thống về gia đình nhanh như vậy.

Cả hai thành kiến này chủ yếu xuất phát từ cùng một nguyên nhân, đó là sự lệch lạc về giới tính trong tâm trí con người, được tái tạo, ghi lại và ăn sâu vào chúng ta từ trong tiềm thức. Nhưng quan trọng hơn, cả hai cách biểu diễn này đều xoay quanh vòng luẩn quẩn, trong đó cái này tạo ra cái kia. Thành kiến thế giới thực ngấm vào Thành kiến dữ liệu (hiển nhiên thông qua thành kiến thuật toán), đến lượt nó, đưa ra hành động thông qua các quyết định quan trọng trong kinh doanh, y học, luật pháp và trật tự, v.v., tạo ra các xu hướng méo mó của các thành kiến. Do đó, không có gì ngạc nhiên khi 92,9% thư ký và trợ lý hành chính ở Mỹ là phụ nữ vào năm 2020, với 83,8% trong số họ là người da trắng.

Một nghiên cứu được thực hiện bởi PwC vào năm 2018 về nhận thức của AI và các công cụ của nó cho thấy gần 61% người được hỏi bao gồm các nhân viên đang làm việc tại các thành phố lớn ở Ấn Độ ưa thích sử dụng các trợ lý kỹ thuật số này. Nghiên cứu chỉ ra rằng nó giúp họ thông qua "lời nhắc sự kiện" và "quản lý lịch làm việc". Một điều thú vị nữa là 74% người được hỏi muốn trợ lý kỹ thuật số của họ phải “thân thiện”.

Có thể là trợ lý giọng nói, chatbot hoặc trợ lý ảo, bằng cách tạo giới tính cho một sản phẩm vô tri vô giác, công nghệ đang mở đường cho việc tái thiết lập các hành vi xã hội theo kiểu mới với vẻ ngoài tỏ ra trung lập. Alan Winfield, một nhà đạo đức học về robot, khẳng định rằng, việc thiết kế robot có giới tính là một hành động lừa dối. Ông nhấn mạnh rằng bản thân máy móc không thể thuộc về một giới tính cụ thể do đó. Mặc dù có thể tạo ra những thay đổi tiềm năng đối với những kỳ vọng bị lạm dụng quá mức của các nhóm giới, công nghệ ngày nay dường như vẫn khiến phụ nữ và bot bị coi như “những con người gần như không có khả năng tự quyết”. Một báo cáo gây ra nhiều ý kiến trái chiều của UNESCO và EQUALS, đã đưa ra một loạt phản ứng thảm hại của Trợ lý giọng nói đối với quấy rối tình dục bằng lời nói.

Bảng sau đây cho thấy rằng robot nữ tính thậm chí còn cảm ơn người dùng vì những nhận xét không phù hợp về tình dục, và lạm dụng bằng lời nói mà phụ nữ phải đối mặt hàng ngày. Khi những trợ lý ảo nữ tính này được giới thiệu cho người tiêu dùng như những đối tượng phục tùng ý của họ, các nhà công nghệ đang tiếp tay cho nhận thức của phụ nữ là “đồ vật”.  Đổi lại, điều này góp phần vào việc phụ nữ tiếp tục không được thể hiện vai trò nắm giữ quyền quản lý và ra quyết định.

Bảng: Trợ lý ảo hồi đáp các câu nói có ẩn ý quấy rối tình dục

Nguồn: Báo cáo UNESCO và EQUALS (2019)

Ở cơ sở của các hệ thống AI là các thuật toán, được viết và đào tạo hầu hết bởi những người đàn ông da trắng, nói tiếng Anh, có đặc quyền. Trong cơ sở hạ tầng công nghệ hiện đại, hình ảnh phụ nữ vẫn mơ hồ giữa việc không hoàn toàn là một nhóm thiểu số và cũng không phải là một nhóm đặc quyền. Điều này khiến định kiến giới trở thành một trong những mối đe dọa lớn nhất trên toàn cầu.

Trung tâm Nghiên cứu Ấn Độ

Nguồn: https://www.orfonline.org/research/gender-bias-in-futuristic-technology-ai-in-pop-culture/