Trí tuệ nhân tạo đang biến đổi thế giới của chúng ta và các dịch vụ tài chính cũng không ngoại lệ. AI đang định hình lại lĩnh vực ngân hàng cá nhân nhưng hiện tại nó đứng ở đâu về bình đẳng giới, tính minh bạch và công bằng?
Khi ai đó đăng ký một khoản vay ngày hôm nay, khả năng cao là không có người nào đọc đơn đăng ký của họ. Thuật toán dựa trên dữ liệu quyết định xem họ có đủ điều kiện hay không, số tiền họ có thể vay và mức độ rủi ro mà họ được xem xét, thường chỉ trong vài giây và không cần giải thích, lặng lẽ định hình các cơ hội tài chính theo cách mà hầu hết mọi người không bao giờ nhìn thấy nhưng cảm nhận được trong cuộc sống hàng ngày của họ.
Những hệ thống này thường được trình bày như những công cụ trung lập:nhanh hơn con người, nhất quán hơn, ít thiên về thành kiến hơn.
Trong một lĩnh vực từ lâu đã bị chỉ trích vì thiếu minh bạch và thiên vị, lời hứa đó rất hấp dẫn và thường xuyên vang vọng trong các cuộc tranh luận về chính sách và ngành. Nhưng lời hứa đó dựa trên một giả định mong manh, hiếm khi được nêu rõ ràng, rằng dữ liệu mà các hệ thống này học được phản ánh cuộc sống của mọi người một cách bình đẳng.
Một báo cáo gần đây của Cơ quan Quyền cơ bản của EU, dựa trên nghiên cứu thực địa ở năm quốc gia thành viên, đã xem xét cách quản lý các hệ thống AI có rủi ro cao theo Đạo luật AI của EU trong các lĩnh vực như việc làm, phúc lợi công cộng và thực thi pháp luật. Nó tìm thấy một khoảng cách lớn giữa tham vọng pháp lý và thực tiễn:mặc dù rủi ro phân biệt đối xử được thừa nhận rộng rãi nhưng các nhà cung cấp và nhà triển khai thường thiếu các công cụ, kiến thức chuyên môn và hướng dẫn để đánh giá chúng một cách có hệ thống. Việc tự đánh giá có xu hướng không nhất quán và hoạt động giám sát còn mỏng.
Đây là một vấn đề quan trọng. Khi dữ liệu cung cấp cho các hệ thống này không nắm bắt được thực tế đời sống tài chính của phụ nữ với độ sâu và độ chính xác như của nam giới, kết quả không chỉ là thiếu sót về mặt kỹ thuật mà còn là sự bóp méo về cấu trúc, điều này định hình nên ai được tiếp cận tín dụng, theo những điều khoản nào và với những hậu quả lâu dài như thế nào. Để hoạt động tài chính dựa trên AI được công bằng, phụ nữ trước tiên phải "hiển thị" trong dữ liệu mà các hệ thống này dựa vào.
Các thuật toán không đánh giá sự công bằng hoặc hỏi liệu một kết quả có hợp lý hay không mà ước tính điều gì có khả năng đúng nhất dựa trên dữ liệu chúng được cung cấp, vẽ ra các mẫu và dự đoán chúng về phía trước. Khi dữ liệu không đầy đủ hoặc bị bóp méo, kết luận của hệ thống dựa trên những giả định không chắc chắn ngay từ đầu.
Nếu phụ nữ không được đại diện đầy đủ, được đánh giá kém hoặc không bao giờ được phân tích riêng biệt với nam giới, thì hệ thống không thể nhìn thấy những kết quả bất bình đẳng và những gì nó không thấy thì nó không thể sửa chữa. Sự thiên vị chỉ đơn giản là được tiếp tục và trở thành thói quen.
Động lực này rất dễ bị bỏ lỡ khi các cuộc thảo luận chỉ dừng lại ở cấp độ mô hình và quy định, nhưng tác động của nó trở nên rõ ràng ngay khi các hệ thống tự động được quan sát trong thực tế. Ở các quốc gia khác nhau, bằng chứng cho thấy sự bất bình đẳng có thể được đưa vào các quyết định thuật toán nhanh chóng như thế nào, không phải vì các hệ thống được thiết kế để phân biệt đối xử mà vì chúng tái tạo một cách trung thực những biến dạng vốn có trong dữ liệu mà chúng học được.
Kenya đưa ra một minh họa đáng chú ý. Theo các nghiên cứu đã được công bố, thuật toán cho vay kỹ thuật số được sử dụng rộng rãi luôn cung cấp cho phụ nữ các khoản vay nhỏ hơn nam giới, trong một số trường hợp là hơn 1/3, mặc dù hiệu suất trả nợ cao hơn. Hệ thống này không cố ý chọn lọc phụ nữ:nó chỉ đơn giản học hỏi từ dữ liệu được định hình bởi sự chênh lệch kinh tế và xã hội lâu đời, sau đó áp dụng những mô hình đó trên quy mô lớn.
Điều quan trọng trong ví dụ này không phải là bản thân Kenya mà là những gì mà vụ việc này làm cho rõ ràng. Thuật toán đã thực hiện chính xác những gì nó được thiết kế để thực hiện, học hỏi từ hành vi trong quá khứ và áp dụng các mô hình đó một cách nhất quán, tuy nhiên, nếu không có khả năng phân biệt kết quả của phụ nữ và nam giới, thì không có cách nào để phát hiện ra rằng sự bất bình đẳng đang được tái tạo trong thời gian thực. Vấn đề không phải là tự động hóa mà là sự mù quáng.
Đó là lúc dữ liệu phân tách theo giới tính trở nên cần thiết. Bằng cách sắp xếp dữ liệu tài chính theo giới tính, cơ quan quản lý, tổ chức tài chính và nhà thiết kế công nghệ có thể phát hiện ra tác động của hệ thống tự động, xác định ai có quyền truy cập vào tài chính và xác định chính xác các khu vực nơi kết quả bắt đầu khác nhau. Nếu không có khả năng hiển thị đó, khoảng cách giới vẫn bị ẩn giấu và khoảng cách ẩn giấu có thói quen trở thành vĩnh viễn. Trong tài chính kỹ thuật số, dữ liệu là “người bạn thân nhất của con gái”, không phải là khẩu hiệu mà là điều kiện thiết thực cho trách nhiệm giải trình.
Hầu hết các tổ chức tài chính đều đã ghi lại giới tính của khách hàng như một phần nhận dạng cơ bản. Trên giấy tờ, thông tin có ở đó, được đưa vào báo cáo định kỳ và hồ sơ khách hàng cơ bản. Tuy nhiên, trong thực tế, việc ghi lại một biến không giống như việc sử dụng nó. Ở nhiều quốc gia, giới tính của khách hàng xuất hiện trong cơ sở dữ liệu nhưng không bao giờ được phân tích, báo cáo hoặc giám sát bởi người giám sát, kể cả trong các khuôn khổ giám sát cốt lõi như báo cáo an toàn. Thông thường, dữ liệu đã tồn tại nhưng nó được thu thập, lưu trữ và sau đó bị bỏ qua một cách lặng lẽ. Vấn đề không nằm ở chỗ có thể làm được gì mà ở chỗ làm được gì.
Bức tranh trông rất khác ở các quốc gia thường được cho là có ít tài nguyên hơn. Ở một số khu vực Châu Mỹ Latinh và Châu Phi, các cơ quan quản lý đã yêu cầu báo cáo phân tách giới tính trong nhiều năm và thường xuyên công bố dữ liệu về khoảng cách giới trong lĩnh vực tài chính.
Ở Chile, các cơ quan tài chính đã theo dõi sự khác biệt về giới trong các khoản vay và tiền gửi trong hơn hai thập kỷ, công bố số liệu thống kê tài chính thường xuyên phân chia theo giới tính.
Ở Mexico, các cơ quan quản lý kết hợp dữ liệu ngân hàng với các cuộc khảo sát hộ gia đình trên toàn quốc để hiểu cách phụ nữ và nam giới sử dụng các dịch vụ tài chính cũng như cách họ thực hiện với tư cách là người đi vay.
Tầm nhìn đó đã có những hậu quả thực tế. Ở Mexico, dữ liệu giám sát cho thấy các khoản vay của phụ nữ nhỏ hơn nhưng ít rủi ro hơn, bằng chứng dẫn đến những thay đổi trong quy định dự phòng rủi ro cho vay.
Ở Chile, dữ liệu cho thấy rằng việc tiếp cận tài khoản một cách bình đẳng không mang lại kết quả bình đẳng trong tiết kiệm hoặc bảo hiểm, thúc đẩy các phản ứng chính sách có mục tiêu hơn. Khi những khoảng trống này lộ rõ, chúng sẽ trở nên khó bỏ qua hơn nhiều.
Nhìn từ góc độ này, tình hình ở nhiều nền kinh tế có thu nhập cao trông không giống một sự chậm trễ về mặt kỹ thuật mà giống một sự do dự về thể chế hơn. Ở phần lớn châu Âu, dữ liệu về giới vẫn còn mang tính tự nguyện hoặc bị phân mảnh mặc dù có cơ sở hạ tầng dữ liệu tiên tiến, một thất bại không phải về năng lực kỹ thuật mà là do sự lựa chọn của tổ chức. Bài viết chính sách sắp tới của tôi “Dữ liệu là bạn thân nhất của con gái:Giải quyết bất bình đẳng tài chính kỹ thuật số thông qua dữ liệu phân tách theo giới tính”, dự kiến xuất bản vào tháng 5 sẽ khám phá điều này.
Khi trí tuệ nhân tạo ngày càng được nhúng sâu hơn vào việc ra quyết định tài chính, lựa chọn đó trở nên khó bảo vệ hơn. Vào thời điểm Châu Âu đang triển khai Đạo luật AI của EU và tranh luận về cách điều chỉnh việc ra quyết định bằng thuật toán trong lĩnh vực tài chính, việc thiếu dữ liệu giới tính có hệ thống đã đặt ra một câu hỏi cơ bản:làm cách nào để giám sát sự công bằng nếu dữ liệu cần thiết để phát hiện sự bất bình đẳng không bao giờ được phân tích?
Việc làm cho phụ nữ xuất hiện trong dữ liệu không mang tính biểu tượng. Không có nó, tài chính công bằng không khác gì một yêu cầu bồi thường.
E-mail hàng tuần bằng tiếng Anh trình bày kiến thức chuyên môn của các học giả và nhà nghiên cứu. Nó giới thiệu về sự đa dạng của nghiên cứu đến từ lục địa và xem xét một số vấn đề chính mà các nước châu Âu phải đối mặt. Nhận bản tin!