Trí tuệ nhân tạo (AI) đã cách mạng hóa nhiều lĩnh vực trong những năm gần đây, trong đó có lĩnh vực ngân hàng. Việc triển khai nó có cả mặt tích cực và tiêu cực, đặc biệt là vấn đề phân biệt đối xử về mặt thuật toán trong việc cho vay.
Tại Canada và rộng hơn trên toàn thế giới, việc triển khai AI trong các ngân hàng lớn đã giúp tăng năng suất đồng thời cung cấp các dịch vụ được cá nhân hóa tốt hơn.
Theo Khảo sát toàn cầu của IEEE, việc áp dụng các giải pháp dựa trên AI dự kiến sẽ tăng gấp đôi trên toàn cầu vào năm 2025, đạt 80% tổ chức tài chính.
Một số ngân hàng tiên tiến hơn, chẳng hạn như BMO Financial Group, đã giao các vị trí cụ thể để giám sát việc tích hợp AI vào các dịch vụ kỹ thuật số của mình nhằm duy trì tính cạnh tranh. Do đó, nhờ AI, lợi nhuận của ngành ngân hàng toàn cầu có thể vượt 2 nghìn tỷ USD vào năm 2028, thể hiện mức tăng trưởng gần 9% từ năm 2024 đến năm 2028.
Với tư cách là giáo sư tại Đại học Laval về quản lý tri thức và đổi mới, đồng thời là nhà truyền thông khoa học, tôi đã được Kandet Oumar Bah, tác giả của dự án nghiên cứu về phân biệt đối xử theo thuật toán, và Aziza Halilem, chuyên gia về quản trị và rủi ro mạng tại Cơ quan giám sát và xử lý thận trọng của Pháp, hỗ trợ viết bài phân tích này.
Việc tích hợp AI trong lĩnh vực ngân hàng đã tối ưu hóa đáng kể các quy trình tài chính, tăng hiệu quả hoạt động từ 25 đến 40%. Kết hợp với khả năng ngày càng tăng của dữ liệu lớn — ví dụ:bộ sưu tập dữ liệu khổng lồ — AI cung cấp khả năng phân tích mạnh mẽ có thể giảm tỷ lệ sai sót của hệ thống tài chính từ 18 đến 30%.
Nó cũng cho phép giám sát hàng triệu giao dịch trong thời gian thực, phát hiện hành vi đáng ngờ và thậm chí ngăn chặn một số giao dịch gian lận nhất định. Đây là một trong những ứng dụng được thực hiện bởi J.P. Morgan.
Ngoài ra, các nền tảng như FICO, chuyên phân tích quyết định dựa trên AI, giúp các tổ chức tài chính tận dụng nhiều loại dữ liệu khách hàng, tinh chỉnh các quyết định tín dụng của họ thông qua các mô hình dự đoán tiên tiến.
Một số ngân hàng trên thế giới hiện dựa vào thuật toán xếp hạng tự động có thể phân tích nhiều thông số, bao gồm thu nhập, lịch sử tín dụng và tỷ lệ nợ chỉ trong vài giây. Trong thị trường tín dụng, những công cụ này cải thiện đáng kể việc xử lý đơn đăng ký, đặc biệt đối với các trường hợp “tiêu chuẩn”, chẳng hạn như những trường hợp có bảo đảm khoản vay rõ ràng.
Nhưng còn những trường hợp khác thì sao?
Như các nhà nghiên cứu người Mỹ Tambari Nuka và Amos Ogunola đã chỉ ra, ảo tưởng rằng các thuật toán tạo ra những dự đoán công bằng và khách quan sẽ gây ra rủi ro lớn cho ngành ngân hàng.
Xem xét các tài liệu khoa học, họ cảnh báo chống lại sự cám dỗ giao phó một cách mù quáng việc đánh giá hành vi phức tạp của con người cho các hệ thống tự động. Một số ngân hàng trung ương, bao gồm cả Canada, cũng bày tỏ sự dè dặt về điều này, cảnh báo về những rủi ro hoạt động liên quan đến việc phụ thuộc quá nhiều vào AI, đặc biệt là trong việc đánh giá mức độ tin cậy và khả năng thanh toán.
Mặc dù các thuật toán trung lập về mặt kỹ thuật, nhưng chúng có thể khuếch đại sự bất bình đẳng hiện có khi dữ liệu đào tạo bị ảnh hưởng bởi những thành kiến lịch sử, đặc biệt là những thành kiến kế thừa từ sự phân biệt đối xử có hệ thống đối với một số nhóm nhất định. Những thành kiến này không chỉ xuất phát từ các biến số rõ ràng như giới tính hoặc nguồn gốc dân tộc mà còn từ mối tương quan gián tiếp với các yếu tố như nơi cư trú hoặc loại hình việc làm.
Ví dụ:hệ thống xếp hạng có thể ấn định giới hạn tín dụng thấp hơn cho phụ nữ, ngay cả trong những trường hợp họ có mức tài chính tương đương với nam giới. Việc phân tích các biến số như mã bưu chính và lịch sử việc làm cũng có thể dẫn đến việc loại trừ các thành viên của các nhóm bị thiệt thòi, chẳng hạn như các cá nhân bị phân biệt chủng tộc, người lao động có thu nhập không thường xuyên và những người nhập cư gần đây.
Virginia Eubanks, giáo sư ở Hoa Kỳ và là chuyên gia về công bằng xã hội, minh họa rõ ràng hiện tượng này, cho thấy những người sống ở những khu dân cư có hoàn cảnh khó khăn trong lịch sử hoặc có con đường sự nghiệp không điển hình sẽ bị trừng phạt như thế nào bởi các quyết định tài chính tự động dựa trên dữ liệu sai lệch.
Điều này đặt ra một câu hỏi quan trọng:làm thế nào chúng ta có thể đảm bảo rằng việc tự động hóa các quyết định tài chính giúp giảm sự chênh lệch trong khả năng tiếp cận các dịch vụ ngân hàng?
Một số con đường đang được khám phá trong các tài liệu khoa học để đối phó với những nguy cơ phân biệt đối xử này. Ví dụ, Nuka và Ogunola đề xuất cách tiếp cận tài chính toàn diện. Điều này liên quan đến việc liên tục cải tiến các mô hình thống kê bằng cách xác định và điều chỉnh các thành kiến trong dữ liệu đào tạo nhằm giảm sự chênh lệch trong cách đối xử giữa các nhóm xã hội.
Ngoài các giải pháp kỹ thuật, các khung pháp lý gần đây đã được đưa ra để đảm bảo tính minh bạch và công bằng của các thuật toán trong các lĩnh vực nhạy cảm như tài chính. Đạo luật Dữ liệu và Trí tuệ Nhân tạo của Canada và Đạo luật Trí tuệ Nhân tạo EU của Châu Âu là những ví dụ về điều này. Quy định sau, được thông qua vào năm 2024 và được triển khai dần dần, áp đặt các yêu cầu nghiêm ngặt đối với các hệ thống AI có rủi ro cao, chẳng hạn như các hệ thống được sử dụng để cấp tín dụng.
Điều 13 đặt ra các yêu cầu về tính minh bạch để đảm bảo rằng các hệ thống có thể được kiểm toán và tất cả các bên liên quan có thể hiểu được các quyết định của hệ thống. Mục đích là để ngăn chặn sự phân biệt đối xử về mặt thuật toán và đảm bảo việc sử dụng có đạo đức và hợp lý. Các cơ quan quản lý tài chính cũng có vai trò quan trọng trong việc đảm bảo tuân thủ các quy tắc cạnh tranh công bằng và đảm bảo các hoạt động thận trọng và minh bạch vì lợi ích ổn định tài chính và bảo vệ khách hàng.
Tuy nhiên, áp lực từ một số công nghệ và vận động hành lang tài chính nhằm làm chậm việc áp dụng các tiêu chuẩn nghiêm ngặt gây ra rủi ro đáng kể:việc thiếu quy định ở một số quốc gia và khó khăn trong việc thực thi ở các quốc gia khác có thể khuyến khích sự thiếu minh bạch, gây bất lợi cho những công dân dễ bị tổn thương nhất.