Hãy tưởng tượng bạn đang làm thủ tục vay tiền, kê khai thuế, hoặc bị đưa vào danh sách kiểm toán—chỉ để nhận ra rằng quyết định đó không hoàn toàn công bằng. Không phải do lỗi của con người, mà là do thuật toán.

Chào mừng bạn đến với thế giới phức tạp của sự thiên vị thuật toán trong công nghệ tài chính và thuế, nơi sự đổi mới đối mặt với những thách thức về đạo đức.

Thiên kiến ​​thuật toán là gì?

Thiên kiến ​​thuật toán đề cập đến các kết quả có hệ thống và không công bằng được tạo ra bởi các hệ thống tự động, thường bắt nguồn từ dữ liệu mà chúng được dùng để huấn luyện. Trong lĩnh vực tài chính và thuế, các hệ thống này được sử dụng rộng rãi để chấm điểm tín dụng, phát hiện gian lận và giám sát tuân thủ.

Thách thức nằm ở chỗ các thuật toán học hỏi từ dữ liệu lịch sử—và dữ liệu đó có thể đã phản ánh sự bất bình đẳng về kinh tế và xã hội hiện có. Kết quả là, công nghệ có thể vô tình lặp lại hoặc thậm chí khuếch đại những mô hình đó.

Tại sao thiên kiến ​​xảy ra trong các hệ thống tài chính

Thoạt nhìn, các thuật toán có vẻ khách quan. Nhưng trên thực tế, chúng được định hình bởi các quyết định của con người và dữ liệu không hoàn hảo. Các yếu tố đóng góp chính bao gồm:

• Dữ liệu huấn luyện thiên vị — Nếu các quyết định tài chính trong quá khứ ưu tiên một số nhóm nhất định, các thuật toán có thể sao chép các mô hình đó. Ví dụ, nếu một số cộng đồng trong lịch sử có quyền tiếp cận tín dụng hạn chế, các hệ thống AI có thể tiếp tục gây bất lợi cho họ.

• Biến số ẩn và biến thay thế — Ngay cả khi các yếu tố nhạy cảm như chủng tộc hoặc giới tính được loại trừ, thuật toán vẫn có thể dựa vào các chỉ số gián tiếp—chẳng hạn như mã bưu chính hoặc mô hình chi tiêu—đóng vai trò là biến thay thế, dẫn đến kết quả thiên lệch.

• Ảnh hưởng của con người — Thuật toán không tự xây dựng. Các nhà phát triển và tổ chức đưa ra lựa chọn về dữ liệu nào sẽ sử dụng và cách thức hoạt động của mô hình. Điều này có nghĩa là sự thiên vị của con người có thể vô tình được đưa vào các hệ thống tự động.

Tác động thực tế đến tài chính và thuế

Tác động của sự thiên vị thuật toán không chỉ mang tính lý thuyết—chúng còn có những hậu quả tài chính thực tế. Các lĩnh vực đáng quan tâm chính bao gồm:

• Quyết định tín dụng và cho vay — Hệ thống tín dụng dựa trên AI có thể vô tình từ chối cho vay hoặc đưa ra các điều khoản kém thuận lợi hơn cho một số nhóm nhất định, ngay cả khi các cá nhân có đủ điều kiện như nhau.

• Tuân thủ thuế và kiểm toán — Chính phủ ngày càng sử dụng thuật toán để phát hiện gian lận hoặc gắn cờ các hồ sơ thuế đáng ngờ. Tuy nhiên, các hệ thống thiên vị có thể nhắm mục tiêu không cân xứng vào các cá nhân hoặc doanh nghiệp cụ thể, làm dấy lên những lo ngại về tính công bằng.

• Phát hiện thanh toán và gian lận — Các hệ thống tự động đôi khi gắn cờ các giao dịch hợp pháp là gian lận, dẫn đến việc đóng băng hoặc trì hoãn tài khoản. Những lỗi này có thể làm gián đoạn sự ổn định tài chính cho cả cá nhân và doanh nghiệp.

Nhận định của chuyên gia

Nicol Turner Lee, chuyên gia về chính sách công nghệ, cho biết các thuật toán ngày nay được xây dựng bằng cách sử dụng lượng dữ liệu khổng lồ và ngày càng được sử dụng để đưa ra các quyết định tài chính quan trọng, bao gồm cả việc đánh giá khả năng tín dụng. Các hệ thống này có thể ảnh hưởng đến việc ai được tiếp cận các cơ hội tài chính, do đó điều quan trọng là phải đảm bảo chúng công bằng và không vô tình phân biệt đối xử.

Tại sao điều này lại quan trọng đối với tương lai

Thiên kiến ​​thuật toán không chỉ là một lỗi kỹ thuật mà còn là một vấn đề tài chính và xã hội. Khi các hệ thống AI đóng vai trò lớn hơn trong việc ra quyết định, chúng ảnh hưởng đến việc ai được tiếp cận tín dụng, ai bị kiểm toán và ai phải đối mặt với các rào cản tài chính. Nếu không được kiểm soát, các thuật toán thiên kiến ​​có thể củng cố vòng xoáy bất bình đẳng, khiến các nhóm thiệt thòi khó cải thiện tình hình tài chính của họ. Trong lĩnh vực thuế, việc sử dụng các hệ thống tự động cũng làm dấy lên những lo ngại về tính minh bạch và trách nhiệm giải trình, đặc biệt là khi các quyết định khó giải thích.

Liệu thiên kiến ​​thuật toán có thể được khắc phục?

Tin tốt là thiên kiến ​​không phải là điều không thể tránh khỏi. Có những cách thực tế để giảm thiểu nó:

• Bộ dữ liệu đa dạng — Sử dụng các bộ dữ liệu đa dạng và mang tính đại diện để huấn luyện các mô hình AI một cách công bằng hơn.

• Kiểm toán thường xuyên — Tiến hành kiểm toán thường xuyên các hệ thống AI để phát hiện và sửa chữa thiên kiến.

• Trí tuệ nhân tạo có thể giải thích — Triển khai trí tuệ nhân tạo có thể giải thích để đưa ra các quyết định minh bạch hơn đối với những người bị ảnh hưởng.

• Giám sát của con người — Duy trì sự giám sát của con người trong các quyết định quan trọng để đảm bảo tính trách nhiệm.

Các tổ chức tài chính và chính phủ ngày càng nhận thức được tầm quan trọng của sự công bằng và đang nỗ lực xây dựng các hệ thống trí tuệ nhân tạo có trách nhiệm hơn.

Lời kết

Sự thiên vị của thuật toán trong công nghệ tài chính và thuế nhắc nhở chúng ta rằng đổi mới phải đi đôi với trách nhiệm. Mặc dù trí tuệ nhân tạo mang lại tốc độ và hiệu quả, nhưng nó cũng tiềm ẩn nguy cơ làm trầm trọng thêm những bất bình đẳng hiện có nếu không được quản lý cẩn thận. Để khám phá tương lai của ngành tài chính, một điều rõ ràng là: công nghệ không chỉ cần mạnh mẽ mà còn phải công bằng. Cân bằng giữa đổi mới và đạo đức sẽ là chìa khóa để xây dựng một hệ thống tài chính hoạt động hiệu quả cho tất cả mọi người.