Theo thỏa thuận, Meta, công ty trước đây có tên là Facebook, cho biết họ sẽ thay đổi công nghệ và sử dụng một phương pháp hỗ trợ máy tính mới nhằm thường xuyên kiểm tra xem những người được nhắm mục tiêu và đủ điều kiện nhận quảng cáo nhà ở, trên thực tế, có nhìn thấy những quảng cáo đó hay không. Phương pháp mới, được gọi là "hệ thống giảm phương sai", được dựa trên công nghệ học máy để đảm bảo rằng các nhà quảng cáo đang phân phối quảng cáo liên quan đến nhà ở cho các lớp người được bảo vệ cụ thể.

"Meta sẽ - lần đầu tiên - thay đổi hệ thống phân phối quảng cáo của mình để giải quyết sự phân biệt đối xử theo thuật toán", Damian Williams, một luật sư Hoa Kỳ cho Quận Phía Nam New York, cho biết trong một tuyên bố. "Nhưng nếu Meta không chứng minh được rằng nó đã thay đổi đủ hệ thống phân phối của mình để bảo vệ chống lại sự thiên vị thuật toán, văn phòng này sẽ tiến hành khởi kiện."

Facebook đã trở thành một doanh nghiệp khổng lồ bằng cách thu thập dữ liệu của người dùng và cho phép các nhà quảng cáo nhắm mục tiêu quảng cáo dựa trên đặc điểm của khán giả, tuy nhiên doanh nghiệp này đã phải đối mặt với khiếu nại trong nhiều năm rằng một số hành vi đó là thiên vị và phân biệt đối xử. Hệ thống quảng cáo của công ty đã cho phép các nhà tiếp thị chọn người đã xem quảng cáo của họ bằng cách sử dụng hàng ngàn đặc điểm khác nhau, điều này cũng cho phép những nhà quảng cáo đó loại trừ những người thuộc một số danh mục được bảo vệ, chẳng hạn như chủng tộc, giới tính và tuổi tác.

Bộ Tư pháp đã đệ trình cả vụ kiện và thỏa thuận chống lại Meta vào hôm 21/06. Trong đơn kiện, cơ quan này cho biết họ đã kết luận rằng "Facebook có thể đạt được lợi ích của mình trong việc tối đa hóa doanh thu và cung cấp quảng cáo có liên quan cho người dùng thông qua các phương tiện ít phân biệt đối xử hơn".

Trong khi việc giải quyết liên quan cụ thể đến quảng cáo nhà ở, Meta cho biết họ cũng có kế hoạch áp dụng hệ thống mới của mình để kiểm tra việc nhắm mục tiêu quảng cáo liên quan đến việc làm và tín dụng. Công ty trước đây đã phải đối mặt với sự phản đối vì cho phép thiên vị phụ nữ trong quảng cáo việc làm và loại trừ một số nhóm người nhất định xem quảng cáo thẻ tín dụng.

Vấn đề nhắm mục tiêu quảng cáo thiên vị đã được tranh luận đặc biệt trong quảng cáo nhà ở. Vào năm 2016, tiềm năng phân biệt đối xử quảng cáo của Facebook đã được tiết lộ trong một cuộc điều tra của ProPublica, cho thấy công nghệ của công ty giúp các nhà tiếp thị dễ dàng loại trừ các nhóm dân tộc cụ thể cho mục đích quảng cáo.

Năm 2018, Ben Carson, thư ký của Bộ Phát triển Nhà ở và Đô thị, đã công bố một khiếu nại chính thức chống lại Facebook, cáo buộc công ty có hệ thống quảng cáo "phân biệt đối xử bất hợp pháp" dựa trên các danh mục như chủng tộc, tôn giáo và khuyết tật. Năm 2019, HUD đã kiện Facebook vì tham gia vào phân biệt đối xử về nhà ở và vi phạm Đạo luật Nhà ở Công bằng. Cơ quan này cho biết các hệ thống của Facebook đã không phân phối quảng cáo cho "một đối tượng đa dạng", ngay cả khi một nhà quảng cáo muốn quảng cáo được nhìn thấy rộng rãi.

"Facebook đang phân biệt đối xử với mọi người dựa trên họ là ai và họ sống ở đâu", ông Carson nói. "Sử dụng máy tính để hạn chế lựa chọn nhà ở của một người có thể phân biệt đối xử như đóng sầm cửa vào mặt ai đó."

Vụ kiện và giải quyết của Bộ Tư pháp một phần dựa trên cáo buộc điều tra và phân biệt đối xử năm 2019 của HUD đối với Facebook.

Trong các thử nghiệm riêng liên quan đến vấn đề này, Văn phòng Luật sư Hoa Kỳ cho Quận Phía Nam New York phát hiện ra rằng các hệ thống quảng cáo của Meta hướng quảng cáo nhà ở ra khỏi một số loại người nhất định, ngay cả khi các nhà quảng cáo không nhằm mục đích làm như vậy. Các quảng cáo được hướng "không tương xứng với người dùng da trắng và tránh xa người dùng da đen và ngược lại", theo khiếu nại của Bộ Tư pháp.

Nhiều quảng cáo nhà ở trong các khu phố nơi hầu hết mọi người là người da trắng cũng chủ yếu hướng đến người dùng da trắng, trong khi quảng cáo nhà ở ở các khu vực phần lớn là người da đen được hiển thị chủ yếu cho người dùng da đen, đơn khiếu nại cho biết thêm. Kết quả là, đơn khiếu nại cho biết, các thuật toán của Facebook "thực sự và có thể dự đoán được củng cố hoặc duy trì các mô hình nhà ở tách biệt vì chủng tộc."

Trong những năm gần đây, các nhóm dân quyền cũng đã đẩy lùi các hệ thống quảng cáo quy mô lớn và phức tạp làm nền tảng cho một số nền tảng internet lớn nhất. Các nhóm đã lập luận rằng những hệ thống đó có những thành kiến vốn có được xây dựng từ bên trong và các công ty công nghệ như Meta, Google và những người khác nên làm nhiều hơn để ngăn chặn những thành kiến đó. Lĩnh vực nghiên cứu, được gọi là "công bằng thuật toán", đã là một chủ đề quan tâm đáng kể của các nhà khoa học máy tính trong lĩnh vực trí tuệ nhân tạo. Các nhà nghiên cứu hàng đầu, bao gồm các nhà khoa học cũ của Google như Timnit Gebru và Margaret Mitchell, đã gióng lên hồi chuông cảnh báo về những thành kiến như vậy trong nhiều năm.

Công nghệ quảng cáo mới của Meta, vẫn đang được phát triển, đôi khi sẽ kiểm tra xem ai đang được phân phối quảng cáo về nhà ở, việc làm và tín dụng và đảm bảo những đối tượng đó phù hợp với những người mà các nhà tiếp thị muốn nhắm mục tiêu. Ví dụ, nếu quảng cáo được phân phát bắt đầu nghiêng nhiều về phía đàn ông da trắng ở độ tuổi 20, hệ thống mới về mặt lý thuyết sẽ nhận ra điều này và chuyển quảng cáo để được phục vụ công bằng hơn giữa các đối tượng rộng hơn và đa dạng hơn.

"Chúng tôi sẽ thỉnh thoảng chụp ảnh khán giả của các nhà tiếp thị, xem họ nhắm mục tiêu ai và loại bỏ càng nhiều phương sai càng tốt từ khách hàng đó", Roy L. Austin, phó chủ tịch về quyền công dân của Meta và là phó cố vấn chung, cho biết trong một cuộc phỏng vấn. Ông gọi đó là "một tiến bộ công nghệ đáng kể về cách công nghệ học máy được sử dụng để cung cấp quảng cáo được cá nhân hóa".

Meta cho biết họ sẽ làm việc với HUD trong những tháng tới để kết hợp công nghệ này vào các hệ thống nhắm mục tiêu quảng cáo của Meta và đồng ý kiểm toán của bên thứ ba về hiệu quả của hệ thống mới.

Công ty cũng cho biết họ sẽ không còn sử dụng một tính năng gọi là "đối tượng quảng cáo đặc biệt", một công cụ mà họ đã phát triển để giúp các nhà quảng cáo mở rộng các nhóm người mà quảng cáo của họ sẽ tiếp cận. Bộ Tư pháp cho biết công cụ này cũng tham gia vào các hành vi phân biệt đối xử. Meta cho biết công cụ này là một nỗ lực ban đầu để chống lại những thành kiến và các phương pháp mới của nó sẽ hiệu quả hơn.

Hình phạt $ 115,054 mà Meta đồng ý trả trong thỏa thuận là mức tối đa có sẵn theo Đạo luật Nhà ở Công bằng, Bộ Tư pháp cho biết.

"Công chúng nên biết rằng sự lạm dụng mới nhất của Facebook có giá trị tương đương với số tiền mà Meta kiếm được trong khoảng 20 giây", Jason Kint, giám đốc điều hành của Digital Content Next - một hiệp hội cho các nhà xuất bản cao cấp cho biết.

Nguồn The New York Times

Mọi chi tiết xin vui lòng liên hệ: