33 bài luận xuất chúng trúng tuyển Harvard, MIT, Yale, Standford, Columbia…
Chương 17 – The Algorithm That Got It Wrong
"The Algorithm That Got It Wrong"
Common App Prompt #4 — Describe a problem you've solved or a problem you'd like to solve.
Last spring, I built a machine learning model to predict student dropout risk at my high school. It was 84% accurate. It was also, I discovered, systematically wrong about one group of students.
The model was trained on GPA, attendance, and disciplinary records. It flagged students at risk of dropping out before they dropped out — the goal was early intervention, connecting struggling students with counselors before the situation became irreversible. In testing, it worked. In practice, it over-flagged Black and Latino students at a rate that couldn't be explained by academic performance alone.
I had read about algorithmic bias. I had not expected to build it.
I spent three months trying to understand what had happened. The answer was in the training data: disciplinary records in our district reflected not just student behavior but the uneven application of discipline — research has consistently shown that students of color receive harsher punishments for equivalent infractions. My model had learned a pattern. The pattern was a bias. The bias was mine to fix.
I rebuilt the model with adjusted features, removing disciplinary data and replacing it with teacher-reported engagement metrics gathered through a new survey I designed with the school counseling team. The accuracy dropped to 79%. The disparity disappeared.
I didn't solve algorithmic bias. I solved one instance of it, imperfectly, in one school. But I learned something I'll carry into every technical project I touch: the data you choose is a moral decision, not just a technical one.
Mùa xuân năm ngoái, tôi xây dựng một mô hình học máy để dự đoán nguy cơ bỏ học của học sinh tại trường tôi. Nó đạt độ chính xác 84%. Và, tôi phát hiện ra, nó cũng sai có hệ thống về một nhóm học sinh.
Mô hình được huấn luyện trên GPA, điểm danh và hồ sơ kỷ luật. Nó gắn cờ học sinh có nguy cơ bỏ học trước khi họ bỏ — mục tiêu là can thiệp sớm, kết nối học sinh đang gặp khó khăn với cố vấn trước khi tình huống trở nên không thể đảo ngược. Trong thử nghiệm, nó hoạt động. Trong thực tế, nó gắn cờ quá mức học sinh da đen và Latino ở mức không thể giải thích chỉ bằng thành tích học tập.
Tôi đã đọc về sự thiên vị thuật toán. Tôi không ngờ mình sẽ xây dựng ra nó.
Tôi dành ba tháng để tìm hiểu điều đã xảy ra. Câu trả lời nằm trong dữ liệu huấn luyện: hồ sơ kỷ luật trong học khu của chúng tôi phản ánh không chỉ hành vi của học sinh mà còn việc áp dụng kỷ luật không đồng đều — nghiên cứu đã nhất quán chỉ ra rằng học sinh da màu nhận hình phạt nặng hơn cho các vi phạm tương đương. Mô hình của tôi đã học một khuôn mẫu. Khuôn mẫu đó là một thiên vị. Thiên vị đó là của tôi để sửa.
Tôi xây dựng lại mô hình với các đặc trưng được điều chỉnh, loại bỏ dữ liệu kỷ luật và thay thế bằng các chỉ số tham gia do giáo viên báo cáo được thu thập qua một khảo sát mới tôi thiết kế cùng nhóm tư vấn trường. Độ chính xác giảm xuống 79%. Sự chênh lệch biến mất.
Tôi không giải quyết được thiên vị thuật toán. Tôi giải quyết một trường hợp của nó, không hoàn hảo, tại một trường. Nhưng tôi học được điều tôi sẽ mang vào mọi dự án kỹ thuật tôi chạm vào: dữ liệu bạn chọn là một quyết định đạo đức, không chỉ là quyết định kỹ thuật.
Xung đột đạo đức thật sự: Không phải thất bại kỹ thuật — mà là thất bại đạo đức mà học sinh tự phát hiện. Rất hiếm và rất Harvard.
Không tự anh hùng hóa: "Tôi không giải quyết được thiên vị thuật toán. Tôi giải quyết một trường hợp của nó, không hoàn hảo." — khiêm tốn chân thực.
Quá trình suy nghĩ được thể hiện rõ: Từ phát hiện → nghiên cứu nguyên nhân → giải pháp cụ thể → trade-off chấp nhận được. Đây là tư duy kỹ thuật và đạo đức đồng thời.
Câu kết là nguyên tắc sống: "Dữ liệu bạn chọn là quyết định đạo đức" — không phải kết luận của một dự án, mà là triết lý sẽ theo học sinh suốt sự nghiệp.
33 bài luận xuất chúng trúng tuyển Harvard, MIT, Yale, Standford, Columbia…
Số chương: 33
Đánh giá: ⭐ 10/10
Hãy là người đầu tiên bình luận về chương này!