Vì sao khả năng phán xét của con người lại được đề cao đến vậy? Suy cho cùng, mọi tiến bộ khoa học và công nghệ mà chúng ta đã đạt được là kết quả trực tiếp của sự phán xét của con người. Ngược lại, mọi thảm họa lớn do con người tạo ra cũng đều bắt nguồn từ những phán đoán và quyết định sai lầm. Trên thực tế, những lần chúng ta lựa chọn một phương án sai để giải quyết vấn đề là áp đảo so với những lần đúng đắn. Không có bất kì thứ gì có thể đứng trên khả năng phán xét, ngoại trừ một vấn đề là quan điểm của chúng ta bị ảnh hưởng rất nhiều bởi một tư tưởng hoặc một hệ tư tưởng nào đó.
Câu hỏi thực sự không phải là liệu AI có thể thay thế khả năng phán xét của con người hay không, mà là chúng ta có muốn như vậy hay không?
Sự phán xét của con người thường dựa trên những phỏng đoán với các điều kiện nhất định, và thường không nhất quán. Việc đưa ra các quyết định của chúng ta bị chi phối bởi hàng chục các yếu tố không-mấy-liên-quan. Ví dụ, hội đồng ân xá của các nhà tù có khuynh hướng đồng ý ân xá sau bữa trưa hơn là trước bữa trưa. Lí do không phải vì họ sắp xếp các tù nhân của mình từ tệ nhất đến tốt nhất, mà là hội đồng sẽ có tâm trạng tốt hơn nếu vừa mới được ăn trước đó không lâu – có nghĩa là nếu bạn "tình cờ" rơi vào tình huống phải đi gặp hội đồng ân xá vào lúc 11 giờ trưa, hãy mang theo chút bánh.
Chúng ta thường tự nhủ với bản thân rằng mình đã đưa ra các quyết định bằng cách sử dụng một cách chính xác tất cả các thông tin thu thập được và đưa nó vào một kết luận hợp lý. Nhưng trên thực tế, số lượng các dữ liệu cần thiết để đưa ra quyết định đơn giản là vượt quá khả năng xử lý của bạn. Thay vì phân tích dựa trên hàng nghìn đến hàng trăm nghìn bộ dữ liệu khác nhau, chúng ta thường phán xét chỉ từ một số bộ dữ liệu được thu thập một cách vội vã.
Tệ hơn nữa, chúng ta có xu hướng tìm kiếm các lối tắt để đưa ra phán xét nhanh hơn, bất chấp độ chính xác của chúng. Ví dụ, một cảnh quay trong phim Moneyball đã cho thấy những suy luận vô lí mà các tuyển trạch viên có khi đánh giá các tài năng: "Cậu ta có một cô bạn gái xấu xí, và bạn gái xấu xí thì tức là cậu ấy không có đủ sự tự tin".
Bộ phim là một dẫn chứng điển hình cho việc AI sẽ ảnh hưởng đến tương lai của khả năng phán xét của con người. Khi những suy luận và phán đoán của con người được "đặt lên bàn cân" để so sánh với những quyết định được dựa vào dữ liệu và thống kê của máy móc, gần như chắc chắn máy móc sẽ dành chiến thắng.
Trên thực tế, trong một đoạn tiếp theo của Moneyball, tác giả Michael Lewis đã khám phá ra thế giới của các bản thảo thể thao được dựa trên các dữ liệu từ máy móc, vẫn có cách để những phán xét của con người len lỏi vào việc quyết định tuyển trạch tài năng. Lewis đã thảo luận rằng tại sao có quá nhiều đội bỏ qua Jeremy Lin, khi mọi số liệu thống kê đều cho thấy rằng cậu sẽ là một tuyển thủ tuyệt vời trong tương lai. Một người quản lý đã thừa nhận rằng mặc dù nhìn thấy dữ liệu nói rằng Jeremy Lin sẽ là một siêu sao, ông đơn giản chỉ nghĩ rằng việc một tuyển thủ người châu Á chơi thể thao là khó xảy ra, từ đó bỏ qua một trong những tuyển thủ vĩ đại nhất mà lịch sử từng ghi nhận.
Đây là một trong những ưu điểm lớn nhất của AI so với óc phán đoán của con người – giàu trí tưởng tượng, sai sót, thiên vị, có nghĩa là ngay cả khi chúng ta đã có dữ liệu trong tay, chúng ta vẫn có xu hướng quyết định vì lí do cá nhân. Chúng ta lựa chọn tin vào "bản năng" của mình thay vì dữ liệu, nhưng những bản năng này phần lớn đều chỉ là ảo tưởng do chúng ta tự huyễn hoặc ra mà thôi.
Để có thể thiết kế được các hệ thống trí tuệ nhân tạo mang tính cách mạng, trước hết chúng ta phải loại bỏ được những yếu tố đang chi phối khả năng đưa ra quyết định của chúng ta. Vấn đề không phải ở chỗ làm thế nào để có thể tái tạo một quá trình hoàn hảo, mà là tìm cách để tránh việc đưa trí tuệ nhân tạo đi vào "vết xe đổ" của con người. Chúng ta cần phải xác định các yếu tố quan trọng ảnh hưởng đến kết quả mà chúng ta mong muốn và điều chỉnh các phương pháp cân nhắc dữ liệu nếu muốn có được các quyết định đúng đắn hơn, bởi vì nếu chúng ta vẫn tiếp tục coi sự phán xét của con người là "tiêu chuẩn vàng", chúng ta sẽ chỉ tự động hóa việc đưa ra các quyết định sai lầm trong tương lai mà thôi.
