ในหนังสือ Algorithms to Live By: The Computer Science of Human Decisions มีอยู่ตอนหนึ่งที่ยกตัวอย่างน่าสนใจดี (ได้จำเอาไปคุยกับนักศึกษาวิชา Computer Ethics and Law ที่ลาดกระบังด้วย)

มันอยู่ในตอนที่ว่าด้วยปัญหา overfitting/underfitting หรือการที่คอมพิวเตอร์มันเรียนรู้จากตัวอย่างเพื่อหา “สิ่งบ่งชี้” คุณสมบัติพึงประสงค์ แต่การยึดมั่นยึดติดกับสิ่งบ่งชี้ดังกล่าวมากเกินไปก็อาจเป็นปัญหา คือมันอาจจะเอาแต่มองหาสิ่งบ่งชี้ โดยที่ไม่จำเป็นว่าผลลัพธ์สุดท้ายจะนำไปสู่คุณสมบัติพึงประสงค์หรือไม่

หนังสือยกตัวอย่างว่า มันมีคำอธิบายว่าการที่คนเราชอบกินของหวาน มัน เค็ม เห็นแล้วน้ำลายไหล มาจากการที่ร่างกายเราต้องการพลังงานและแร่ธาตุจำเป็น และความหวาน ความมัน ความเค็ม เป็นสิ่งบ่งชี้ถึงอาหารที่น่าจะมีพลังงานหรือน่าจะมีแร่ธาตุจำเป็นที่ว่า

ซึ่งในยุคที่อาหารมันยังไม่ถูกแปรสภาพไปมาก สิ่งบ่งชี้พวกนี้ก็ทำงานได้ดีอยู่ เมื่อใดที่กินหวาน มัน เค็ม โดยมากแล้วร่างกายก็จะได้รับสารอาหารที่เราคาดหวัง ในระดับที่พอสมควรตามลักษณะอาหารในธรรมชาติ ว่าง่ายๆ คือน่าจะดีกับสุขภาพของเรา

ต่อมาพออาหารถูกแปรสภาพไปมาก เราสามารถเพิ่มความหวาน ความมัน ความเค็ม ให้กับอาหารได้ตามชอบใจ สิ่งบ่งชี้พวกนี้ก็เริ่มจะใช้ไม่ได้ละ เราสามารถมีอาหารที่หวานขึ้น มันขึ้น เค็มขึ้น น้ำลายไหลมากขึ้น แต่ไม่จำเป็นว่าจะดีกับสุขภาพเรามากขึ้น

ต่อให้เราเจออาหารมันๆ แต่มันอาจจะไม่ได้มันจากไขมันที่ร่างกายเอาไปใช้ประโยชน์ได้

หรืออีกแบบคือ เราเจอของที่หวานกว่าเดิมหลายเท่า มีน้ำตาลที่ร่างกายใช้ประโยชน์ได้ด้วย แต่ไม่มีสารอาหารอย่างอื่นเลย

กลายเป็นว่าถ้าร่างกายเรายังยึดอยู่กับตัวชี้วัดที่เคยใช้ได้ในครั้งโบราณ ยึดติดกับตัวอย่างอาหารแบบเก่าๆ (ที่เคยใช้ได้ผลกับกลุ่มตัวอย่างก่อนหน้านี้) พอมาเจออาหารใหม่ๆ นี่พังเลย แยกแยะไม่ได้ ไปไม่เป็น ยิ่งกินตามที่ถูกฝึกมาด้วยข้อมูลเก่า ชีวิตยิ่งพัง

การประกันคุณภาพหรือการป้องกันการทุจริตด้วยการตั้ง KPI ตั้งตัวชี้วัดต่างๆ นานาขึ้นมา ก็น่าจะคิดถึงเรื่องนี้ด้วย

ว่าเรากำลังจะมองหาคุณสมบัติเฉพาะบางอย่างที่มันมีประโยชน์กับงานจริงๆ โดยมองผ่านทางตัวชี้วัด

หรือจะมองหาเฉพาะตัวชี้วัด ได้ตามตัวชี้วัดก็พอ ส่วนจะมีประโยชน์กับงานจริงหรือไม่ก็ไม่เป็นไร ถือว่าได้กรอกเอกสารจนครบทุกช่องแล้ว