ตรวจสอบการจัดหาข้อมูลเข้าสำหรับระบบปัญญาประดิษฐ์

โมเดลหนึ่งในการพิจารณาการเลือกปฏิบัติของอัลกอริทึม แบ่งการพิจารณาออกเป็นส่วนๆ ดังนี้
Input -> Process -> Output(2) นี่มันอาจจะเป็นเหมือนกล่องดำ คือไม่สามารถบอกได้ชัดๆ ว่าเครื่องมันตัดสินใจอย่างไร การจะไปประเมินไปตรวจสอบก็ทำลำบาก

ที่ง่ายกว่าก็คือมาดูที่ (1) กับ (3) ถ้ามีข้อมูลอะไรที่ไม่ควรใช้ก็ไม่ให้มันวิ่งเข้าไปในระบบเลยตั้งแต่แรก กับไปดูว่าผลลัพธ์สุดท้ายมันโอเคหรือไม่ โดยทั้งหมดนี้ ให้พิจารณา (4) ซึ่งเป็นบริบทแวดล้อมด้วย

แต่โมเดลนี้ก็ไม่ชัดเจนว่า ใครเป็นผู้จัดหาข้อมูลเข้าดังกล่าว คือตัวโมเดลมันเหมือนกับว่า การตัดสินใจของเครื่องมันอยู่เฉพาะที่ (2)

เป็นไปได้ไหมว่า ปัญญาประดิษฐ์มันสามารถตัดสินใจเกี่ยวกับข้อมูลเข้าได้ด้วย ว่าจะเลือกข้อมูลชนิดไหนเข้ามา ด้วยปริมาณเท่าไหร่

เช่นโจทย์ตั้งต้นอาจจะบอกว่าให้เพิ่มอัตราการคลิกปุ่ม ‘ซื้อ’ จากสื่อสังคม ตอนแรกๆ ก็อาจจะใช้ข้อมูลประชากรอะไรก็ว่าไปเท่าที่คนจัดหามาให้ แต่ต่อมาผู้พัฒนาอาจจะเพิ่มความสามารถให้ระบบมันไปหาข้อมูลเพิ่มเติมได้เองจากเน็ต เช่นระบบสร้างการทดลองขึ้นมาได้เอง ส่งข้อมูลเดียวกันไปคนต่างกลุ่มประชากร หรือข้อมูลต่างกันไปคนกลุ่มประชากรเดียวกัน เพื่อหาข้อมูลพฤติกรรมที่ตัวระบบอยากได้

พูดง่ายๆ ก็คือว่า คอมพิวเตอร์สามารถตัดสินใจสร้างการทดลองและ incentive ได้เอง เพื่อให้มนุษย์กลุ่มต่างๆ มาป้อนข้อมูลเพิ่มให้มัน (แน่นอนว่า incentive พวกนี้ มาจากทรัพยากรที่เจ้าของระบบจัดหาให้ แต่เจ้าของระบบไม่ได้เป็นผู้ตัดสินใจจัดหาข้อมูลเองโดยตรง)

ถ้าเป็นแบบนี้ การประเมิน “ข้อมูลเข้า” (1) อย่างเดียวก็จะไม่พอไหม ต้องประเมิน “การจัดหาข้อมูลเข้า” (0) ด้วยอีกที?

ก่อนหน้านี้มันเป็น คอมเล่มเกมกับคอมกันเอง เพื่อฝึกฝน
ต่อไปมันจะเป็น คอมสร้างเกมขึ้นมาให้คนเล่นตามเกมนั้น เพื่อฝึกฝน

Collect -> Input -> Process -> Output

จริยธรรมในการรับทุนวิจัย

เนื่องจากไม่เคยทำงานอยู่ในแวดวงวิจัย (ในระดับบริหาร) ผมเลยไม่ทราบว่า สถาบันวิจัย และสถาบันการศึกษาที่ทำงานวิจัย โดยเฉพาะในบ้านเรานั้น มีนโนบายเรื่องการรับทุนวิจัยยังไงบ้าง

เช่น ถ้าเกิดว่าโครงการวิจัยนั้นจะนำไปสู่การสร้างอาวุธสงคราม หรือวัตถุอันตรายที่พิจารณาแล้วว่าไม่ได้มีประโยชน์ในทางอื่นเลย นอกจากการทำลายล้้าง หรือผู้ให้ทุนเกี่ยวข้องกับกิจการเหล่านั้น หรือมีประวัติไม่ดีด้านจริยธรรม สิทธิมนุษยชน ไม่รับผิดชอบต่อสังคม มีสถาบันไหนปฏิเสธที่จะรับทุนวิจัยจากผู้ให้ทุนเหล่านั้นรึเปล่า ?

หรือมีนโยบายหรือไม่ว่า การให้ทุนนั้นเป็นไปในลักษณะไหน มีผลกระทบต่อแนวทางการทำวิจัยของสถาบันหรือไม่ ?

อย่างถ้าสมมติกรณีสอบสอนเรื่องกล้ายาง เรื่องปุ๋ยปลอม อะไรพวกนี้ ผลออกมาว่า ผิดจริง มหาวิทยาลัย สถาบันการศึกษา ศูนย์วิจัย จะพิจารณาไม่รับโครงการ/ทุนจากบริษัทเหล่านั้นมั๊ย ?

หน้าที่หนึ่งของสถาบันการศึกษา นอกเหนือจากการถ่ายทอดแนะแนวความรู้สู่สังคมแล้ว ก็คือการสร้างความรู้ใหม่ ๆ เพื่อสังคม การสร้างความรู้เพื่อสังคมนั้น สมควรที่จะรับทุนจากผู้ที่ทำผิดต่อสังคมหรือไม่ ? ถ้าเห็นสมควรว่าทำได้ มีนโยบายอย่างไร ที่จะรับประกันว่า ผู้ให้ทุนจะไม่สามารถมามีอิทธิพลเหนือแนวทางการสร้างความรู้นั้นได้ ? (ซึ่งอันตรายต่อการที่ความรู้นั้นจะไม่ได้มีเพื่อสังคม)

พูดง่าย ๆ ก็คือ ถ้าอยากจะรับเงินจากคนไม่ดี จะระวังตนยังไง ให้เราเอาเงินนั้นไปใช้ในทางที่ดีได้ เช่น ถ้ารู้แน่ชัดว่าสุดท้ายแล้วผลวิจัยจะถูกเอาไปใช้ในเรื่องไม่ดี (หรือคิดแล้วว่า ไม่ว่ายังไงก็ใช้ให้ดีไม่ได้) ยังจะรับทำมั๊ย ? หรือถือว่าเป็นคนละส่วนไม่เกี่ยวกัน คนสร้างความรู้ก็สร้างไป คนจะเอาไปใช้ยังไงก็อีกเรื่อง ไม่ต้องรับผิดชอบ ไม่เกี่ยวกัน .. หรือคิดว่า ถึงเราไม่รับ คนอื่นก็รับอยู่ดี งั้นเราก็รับไว้ละกัน ไม่เห็นจะเป็นอะไร

ลองไล่ ๆ หาตามเว็บไซต์มหาลัยไทยคร่าว ๆ แล้ว ก็เหมือนจะไม่มีแจ้งนโยบายอะไรไว้

มีพบ “จรรยาบรรณของนักวิชาการ” ที่เว็บ กิจการวิจัย จุฬา “เน้นการรักษาข้อห้ามสำคัญ 2 ข้อ คือ ห้ามลักทรัพย์ และห้ามกล่าวเท็จ” แต่อันนั้นก็ไม่ได้พูดถึงจริยธรรมของการดำเนินงานวิจัย/รับทุนวิจัย

ใครมีความรู้ตรงนี้ ช่วยหน่อยครับ 🙂

ความคิดเห็นอื่นที่ bact.gotoknow.org