ความเสี่ยงในการใช้เอไอ
องค์กรมาตรฐานและเทคโนโลยีแห่งชาติสหรัฐหรือเอนไอเอสที (NIST) ได้ออกเอกสาร NIST-AI-600-1 ระบุถึงความเสี่ยงที่เป็นไปได้ในการใช้เอไอโดยเฉพาะเจนเนอเรทีฟเอไอ (Generative AI) ไว้ 12 ข้อ ได้แก่
- ข่าวสาร CBRN (CBRN Information)
- การหลงผิด (Confabulation)
- เนื้อหาที่อันตราย รุนแรงหรือเกลียดชัง (Dangerous, Violent, or Hateful Content)
- ข้อมูลความเป็นส่วนตัว (Data Privacy)
- ผลกระทบทางสภาพแวดล้อม (Environmental Impacts)
- อคติที่เป็นอันตรายหรือการทำให้เป็นหนึ่ีงเดียว (Harmful Bias or Homogenization)
- การตั้งค่าระหว่างมนุษย์และเอไอ (Human-AI Configuration)
- การซื่อสัตย์ของข่าวสาร (Information Integrity)
- ความปลอดภัยของข่าวสาร (Information Security)
- สินทรัพย์ทางปัญญา (Intellectual Property)
- เนื้อหาลามก น่าอับอาย และ/หรือ ดูถูกเหยียดหยาม (Obscene, Degrading, and/or Abusive Content)
- การเข้ากันได้ขององค์ประกอบและห่วงโซ่มูลค่า (Value Chain and Component Integration)
ข่าวสาร CBRN (CBRN Information)
CBRN ย่อมาจาก (chemical, biological, radiological, or nuclear) แปลไทย คือ (เคมี ชีวะ รังสี หรือ นิวเคลียร์) องค์ความรู้เหล่านี้คือองค์ความรู้ที่จะนำไปใช้สร้างอาวุธได้ ผู้สร้างและผู้ใช้เอไอจะต้องทำให้แน่ใจว่า เอไอมีความระมัดระวังในการรับและเผยแพร่สิ่งเหล่านี้
ส่งผลด้านใดต่อความน่าเชื่อถือเอไอ:ความปลอดภัย (Safe) | อธิบายได้และแปลความได้ (Explainable and Interpretable)
การหลงผิด (Confabulation)
เมื่อเอไอแสดงผลลัพธ์ออกมาด้วยความมั่นใจว่าถูกต้อง แต่ความจริงแล้วมันผิด หรือมีการแสดงผลลัพธ์แปลกๆออกมาที่ไม่ตรงกับความต้องการของผู้ใช้เลย อาการนี้ถูกเรียกว่า การหลอน (hallucinations) หรือ การปลอมขึ้นมา (fabrications) หากข้อมูลที่ใช้ในการเรียนรู้ถูกต้อง ความเป็นไปได้ที่เอไอจะเกิดอาการแบบนี้ คือ ปัญหาด้านการออกแบบเอไอโดยเฉพาะด้านสถิติ สิ่งเหล่านี้จะกลายเป็นปัญหาสำหรับผู้ใช้จริงๆก็ต่อเมื่อ ผู้ใช้เชื่อผลลัพธ์เหล่านั้นและไม่ได้ตรวจสอบก่อน แล้วนำผลลัพธ์นั้นไปใช้งานต่อจนเกิดความเสียหายอื่นตามมา
ส่งผลด้านใดต่อความน่าเชื่อถือเอไอ: ความปลอดภัย (Safe) | อธิบายได้และแปลความได้ (Explainable and Interpretable) | ความเท่าเทียมด้วยการจัดการอคติที่เป็นอันตราย (Fair – with Harmful Bias Managed) | ใช้ได้จริงและไว้วางใจได้ (Valid and Reliable)
เนื้อหาที่อันตราย รุนแรงหรือเกลียดชัง (Dangerous, Violent, or Hateful Content)
เอไอที่ไม่ได้มีการควบคุมที่ดีพอ อาจสร้างเนื้อหาที่ใช้สร้างบาดแผลทางจิตใจของผู้บริโภคได้ ฉะนั้นผู้สร้างและผู้ใช้เอไอควรระมัดระวังในการรับและเผยแพร่เนื้อหาเหล่านี้
ส่งผลด้านใดต่อความน่าเชื่อถือเอไอ:ความปลอดภัย (Safe) | การปกป้องและการคืนสภาพ (Secure and Resilient)
ความเป็นส่วนตัว (Data Privacy)
เอไอไม่ควรรับหรือเผยแพร่ข้อมูลส่วนตัวของผู้ใช้หรือผู้บริโภค เช่น ชื่อ นามสกุล รหัสประจำตัวประชาชน ที่อยู่ เบอร์โทรศัพท์ และ อื่นๆ เพื่อไม่ให้ผู้ไม่หวังดีต่อเจ้าของข้อมูลนำข้อมูลเหล่านี้ไปหาประโยชน์หรือทำอันตรายแก่ผู้เป็นเจ้าของข้อมูลได้
ส่งผลด้านใดต่อความน่าเชื่อถือเอไอ: ความปลอดภัย (Safe) | การปกป้องและการคืนสภาพ (Secure and Resilient) | การปรับปรุงความเป็นส่วนตัว (Privacy-Enhanced) | ตรวจสอบได้และมีความโปร่งใส (Accountable and Transparent)
ผลกระทบทางสิ่งแวดล้อม (Environmental Impacts)
การใช้เอไอจะต้องส่งผลกระทบต่อสิ่งแวดล้อมน้อยที่สุดเท่าที่จะทำได้ เหตุที่ต้องใส่หัวข้อนี้ลงไปเพราะเอไอต้องใช้การประมวลผลสูงมาก ทำให้ปริมาณการใช้ไฟฟ้าสูงมาก รวมถึงความร้อนที่ผลิตออกมาก็สูงมากเช่นกัน จนต้องใช้อากาศและน้ำในการลดความร้อนเป็นปริมาณมาก ซึ่งก็ต้องใช้ไฟฟ้าเป็นแหล่งพลังงานในการทำงานของปั๊มเป็นปริมาณมากเช่นเดียวกัน หัวข้อนี้จึงถูกใส่เข้ามาเพื่อให้ผู้สร้างเอไอตระหนักในการพัฒนาเอไอให้ดีขึ้นในแง่ของสิ่งแวดล้อม ไม่ใช่พัฒนาความสามารถของเอไอแต่เพียงอย่างเดียว
ส่งผลด้านใดต่อความน่าเชื่อถือเอไอ: ความปลอดภัย (Safe) | ตรวจสอบได้และมีความโปร่งใส (Accountable and Transparent)
อคติที่เป็นอันตรายหรือการทำให้เป็นหนึ่งเดียว (Harmful Bias or Homogenization)
เอไอควรนำเสนอผลลัพธ์ที่รอบด้านในกรณีที่ผู้บริโภคสอบถามเอไอในเรื่องที่ยังไม่มีข้อสรุปที่แน่ชัด เหตุการณ์ที่เอไอนำเสนอผลลัพธ์ที่ไม่รอบด้าน อาจเป็นเพราะตัวอย่างที่นำมาใช้ในการเรียนรู้ของเอไอเป็นตัวอย่างจากแหล่งที่เฉพาะกลุ่มจนเกินไป สมควรต้องมีการนำตัวอย่างจากหลายแหล่งมาใช้ในการเรียนรู้ เพื่อให้ผลลัพธ์ที่ออกมามีความหลากหลายและครอบคลุมสิ่งที่เกิดขึ้นในโลกแห่งความเป็นจริง
ส่งผลด้านใดต่อความน่าเชื่อถือเอไอ: ความเท่าเทียมด้วยการจัดการอคติที่เป็นอันตราย (Fair – with Harmful Bias Managed) | ใช้ได้จริงและไว้วางใจได้ (Valid and Reliable)
องค์ประกอบระหว่างมนุษย์และเอไอ (Human-AI Configuration)
ความเสี่ยงนี้เกิดจากอคติของมนุษย์ที่มีต่อเอไอ หากผู้บริโภครู้สึกว่าตัวเองเป็นผู้เชี่ยวชาญอยู่แล้ว ผลลัพธ์ที่เอไอนำเสนออาจถูกมองข้ามหรือไม่ให้ค่า ในทางตรงข้าม หากผู้บริโภคหลงใหลในเอไอมากจนเกินไปก็อาจหลงเชื่อผลลัพธ์ทุกอย่างที่เอไอนำเสนอทั้งหมดโดยไม่ตรวจทานผลลัพธ์กับแหล่งข้อมูลอื่นก่อน ด้วยเหตุนี้ผู้บริโภคที่ใช้งานเอไอควรเปิดใจกับเอไอแต่ก็ไม่ควรเชื่อใจทุกสิ่งอย่างที่เอไอนำเสนอมาให้เช่นกัน
ส่งผลด้านใดต่อความน่าเชื่อถือเอไอ: ความปลอดภัย (Safe) | อธิบายได้และแปลความได้ (Explainable and Interpretable) | การปรับปรุงความเป็นส่วนตัว (Privacy-Enhanced) | ความเท่าเทียมด้วยการจัดการอคติที่เป็นอันตราย (Fair – with Harmful Bias Managed) | ใช้ได้จริงและไว้วางใจได้ (Valid and Reliable) | ตรวจสอบได้และมีความโปร่งใส (Accountable and Transparent)
การซื่อสัตย์ของข่าวสาร (Information Integrity)
เอไอจำเป็นต้องใช้ข้อมูลในการเรียนรู้ แต่หากข้อมูลที่ใช้ในการเรียนรู้มาจากแหล่งที่ไม่น่าเชื่อถือ ไม่เป็นความจริง หรือ เป็นแค่ความคิดเห็น ผลลัพธ์ที่ได้จากเอไอก็จะไม่น่าเชื่อถือด้วยเช่นเดียวกัน ซึ่งอาจก่อให้เกิดความเสียหายในกรณีที่ผู้บริโภคนำผลลัพธ์ที่ไม่มีความน่าเชื่อถือนั้นไปใช้งานต่อ
ส่งผลด้านใดต่อความน่าเชื่อถือเอไอ: ความปลอดภัย (Safe) | อธิบายได้และแปลความได้ (Explainable and Interpretable) | ใช้ได้จริงและไว้วางใจได้ (Valid and Reliable) | ตรวจสอบได้และมีความโปร่งใส (Accountable and Transparent)
ความปลอดภัยของข่าวสาร (Information Security)
ผู้สร้างเอไอจะต้องทำให้แน่ใจว่าโครงสร้างพื้นฐานของเอไอมีระบบความปลอดภัยเพียงพอที่จะป้องกันหรือต่อต้านการโจมตีทางไซเบอร์ หากเกิดขึ้น เอไออาจถูกปรับเปลี่ยนให้เกิดจุดอ่อนที่ทำให้ผู้ใช้สามารถเจลเบรค (Jail Break) ได้ง่ายขึ้น หรือ ปรับเปลี่ยนคุณลักษณะของเอไอให้กลายเป็นตัวตนที่ผู้สร้างไม่ต้องการได้
ส่งผลด้านใดต่อความน่าเชื่อถือเอไอ: ความปลอดภัย (Safe) | การปกป้องและการคืนสภาพ (Secure and Resilient) | การปรับปรุงความเป็นส่วนตัว (Privacy-Enhanced) | ใช้ได้จริงและไว้วางใจได้ (Valid and Reliable)
สินทรัพย์ทางปัญญา (Intellectual Property)
เนื่องจากเอไอต้องมีการฝึกโดยอิงจากเนื้อหา จึงมีความเป็นไปได้ที่เนื้อหาที่ใช้ฝึกอาจจะมีลิขสิทธิ์ เช่น เนื้อเพลง ทำนองเพลง รูปภาพ และมีความเป็นไปได้ที่ผลผลิตที่ได้จากเอไออาจจะกลายเป็นของผิดลิขสิทธิ์ไปด้วย
ส่งผลด้านใดต่อความน่าเชื่อถือเอไอ: การปรับปรุงความเป็นส่วนตัว (Privacy-Enhanced) | ความเท่าเทียมด้วยการจัดการอคติที่เป็นอันตราย (Fair – with Harmful Bias Managed) | ตรวจสอบได้และมีความโปร่งใส (Accountable and Transparent)
เนื้อหาลามก น่าอับอาย และ/หรือ ดูถูกเหยียดหยาม (Obscene, Degrading, and/or Abusive Content)
เนื้อหาประเภท ภาพความเป็นส่วนตัวที่ไม่ได้รับความยินยอม (non-consensual intimate imagery: NCII) และ เนื้อหาความรุนแรงทางเพศเด็ก (child sexual abuse material: CSAM) เป็นเนื้อหาที่ไม่ควรมีอยู่ในการเรียนรู้ของเอไอ เพราะเอไออาจเผยแพร่เนื้อหาเหล่านี้อีกต่อหนึ่ง
ส่งผลด้านใดต่อความน่าเชื่อถือเอไอ: ความปลอดภัย (Safe) | การปรับปรุงความเป็นส่วนตัว (Privacy-Enhanced) | ความเท่าเทียมด้วยการจัดการอคติที่เป็นอันตราย (Fair – with Harmful Bias Managed)
การเข้ากันได้ขององค์ประกอบและห่วงโซ่มูลค่า (Value Chain and Component Integration)
Value Chain คือ กระบวนการผลิตตั้งแต่ต้นน้ำยันปลายน้ำเพื่อผลิตภัณฑ์ที่ได้ มีคุณค่าและเป็นไปตามประสงค์ของผู้ผลิต ความเสี่ยงในหัวข้อนี้ คือ ผู้ผลิตเอไออาจจะมีการใช้งานคอมโพเนนท์ที่ไม่ได้ผลิตขึ้นมาเอง อาจเป็นคอมโพเนนท์ของเจ้าที่สาม ซึ่งไม่ได้สนใจความต้องการของผู้ผลิตเอไอ ซึ่งผลลัพธ์ที่ได้อาจทำให้เอไอทำในสิ่งที่ผู้ผลิตไม่ต้องการ
ส่งผลด้านใดต่อความน่าเชื่อถือเอไอ: ความปลอดภัย (Safe) | การปกป้องและการคืนสภาพ (Secure and Resilient) | อธิบายได้และแปลความได้ (Explainable and Interpretable) | การปรับปรุงความเป็นส่วนตัว (Privacy-Enhanced) | ความเท่าเทียมด้วยการจัดการอคติที่เป็นอันตราย (Fair – with Harmful Bias Managed) | ใช้ได้จริงและไว้วางใจได้ (Valid and Reliable) | ตรวจสอบได้และมีความโปร่งใส (Accountable and Transparent)