คุณลักษณะของเอไอที่มีความน่าเชื่อถือ
องค์กรมาตรฐานและเทคโนโลยีแห่งชาติสหรัฐ หรือ เอนไอเอสที (NIST) ได้กำหนดคุณลักษณะของเอไอที่มีความน่าเชื่อถือพึงมี ซึ่งมีด้วยกันทั้งหมด 7 ข้อ (ที่มา) ได้แก่
- ความปลอดภัย (Safe)
- การปกป้องและการคืนสภาพ (Secure and Resilient)
- อธิบายได้และแปลความได้ (Explainable and Interpretable)
- การปรับปรุงความเป็นส่วนตัว (Privacy-Enhanced)
- ความเท่าเทียมด้วยการจัดการอคติที่เป็นอันตราย (Fair – with Harmful Bias Managed)
- ใช้ได้จริงและไว้วางใจได้ (Valid and Reliable)
- ตรวจสอบได้และมีความโปร่งใส (Accountable and Transparent)
โดยความสัมพันธ์ระหว่างคุณลักษณะเจ็ดข้อนี้ เป็นไปตามภาพด้านล่าง
| Safe | Secure & Resilient | Explainable & Interpretable | Privacy-Enhanced | Fair-with Harmful Bias Managed | Accountable & Transparent |
| Valid & Reliable | |||||
1. ความปลอดภัย (Safe)
ตามนิยามของ iso/iec ts 5723:2022 ได้นิยามคำว่าปลอดภัยเอาไว้ว่า “การไม่ทำให้เกิดเหตุการณ์ที่จะนำไปสู่อันตรายต่อ ชีวิตผู้คน สุขภาพ สินทรัพย์หรือสภาพแวดล้อม” ตัวอย่างของเหตุการณ์ที่เป็นอันตราย เช่น การใช้น้ำในปริมาณมากเกินไปจนส่งผลต่อสภาพแวดล้อม หรือ การที่มีคนทำลายตัวเองสืบเนื่องจากการคุยกับเอไอ เอไอควรปราศจากอันตรายเหล่านี้หรือทำให้เกิดขึ้นมาน้อยที่สุดเท่าที่จะทำได้
2. การปกป้องและการคืนสภาพ (Secure and Resilient)
เอไอจะต้องมีการความสามารถในการปกป้องตนเองจากการโจมตีโดยผู้ไม่หวังดีได้ (Secure) และหากการโจมตีส่งผล เอไอจะต้องปรับสภาพของตัวเองให้กลับมาอยู่ในสภาพปกติให้เร็วที่สุดเท่าที่จะทำได้ (Resilient)
3. อธิบายได้และแปลความได้ (Explainable and Interpretable)
ผู้สร้างจะต้องอธิบายหลัการทำงานของเอไอได้ (Explainable) และยังต้องสามารถบอกได้ว่าผลลัพธ์ของเอไอมีที่มาอย่างไร (Interpretable)
4. การปรับปรุงความเป็นส่วนตัว (Privacy-Enhanced)
เอไอจะต้องมีเทคโนโลยีปรับปรุงความเป็นสวนตัว หรือ Privacy-Enhanced Technology หรือ PETs คือเทคโนโลยีใดที่จะช่วยปกป้องข้อมูลส่วนตัวของผู้ใช้งาน ไม่ให้หลุดหรือตกไปยังผู้ที่เจ้าของข้อมูลไม่ต้องการหรือไม่อนุญาต
5. ความเท่าเทียมด้วยการจัดการอคติที่เป็นอันตราย (Fair – with Harmful Bias Managed)
เอไอจะต้องปราศจากอคติ ไม่ว่าจะมาจากข้อมูลที่ใช้ในการเรียนรู้หรือกระบวนการทำงานของเอไอ ในข้อนี้เอง ทาง NIST ระบุไว้ว่าเป็นเรื่องยาก เพราะแต่ละคนคิดไม่เหมือนกัน และในแต่ละวัฒนธรรมก็มีควาามเห็นในสิ่งผิดถูกที่แตกต่างกัน เอไอจะต้องทำงานและแสดงผลลัพธ์ที่ไม่เอนเอียงเข้าข้างใดข้างหนึ่ง และไม่ทำารตัดสินผิดถูกในเรื่องที่ยังหาข้อยุติไม่ได้
6. จริงและวางใจได้ (Valid and Reliable)
จากห้าข้อข้างต้น จะต้องมีหลักปฏิบัติและหลักฐานที่ทำให้แน่ใจได้ว่า เอไอมีทั้งห้าข้อนี้จริง (Valid) และจะต้องทำให้แน่ใจด้วยว่ามันจะเป็นเช่นนั้นอย่างต่อเนื่องไปตลอดหรือในเงื่อนเวลาที่ตกลงกันเป็นอย่างน้อย (Reliable)
7. ตรวจสอบได้และมีความโปร่งใส (Accountable and Transparent)
สิ่งที่ถูกสร้างขึ้นมาสืบเนื่องจากหกข้อข้างต้น จะต้องมีข้อมูลทางวิชาการรองรับ และต้องอนุญาตให้มีการตรวจสอบได้ (Accountable) ซึ่งสิ่งเหล่านี้จะนำมาซึ่งความโปร่งใส (Transparent) และนำมาซึ่งความน่าเชื่อถือให้กับเอไอ