ຄຳວ່າ Explainable AI ແມ່ນໜຶ່ງໃນປະໂຫຍກເຫຼົ່ານັ້ນທີ່ຟັງແລ້ວດີຫຼາຍໃນຕອນແລງ ແລະ ກາຍເປັນສິ່ງສຳຄັນຫຼາຍໃນເວລາທີ່ອັລກໍຣິທຶມກະຕຸ້ນການວິນິດໄສທາງການແພດ, ອະນຸມັດເງິນກູ້, ຫຼື ໝາຍເຖິງການຂົນສົ່ງ. ຖ້າທ່ານເຄີຍຄິດວ່າ, ໂອເຄ, ແຕ່ ເປັນຫຍັງ ຕົວແບບຈຶ່ງເຮັດແນວນັ້ນ... ທ່ານຢູ່ໃນພື້ນທີ່ Explainable AI ແລ້ວ. ໃຫ້ພວກເຮົາອະທິບາຍແນວຄວາມຄິດດ້ວຍພາສາທີ່ເຂົ້າໃຈງ່າຍ - ບໍ່ມີເວດມົນ, ພຽງແຕ່ວິທີການ, ການແລກປ່ຽນ, ແລະ ຄວາມຈິງທີ່ຍາກລຳບາກບາງຢ່າງ.
ບົດຄວາມທີ່ທ່ານອາດຈະຢາກອ່ານຫຼັງຈາກບົດຄວາມນີ້:
🔗 ຄວາມລຳອຽງຂອງ AI ແມ່ນຫຍັງ?
ເຂົ້າໃຈອະຄະຕິຂອງ AI, ແຫຼ່ງທີ່ມາ, ຜົນກະທົບ ແລະ ຍຸດທະສາດການຫຼຸດຜ່ອນຄວາມສ່ຽງ.
🔗 AI ແບບຄາດເດົາແມ່ນຫຍັງ?
ສຳຫຼວດ AI ທີ່ຄາດເດົາໄດ້, ການນຳໃຊ້ທົ່ວໄປ, ຜົນປະໂຫຍດ ແລະ ຂໍ້ຈຳກັດຕ່າງໆໃນທາງປະຕິບັດ.
🔗 AI ຫຸ່ນຍົນຮູບຮ່າງຄ້າຍຄືກັບມະນຸດແມ່ນຫຍັງ?
ຮຽນຮູ້ວິທີທີ່ AI ຊ່ວຍໃຫ້ຫຸ່ນຍົນຮູບຮ່າງຄ້າຍຄືມະນຸດມີພະລັງ, ຄວາມສາມາດ, ຕົວຢ່າງ ແລະ ສິ່ງທ້າທາຍຕ່າງໆ.
🔗 ຄູຝຶກ AI ແມ່ນຫຍັງ?
ຄົ້ນພົບສິ່ງທີ່ຄູຝຶກ AI ເຮັດ, ທັກສະທີ່ຕ້ອງການ ແລະ ເສັ້ນທາງອາຊີບ.
AI ທີ່ສາມາດອະທິບາຍໄດ້ໝາຍຄວາມວ່າແນວໃດ
AI ທີ່ອະທິບາຍໄດ້ແມ່ນການປະຕິບັດການອອກແບບ ແລະ ການນຳໃຊ້ລະບົບ AI ເພື່ອໃຫ້ຜົນຜະລິດຂອງມັນສາມາດເຂົ້າໃຈໄດ້ໂດຍມະນຸດ - ບຸກຄົນສະເພາະທີ່ໄດ້ຮັບຜົນກະທົບຈາກ ຫຼື ຮັບຜິດຊອບຕໍ່ການຕັດສິນໃຈ, ບໍ່ພຽງແຕ່ນັກຄະນິດສາດເທົ່ານັ້ນ. NIST ກັ່ນຕອງສິ່ງນີ້ອອກເປັນສີ່ຫຼັກການຄື: ໃຫ້ ຄຳອະທິບາຍ , ເຮັດໃຫ້ມັນ ມີຄວາມໝາຍ ສຳລັບຜູ້ຊົມ, ຮັບປະກັນ ຄວາມຖືກຕ້ອງຂອງຄຳອະທິບາຍ (ຊື່ສັດຕໍ່ຮູບແບບ), ແລະ ເຄົາລົບ ຂໍ້ຈຳກັດຄວາມຮູ້ (ຢ່າເວົ້າເກີນຈິງກ່ຽວກັບສິ່ງທີ່ລະບົບຮູ້) [1].
ຍົກເວັ້ນປະຫວັດສາດສັ້ນໆ: ຂົງເຂດຄວາມປອດໄພທີ່ສຳຄັນໄດ້ຖືກຊຸກຍູ້ໃນຕອນຕົ້ນຂອງເລື່ອງນີ້, ໂດຍແນໃສ່ຮູບແບບທີ່ຖືກຕ້ອງແຕ່ສາມາດຕີຄວາມໄດ້ພຽງພໍທີ່ຈະໄວ້ວາງໃຈ "ໃນວົງຈອນ". ດາວເໜືອບໍ່ໄດ້ປ່ຽນແປງຄຳອະທິບາຍທີ່ໃຊ້ໄດ້ ໂດຍບໍ່ມີ ການທຳລາຍປະສິດທິພາບ.
ເປັນຫຍັງ Explainable AI ຈຶ່ງມີຄວາມສຳຄັນຫຼາຍກວ່າທີ່ທ່ານຄິດ 💡
-
ຄວາມໄວ້ວາງໃຈ ແລະ ການຮັບຮອງເອົາ - ຜູ້ຄົນຍອມຮັບລະບົບທີ່ພວກເຂົາສາມາດສອບຖາມ, ສອບຖາມ ແລະ ແກ້ໄຂໄດ້.
-
ຄວາມສ່ຽງ ແລະ ຄວາມປອດໄພ - ຄຳອະທິບາຍສະແດງໃຫ້ເຫັນເຖິງຮູບແບບຄວາມລົ້ມເຫຼວກ່ອນທີ່ພວກມັນຈະເຮັດໃຫ້ທ່ານແປກໃຈໃນຂອບເຂດກ້ວາງຂວາງ.
-
ຄວາມຄາດຫວັງດ້ານກົດລະບຽບ - ໃນສະຫະພາບເອີຣົບ, ກົດໝາຍວ່າດ້ວຍ AI ກຳນົດໜ້າທີ່ຄວາມໂປ່ງໃສທີ່ຊັດເຈນ - ຕົວຢ່າງ, ບອກຜູ້ຄົນເມື່ອພວກເຂົາພົວພັນກັບ AI ໃນສະພາບການສະເພາະໃດໜຶ່ງ ແລະ ຕິດປ້າຍເນື້ອຫາທີ່ສ້າງຂຶ້ນ ຫຼື ດັດແປງໂດຍ AI ຢ່າງເໝາະສົມ [2].
ຂໍໃຫ້ຊື່ສັດ - ແຜງຄວບຄຸມທີ່ສວຍງາມບໍ່ແມ່ນຄໍາອະທິບາຍ. ຄໍາອະທິບາຍທີ່ດີຊ່ວຍໃຫ້ຄົນຕັດສິນໃຈວ່າຈະເຮັດແນວໃດຕໍ່ໄປ.
ສິ່ງທີ່ເຮັດໃຫ້ Explainable AI ມີປະໂຫຍດ ✅
ເມື່ອທ່ານປະເມີນວິທີການ XAI ໃດໆ, ໃຫ້ຖາມວ່າ:
-
ຄວາມຊື່ສັດ - ຄຳອະທິບາຍສະທ້ອນໃຫ້ເຫັນເຖິງພຶດຕິກຳຂອງຕົວແບບ, ຫຼືພຽງແຕ່ເລົ່າເລື່ອງທີ່ໜ້າພໍໃຈ?
-
ປະໂຫຍດສຳລັບຜູ້ຊົມ - ນັກວິທະຍາສາດຂໍ້ມູນຕ້ອງການການປ່ຽນແປງ; ແພດໝໍຕ້ອງການຂໍ້ເທັດຈິງທີ່ກົງກັນຂ້າມ ຫຼື ກົດລະບຽບ; ລູກຄ້າຕ້ອງການເຫດຜົນທີ່ເປັນພາສາທຳມະດາ ບວກກັບຂັ້ນຕອນຕໍ່ໄປ.
-
ຄວາມໝັ້ນຄົງ - ການປ່ຽນແປງການປ້ອນຂໍ້ມູນເລັກນ້ອຍບໍ່ຄວນປ່ຽນເລື່ອງຈາກ A ຫາ Z.
-
ຄວາມສາມາດໃນການປະຕິບັດໄດ້ - ຖ້າຜົນຜະລິດບໍ່ເປັນທີ່ປາຖະໜາ, ມີຫຍັງປ່ຽນແປງໄດ້ແດ່?
-
ຄວາມຊື່ສັດກ່ຽວກັບຄວາມບໍ່ແນ່ນອນ - ຄຳອະທິບາຍຄວນເປີດເຜີຍຂໍ້ຈຳກັດ, ບໍ່ແມ່ນການທາສີທັບພວກມັນ.
-
ຄວາມຊັດເຈນຂອງຂອບເຂດ - ນີ້ແມ່ນ ໃນທ້ອງຖິ່ນ ສຳລັບການຄາດຄະເນດຽວ ຫຼື ທົ່ວໂລກ ກ່ຽວກັບພຶດຕິກຳຂອງແບບຈຳລອງ?
ຖ້າທ່ານຈື່ໄດ້ພຽງຢ່າງດຽວ: ຄຳອະທິບາຍທີ່ເປັນປະໂຫຍດຈະປ່ຽນແປງການຕັດສິນໃຈຂອງຜູ້ໃດຜູ້ໜຶ່ງ, ບໍ່ພຽງແຕ່ອາລົມຂອງເຂົາເຈົ້າເທົ່ານັ້ນ.
ແນວຄວາມຄິດຫຼັກໆທີ່ເຈົ້າຈະໄດ້ຍິນຫຼາຍ 🧩
-
ການຕີຄວາມໝາຍ vs ການອະທິບາຍ - ການຕີຄວາມໝາຍ: ຮູບແບບແມ່ນງ່າຍດາຍພຽງພໍທີ່ຈະອ່ານ (ຕົວຢ່າງ, ຕົ້ນໄມ້ນ້ອຍ). ການອະທິບາຍ: ເພີ່ມວິທີການຢູ່ເທິງສຸດເພື່ອເຮັດໃຫ້ຮູບແບບທີ່ສັບສົນອ່ານງ່າຍ.
-
ທ້ອງຖິ່ນ ທຽບກັບ ທົ່ວໂລກ - ທ້ອງຖິ່ນອະທິບາຍການຕັດສິນໃຈໜຶ່ງ; ທົ່ວໂລກສະຫຼຸບພຶດຕິກຳໂດຍລວມ.
-
Post-hoc ທຽບກັບ intrinsic - Post-hoc ອະທິບາຍເຖິງກ່ອງດຳທີ່ໄດ້ຮັບການຝຶກອົບຮົມ; intrinsic ໃຊ້ຮູບແບບທີ່ສາມາດຕີຄວາມໝາຍໄດ້ໂດຍທຳມະຊາດ.
ແມ່ນແລ້ວ, ເສັ້ນເຫຼົ່ານີ້ມົວໆ. ບໍ່ເປັນຫຍັງ; ພາສາມີວິວັດທະນາການ; ການລົງທະບຽນຄວາມສ່ຽງຂອງເຈົ້າບໍ່ໄດ້ວິວັດທະນາການ.
ວິທີການ AI ທີ່ສາມາດອະທິບາຍໄດ້ທີ່ນິຍົມ - ການທ່ອງທ່ຽວ 🎡
ນີ້ແມ່ນທົວແບບລົມພັດແຮງ, ມີຄວາມຮູ້ສຶກຄືກັບຄູ່ມືສຽງຈາກພິພິທະພັນແຕ່ສັ້ນກວ່າ.
1) ຄຸນລັກສະນະເພີ່ມເຕີມ
-
SHAP - ມອບໝາຍໃຫ້ແຕ່ລະຄຸນສົມບັດປະກອບສ່ວນເຂົ້າໃນການຄາດຄະເນສະເພາະຜ່ານແນວຄວາມຄິດທາງທິດສະດີເກມ. ມັກສຳລັບຄຳອະທິບາຍເພີ່ມເຕີມທີ່ຊັດເຈນ ແລະ ມຸມມອງທີ່ເປັນເອກະພາບໃນທົ່ວຮູບແບບຕ່າງໆ [3].
2) ຮູບແບບຕົວແທນທ້ອງຖິ່ນ
-
LIME - ຝຶກອົບຮົມຮູບແບບທ້ອງຖິ່ນທີ່ງ່າຍດາຍອ້ອມຮອບຕົວຢ່າງທີ່ຈະອະທິບາຍ. ສະຫຼຸບໄດ້ໄວ ແລະ ມະນຸດສາມາດອ່ານໄດ້ ເຊິ່ງຄຸນສົມບັດຕ່າງໆມີຄວາມສຳຄັນຢູ່ໃກ້ໆ. ດີເລີດສຳລັບການສາທິດ, ເປັນປະໂຫຍດໃນຄວາມໝັ້ນຄົງຂອງການເບິ່ງການປະຕິບັດ [4].
3) ວິທີການອີງໃສ່ການເລື່ອນສີສຳລັບຕາໜ່າງເລິກ
-
ການຫັນປ່ຽນແບບປະສົມປະສານ - ສະແດງຄວາມສຳຄັນໂດຍການລວມເອົາການຫັນປ່ຽນຈາກເສັ້ນຖານໄປຫາຂໍ້ມູນປ້ອນຂໍ້ມູນ; ມັກໃຊ້ສຳລັບວິໄສທັດ ແລະ ຂໍ້ຄວາມ. ຫຼັກການທີ່ສົມເຫດສົມຜົນ; ຕ້ອງລະມັດລະວັງກັບເສັ້ນຖານ ແລະ ສິ່ງລົບກວນ [1].
4) ຄຳອະທິບາຍໂດຍອີງໃສ່ຕົວຢ່າງ
-
ຂໍ້ເທັດຈິງທີ່ກົງກັນຂ້າມ - "ການປ່ຽນແປງໜ້ອຍທີ່ສຸດອັນໃດທີ່ຈະເຮັດໃຫ້ຜົນໄດ້ຮັບປ່ຽນແປງ?" ເໝາະສຳລັບການຕັດສິນໃຈເພາະມັນສາມາດປະຕິບັດໄດ້ຕາມທຳມະຊາດ - ເຮັດ X ເພື່ອໃຫ້ໄດ້ Y [1].
5) ຕົ້ນແບບ, ກົດລະບຽບ, ແລະ ການເພິ່ງພາອາໄສບາງສ່ວນ
-
ຕົ້ນແບບສະແດງຕົວຢ່າງທີ່ເປັນຕົວແທນ; ກົດລະບຽບຈັບຮູບແບບເຊັ່ນວ່າ ຖ້າລາຍໄດ້ > X ແລະປະຫວັດ = ສະອາດແລ້ວອະນຸມັດ ; ການເພິ່ງພາອາໄສບາງສ່ວນສະແດງຜົນກະທົບສະເລ່ຍຂອງຄຸນສົມບັດໃນຊ່ວງ. ແນວຄວາມຄິດງ່າຍໆ, ມັກຈະຖືກປະເມີນຄ່າຕໍ່າເກີນໄປ.
6) ສຳລັບຮູບແບບພາສາ
-
ໂທເຄັນ/ຂອບເຂດການອ້າງອີງ, ຕົວຢ່າງທີ່ດຶງມາ, ແລະເຫດຜົນທີ່ມີໂຄງສ້າງ. ເປັນປະໂຫຍດ, ພ້ອມດ້ວຍຂໍ້ຄວນລະວັງຕາມປົກກະຕິ: ແຜນທີ່ຄວາມຮ້ອນທີ່ບໍ່ຮັບປະກັນເຫດຜົນເຊີງເຫດແລະຜົນ [5].
ກໍລະນີ (ປະກອບ) ສັ້ນໆຈາກພາກສະໜາມ 🧪
ຜູ້ໃຫ້ກູ້ຂະໜາດກາງສົ່ງຮູບແບບທີ່ເພີ່ມການເລື່ອນສີສຳລັບການຕັດສິນໃຈກ່ຽວກັບສິນເຊື່ອ. SHAP ທ້ອງຖິ່ນ ຊ່ວຍຕົວແທນອະທິບາຍຜົນໄດ້ຮັບທີ່ບໍ່ດີ (“ໜີ້ສິນຕໍ່ລາຍໄດ້ ແລະ ການນຳໃຊ້ສິນເຊື່ອທີ່ຜ່ານມາແມ່ນຕົວຂັບເຄື່ອນຫຼັກ.”) [3]. ກົງກັນຂ້າມ ຊີ້ໃຫ້ເຫັນເຖິງວິທີການແກ້ໄຂທີ່ເປັນໄປໄດ້ (“ຫຼຸດຜ່ອນການນຳໃຊ້ໝູນວຽນປະມານ 10% ຫຼື ເພີ່ມ £1,500 ໃນເງິນຝາກທີ່ຢືນຢັນແລ້ວເພື່ອປ່ຽນແປງການຕັດສິນໃຈ.”) [1]. ພາຍໃນ, ທີມງານດຳເນີນ ການທົດສອບແບບສຸ່ມ ກ່ຽວກັບຮູບພາບແບບທີ່ໂດດເດັ່ນທີ່ພວກເຂົາໃຊ້ໃນ QA ເພື່ອຮັບປະກັນວ່າຈຸດເດັ່ນບໍ່ພຽງແຕ່ເປັນເຄື່ອງກວດຈັບຂອບທີ່ປອມຕົວເທົ່ານັ້ນ [5]. ຮູບແບບດຽວກັນ, ຄຳອະທິບາຍທີ່ແຕກຕ່າງກັນສຳລັບຜູ້ຊົມທີ່ແຕກຕ່າງກັນ - ລູກຄ້າ, ຜູ້ປະກອບການ, ແລະ ຜູ້ກວດສອບ.
ສິ່ງທີ່ງຸ່ມງ່າມ: ຄຳອະທິບາຍສາມາດເຮັດໃຫ້ເຂົ້າໃຈຜິດໄດ້ 🙃
ວິທີການທີ່ໂດດເດັ່ນບາງຢ່າງເບິ່ງຄືວ່າໜ້າເຊື່ອຖືໄດ້ເຖິງແມ່ນວ່າພວກມັນບໍ່ໄດ້ເຊື່ອມໂຍງກັບຮູບແບບທີ່ໄດ້ຮັບການຝຶກອົບຮົມ ຫຼື ຂໍ້ມູນ. ການກວດສອບຄວາມສະຫຼາດສະແດງໃຫ້ເຫັນວ່າເຕັກນິກບາງຢ່າງສາມາດລົ້ມເຫຼວໃນການທົດສອບພື້ນຖານ, ເຊິ່ງເຮັດໃຫ້ເຂົ້າໃຈຜິດ. ການແປ: ຮູບພາບທີ່ສວຍງາມສາມາດເປັນການສະແດງລະຄອນທີ່ບໍລິສຸດ. ສ້າງການທົດສອບການກວດສອບຄວາມຖືກຕ້ອງສຳລັບວິທີການອະທິບາຍຂອງເຈົ້າ [5].
ນອກຈາກນັ້ນ, sparse ≠ honest. ເຫດຜົນປະໂຫຍກດຽວອາດຈະປິດບັງການພົວພັນທີ່ໃຫຍ່ຫຼວງ. ຄວາມຂັດແຍ້ງເລັກນ້ອຍໃນຄໍາອະທິບາຍສາມາດເປັນສັນຍານຂອງຄວາມບໍ່ແນ່ນອນຂອງຮູບແບບທີ່ແທ້ຈິງ - ຫຼືພຽງແຕ່ສຽງລົບກວນ. ໜ້າທີ່ຂອງເຈົ້າຄືການບອກວ່າອັນໃດແມ່ນອັນໃດ.
ການປົກຄອງ, ນະໂຍບາຍ, ແລະມາດຕະຖານທີ່ເພີ່ມຂຶ້ນສຳລັບຄວາມໂປ່ງໃສ 🏛️
ຜູ້ກຳນົດນະໂຍບາຍຄາດຫວັງວ່າຈະມີຄວາມໂປ່ງໃສທີ່ເໝາະສົມກັບສະພາບການ. ໃນ EU , ກົດໝາຍວ່າດ້ວຍ AI ໄດ້ກຳນົດພັນທະຕ່າງໆເຊັ່ນ: ການແຈ້ງໃຫ້ປະຊາຊົນຮູ້ເມື່ອພວກເຂົາພົວພັນກັບ AI ໃນກໍລະນີທີ່ລະບຸໄວ້, ແລະ ການຕິດສະຫຼາກເນື້ອຫາທີ່ສ້າງຂຶ້ນ ຫຼື ດັດແປງໂດຍ AI ດ້ວຍແຈ້ງການ ແລະ ວິທີການທາງວິຊາການທີ່ເໝາະສົມ, ໂດຍຂຶ້ນກັບຂໍ້ຍົກເວັ້ນ (ເຊັ່ນ: ການນຳໃຊ້ທີ່ຖືກຕ້ອງຕາມກົດໝາຍ ຫຼື ການສະແດງອອກທີ່ໄດ້ຮັບການປົກປ້ອງ) [2]. ໃນດ້ານວິສະວະກຳ, NIST ໃຫ້ຄຳແນະນຳທີ່ເນັ້ນໃສ່ຫຼັກການເພື່ອຊ່ວຍໃຫ້ທີມງານອອກແບບຄຳອະທິບາຍທີ່ຜູ້ຄົນສາມາດໃຊ້ໄດ້ແທ້ໆ [1].
ວິທີການເລືອກວິທີການ AI ທີ່ອະທິບາຍໄດ້ - ແຜນທີ່ໄວ 🗺️
-
ເລີ່ມຕົ້ນຈາກການຕັດສິນໃຈ - ໃຜຕ້ອງການຄໍາອະທິບາຍ, ແລະສໍາລັບການດໍາເນີນການໃດ?
-
ຈັບຄູ່ວິທີການກັບຮູບແບບ ແລະ ສື່
-
ວິທີການ gradient ສຳລັບຕາໜ່າງເລິກໃນວິໄສທັດ ຫຼື NLP [1].
-
SHAP ຫຼື LIME ສຳລັບຮູບແບບຕາຕະລາງເມື່ອທ່ານຕ້ອງການຄຸນລັກສະນະຕ່າງໆ [3][4].
-
ຂໍ້ເທັດຈິງທີ່ກົງກັນສຳລັບການແກ້ໄຂ ແລະ ການອຸທອນທີ່ລູກຄ້າປະເຊີນ [1].
-
-
ກຳນົດປະຕູຄຸນນະພາບ - ການກວດສອບຄວາມສັດຊື່, ການທົດສອບຄວາມໝັ້ນຄົງ, ແລະ ການທົບທວນຄືນຈາກມະນຸດພາຍໃນວົງຈອນ [5].
-
ວາງແຜນສຳລັບຂະໜາດ - ຄຳອະທິບາຍຄວນຈະສາມາດບັນທຶກໄດ້, ສາມາດທົດສອບໄດ້, ແລະ ສາມາດກວດສອບໄດ້.
-
ຂໍ້ຈຳກັດຂອງເອກະສານ - ບໍ່ມີວິທີການໃດທີ່ສົມບູນແບບ; ຂຽນຮູບແບບຄວາມລົ້ມເຫຼວທີ່ຮູ້ຈັກລົງ.
ນອກຈາກນັ້ນ, ຖ້າທ່ານບໍ່ສາມາດທົດສອບຄຳອະທິບາຍໄດ້ຄືກັນກັບທີ່ທ່ານທົດສອບຮູບແບບ, ທ່ານອາດຈະບໍ່ມີຄຳອະທິບາຍ, ພຽງແຕ່ຄວາມຮູ້ສຶກເທົ່ານັ້ນ.
ຕາຕະລາງປຽບທຽບ - ຕົວເລືອກ AI ທີ່ສາມາດອະທິບາຍໄດ້ທົ່ວໄປ 🧮
ມີຈຸດປະສົງແປກປະຫຼາດເລັກນ້ອຍ; ຊີວິດຈິງແມ່ນວຸ້ນວາຍ.
| ເຄື່ອງມື / ວິທີການ | ຜູ້ຊົມທີ່ດີທີ່ສຸດ | ລາຄາ | ເປັນຫຍັງມັນຈຶ່ງໃຊ້ໄດ້ຜົນສຳລັບພວກເຂົາ |
|---|---|---|---|
| SHAP | ນັກວິທະຍາສາດຂໍ້ມູນ, ຜູ້ກວດສອບ | ຟຣີ/ເປີດ | ການອະທິບາຍເພີ່ມເຕີມ - ສອດຄ່ອງກັນ, ສາມາດປຽບທຽບໄດ້ [3]. |
| ໝາກນາວ | ທີມງານຜະລິດຕະພັນ, ນັກວິເຄາະ | ຟຣີ/ເປີດ | ຕົວແທນທ້ອງຖິ່ນທີ່ໄວ; ງ່າຍຕໍ່ການລົບກວນ; ບາງຄັ້ງກໍ່ມີສຽງດັງ [4]. |
| ການไล่ระดับສີແບບປະສົມປະສານ | ວິສະວະກອນ ML ໃນເຄືອຂ່າຍເລິກ | ຟຣີ/ເປີດ | ການອະທິບາຍໂດຍອີງໃສ່ການເລື່ອນສີພ້ອມດ້ວຍຫຼັກການທີ່ສົມເຫດສົມຜົນ [1]. |
| ຂໍ້ເທັດຈິງທີ່ກົງກັນຂ້າມ | ຜູ້ໃຊ້ສຸດທ້າຍ, ການປະຕິບັດຕາມ, ການປະຕິບັດງານ | ປະສົມ | ຕອບໂດຍກົງກ່ຽວກັບສິ່ງທີ່ຕ້ອງປ່ຽນແປງ; ສາມາດປະຕິບັດໄດ້ຢ່າງມີປະສິດທິພາບສູງ [1]. |
| ລາຍຊື່ກົດລະບຽບ / ຕົ້ນໄມ້ | ເຈົ້າຂອງຄວາມສ່ຽງ, ຜູ້ຈັດການ | ຟຣີ/ເປີດ | ການຕີຄວາມໝາຍພາຍໃນ; ບົດສະຫຼຸບທົ່ວໂລກ. |
| ການເພິ່ງພາອາໄສບາງສ່ວນ | ນັກພັດທະນາຮູບແບບ, QA | ຟຣີ/ເປີດ | ສະແດງຜົນກະທົບໂດຍສະເລ່ຍໃນທົ່ວຂອບເຂດຕ່າງໆ. |
| ຕົ້ນແບບ ແລະ ຕົວຢ່າງ | ຜູ້ອອກແບບ, ຜູ້ທົບທວນ | ຟຣີ/ເປີດ | ຕົວຢ່າງທີ່ເປັນຮູບປະທຳ ແລະ ເປັນມິດກັບມະນຸດ; ສາມາດເຊື່ອມໂຍງໄດ້. |
| ແພລດຟອມເຄື່ອງມື | ທີມງານເວທີ, ການຄຸ້ມຄອງ | ການຄ້າ | ການຕິດຕາມກວດກາ + ຄຳອະທິບາຍ + ການກວດສອບໃນບ່ອນດຽວ. |
ແມ່ນແລ້ວ, ຈຸລັງບໍ່ສະໝໍ່າສະເໝີ. ນັ້ນແຫຼະຄືຊີວິດ.
ຂັ້ນຕອນການເຮັດວຽກງ່າຍໆສຳລັບ AI ທີ່ສາມາດອະທິບາຍໄດ້ໃນການຜະລິດ 🛠️
ຂັ້ນຕອນທີ 1 - ກຳນົດຄຳຖາມ.
ຕັດສິນໃຈວ່າຄວາມຕ້ອງການຂອງໃຜສຳຄັນທີ່ສຸດ. ການອະທິບາຍສຳລັບນັກວິທະຍາສາດຂໍ້ມູນບໍ່ຄືກັນກັບຈົດໝາຍອຸທອນສຳລັບລູກຄ້າ.
ຂັ້ນຕອນທີ 2 - ເລືອກວິທີການຕາມສະພາບການ.
-
ຮູບແບບຄວາມສ່ຽງແບບຕາຕະລາງສຳລັບເງິນກູ້ - ເລີ່ມຕົ້ນດ້ວຍ SHAP ສຳລັບທ້ອງຖິ່ນ ແລະ ທົ່ວໂລກ; ຕື່ມຂໍ້ມູນກົງກັນຂ້າມສຳລັບການຮຽກຮ້ອງ [3][1].
-
ຕົວຈັດປະເພດວິໄສທັດ - ໃຊ້ Integrated Gradients ຫຼື ທີ່ຄ້າຍຄືກັນ; ເພີ່ມການກວດສອບສຸຂະພາບເພື່ອຫຼີກເວັ້ນບັນຫາຄວາມໂດດເດັ່ນ [1][5].
ຂັ້ນຕອນທີ 3 - ກວດສອບຄວາມຖືກຕ້ອງຂອງຄຳອະທິບາຍ.
ເຮັດການທົດສອບຄວາມສອດຄ່ອງຂອງຄຳອະທິບາຍ; ການປ້ອນຂໍ້ມູນທີ່ຖືກລົບກວນ; ກວດສອບວ່າຄຸນສົມບັດທີ່ສຳຄັນກົງກັບຄວາມຮູ້ດ້ານໂດເມນ. ຖ້າຄຸນສົມບັດອັນດັບຕົ້ນໆຂອງເຈົ້າເລື່ອນລອຍໄປຢ່າງກະທັນຫັນໃນແຕ່ລະການຝຶກຊ້ອມຄືນໃໝ່, ໃຫ້ຢຸດຊົ່ວຄາວ.
ຂັ້ນຕອນທີ 4 - ເຮັດໃຫ້ຄຳອະທິບາຍສາມາດໃຊ້ໄດ້.
ເຫດຜົນພາສາທຳມະດາຄຽງຄູ່ກັບຕາຕະລາງ. ລວມເອົາການກະທຳທີ່ດີທີ່ສຸດຕໍ່ໄປ. ສະເໜີລິ້ງໄປຫາຜົນໄດ້ຮັບຂອງສິ່ງທ້າທາຍບ່ອນທີ່ເໝາະສົມ - ນີ້ແມ່ນສິ່ງທີ່ກົດລະບຽບຄວາມໂປ່ງໃສມີຈຸດປະສົງເພື່ອສະໜັບສະໜູນ [2].
ຂັ້ນຕອນທີ 5 - ຕິດຕາມກວດກາ ແລະ ບັນທຶກ.
ຕິດຕາມຄວາມໝັ້ນຄົງຂອງຄຳອະທິບາຍຕາມການເວລາ. ຄຳອະທິບາຍທີ່ເຮັດໃຫ້ເຂົ້າໃຈຜິດແມ່ນສັນຍານຄວາມສ່ຽງ, ບໍ່ແມ່ນຂໍ້ບົກຜ່ອງທາງດ້ານຄວາມງາມ.
ເຈາະເລິກ 1: ຄຳອະທິບາຍທ້ອງຖິ່ນທຽບກັບທົ່ວໂລກໃນການປະຕິບັດ 🔍
-
ທ້ອງຖິ່ນ ຊ່ວຍໃຫ້ບຸກຄົນເຂົ້າໃຈວ່າເປັນຫຍັງ ກໍລະນີ ຂອງເຂົາເຈົ້າ ການ ຕັດສິນໃຈທີ່ສຳຄັນຫຼາຍໃນສະພາບການທີ່ລະອຽດອ່ອນ.
-
Global ຊ່ວຍທີມງານຂອງທ່ານຮັບປະກັນວ່າພຶດຕິກຳທີ່ໄດ້ຮຽນຮູ້ຂອງຮູບແບບສອດຄ່ອງກັບນະໂຍບາຍ ແລະ ຄວາມຮູ້ດ້ານໂດເມນ.
ເຮັດທັງສອງຢ່າງ. ທ່ານອາດຈະເລີ່ມຕົ້ນການດຳເນີນງານບໍລິການໃນທ້ອງຖິ່ນ, ຈາກນັ້ນເພີ່ມການຕິດຕາມກວດກາທົ່ວໂລກສຳລັບການທົບທວນຄວາມຜິດປົກກະຕິ ແລະ ຄວາມຍຸຕິທຳ.
ເຈາະເລິກ 2: ຂໍ້ເທັດຈິງທີ່ກົງກັນຂ້າມສຳລັບການອຸທອນ ແລະ ການອຸທອນ 🔄
ຜູ້ຄົນຢາກຮູ້ການປ່ຽນແປງຂັ້ນຕ່ຳສຸດເພື່ອໃຫ້ໄດ້ຜົນທີ່ດີກວ່າ. ຄຳອະທິບາຍທີ່ກົງກັນຂ້າມເຮັດແບບນັ້ນແທ້ໆ - ປ່ຽນປັດໄຈສະເພາະເຫຼົ່ານີ້ ແລະ ຜົນໄດ້ຮັບຈະປ່ຽນໄປ [1]. ລະວັງ: ຄຳອະທິບາຍທີ່ກົງກັນຂ້າມຕ້ອງເຄົາລົບ ຄວາມເປັນໄປໄດ້ ແລະ ຄວາມຍຸຕິທຳ . ການບອກໃຫ້ຜູ້ໃດຜູ້ໜຶ່ງປ່ຽນຄຸນລັກສະນະທີ່ບໍ່ປ່ຽນແປງບໍ່ແມ່ນແຜນການ, ມັນເປັນສັນຍານເຕືອນໄພ.
ການເຈາະເລິກ 3: ການກວດສອບສຸຂະພາບ 🧪
ຖ້າທ່ານໃຊ້ແຜນທີ່ຈຸດເດັ່ນ ຫຼື ການເລື່ອນສີ, ໃຫ້ດຳເນີນການກວດສອບຄວາມສະຫຼາດ. ບາງເຕັກນິກສ້າງແຜນທີ່ທີ່ເກືອບຄືກັນເຖິງແມ່ນວ່າທ່ານຈະສຸ່ມພາລາມິເຕີຂອງຮູບແບບ - ຊຶ່ງໝາຍຄວາມວ່າພວກມັນອາດຈະເນັ້ນຂອບ ແລະ ໂຄງສ້າງ, ບໍ່ແມ່ນຫຼັກຖານທີ່ໄດ້ຮຽນຮູ້. ແຜນທີ່ຄວາມຮ້ອນທີ່ສວຍງາມ, ເລື່ອງທີ່ເຮັດໃຫ້ເຂົ້າໃຈຜິດ. ສ້າງການກວດສອບອັດຕະໂນມັດເຂົ້າໃນ CI/CD [5].
ຄຳຖາມທີ່ຖືກຖາມເລື້ອຍໆທີ່ເກີດຂຶ້ນໃນທຸກໆກອງປະຊຸມ 🤓
ຖ: Explainable AI ຄືກັນກັບຄວາມຍຸຕິທຳບໍ?
ຖ: ບໍ່. ຄຳອະທິບາຍຊ່ວຍໃຫ້ທ່ານ ເຫັນ ພຶດຕິກຳ; ຄວາມຍຸຕິທຳແມ່ນຄຸນສົມບັດທີ່ທ່ານຕ້ອງ ທົດສອບ ແລະ ບັງຄັບໃຊ້ . ກ່ຽວຂ້ອງ, ບໍ່ແມ່ນຄືກັນ.
ຖາມ: ຮູບແບບທີ່ງ່າຍດາຍກວ່າສະເໝີໄປດີກວ່າບໍ?
ຕອບ: ບາງຄັ້ງ. ແຕ່ຄວາມງ່າຍດາຍ ແລະ ຜິດກໍຍັງຜິດຢູ່. ເລືອກຮູບແບບທີ່ງ່າຍດາຍທີ່ສຸດທີ່ຕອບສະໜອງຄວາມຕ້ອງການດ້ານປະສິດທິພາບ ແລະ ການຄຸ້ມຄອງ.
ຖາມ: ຄຳອະທິບາຍຈະເຮັດໃຫ້ IP ຮົ່ວໄຫຼບໍ?
ຕອບ: ພວກມັນສາມາດເຮັດໄດ້. ປັບລາຍລະອຽດຕາມຜູ້ຊົມ ແລະ ຄວາມສ່ຽງ; ບັນທຶກສິ່ງທີ່ທ່ານເປີດເຜີຍ ແລະ ເຫດຜົນ.
ຖາມ: ພວກເຮົາສາມາດສະແດງຄວາມສຳຄັນຂອງຄຸນສົມບັດ ແລະ ເອີ້ນມັນວ່າສຳເລັດແລ້ວໄດ້ບໍ?
ຕອບ: ບໍ່ແມ່ນແທ້ໆ. ແຖບຄວາມສຳຄັນທີ່ບໍ່ມີບໍລິບົດ ຫຼື ການຊ່ວຍເຫຼືອແມ່ນເຄື່ອງປະດັບ.
ຍາວເກີນໄປ, ບໍ່ໄດ້ອ່ານສະບັບ ແລະ ຄຳສັງເກດສຸດທ້າຍ 🌯
AI ທີ່ອະທິບາຍໄດ້ແມ່ນສາຂາວິຊາໃນການເຮັດໃຫ້ພຶດຕິກຳຂອງແບບຈຳລອງເຂົ້າໃຈງ່າຍ ແລະ ເປັນປະໂຫຍດຕໍ່ມະນຸດທີ່ອາໄສມັນ. ຄຳອະທິບາຍທີ່ດີທີ່ສຸດມີຄວາມໜ້າເຊື່ອຖື, ຄວາມໝັ້ນຄົງ ແລະ ຜູ້ຊົມທີ່ຊັດເຈນ. ວິທີການຕ່າງໆເຊັ່ນ SHAP, LIME, Integrated Gradients, ແລະ counterfactuals ແຕ່ລະວິທີລ້ວນແຕ່ມີຈຸດແຂງ - ໃຊ້ພວກມັນຢ່າງຕັ້ງໃຈ, ທົດສອບພວກມັນຢ່າງເຂັ້ມງວດ, ແລະ ນຳສະເໜີພວກມັນໃນພາສາທີ່ຄົນສາມາດປະຕິບັດໄດ້. ແລະຈົ່ງຈື່ໄວ້ວ່າ, ພາບທີ່ລຽບງ່າຍສາມາດເປັນການສະແດງລະຄອນໄດ້; ຮຽກຮ້ອງຫຼັກຖານທີ່ຄຳອະທິບາຍຂອງທ່ານສະທ້ອນເຖິງພຶດຕິກຳທີ່ແທ້ຈິງຂອງແບບຈຳລອງ. ສ້າງຄວາມສາມາດໃນການອະທິບາຍເຂົ້າໃນວົງຈອນຊີວິດຂອງແບບຈຳລອງຂອງທ່ານ - ມັນບໍ່ແມ່ນ add-on ທີ່ເຫຼື້ອມເປັນເງົາ, ມັນເປັນສ່ວນໜຶ່ງຂອງວິທີທີ່ທ່ານສົ່ງສິນຄ້າຢ່າງມີຄວາມຮັບຜິດຊອບ.
ແທ້ຈິງແລ້ວ, ມັນຄ້າຍຄືກັບການໃຫ້ສຽງແກ່ຕົວແບບຂອງເຈົ້າ. ບາງຄັ້ງມັນກໍ່ພຶມພຳ; ບາງຄັ້ງມັນອະທິບາຍຫຼາຍເກີນໄປ; ບາງຄັ້ງມັນເວົ້າສິ່ງທີ່ເຈົ້າຕ້ອງການໄດ້ຍິນຢ່າງແນ່ນອນ. ໜ້າທີ່ຂອງເຈົ້າແມ່ນຊ່ວຍໃຫ້ມັນເວົ້າສິ່ງທີ່ຖືກຕ້ອງ, ກັບຄົນທີ່ເໝາະສົມ, ໃນເວລາທີ່ເໝາະສົມ. ແລະ ໃສ່ປ້າຍທີ່ດີໜຶ່ງຫຼືສອງອັນ. 🎯
ເອກະສານອ້າງອີງ
[1] NIST IR 8312 - ຫຼັກການສີ່ຢ່າງຂອງປັນຍາປະດິດທີ່ສາມາດອະທິບາຍໄດ້ . ສະຖາບັນມາດຕະຖານ ແລະ ເຕັກໂນໂລຊີແຫ່ງຊາດ. ອ່ານຕື່ມ
[2] ລະບຽບ (EU) 2024/1689 - ກົດໝາຍວ່າດ້ວຍປັນຍາປະດິດ (ວາລະສານທາງການ/EUR-Lex) . ອ່ານຕື່ມ
[3] Lundberg & Lee (2017) - “ວິທີການແບບລວມສູນໃນການຕີຄວາມໝາຍການຄາດຄະເນແບບຈຳລອງ.” arXiv. ອ່ານຕື່ມ
[4] Ribeiro, Singh & Guestrin (2016) - “ເປັນຫຍັງຂ້ອຍຄວນໄວ້ວາງໃຈເຈົ້າ?” ອະທິບາຍການຄາດຄະເນຂອງຕົວຈັດປະເພດໃດໆ. arXiv. ອ່ານຕື່ມ
[5] Adebayo ແລະ ຄະນະ (2018) - “ການກວດສອບຄວາມສະຫຼາດຂອງແຜນທີ່ຄວາມສະຫຼາດ.” NeurIPS (ເອກະສານ PDF). ອ່ານຕື່ມ