Google ຈະທ້າທາຍຄຳຕັດສິນຂອງເຢຍລະມັນ ໂດຍກ່າວວ່າຕ້ອງຮັບຜິດຊອບຕໍ່ການອ້າງທີ່ບໍ່ຖືກຕ້ອງທີ່ສ້າງຂຶ້ນໂດຍ AI ↗
Google ວາງແຜນທີ່ຈະອຸທອນຄຳຕັດສິນຂອງສານ Munich ທີ່ຈັດປະເພດ AI Overviews ເປັນເນື້ອຫາທີ່ເຜີຍແຜ່ເອງຂອງບໍລິສັດ, ເຊິ່ງເຮັດໃຫ້ມັນມີຄວາມຮັບຜິດຊອບທາງກົດໝາຍເມື່ອບົດສະຫຼຸບເຫຼົ່ານັ້ນມີການອ້າງສິດທີ່ບໍ່ຖືກຕ້ອງ.
ຄະດີດັ່ງກ່າວໄດ້ຖືກຍື່ນໂດຍຜູ້ຈັດພິມເຢຍລະມັນສອງຄົນທີ່ຖືກເຊື່ອມໂຍງຢ່າງຜິດພາດກັບການຫຼອກລວງ ແລະ ການປະຕິບັດທຸລະກິດທີ່ໜ້າສົງໄສ. Google ອະທິບາຍວ່າຄວາມຜິດພາດດັ່ງກ່າວແຄບ, ແຕ່ຄຳຕັດສິນດັ່ງກ່າວອາດຈະເຮັດໃຫ້ເຄື່ອງຈັກຕອບຄຳຖາມ AI ທຸກເຄື່ອງຕ້ອງຮັບຜິດຊອບທາງກົດໝາຍຢ່າງໜ້າປະຫຼາດໃຈ. (Reuters)
ຜູ້ບໍລິຫານດ້ານເຕັກໂນໂລຊີຈະເຂົ້າຮ່ວມກອງປະຊຸມສຸດຍອດ G7 ໃນຂະນະທີ່ຜູ້ນຳກ່າວເຖິງ AI ແລະຄວາມປອດໄພທາງອອນລາຍ ↗
ຜູ້ນຳຈາກ OpenAI, Anthropic, Google DeepMind, Mistral AI, Cohere ແລະ Meta ຄາດວ່າຈະເຂົ້າຮ່ວມກັບເຈົ້າໜ້າທີ່ G7 ສຳລັບການສົນທະນາທີ່ກວມເອົາກົດລະບຽບ AI, ພື້ນຖານໂຄງລ່າງ ແລະ ຄວາມປອດໄພທາງອອນລາຍ.
ການປົກປ້ອງເດັກນ້ອຍທາງອອນລາຍກໍ່ຍັງຢູ່ໃນຂັ້ນຕອນພິຈາລະນາເຊັ່ນກັນ. ສະນັ້ນ, ແມ່ນແລ້ວ, ອຸດສາຫະກຳ AI ກຳລັງຢືນຢູ່ຄຽງຂ້າງຜູ້ນຳໂລກ - ເຖິງແມ່ນວ່າມັນຈະເຮັດໃຫ້ມີຄວາມຮັບຜິດຊອບຢ່າງແທ້ຈິງ ຫຼື ພຽງແຕ່ອາຫານທ່ຽງທີ່ຕົກແຕ່ງຢ່າງປະນີດຍັງຄົງບໍ່ຊັດເຈນ. (ຣອຍເຕີ)
Anthropic ກ່າວວ່າມັນກຳລັງເອົາ Claude Fable 5 ອອກເປັນອອບລາຍເພື່ອປະຕິບັດຕາມຄຳສັ່ງຂອງລັດຖະບານສະຫະລັດ ↗
Anthropic ໄດ້ປິດ Claude Fable 5 ແລະ Mythos 5 ຫຼັງຈາກໄດ້ຮັບຄຳສັ່ງຄວບຄຸມການສົ່ງອອກຂອງສະຫະລັດ ເຊິ່ງມີຈຸດປະສົງເພື່ອສະກັດກັ້ນການເຂົ້າເຖິງໂດຍຄົນຕ່າງປະເທດ ລວມທັງພະນັກງານຂອງ Anthropic.
ບໍລິສັດໄດ້ຖອນການເຂົ້າເຖິງສຳລັບທຸກຄົນ ໃນຂະນະທີ່ໂຕ້ແຍ້ງເຫດຜົນຂອງລັດຖະບານ. ເຈົ້າໜ້າທີ່ລາຍງານວ່າໄດ້ກ່າວເຖິງຄວາມກັງວົນກ່ຽວກັບການ jailbreak, ແຕ່ Anthropic ກ່າວວ່າ bypass ທີ່ສະແດງໃຫ້ເຫັນແມ່ນແຄບ ແລະ ເປີດເຜີຍພຽງແຕ່ຊ່ອງໂຫວ່ທີ່ຂ້ອນຂ້າງນ້ອຍ, ເຊິ່ງເຄີຍຮູ້ຈັກມາກ່ອນ... ເວົ້າງ່າຍໆວ່າເປັນເລື່ອງທີ່ໜ້າອາຍ. (WIRED)
ມີລາຍງານວ່າໜ່ວຍງານ AI ໃໝ່ຂອງ Meta ກຳລັງຕົກຢູ່ໃນສະພາບວຸ້ນວາຍ ↗
ອີງຕາມການສົນທະນາຂອງພະນັກງານ ແລະ ບໍລິສັດທີ່ WIRED ໄດ້ທົບທວນ, ອົງກອນ AI ປະຍຸກຂອງ Meta ກຳລັງປະເຊີນກັບຄວາມອຸກອັ່ງພາຍໃນຢ່າງກວ້າງຂວາງ. ກຸ່ມປະມານ 6,500 ຄົນໄດ້ຖືກລວບລວມເພື່ອສະໜັບສະໜູນນັກຄົ້ນຄວ້າດ້ານປັນຍາປະດິດຂອງ Meta.
ມີລາຍງານວ່າພະນັກງານຮູ້ສຶກວ່າພວກເຂົາຖືກບັງຄັບໃຫ້ເຮັດວຽກປັບປຸງຮູບແບບທີ່ຊ້ຳແລ້ວຊ້ຳອີກ ທ່າມກາງຄວາມເປັນຜູ້ນຳທີ່ບໍ່ຊັດເຈນ ແລະ ບຸລິມະສິດທີ່ບໍ່ແນ່ນອນ. ຄວາມເຄັ່ງຕຶງໄດ້ກາຍເປັນເລື່ອງທີ່ໜ້າຕື່ນເຕັ້ນຫຼາຍເມື່ອພະນັກງານຄົນໜຶ່ງຂັດຂວາງການນຳສະເໜີພາຍໃນຂະໜາດໃຫຍ່ດ້ວຍການຈົ່ມວ່າທີ່ເຕັມໄປດ້ວຍຄຳຫຍາບຄາຍ - ແຕ່ມັນບໍ່ແມ່ນເລື່ອງເລັກນ້ອຍ. (WIRED)
ການດຳເນີນງານອາຊະຍາກຳທາງໄຊເບີຂອງຈີນທີ່ໃຊ້ AI ເພື່ອຫຼອກລວງ 'ຜູ້ເຄາະຮ້າຍຫຼາຍຮ້ອຍພັນຄົນ' ຖືກຟ້ອງຮ້ອງໂດຍ Google ↗
Google ກຳລັງຟ້ອງຮ້ອງ Outsider Enterprise, ເຄືອຂ່າຍອາຊະຍາກຳທາງໄຊເບີທີ່ຖືກກ່າວຫາວ່າໃຊ້ເຄື່ອງມືທີ່ຊ່ວຍເຫຼືອໂດຍ AI ເພື່ອສ້າງເວັບໄຊທ໌ຫຼອກລວງທີ່ໜ້າເຊື່ອຖື ແລະ ສົ່ງຂໍ້ຄວາມຫຼອກລວງທີ່ປອມຕົວເປັນຍີ່ຫໍ້ໃຫຍ່.
Google ກ່າວວ່າການດຳເນີນງານດັ່ງກ່າວໄດ້ນຳໃຊ້ເວັບໄຊທ໌ປອມຫຼາຍພັນແຫ່ງ, ໂດເມນປອມປະມານໜຶ່ງລ້ານໂດເມນ ແລະ ຂໍ້ຄວາມຫຼາຍລ້ານຂໍ້ຄວາມ. ມີລາຍງານວ່າຊອບແວຂອງມັນຊ່ວຍໃຫ້ຜູ້ທີ່ມີທັກສະດ້ານວິຊາການທີ່ຈຳກັດສາມາດສ້າງພື້ນຖານໂຄງລ່າງການຫຼອກລວງໄດ້ພາຍໃນນາທີ - ອາຊະຍາກຳທາງອິນເຕີເນັດທີ່ມີລໍ້ຝຶກອົບຮົມເຊື່ອມຕໍ່ກັນຢ່າງແໜ້ນໜາ. (TechCrunch)
ຄຳຖາມທີ່ຖືກຖາມເລື້ອຍໆ
ເປັນຫຍັງ Google ຈຶ່ງອຸທອນຕໍ່ຄຳຕັດສິນຂອງ AI Overviews ຂອງເຢຍລະມັນ?
Google ວາງແຜນທີ່ຈະທ້າທາຍການຕັດສິນຂອງສານ Munich ທີ່ຖືວ່າ AI Overviews ເປັນເນື້ອຫາທີ່ເຜີຍແຜ່ໂດຍ Google ເອງ. ຄຳຕັດສິນດັ່ງກ່າວແມ່ນປະຕິບັດຕາມບົດສະຫຼຸບທີ່ບໍ່ຖືກຕ້ອງທີ່ເຊື່ອມໂຍງຜູ້ເຜີຍແຜ່ເຢຍລະມັນສອງຄົນກັບການຫຼອກລວງ ແລະ ການປະຕິບັດທຸລະກິດທີ່ໜ້າສົງໄສ. ຖ້າໄດ້ຮັບການຢືນຢັນ, ການຕັດສິນໃຈດັ່ງກ່າວອາດເຮັດໃຫ້ຜູ້ໃຫ້ບໍລິການຕອບຄຳຖາມ AI ຕ້ອງຮັບຜິດຊອບຕາມກົດໝາຍຕໍ່ການຮຽກຮ້ອງທີ່ບໍ່ຖືກຕ້ອງທີ່ເກີດຂຶ້ນພາຍໃນບົດສະຫຼຸບການຄົ້ນຫາຂອງພວກເຂົາ.
ຄຳຕັດສິນຂອງເຢຍລະມັນອາດໝາຍເຖິງຫຍັງຕໍ່ຄວາມຮັບຜິດຊອບຂອງ AI?
ການຕັດສິນໃຈດັ່ງກ່າວອາດຈະສ້າງມາດຕະຖານທີ່ກວ້າງຂວາງຂຶ້ນສຳລັບຄວາມຮັບຜິດຊອບຂອງ AI ໂດຍການຖືເອົາແພລດຟອມທີ່ຮັບຜິດຊອບຕໍ່ຖະແຫຼງການທີ່ຜະລິດຜ່ານຄຸນສົມບັດ AI ຂອງຕົນເອງ. ສານໃນຫຼາຍເຂດອຳນາດຍັງคงກຳນົດວ່າບົດສະຫຼຸບທີ່ສ້າງຂຶ້ນຄວນຖືກປະຕິບັດເປັນເນື້ອຫາຂອງພາກສ່ວນທີສາມທີ່ໂຮດໄວ້ ຫຼື ເປັນການເຜີຍແຜ່ໂດຍກົງ. ດັ່ງນັ້ນ, ການອຸທອນອາດຈະມີອິດທິພົນຕໍ່ວິທີການຈັດການຂໍ້ຂັດແຍ່ງທີ່ປຽບທຽບກັນໄດ້ຢູ່ບ່ອນອື່ນ.
ເປັນຫຍັງຜູ້ບໍລິຫານດ້ານເຕັກໂນໂລຢີຈຶ່ງເຂົ້າຮ່ວມກອງປະຊຸມສຸດຍອດ G7?
ຜູ້ບໍລິຫານຈາກ OpenAI, Anthropic, Google DeepMind, Mistral AI, Cohere ແລະ Meta ຄາດວ່າຈະເຂົ້າຮ່ວມໃນການສົນທະນາກັບຜູ້ນຳ G7. ວາລະກອງປະຊຸມລວມມີກົດລະບຽບ AI, ພື້ນຖານໂຄງລ່າງ, ຄວາມປອດໄພທາງອອນລາຍ ແລະ ການປົກປ້ອງເດັກນ້ອຍ. ການເຂົ້າຮ່ວມຂອງເຂົາເຈົ້າເຮັດໃຫ້ລັດຖະບານມີໂອກາດຖາມຜູ້ພັດທະນາ AI รายใหญ่ໂດຍກົງກ່ຽວກັບຄວາມສ່ຽງ, ຄວາມຮັບຜິດຊອບ ແລະ ນະໂຍບາຍໃນອະນາຄົດ.
ເປັນຫຍັງ Anthropic ຈຶ່ງເອົາ Claude Fable 5 ແລະ Mythos 5 ອອກເປັນອອບລາຍ?
Anthropic ໄດ້ປິດການໃຊ້ງານທັງສອງລຸ້ນຫຼັງຈາກໄດ້ຮັບຄຳສັ່ງຄວບຄຸມການສົ່ງອອກຂອງສະຫະລັດ ເຊິ່ງມີຈຸດປະສົງເພື່ອປ້ອງກັນການເຂົ້າເຖິງໂດຍຄົນຕ່າງປະເທດບາງຄົນ, ລວມທັງພະນັກງານບາງຄົນ. ບໍລິສັດໄດ້ລຶບການເຂົ້າເຖິງສຳລັບທຸກຄົນ ໃນຂະນະທີ່ທ້າທາຍເຫດຜົນຂອງລັດຖະບານ. ມີລາຍງານວ່າເຈົ້າໜ້າທີ່ໄດ້ກ່າວເຖິງຄວາມກັງວົນກ່ຽວກັບການ jailbreak, ເຖິງແມ່ນວ່າ Anthropic ໄດ້ອະທິບາຍວ່າການ bypass ທີ່ສະແດງໃຫ້ເຫັນນັ້ນແຄບ ແລະ ກ່ຽວຂ້ອງກັບຊ່ອງໂຫວ່ທີ່ຂ້ອນຂ້າງນ້ອຍທີ່ຮູ້ແລ້ວ.
ສິ່ງໃດທີ່ເຮັດໃຫ້ເກີດຄວາມວຸ້ນວາຍພາຍໃນໜ່ວຍ AI ຂອງ Meta?
ມີລາຍງານວ່າພະນັກງານໄດ້ອະທິບາຍເຖິງຄວາມເປັນຜູ້ນຳທີ່ບໍ່ຊັດເຈນ, ການປ່ຽນແປງບຸລິມະສິດ ແລະ ວຽກງານປັບປຸງຮູບແບບທີ່ຊ້ຳແລ້ວຊ້ຳອີກພາຍໃນອົງກອນ AI ປະຍຸກຂອງ Meta. ກຸ່ມດັ່ງກ່າວໄດ້ຖືກສ້າງຂຶ້ນເພື່ອສະໜັບສະໜູນນັກຄົ້ນຄວ້າດ້ານສະຕິປັນຍາສູງສົ່ງຂອງບໍລິສັດ ແລະ ປະກອບມີປະມານ 6,500 ຄົນ. ຄວາມອຸກອັ່ງໄດ້ກາຍເປັນທີ່ເຫັນໄດ້ຊັດເຈນໂດຍສະເພາະເມື່ອພະນັກງານຄົນໜຶ່ງໄດ້ຂັດຂວາງການນຳສະເໜີພາຍໃນຂະໜາດໃຫຍ່ດ້ວຍການຮ້ອງທຸກທີ່ເຕັມໄປດ້ວຍຄວາມໂກດແຄ້ນ ແລະ ຄຳເວົ້າທີ່ຫຍາບຄາຍ.
ພວກອາດຊະຍາກອນກຳລັງໃຊ້ AI ສຳລັບການຫຼອກລວງແບບ phishing ແນວໃດ?
ອີງຕາມຄະດີຟ້ອງຮ້ອງຂອງ Google, ເຄືອຂ່າຍ Outsider Enterprise ທີ່ຖືກກ່າວຫາໄດ້ໃຊ້ຊອບແວທີ່ຊ່ວຍເຫຼືອດ້ວຍ AI ເພື່ອສ້າງເວັບໄຊທ໌ຫຼອກລວງທີ່ໜ້າເຊື່ອຖື ແລະ ຂໍ້ຄວາມຫຼອກລວງທີ່ປອມແປງເປັນຍີ່ຫໍ້ໃຫຍ່ໆ. ເຄື່ອງມືດັ່ງກ່າວລາຍງານວ່າໄດ້ຊ່ວຍໃຫ້ຜູ້ໃຊ້ທີ່ມີປະສົບການດ້ານເຕັກນິກທີ່ຈຳກັດສ້າງໂຄງສ້າງພື້ນຖານການຫຼອກລວງໄດ້ຢ່າງວ່ອງໄວ. Google ກ່າວວ່າການດຳເນີນງານດັ່ງກ່າວກ່ຽວຂ້ອງກັບເວັບໄຊທ໌ປອມຫຼາຍພັນແຫ່ງ, ໂດເມນປອມປະມານໜຶ່ງລ້ານໂດເມນ ແລະ ຂໍ້ຄວາມຫຼາຍລ້ານຂໍ້ຄວາມ.