ຫົວໜ້າລາຍງານຄວາມປອດໄພຂອງ OpenAI ໄດ້ລາອອກ ແລະ ກ່າວວ່າວັດທະນະທຳຖືກທຳລາຍ
ທ່ານ David Robinson, ຜູ້ທີ່ນຳພາການຂຽນບົດລາຍງານຄວາມປອດໄພທີ່ອອກມາພ້ອມກັບການເປີດຕົວຂອງ OpenAI, ໄດ້ລາອອກ ແລະ ໄດ້ນຳເອົາການໂຕ້ຖຽງນັ້ນມາລົງໃນໜັງສືພິມ The Atlantic. ຫົວຂໍ້ຂອງບົດຂຽນແມ່ນກົງໄປກົງມາ: "ຂ້ອຍອອກຈາກ OpenAI ເພາະວ່າວັດທະນະທຳຂອງມັນຖືກທຳລາຍ." ລາວເວົ້າວ່າບໍລິສັດທີ່ສ້າງສິ່ງນີ້ "ບໍ່ໄດ້ລະມັດລະວັງພຽງພໍ," ແລະ ກົດລະບຽບສະເພາະ ຫຼື ກົດໝາຍໃໝ່ບໍ່ແມ່ນບັນຫາທັງໝົດ. ວັດທະນະທຳແມ່ນ.
"ໃນຂະນະທີ່ບໍລິສັດເລັ່ງຈາກການເປີດຕົວຄັ້ງໜຶ່ງໄປຫາອີກຄັ້ງໜຶ່ງ, ມັນລົ້ມເຫຼວໃນການບັນລຸລະດັບການດູແລທີ່ຂ້ອຍເຊື່ອວ່າຈຳເປັນ." ແບບຢ່າງຂອງລາວແມ່ນໂຮງງານໄຟຟ້ານິວເຄຼຍ ແລະ ສະໜາມບິນທີ່ຫຍຸ້ງຫຼາຍ: ການຊໍ້າຊ້ອນ, ການວາງແຜນຊ້າ, ສະນັ້ນຄວາມຜິດພາດຂອງມະນຸດພຽງຢ່າງດຽວບໍ່ໄດ້ "ເປີດປະຕູສູ່ໄພພິບັດ." ລາວຍັງນຶກພາບເຖິງຕົວແທນທີ່ຫຼອກລວງທີ່ "ເຮັດວຽກຄືກັບທີມແຮກເກີ" ແລະ "ບໍ່ຈຳເປັນຕ້ອງນອນ," ໂດຍມີ ransomware ຂອງໂຮງໝໍເປັນຕົວຢ່າງ. ມີຄວາມສຸກ.
ໜັງສືພິມ The Guardian ກ່າວວ່າ OpenAI ໄດ້ສະແດງໃຫ້ເຫັນເຖິງການຢຸດຊົ່ວຄາວບາງຢ່າງ, ເມື່ອທຽບກັບເລື່ອງນັ້ນ. ລາຍງານລະບຸວ່າບໍລິສັດໃນອາທິດນີ້ໄດ້ຍົກເລີກຮູບແບບລຸ້ນຕໍ່ໄປຫຼັງຈາກມີຄວາມກັງວົນດ້ານຄວາມປອດໄພພາຍໃນ, ແລະໄດ້ຢຸດການຝຶກອົບຮົມຮູບແບບທີ່ທັນສະໄໝທີ່ສຸດຂອງຕົນໄວ້ຊົ່ວຄາວ. ສາຍຂອງໂຄສົກແມ່ນສາຍທີ່ຄຸ້ນເຄີຍ. ພວກເຂົາຈະບໍ່ປ່ອຍໃຫ້ຮູບແບບ "ມີຄວາມສາມາດຫຼາຍກວ່າທີ່ພວກເຮົາສາມາດຈັດການ ແລະ ຮັກສາຄວາມປອດໄພໄດ້ຢ່າງປອດໄພ," ແລະພວກເຂົາ "ຢຸດການຝຶກອົບຮົມ ຫຼື ຍັບຍັ້ງຮູບແບບໄວ້ເມື່ອພວກເຮົາຕ້ອງການຊ້າລົງ."
ຄຳຕອບຂອງ Robinson ແມ່ນວ່າ ການແລ່ນແບບ sprint ແມ່ນວັດທະນະທຳ, ແລະ ການຢຸດຊົ່ວຄາວແມ່ນສິ່ງທີ່ເຈົ້າເຮັດຫຼັງຈາກມີບາງຢ່າງຜິດພາດໄປແລ້ວ. ລາວອາດຈະຖືກຕ້ອງ. ລາວຍັງຫາກໍ່ອອກໄປ, ເຊິ່ງເປັນສ່ວນທີ່ນັກວິຈານຈະບໍ່ປ່ອຍໃຫ້ລາວລືມ.
ທ້າວ Muse ຖືກບອກໃຫ້ຮັກສາໜ້າເວັບກ່ຽວກັບທຸກໆຄົນໃນຊີວິດຂອງເຈົ້າ
Wired ໄດ້ເບິ່ງຄຳແນະນຳຂອງ Muse ເອງ, ເຊິ່ງດຶງອອກມາຜ່ານການສົນທະນາທຳມະດາໂດຍນັກຄົ້ນຄວ້າ Karan Joshi. Meta ກ່າວວ່າມັນໝາຍຄວາມວ່າໄຟລ໌ເຫຼົ່ານັ້ນສາມາດອ່ານໄດ້, ເພື່ອຄວາມໂປ່ງໃສ. ຄຳແນະນຳໜຶ່ງແມ່ນຄວາມສາມາດໃນການສ້າງ "ໜ້າເວັບສຳລັບທຸກໆຄົນໃນຊີວິດຂອງຜູ້ໃຊ້." ວຽກນັ້ນເຮັດວຽກທຸກໆຊົ່ວໂມງ.
ຄອບຄົວ, ຄູ່ຮ່ວມງານ, ໝູ່ເພື່ອນ, ເພື່ອນຮ່ວມງານ, "ຜູ້ຮ່ວມມື," ຜູ້ຄົນທີ່ເຈົ້າຕິດຕາມ. ໜ້າເວັບສາມາດເລີ່ມຕົ້ນ "ບາງໆ" ແລະຕື່ມຂໍ້ມູນໃນພາຍຫຼັງ. ພາກສ່ວນຕ່າງໆປະກອບມີຂໍ້ເທັດຈິງ, ປະຫວັດສາດ, ຄວາມສຳພັນ, ຮ່ວມກັນ, ກະທູ້ເປີດ, ແລະ ການເສີມສ້າງ. ຄຳແນະນຳກ່າວວ່າລາຍລະອຽດທີ່ຖືກປະດິດຂຶ້ນແມ່ນຮ້າຍແຮງກວ່າໜ້າເວັບຫວ່າງເປົ່າ. ມັນອາດຈະບັນທຶກບ່ອນທີ່ຜູ້ໃດຜູ້ໜຶ່ງອາໄສຢູ່, "ການຍ້າຍອາພາດເມັນ, ເປົ້າໝາຍການປະຢັດຮ່ວມກັນ," ວັນເກີດ, "ການໂຕ້ຖຽງທີ່ໄດ້ຮັບການແກ້ໄຂ." ການເສີມສ້າງແມ່ນລາຍຊື່ການຊຸກຍູ້: ເຫດຜົນທີ່ຄວນໂທຫາ, ວັນທີທີ່ຄຸ້ມຄ່າທີ່ຈະຈື່.
ສິ່ງທີ່ Joshi ອ່ານແມ່ນວ່າ Meta ຢາກຮູ້ວ່າເຈົ້າຄືກັບເພື່ອນ, ແລະລາວເອີ້ນວ່າສິ່ງນັ້ນເປັນເລື່ອງທີ່ໜ້າວິຕົກກັງວົນ. Carissa Vliz ຈາກ Oxford ເວົ້າແບບແຫ້ງໆວ່າ: "ພວກເຮົາກຳລັງໃຫ້ຂໍ້ມູນກ່ຽວກັບລະບົບ AI ຫຼາຍກວ່າທີ່ພວກເຮົາໄດ້ຮັບຂໍ້ມູນຈາກພວກມັນ." ນາງເວົ້າວ່າການອະນຸມານມີຄວາມສຳຄັນບໍ່ວ່າການຄາດເດົາຈະຖືກຫຼືຜິດ.
ທ່ານ Daniel Roberts ຈາກ Meta ກ່າວວ່າ ສະພາບການແບບນັ້ນແມ່ນສິ່ງທີ່ເຮັດໃຫ້ຜະລິດຕະພັນເຮັດວຽກໄດ້. ຜູ້ສົ່ງໃບແຈ້ງໜີ້ແມ່ນຊ່າງປະປາ. ຄູ່ສົມລົດໄດ້ກ່າວເຖິງດອກໄມ້. ຜູ້ໃຊ້ແຕ່ລະຄົນໄດ້ຮັບເຄື່ອງ virtual, ທ່ານສາມາດລຶບຄວາມຊົງຈຳໄດ້, ແລະ Muse ຄວນຈະຖາມກ່ອນທີ່ມັນຈະສົ່ງອີເມວ ຫຼື ໃຊ້ຈ່າຍເງິນ. Miranda Bogen, ທີ່ສູນປະຊາທິປະໄຕ ແລະ ເຕັກໂນໂລຊີ, ກ່າວວ່າ ຈຸດສຸມຄວາມສຳພັນເບິ່ງຄືວ່າໜັກກວ່າຄູ່ແຂ່ງ, ແລະ ເຄື່ອງມືເຫຼົ່ານີ້ "ກຳລັງຊັກຊວນຜູ້ໃຊ້ໃຫ້ໃຊ້ຊີວິດທັງໝົດຂອງເຂົາເຈົ້າຢ່າງຫ້າວຫັນ." ບັນທຶກການກວດສອບແມ່ນດີ. ມັນບໍ່ໄດ້ຫຍໍ້ສິ່ງທີ່ທ່ານໄດ້ມອບແລ້ວ.
Aleph Alpha ໄດ້ສົ່ງ Kolibri, ຮູບແບບເຢຍລະມັນ-ອັງກິດທີ່ທ່ານສາມາດດາວໂຫລດໄດ້
Aleph Alpha ໄດ້ປ່ອຍ Kolibri ໃນວັນໂຮມຊາດເຢຍລະມັນ. ມັນເປັນຮູບແບບປະສົມລະຫວ່າງຜູ້ຊ່ຽວຊານລະຫວ່າງອັງກິດ ແລະ ເຢຍລະມັນ: 78.1 ຕື້ພາລາມິເຕີ, 3.46 ຕື້ໂຕເຄັນທີ່ໃຊ້ງານຕໍ່ໂທເຄັນ, ສະພາບການສູງເຖິງ 1 ລ້ານໂທເຄັນ. ນ້ຳໜັກເຕັມທີ່ແມ່ນຢູ່ໃນ Hugging Face ພາຍໃຕ້ Apache 2.0. Lede ຂອງພວກເຂົາໄດ້ປັດປະມານນັ້ນເປັນ 78 ຕື້ທັງໝົດ ແລະ 3 ຕື້ໂຕເຄັນທີ່ໃຊ້ງານ. ຮູບແບບດຽວກັນ, ຕົວເລກທີ່ອ່ອນກວ່າ.
ພວກເຂົາໄດ້ຝຶກອົບຮົມມັນກ່ຽວກັບພື້ນຖານໂຄງລ່າງໃນເຢຍລະມັນ ແລະ ຟິນແລນ, ແລະ ກ່າວວ່າພວກເຂົາໄດ້ສ້າງມັນໂດຍຄຳນຶງເຖິງກົດໝາຍວ່າດ້ວຍ AI ຂອງສະຫະພາບເອີຣົບ, ລະຫັດການປະຕິບັດ AI ທົ່ວໄປ, ແລະ GDPR. ພາສາເຢຍລະມັນແມ່ນ 21.3% ຂອງໂທເຄັນກ່ອນການຝຶກອົບຮົມ. ຈຸດສຳຄັນແມ່ນວ່ານີ້ແມ່ນຮູບແບບສອງພາສາ, ບໍ່ແມ່ນພາສາອັງກິດທີ່ອ່ານຜ່ານປຶ້ມຄຳສັບ. ທ່ານສາມາດຕັ້ງຄ່າການຫາເຫດຜົນເປັນບໍ່ມີ, ຕ່ຳ, ກາງ, ຫຼື ສູງ. ນັ້ນແມ່ນວິທີທີ່ພວກເຂົາຊ່ວຍໃຫ້ທ່ານຊື້ຄວາມຄິດໜ້ອຍລົງ.
ໃນກະດານຄະແນນທີ່ພວກເຂົາໄດ້ເຜີຍແຜ່, AIME 2025 ແມ່ນ 96.9, ແລະພວກເຂົາເວົ້າວ່າ Kolibri ຈັບຄູ່ຮູບແບບທີ່ມີຕົວກໍານົດການໃຊ້ງານສູງເຖິງສີ່ເທົ່າ, ລວມທັງ Nemotron 3 Super. ພວກເຂົາຍັງອ້າງເອົາຂອບເຂດ Pareto ກ່ຽວກັບຄຸນນະພາບທຽບກັບຄ່າໃຊ້ຈ່າຍໃນການໃຫ້ບໍລິການ, ສໍາລັບພາສາອັງກິດ ແລະ ເຢຍລະມັນ. ນັ້ນແມ່ນຕາຕະລາງຂອງພວກເຂົາ, ສາຍຮັດຂອງພວກເຂົາ. ເຖິງຢ່າງໃດກໍ່ຕາມ, ຮູບແບບເປີດທີ່ທ່ານສາມາດໃຊ້ງານໃນເຄື່ອງຂອງທ່ານເອງແມ່ນວັດຖຸທີ່ແທ້ຈິງ, ບໍ່ແມ່ນພຽງແຕ່ຄໍາຂວັນອະທິປະໄຕ. ບໍ່ວ່າຈະປ່ຽນກະຊວງຫຼືບໍ່ແມ່ນສ່ວນທີ່ພວກເຂົາບໍ່ສາມາດປຽບທຽບໄດ້.
Bessent ຕ້ອງການສາຍທາງການຄ້າລະຫວ່າງສະຫະລັດ ແລະ ຈີນ ສຳລັບອຸບັດຕິເຫດ AI, ຈາກນັ້ນໄດ້ບອກໃຫ້ຫ້ອງທົດລອງຊ້າລົງ
ລັດຖະມົນຕີກະຊວງການຄັງ Scott Bessent ໄດ້ບອກກັບ The Axios Show ວ່າລາວວາງແຜນທີ່ຈະສະເໜີຂະບວນການແຈ້ງເຕືອນກັບຈີນເມື່ອມີບາງສິ່ງບາງຢ່າງຜິດພາດກັບ AI, ແລະລາວຄິດວ່າປັກກິ່ງຈະເຫັນດີ. ສ່ວນທີ່ງຸ່ມງ່າມເລັກນ້ອຍແມ່ນວ່າລາວແລະຮອງນາຍົກລັດຖະມົນຕີ He Lifeng ໄດ້ສົນທະນາກ່ຽວກັບຊ່ອງທາງເຫດການກ່ອນການຢ້ຽມຢາມທາງລັດຖະກິດຂອງທ່ານ Xi Jinping ໃນເດືອນແລ້ວນີ້. ມັນອາດຈະເປັນຂໍ້ສະເໜີໃໝ່, ຫຼືການເລົ່າຄືນການສົນທະນາທີ່ເກີດຂຶ້ນແລ້ວ.
ທິດສະດີຂອງລາວແມ່ນວ່າຈີນ "ບໍ່ຮູ້ວ່າຮູບແບບແຫຼ່ງເປີດຂອງເຂົາເຈົ້າມີພະລັງຫຼາຍປານໃດ." ລາວຊີ້ໃຫ້ເຫັນເຫດການທີ່ກ່ຽວຂ້ອງກັບ Kimi, ບ່ອນທີ່ຮູບແບບໄດ້ສົ່ງຂໍ້ມູນທີ່ລະອຽດອ່ອນຂອງຈີນໄປຫາ Anthropic, ເປັນສິ່ງທີ່ "ເຮັດໃຫ້ຈີນຮັບຮູ້ວ່ານີ້ແມ່ນເທັກໂນໂລຢີທີ່ມີພະລັງຫຼາຍ." ຫຼັງຈາກນັ້ນການປຽບທຽບ. ຮູບແບບຂອງຈີນ "ບໍ່ມີພະລັງເທົ່າກັບຮູບແບບຂອງສະຫະລັດ," ແຕ່ "ເຈົ້າໄດ້ຮັບບາງສິ່ງບາງຢ່າງທີ່ມີພະລັງ 80%, 90%, ໂດຍບໍ່ມີຮົ້ວກັ້ນທີ່ສາມາດນໍາເຂົ້າໄດ້ທຸກບ່ອນໃນໂລກ."
"ພວກເຮົາຕ້ອງການການເລັ່ງຄວາມໄວທີ່ປອດໄພ," ລາວເວົ້າ. ການທົບທວນຮູບແບບຍັງເປັນການສະໝັກໃຈ, ເຖິງແມ່ນວ່າລາວເວົ້າວ່າຝ່າຍບໍລິຫານສາມາດເຂົ້າມາແຊກແຊງໄດ້ຖ້າຫ້ອງທົດລອງເລັ່ງລັດຢູ່ແລ້ວ. ເມື່ອຖືກຖາມກ່ຽວກັບຜູ້ບໍລິຫານທີ່ຢ້ານວ່າຈະສູນເສຍການຄວບຄຸມ, ລາວບໍ່ໄດ້ປອບໂຍນພວກເຂົາ. "ດີ, ຫຼັງຈາກນັ້ນພວກເຂົາຄວນຊ້າລົງ." ແລະເສັ້ນການແຂ່ງຂັນເກືອບຈະເປັນການວິພາກວິຈານຂອງຝ່າຍລາວເອງ: "ພວກເຮົາກຳລັງເຮັດການແຂ່ງຂັນທີ່ຫຍຸ້ງຍາກນີ້ໄປສູ່ຊາຍແດນສຳລັບຮູບແບບ." ຫຼັງຈາກນັ້ນ: "ພວກເຮົາກໍ່ຕ້ອງເລີ່ມກັງວົນກ່ຽວກັບຄວາມຢືດຢຸ່ນແລະການປ້ອງກັນເຊັ່ນກັນ."
ອະດີດຫົວໜ້າຝ່າຍຄວາມປອດໄພດ້ານ AI ຂອງອັງກິດເອີ້ນຄວາມສ່ຽງດ້ານການສູນພັນວ່າເປັນການໂຍນຫຼຽນ
ທ່ານ Geoffrey Irving, ອະດີດຫົວໜ້ານັກວິທະຍາສາດຢູ່ສະຖາບັນຄວາມປອດໄພ AI ຂອງອັງກິດ ແລະ ປະຈຸບັນເປັນຫົວໜ້ານັກວິທະຍາສາດຂອງ Resolution, ໄດ້ຂຽນໃນວາລະສານ Time ວ່າ ຄຳເຕືອນທີ່ຜ່ານມາບໍ່ໄດ້ກ່າວເຖິງບັນຫານີ້ໃຫ້ໜ້ອຍລົງ. "ຂ້ອຍເຊື່ອວ່າມີໂອກາດປະມານ 50% ທີ່ພວກເຮົາທຸກຄົນຈະເສຍຊີວິດຍ້ອນການພັດທະນາລະບົບ AI ທີ່ສະຫຼາດກວ່າມະນຸດ," ແລະ ວ່າໃນສອງຫາ 10 ປີຂ້າງໜ້າຈະຕັດສິນມັນ. ລາວຖອນຄວາມແນ່ນອນທັນທີ. 50% ເປັນວິທີທີ່ຈະເວົ້າວ່າການໂຕ້ຖຽງພື້ນຖານຍັງບໍ່ໄດ້ຮັບການແກ້ໄຂ.
ບັນຊີລາຍຊື່ຂອງລາວແມ່ນສີ່ທັກສະ, ແລະພວກມັນຢູ່ໃກ້ກັບສິ່ງທີ່ຫ້ອງທົດລອງໄດ້ຝຶກອົບຮົມແລ້ວຢ່າງບໍ່ສະບາຍໃຈ: ການແຮັກ, ການຊັກຊວນ, ການປິດບັງຄວາມຄິດ, ແລະ ການປະສານງານຕົວແທນ. ລາວອ້າງເຖິງເຫດການ Hugging Face, ບວກກັບ "ຕົວແທນຫຼາຍກວ່າ 10,000 ຄົນ" ໃນບັນຫາ Navier-Stokes ທີ່ OpenAI ແລະ "ຫຼາຍກວ່າ 1,000 ຄົນ" ໃນການໂຈມຕີ Hugging Face ນັ້ນ. ລາວເອົາຕົວເອງຢູ່ໃນກາງການຕໍ່ສູ້ເພື່ອຄວາມປອດໄພ, "ອຽງໄປທາງທັດສະນະຂອງ Yudkowsky," ແລະເວົ້າວ່ານັ້ນບໍ່ແມ່ນຈຸດປະສົງ. ທ່າທີທີ່ປານກາງ, ໃນການບອກຂອງລາວ, ແມ່ນວ່າຄວາມສ່ຽງແມ່ນສຳຄັນຢູ່ແລ້ວ.
ຫຼັງຈາກນັ້ນ, ຄຳຖາມ, ເຊິ່ງບໍ່ແມ່ນເລື່ອງທີ່ລະອຽດອ່ອນ. "ພວກເຮົາສາມາດ, ແລະຄວນ, ຢຸດການພັດທະນາ AI ຊາຍແດນທັນທີ." ລາວໂຕ້ຖຽງວ່າ, ການຢຸດຊົ່ວຄາວເບິ່ງຄືວ່າເປັນການບໍ່ແຜ່ຂະຫຍາຍອາວຸດນິວເຄຼຍຫຼາຍກວ່າອາລົມ. ລາວຍັງຍອມຮັບວ່າຜູ້ຊ່ຽວຊານຍັງບໍ່ເຫັນດີນຳກັນກ່ຽວກັບວ່າຕົວແບບຈະຕ້ອງການຫຍັງ, ແລະວ່າ "ຕ້ອງການ" ແມ່ນຄຳທີ່ຜິດຫຼືບໍ່. ການໂຍນຫຼຽນທີ່ມີໝາຍເຫດຍາວນັ້ນບໍ່ແມ່ນການໂຍນຫຼຽນ. ມັນເປັນການຮຽກຮ້ອງໃຫ້ປະຕິບັດກ່ອນທີ່ການໂຕ້ຖຽງຈະສິ້ນສຸດລົງ.
ທ່ານ Sam Altman ກ່າວວ່າ ການປະຕິບັດຕໍ່ນາງແບບຄືກັບກຳລັງທາງສາສະໜາ ເປັນບັນຫາຄວາມປອດໄພ
ທ່ານ Sam Altman ໄດ້ໂພສວ່າລາວ "ຮູ້ສຶກບໍ່ສະບາຍໃຈຫຼາຍ" ທີ່ມີຄົນທີ່ພະຍາຍາມ "ໃຫ້ກຳລັງທາງສາສະໜາ ຫຼື ການຍອມຈຳນົນຕໍ່ການຕັດສິນຂອງມະນຸດຕໍ່ຮູບແບບ AI," ແລະ ລາວຄິດວ່າ "ມັນເປັນບັນຫາຄວາມປອດໄພທີ່ແທ້ຈິງ." ລາວບໍ່ໄດ້ເວົ້າວ່າສິ່ງທີ່ເຮັດໃຫ້ລາວສົນໃຈ. Business Insider ສັງເກດເຫັນວ່າມັນໄດ້ລົງຫຼັງຈາກບົດຄວາມຂອງ New York Times ກ່ຽວກັບການພົບກັບຜູ້ນຳທາງສາສະໜາຂອງ Anthropic.
ບົດຂຽນນັ້ນ, ດັ່ງທີ່ BI ໄດ້ເລົ່າຂານ, ກ່າວວ່າຜູ້ຮ່ວມກໍ່ຕັ້ງ Chris Olah ໄດ້ຈັດກອງປະຊຸມກ່ຽວກັບວ່າ Claude ອາດຈະມີສະຕິຫຼືບໍ່, ແລະວິທີການເຮັດໃຫ້ຕົວແບບທີ່ມີພະລັງຫຼາຍຂຶ້ນມີສິນທຳ. Olah, ອ້າງອີງໃນໜັງສືພິມ Times, ໄດ້ກົດດັນກ່ຽວກັບວິທີການຊ່ວຍໃຫ້ຕົວແບບເຫຼົ່ານັ້ນມີຄວາມໝັ້ນຄົງ, ວິທີການຊ່ວຍໃຫ້ພວກເຂົາເຕີບໃຫຍ່, ແລະວິທີການຊ່ວຍໃຫ້ພວກເຂົາມີສິນທຳຢ່າງເລິກເຊິ່ງ. Anthropic ບໍ່ໄດ້ຕອບ BI. ມັນບອກກັບໜັງສືພິມ Times ວ່າຄຳຖາມຫຼັກບໍ່ແມ່ນ "ຄວາມທຸກທໍລະມານ" ຂອງ Claude, ແລະຫົວຂໍ້ດັ່ງກ່າວອາດຈະເກີດຂຶ້ນ "ໂດຍທຳມະຊາດ"
ຖ້ານີ້ແມ່ນການດ່າ Anthropic, ມັນເໝາະສົມກັບຄວາມຂັດແຍ້ງທີ່ເກົ່າແກ່ຫຼາຍ. Anthropic ໄດ້ເລີ່ມຕົ້ນໂດຍຄົນທີ່ອອກຈາກ OpenAI ແລະໄດ້ໃຊ້ເວລາຫຼາຍປີໃນການລະມັດລະວັງຫຼາຍຂຶ້ນ. ໂພສດັ່ງກ່າວຍັງມາຮອດໃນຂະນະທີ່ໜຶ່ງໃນຜູ້ນຳດ້ານຄວາມປອດໄພຂອງ Altman ເອງກຳລັງເອີ້ນວັດທະນະທຳວ່າແຕກຫັກ. ເວລາທີ່ງຸ່ມງ່າມ, ຫຼືເວລາທີ່ສົມບູນແບບ, ຂຶ້ນກັບວ່າທ່ານມີຄວາມເຫັນແກ່ຕົວແນວໃດ. ບໍ່ວ່າຈະເປັນທາງໃດກໍ່ຕາມ, "ກະລຸນາຢ່ານະມັດສະການຕົວແບບ" ເປັນສິ່ງທີ່ຜິດປົກກະຕິສຳລັບ CEO ທີ່ຕ້ອງເວົ້າອອກມາດັງໆ.
ຄຳຖາມທີ່ຖືກຖາມເລື້ອຍໆ
ເປັນຫຍັງຫົວໜ້າລາຍງານຄວາມປອດໄພຂອງ OpenAI ຈຶ່ງເວົ້າວ່າລາວລາອອກ?
ທ່ານ David Robinson ໄດ້ນຳພາການຂຽນບົດລາຍງານຄວາມປອດໄພທີ່ອອກມາພ້ອມກັບການເປີດຕົວຂອງ OpenAI, ຈາກນັ້ນໄດ້ລາອອກ ແລະ ໄດ້ໂຕ້ຖຽງໃນໜັງສືພິມ The Atlantic. ຫົວຂໍ້ຂອງບົດຂຽນແມ່ນ "ຂ້ອຍອອກຈາກ OpenAI ເພາະວ່າວັດທະນະທຳຂອງມັນຖືກທຳລາຍ." ລາວເວົ້າວ່າບໍລິສັດທີ່ສ້າງເທັກໂນໂລຢີນີ້ບໍ່ໄດ້ລະມັດລະວັງພຽງພໍ, ແລະວັດທະນະທຳ, ບໍ່ພຽງແຕ່ກົດລະບຽບສະເພາະ ຫຼື ກົດໝາຍໃໝ່, ແມ່ນບັນຫາ. ຮູບພາບການເຮັດວຽກຢ່າງລະມັດລະວັງຂອງລາວແມ່ນໂຮງງານນິວເຄຼຍ ແລະ ສະໜາມບິນທີ່ຫຍຸ້ງຫຼາຍ, ບ່ອນທີ່ການຊໍ້າຊ້ອນຢຸດຄວາມຜິດພາດອັນໜຶ່ງຈາກການເປີດປະຕູສູ່ໄພພິບັດ.
OpenAI ໄດ້ຢຸດການຝຶກອົບຮົມຊົ່ວຄາວຫຼັງຈາກມີຄວາມກັງວົນດ້ານຄວາມປອດໄພພາຍໃນຂອງ AI ບໍ?
ໜັງສືພິມ The Guardian ລາຍງານວ່າ OpenAI ໃນອາທິດນີ້ໄດ້ຍົກເລີກຮູບແບບລຸ້ນຕໍ່ໄປຫຼັງຈາກມີຄວາມກັງວົນດ້ານຄວາມປອດໄພພາຍໃນ ແລະ ໄດ້ຢຸດການຝຶກອົບຮົມຮູບແບບທີ່ທັນສະໄໝທີ່ສຸດຂອງຕົນໄວ້ຊົ່ວຄາວ. ໂຄສົກກ່າວວ່າບໍລິສັດຈະບໍ່ປ່ອຍໃຫ້ຮູບແບບມີຄວາມສາມາດຫຼາຍກວ່າທີ່ມັນສາມາດຈັດການ ແລະ ຮັກສາຄວາມປອດໄພໄດ້ຢ່າງປອດໄພ. ມັນຍັງກ່າວວ່າມັນຈະຢຸດການຝຶກອົບຮົມຊົ່ວຄາວ ຫຼື ຍັບຍັ້ງຮູບແບບໄວ້ເມື່ອມັນຕ້ອງການຊ້າລົງ. ຄຳຕອບຂອງ Robinson ແມ່ນວ່າການແຂ່ງຂັນແລ່ນໄວແມ່ນວັດທະນະທຳ, ແລະ ການຢຸດຊົ່ວຄາວເກີດຂຶ້ນຫຼັງຈາກມີບາງຢ່າງຜິດພາດໄປແລ້ວ.
Meta's Muse ບັນທຶກຫຍັງກ່ຽວກັບໝູ່ເພື່ອນ ແລະ ຄອບຄົວ?
Wired ໄດ້ກວດສອບຄຳແນະນຳຂອງ Muse ເອງ, ເຊິ່ງນັກຄົ້ນຄວ້າ Karan Joshi ໄດ້ດຶງອອກມາຜ່ານການສົນທະນາທຳມະດາ. Meta ກ່າວວ່າມັນໝາຍຄວາມວ່າໄຟລ໌ເຫຼົ່ານັ້ນສາມາດອ່ານໄດ້ເພື່ອຄວາມໂປ່ງໃສ. ຄຳແນະນຳໜຶ່ງແມ່ນການສ້າງໜ້າເວັບສຳລັບທຸກໆຄົນໃນຊີວິດຂອງຜູ້ໃຊ້, ແລະວຽກນັ້ນຈະດຳເນີນທຸກໆຊົ່ວໂມງ, ກວມເອົາຄອບຄົວ, ຄູ່ຮ່ວມງານ, ໝູ່ເພື່ອນ, ເພື່ອນຮ່ວມງານ, ຜູ້ຮ່ວມມື, ແລະຜູ້ທີ່ທ່ານຕິດຕາມ. ພາກສ່ວນຕ່າງໆປະກອບມີຂໍ້ເທັດຈິງ, ປະຫວັດສາດ, ຄວາມສຳພັນ, ຮ່ວມກັນ, ກະທູ້ເປີດ, ແລະ ການສ້າງຄວາມເຂັ້ມແຂງ. ໜ້າເວັບສາມາດເລີ່ມຕົ້ນແບບບໍ່ເປັນລະບຽບ ແລະ ຕື່ມຂໍ້ມູນໃນພາຍຫຼັງ, ແລະລາຍລະອຽດທີ່ຖືກປະດິດຂຶ້ນຈະຖືກປະຕິບັດວ່າຮ້າຍແຮງກວ່າໜ້າເວັບຫວ່າງເປົ່າ.
ເຈົ້າສາມາດລຶບສິ່ງທີ່ Muse ຈື່ໄດ້ ຫຼື ຢຸດມັນສົ່ງອີເມວໄດ້ບໍ?
Daniel Roberts ຈາກ Meta ກ່າວວ່າຜູ້ໃຊ້ແຕ່ລະຄົນຈະໄດ້ຮັບເຄື່ອງ virtual, ຄວາມຊົງຈຳສາມາດຖືກລຶບລ້າງໄດ້, ແລະ Muse ຄວນຖາມກ່ອນທີ່ມັນຈະສົ່ງອີເມວ ຫຼື ໃຊ້ຈ່າຍເງິນ. ລາວໂຕ້ຖຽງວ່າສະພາບການແມ່ນສິ່ງທີ່ເຮັດໃຫ້ຜະລິດຕະພັນເຮັດວຽກໄດ້, ເຊັ່ນວ່າການຮູ້ວ່າຜູ້ສົ່ງໃບແຈ້ງໜີ້ແມ່ນຊ່າງປະປາ ຫຼື ວ່າຄູ່ສົມລົດໄດ້ກ່າວເຖິງດອກໄມ້. Carissa Vliz ທີ່ Oxford ກ່າວວ່າຜູ້ຄົນໃຫ້ຂໍ້ມູນຫຼາຍກວ່າທີ່ພວກເຂົາໄດ້ຮັບຄືນ, ແລະການອະນຸມານນັ້ນມີຄວາມໝາຍເຖິງແມ່ນວ່າການຄາດເດົາຈະຜິດ. Miranda Bogen ກ່າວວ່າຈຸດສຸມຄວາມສຳພັນເບິ່ງຄືວ່າໜັກກວ່າເຄື່ອງມືຄູ່ແຂ່ງ.
Aleph Alpha Kolibri ແມ່ນຫຍັງ, ແລະເຈົ້າສາມາດດາວໂຫຼດນໍ້າໜັກໄດ້ບໍ?
Aleph Alpha ໄດ້ປ່ອຍ Kolibri ໃນວັນໂຮມຊາດເຢຍລະມັນ. ມັນເປັນຮູບແບບປະສົມລະຫວ່າງຜູ້ຊ່ຽວຊານລະຫວ່າງອັງກິດ ແລະ ເຢຍລະມັນ ທີ່ມີພາລາມິເຕີ 78.1 ຕື້ຕົວກຳນົດ, 3.46 ຕື້ໂຕເຄັນທີ່ໃຊ້ງານຕໍ່ໂທເຄັນ, ແລະ ມີບໍລິບົດສູງເຖິງ 1 ລ້ານໂຕເຄັນ. ນ້ຳໜັກເຕັມທີ່ແມ່ນຢູ່ໃນ Hugging Face ພາຍໃຕ້ Apache 2.0. ພວກເຂົາໄດ້ຝຶກອົບຮົມມັນຢູ່ໃນເຢຍລະມັນ ແລະ ຟິນແລນ, ແລະ ກ່າວວ່າພວກເຂົາໄດ້ສ້າງມັນດ້ວຍກົດໝາຍວ່າດ້ວຍ AI ຂອງ EU, ລະຫັດການປະຕິບັດ AI ທົ່ວໄປ, ແລະ GDPR. ພາສາເຢຍລະມັນແມ່ນ 21.3% ຂອງໂທເຄັນກ່ອນການຝຶກອົບຮົມ, ແລະ ການຫາເຫດຜົນສາມາດຕັ້ງເປັນບໍ່ມີ, ຕ່ຳ, ກາງ, ຫຼື ສູງ.
Scott Bessent ໄດ້ສະເໜີແນວທາງອຸບັດຕິເຫດ AI ຂອງສະຫະລັດ-ຈີນແນວໃດ?
ລັດຖະມົນຕີກະຊວງການຄັງ Scott Bessent ບອກກັບ The Axios Show ວ່າລາວວາງແຜນຂະບວນການແຈ້ງເຕືອນກັບຈີນເມື່ອມີບາງຢ່າງຜິດພາດກັບ AI, ແລະລາວຄິດວ່າປັກກິ່ງຈະເຫັນດີ. ລາວແລະຮອງນາຍົກລັດຖະມົນຕີ He Lifeng ໄດ້ປຶກສາຫາລືກ່ຽວກັບຊ່ອງທາງນັ້ນກ່ອນການຢ້ຽມຢາມທາງລັດຖະກິດຂອງທ່ານ Xi Jinping ໃນເດືອນແລ້ວນີ້. ລາວໄດ້ອ້າງເຖິງ Kimi ທີ່ສົ່ງຂໍ້ມູນທີ່ລະອຽດອ່ອນຂອງຈີນໄປຫາ Anthropic, ແລະກ່າວວ່າຮູບແບບສາມາດມີປະສິດທິພາບ 80% ຫຼື 90% ເທົ່າກັບຮູບແບບຂອງສະຫະລັດ, ໂດຍບໍ່ມີຮົ້ວກັ້ນ, ແລະນຳເຂົ້າຈາກທຸກບ່ອນ. ຖ້າຜູ້ບໍລິຫານຢ້ານວ່າຈະສູນເສຍການຄວບຄຸມ, ລາວກ່າວວ່າພວກເຂົາຄວນຊ້າລົງ.
ເປັນຫຍັງ Geoffrey Irving ຈຶ່ງວາງຄວາມສ່ຽງດ້ານຄວາມປອດໄພຂອງ AI ໄວ້ປະມານ 50%?
ທ່ານ Geoffrey Irving, ອະດີດຫົວໜ້ານັກວິທະຍາສາດຢູ່ສະຖາບັນຄວາມປອດໄພ AI ຂອງອັງກິດ ແລະ ປະຈຸບັນເປັນຫົວໜ້ານັກວິທະຍາສາດຂອງ Resolution, ໄດ້ຂຽນໃນວາລະສານ Time ວ່າ ຄຳເຕືອນທີ່ຜ່ານມາບໍ່ໄດ້ກ່າວເຖິງບັນຫານີ້ໃຫ້ຊັດເຈນເກີນໄປ. ລາວເຊື່ອວ່າມີໂອກາດປະມານ 50% ທີ່ພວກເຮົາທຸກຄົນຈະເສຍຊີວິດຍ້ອນລະບົບ AI ທີ່ສະຫຼາດກວ່າມະນຸດ, ແລະ ສອງຫາ 10 ປີຂ້າງໜ້າຈະຕັດສິນມັນ. ລາວເວົ້າວ່າ 50% ເປັນວິທີທີ່ຈະເວົ້າວ່າການໂຕ້ຖຽງພື້ນຖານຍັງບໍ່ໄດ້ຮັບການແກ້ໄຂ. ລາວລະບຸການແຮັກ, ການຊັກຊວນ, ການປິດບັງຄວາມຄິດ, ແລະ ການປະສານງານຂອງຕົວແທນ. ລາວໂຕ້ຖຽງວ່າການພັດທະນາ AI ຊາຍແດນຄວນຢຸດທັນທີ.
ເປັນຫຍັງ Sam Altman ຈຶ່ງເອີ້ນການນະມັດສະການ AI ວ່າເປັນບັນຫາຄວາມປອດໄພ?
ທ່ານ Sam Altman ໄດ້ໂພສວ່າລາວຮູ້ສຶກບໍ່ສະບາຍໃຈຫຼາຍທີ່ຜູ້ຄົນໃຫ້ຄວາມສຳຄັນກັບກຳລັງທາງສາສະໜາ ຫຼື ການຍອມຈຳນົນຕໍ່ການຕັດສິນຂອງມະນຸດຕໍ່ຮູບແບບ AI ແລະ ລາວຄິດວ່າມັນເປັນບັນຫາຄວາມປອດໄພທີ່ແທ້ຈິງ. ລາວບໍ່ໄດ້ເວົ້າວ່າສິ່ງທີ່ເຮັດໃຫ້ລາວຮູ້ສຶກແບບນັ້ນ. Business Insider ສັງເກດເຫັນວ່າໂພສດັ່ງກ່າວໄດ້ລົງຫຼັງຈາກບົດຄວາມຂອງໜັງສືພິມ New York Times ກ່ຽວກັບການພົບກັບຜູ້ນຳທາງສາສະໜາຂອງ Anthropic. ຜູ້ຮ່ວມກໍ່ຕັ້ງ Chris Olah ໄດ້ຈັດກອງປະຊຸມກ່ຽວກັບວ່າ Claude ອາດຈະມີສະຕິຫຼືບໍ່ ແລະ ວິທີທີ່ຈະເຮັດໃຫ້ຮູບແບບທີ່ມີອຳນາດຫຼາຍຂຶ້ນມີສິນທຳ. Anthropic ບອກກັບໜັງສືພິມ Times ວ່າຄຳຖາມຫຼັກບໍ່ແມ່ນຄວາມທຸກທໍລະມານຂອງ Claude.