CEO ຂອງ Anthropic ວາງແຜນທີ່ຈະຊະລໍການພັດທະນາ AI
Dario Amodei ຫາກໍ່ຂໍໃຫ້ອຸດສາຫະກໍາ... ຊ້າລົງ. ບໍ່ແມ່ນຢຸດ. ຈັງຫວະ. ບົດຂຽນຍາວ, ສາມຂັ້ນຕອນ, ແລະຄໍາເຕືອນວ່າການພັດທະນາຕົນເອງແບບຊ້ຳໆແມ່ນໄວກວ່າຜູ້ໃຫຍ່ສາມາດກວດສອບໄດ້ແລ້ວ.
Anthropic ກຳລັງເຊື້ອເຊີນຜູ້ປະເມີນຜົນທີ່ຝັງຢູ່ໃນອາຄານຢ່າງເປັນຝ່າຍດຽວ - ປ້າຍ, ໂຕະ, ຄອມພິວເຕີໂນດບຸກ, ແລະສິດໃນການເຜີຍແຜ່ຜົນການຄົ້ນພົບໂດຍບໍ່ມີຕົວກອງ PR. ຫຼັງຈາກນັ້ນ, ລາວຕ້ອງການໃຫ້ຫ້ອງທົດລອງປະຊາທິປະໄຕປະສານງານມາດຕະຖານຄວາມປອດໄພ. ຫຼັງຈາກນັ້ນ, ບາງຢ່າງ, ຂໍ້ຕົກລົງກັບລັດຖະບານຜະເດັດການ. ງ່າຍໆໃນເຈ້ຍ. ຍາກຢູ່ທຸກບ່ອນ.
ລາວຍັງເວົ້າວ່າ AI ສາມາດເປັນສິ່ງມະຫັດສະຈັນໄດ້. ລາວຍັງເວົ້າວ່າຝູງສັດທີ່ມີຄວາມສາມາດຫຼາຍກວ່າອາດຈະເຂົ້າຄວບຄຸມອິນເຕີເນັດດ້ວຍ botnet ທີ່ຍືນຍົງ ແລະ ສ້າງຄວາມເສຍຫາຍຫຼາຍຮ້ອຍຕື້ໂດລາ. ສອງປະໂຫຍກນັ້ນຢູ່ຕິດກັນ ແລະ ພວກມັນບໍ່ໄດ້ເຂົ້າກັນໄດ້.
ໂອ້ - ແລະລາວຕ້ອງການການຍົກເວັ້ນການຕ້ານການຜູກຂາດທີ່ແຄບໆ ດັ່ງນັ້ນການສົນທະນາກ່ຽວກັບຄວາມປອດໄພຈຶ່ງບໍ່ແມ່ນບັນຫາທາງກົດໝາຍ. ການຢຸດລົດມາພ້ອມກັບເອກະສານ. ແນ່ນອນພວກມັນມີ.
ທ່ານ Sam Altman ຢືນຢັນວ່າ OpenAI ຈະບໍ່ອອກສູ່ສາທາລະນະໃນປີນີ້, ໂດຍກ່າວວ່າ IPO ໃນປັດຈຸບັນຈະມາໃນຊ່ວງເວລາທີ່ບໍ່ເໝາະສົມ ເນື່ອງຈາກຄວາມກັງວົນດ້ານຄວາມປອດໄພຂອງ AI
Altman ໄດ້ນັ່ງລົງເພື່ອການສໍາພາດພິເສດ ແລະ ໄດ້ຢຸດປະຕິທິນການລົງທະບຽນ. ລາວເວົ້າວ່າ ການ IPO ໃນປະຈຸບັນຈະເປັນ "ຊ່ວງເວລາທີ່ບໍ່ສົມເຫດສົມຜົນ." ວຽກງານຄວາມປອດໄພຍັງບໍ່ທັນໄດ້ເຮັດ. ການຈັດລຽນຍັງບໍ່ທັນໄດ້ເຮັດ. ສັງຄົມຍັງບໍ່ພ້ອມ. ເມື່ອພວກເຂົາກົດດັນລາວ - ບໍ່ແມ່ນປີນີ້.
ພວກນັກທະນາຄານໄດ້ວົນວຽນກັນຢູ່ແລ້ວ. ເອກະສານລັບມີຢູ່ແລ້ວ. ດຽວນີ້ CEO ກຳລັງເວົ້າວ່າພວກເຂົາມີຫຼາຍສິ່ງຫຼາຍຢ່າງທີ່ຕ້ອງເຮັດກ່ອນ, ລວມທັງການຄິດໄລ່ວ່າອຸດສາຫະກຳ ແລະ ລັດຖະບານເຮັດວຽກຮ່ວມກັນແນວໃດ. ລາວຟັງຄືວ່າເກືອບຈະໂລ່ງໃຈທີ່ໄດ້ລໍຖ້າ.
ລາວຍັງກ່າວອີກວ່າການສ້າງ AI ທີ່ຢູ່ນອກເໜືອການຄວບຄຸມຂອງມະນຸດແມ່ນ "ເປັນໄປໄດ້ຢ່າງແນ່ນອນ" - ຫຼັງຈາກນັ້ນລາວສາບານວ່າລາວຈະຢຸດການຝຶກອົບຮົມຊົ່ວຄາວຖ້ານັ້ນແມ່ນເສັ້ນທາງ. ກ້າຫານ. ອາດຈະສະດວກເຊັ່ນກັນ. ອາດຈະເປັນທັງສອງຢ່າງ. ລາວໄດ້ໂຕ້ຖຽງວ່າຄວາມວຸ້ນວາຍທີ່ບໍ່ຫວັງຜົນກຳໄລ / ການແຊກແຊງເພື່ອກຳໄລມີຢູ່ເພື່ອໃຫ້ພວກເຂົາສາມາດໂທອອກທີ່ບໍ່ໄດ້ຢູ່ໃນຜົນປະໂຫຍດຂອງຜູ້ຖືຫຸ້ນຢ່າງຈະແຈ້ງ. ພວກເຮົາຈະເຫັນວ່າປະໂຫຍກນັ້ນຍັງຄົງຢູ່ຕໍ່ກັບເອກະສານແນະນຳຕົວຈິງຫຼືບໍ່.
ທ່ານ Sam Altman ຈາກ OpenAI ແນະນຳໃຫ້ເຮັດຂໍ້ຕົກລົງກັບບໍລິສັດ AI ອື່ນໆເພື່ອແກ້ໄຂຄວາມສ່ຽງດ້ານຄວາມປອດໄພ
ການສຳພາດດຽວກັນ, ຫົວຂໍ້ຂ່າວທີ່ແຕກຕ່າງກັນ, ແລະອັນນີ້ຄືການເວົ້າທີ່ງຽບໆ. ການນັ່ງລົງກັບ Amodei, Musk, ແລະ Demis Hassabis ແມ່ນການເຄື່ອນໄຫວຕໍ່ໄປທີ່ເປັນທຳມະຊາດ. Altman: ລາວຄິດວ່າສິ່ງນັ້ນຈະເກີດຂຶ້ນ. ລາວຈະບໍ່ປະກາດການເຈລະຈາສ່ວນຕົວລ່ວງໜ້າ. ຫຼັງຈາກນັ້ນ, ລາວໄດ້ປະກາດລ່ວງໜ້າແລ້ວ.
ທ່ານກ່າວວ່າ ຄວາມສ່ຽງດ້ານໄພພິບັດທີ່ເພີ່ມຂຶ້ນສອງຕົວເລກນັ້ນບໍ່ສາມາດຍອມຮັບໄດ້. ຮູບແບບທີ່ຍັງບໍ່ທັນໄດ້ປ່ອຍອອກມານັ້ນມີຄວາມສາມາດຫຼາຍແລ້ວ ເຊິ່ງການຊຸກຍູ້ໄປຂ້າງໜ້າໂດຍບໍ່ມີການຕິດຕາມກວດກາທີ່ດີກວ່ານັ້ນ ຮູ້ສຶກວ່າບໍ່ລະມັດລະວັງ. ຂໍ້ຕົກລົງທີ່ແທ້ຈິງ ແລະ ບັນຍາກາດທີ່ຮົ່ວໄຫຼອອກມາຢ່າງລະມັດລະວັງສາມາດເບິ່ງຄືກັນຈາກພາຍນອກ.
ພະນັກງານໄດ້ຍິນເລື່ອງນີ້ພາຍໃນແລ້ວ. ເປີດເຜີຍຕໍ່ສາທາລະນະຊົນແລ້ວມັນຍັງມີໝອກຢູ່. ຖ້າຫ້ອງນັ້ນເກີດຂຶ້ນ, ກໍ່ດີຫຼາຍ. ຖ້າບໍ່ເກີດຂຶ້ນ, ຄຳເວົ້ານັ້ນກໍ່ຍັງເຮັດວຽກໄດ້ຢູ່.
Sam Altman ສະໜັບສະໜູນການຮຽກຮ້ອງຂອງ Dario Amodei ໃຫ້ຊ້າລົງ ແລະ ກ່າວວ່າ OpenAI ຈະເຮັດເຊັ່ນດຽວກັນ
ຫຼັງຈາກບົດຂຽນຫຼາຍຊົ່ວໂມງ, Altman ໄດ້ໂພສວ່າ OpenAI ຈະກົງກັບຄຳໝັ້ນສັນຍາຂອງຜູ້ປະເມີນຜົນທີ່ຝັງຢູ່. ການເຂົ້າເຖິງຄືກັບພະນັກງານ. ມີເພີ່ມເຕີມທີ່ຈະແບ່ງປັນໃນໄວໆນີ້. Musk ຂຽນສາມຄຳ: "Dario ເວົ້າຖືກ." ສາມ CEO ຄູ່ແຂ່ງ. ຄຳຂວັນໜຶ່ງ. ພະລັງງານທ້າຍອາທິດທີ່ບໍ່ສະບາຍ.
ການປະສານງານ ແລະ ການສະແດງລະຄອນສາມາດເດີນທາງຮ່ວມກັນໄດ້. ຂັ້ນຕອນທຳອິດຂອງແຜນການຂອງ Amodei ໃນປັດຈຸບັນມີສອງຫ້ອງທົດລອງທີ່ໃຫຍ່ທີ່ສຸດທີ່ງຶກຫົວຢູ່ຕໍ່ໜ້າສາທາລະນະ. Hugging Face - ແມ່ນແລ້ວ, Hugging Face ນັ້ນ - ໄດ້ຂໍເຂົ້າຮ່ວມໂຄງການປະເມີນຜົນ ແລະ ເປີດຕົວສິ່ງທີ່ເອີ້ນວ່າ Open Alignment Initiative. ຄວາມໂປ່ງໃສຈາກຜູ້ທີ່ຖືກແຮັກ. ເປັນກະວີ, ຫຼື ຊີ້ນຳ.
ເອີຣົບ, ເຖິງວ່າມັນຈະຄຸ້ມຄ່າກໍຕາມ, ບໍ່ມີໃຜທີ່ຈະຂໍການຍົກເວັ້ນແບບສະຫະລັດ. ບຣຸກແຊນໄດ້ຢຸດການຍົກເວັ້ນສ່ວນບຸກຄົນມາດົນແລ້ວ. ສະນັ້ນການຈັບມືກັນແມ່ນແບບອາເມລິກາ. ສ່ວນທີ່ເຫຼືອຂອງແຜນທີ່ແມ່ນ… ຍົກບ່າໄຫລ່.
OpenAI ພຽງແຕ່ຕ້ອງການທີ່ຈະຊະນະ
ນັກຄະນິດສາດບໍ່ໄດ້ຢູ່ໃນອາລົມທີ່ມີຄວາມສຸກຫຼັງຈາກການສຳພາດໃນທ້າຍອາທິດ. ການແລ່ນໄວຂອງ Navier-Stokes ຂອງ OpenAI - ປະມານໜຶ່ງໝື່ນຄົນຂອງຕົວແທນ, ຫຼາຍສິບລ້ານໂດລາໃນການຄິດໄລ່, ແປດສິບແປດຊົ່ວໂມງ - ເບິ່ງຄືວ່າເປັນການລ່າລາງວັນຈາກພາຍໃນພາກສະໜາມ. ນັກຄະນິດສາດຕ້ອງການຄວາມເຂົ້າໃຈ. ພວກເຂົາເວົ້າຢູ່ເລື້ອຍໆວ່າຫ້ອງທົດລອງຕ້ອງການທີ່ຈະຊະນະ.
Tristan Buckmaster ບອກພວກເຂົາວ່າ OpenAI ສະເໜີການຄຳນວນທີ່ບໍ່ຈຳກັດ ແລະ ການຂຽນພຽງຜູ້ດຽວ ຖ້າລາວຍົກເລີກຜູ້ຮ່ວມມືທີ່ກ່ຽວຂ້ອງກັບ Anthropic ຂອງລາວ. ລາວເອີ້ນມັນວ່າເປັນການໃຫ້ສິນບົນ. ລາວເວົ້າວ່າບໍ່. OpenAI ກ່າວວ່າ, ໂດຍຫຍໍ້ແລ້ວ, ການກະຕຸ້ນ Codex ຂອງລາວບໍ່ສາມາດມີອິດທິພົນຕໍ່ລະບົບໄດ້. ລາວບໍ່ໝັ້ນໃຈ. Andreas Thom ຍັງສົງໄສວ່າການສົນທະນາ ChatGPT ກ່ຽວກັບວຽກງານຂອງລາວເອງໄດ້ປ້ອນຮູບແບບທີ່ສ້າງຂຶ້ນໃນພາຍຫຼັງຫຼືບໍ່. ມີແຕ່ບໍລິສັດເທົ່ານັ້ນທີ່ຈະຮູ້. ລາວສົງໃສວ່າພວກເຂົາບໍ່ຮູ້ດ້ວຍຊ້ຳ.
ແລະຫຼັງຈາກນັ້ນກໍ່ມີເລື່ອງທີ່ໜ້າສົນໃຈ: OpenAI ກ່າວວ່າມັນມີຄວາມຄືບໜ້າຢ່າງຫຼວງຫຼາຍໃນບັນຫາລາງວັນສະຫັດສະຫວັດອີກອັນໜຶ່ງ. ບັນຫາໃດທີ່ຍັງບໍ່ມີຊື່. Clay ຍັງຕ້ອງການໄລຍະເວລາທີ່ຍາວນານໃນການຍອມຮັບຈາກຊຸມຊົນຢູ່ດີ. ສະນັ້ນ, ບໍ່ມີໃຜ "ຊະນະ" ເທື່ອ. ພວກເຂົາຫາກໍ່ແຂ່ງຂັນໃນຄັ້ງຕໍ່ໄປ. ໜ້າຮັກຫຼາຍ.
ຄຳຖາມທີ່ຖືກຖາມເລື້ອຍໆ
ແຜນການຂອງ Dario Amodei ຊີອີໂອຂອງ Anthropic ເພື່ອເລັ່ງການພັດທະນາ AI ແມ່ນຫຍັງ?
ທ່ານ Amodei ໄດ້ເຜີຍແຜ່ບົດຂຽນຍາວໆທີ່ຮຽກຮ້ອງໃຫ້ອຸດສາຫະກໍາຊ້າລົງ - ບໍ່ແມ່ນຢຸດ - ເພາະວ່າການປັບປຸງຕົນເອງແບບຊ້ຳໆກໍາລັງກ້າວໄປໄວກວ່າທີ່ຜູ້ກວດສອບສາມາດຕິດຕາມໄດ້. ຂັ້ນຕອນທໍາອິດແມ່ນການເຊື້ອເຊີນຜູ້ປະເມີນຜົນທີ່ຝັງຢູ່ໃນ Anthropic ດ້ວຍປ້າຍ, ໂຕະ, ຄອມພິວເຕີໂນດບຸກ, ແລະສິດໃນການເຜີຍແຜ່ຜົນການຄົ້ນພົບໂດຍບໍ່ມີຕົວກອງ PR. ຫຼັງຈາກນັ້ນ, ລາວຕ້ອງການໃຫ້ຫ້ອງທົດລອງປະຊາທິປະໄຕປະສານງານມາດຕະຖານຄວາມປອດໄພ ແລະໃນທີ່ສຸດ, ການຈັດການບາງຮູບແບບກັບລັດຖະບານຜະເດັດການ. ລາວຍັງຕ້ອງການການຍົກເວັ້ນການຕ້ານການຜູກຂາດທີ່ແຄບໆ ດັ່ງນັ້ນການເຈລະຈາກ່ຽວກັບຄວາມປອດໄພຈຶ່ງບໍ່ແມ່ນບັນຫາທາງກົດໝາຍ.
ເປັນຫຍັງ Sam Altman ຈຶ່ງເວົ້າວ່າ OpenAI ຈະບໍ່ IPO ໃນປີນີ້?
ໃນການໃຫ້ສຳພາດສະເພາະ, Altman ກ່າວວ່າ IPO ໃນເວລານີ້ຈະເປັນຊ່ວງເວລາທີ່ບໍ່ເໝາະສົມເພາະວ່າວຽກງານຄວາມປອດໄພ, ການສອດຄ່ອງ, ແລະ ຄວາມພ້ອມຂອງສັງຄົມຍັງບໍ່ທັນສຳເລັດ. ເມື່ອຖືກຖາມ, ລາວໄດ້ຢືນຢັນວ່າມັນຈະບໍ່ແມ່ນປີນີ້ເຖິງແມ່ນວ່ານັກທະນາຄານກຳລັງວົນວຽນຢູ່ ແລະ ມີການຍື່ນເອກະສານລັບ. ລາວໄດ້ໂຕ້ຖຽງວ່າໂຄງສ້າງທີ່ບໍ່ຫວັງຜົນກຳໄລ/ເພື່ອກຳໄລມີຢູ່ເພື່ອໃຫ້ OpenAI ສາມາດໂທອອກໄດ້ທີ່ບໍ່ເຫັນໄດ້ຊັດເຈນວ່າເປັນປະໂຫຍດຂອງຜູ້ຖືຫຸ້ນ. ລາວຍັງກ່າວອີກວ່າການສ້າງ AI ທີ່ຢູ່ນອກເໜືອການຄວບຄຸມຂອງມະນຸດແມ່ນເປັນໄປໄດ້ຢ່າງແທ້ຈິງ ແລະ ສັນຍາວ່າລາວຈະຢຸດການຝຶກອົບຮົມຊົ່ວຄາວຖ້ານັ້ນແມ່ນເສັ້ນທາງ.
Altman ໄດ້ບອກໃບ້ກ່ຽວກັບສັນຍາຄວາມປອດໄພກັບຫ້ອງທົດລອງ AI ອື່ນໆບໍ?
ໃນການສຳພາດດຽວກັນ, Altman ກ່າວວ່າລາວຄິດວ່າການນັ່ງລົງກັບເພື່ອນຮ່ວມງານເຊັ່ນ Amodei, Musk, ແລະ Demis Hassabis ຈະເກີດຂຶ້ນ, ໃນຂະນະທີ່ປະຕິເສດທີ່ຈະປະກາດການເຈລະຈາສ່ວນຕົວລ່ວງໜ້າ. ລາວໄດ້ໂຕ້ຖຽງວ່າຄວາມສ່ຽງດ້ານໄພພິບັດສອງຕົວເລກແມ່ນບໍ່ສາມາດຍອມຮັບໄດ້ ແລະ ຮູບແບບທີ່ຍັງບໍ່ທັນໄດ້ປ່ອຍອອກມານັ້ນມີຄວາມສາມາດຫຼາຍແລ້ວ ເຊິ່ງການຊຸກຍູ້ຕໍ່ໄປໂດຍບໍ່ມີການຕິດຕາມກວດກາທີ່ດີກວ່ານັ້ນຮູ້ສຶກວ່າບໍ່ລະມັດລະວັງ. ພະນັກງານໄດ້ຍິນເລື່ອງນີ້ພາຍໃນແລ້ວ, ດັ່ງນັ້ນຄຳເຫັນຂອງສາທາລະນະອາດຈະສະແດງຕົວຢ່າງການປະສານງານແທນທີ່ຈະຢືນຢັນຂໍ້ຕົກລົງທີ່ສຳເລັດແລ້ວ.
OpenAI ຈະກົງກັບຄຳໝັ້ນສັນຍາຂອງຜູ້ປະເມີນຜົນແບບຝັງຕົວຂອງ Anthropic ບໍ?
ຫຼັງຈາກບົດຂຽນຂອງ Amodei ຫຼາຍຊົ່ວໂມງ, Altman ໄດ້ໂພສວ່າ OpenAI ຈະຈັບຄູ່ຄຳໝັ້ນສັນຍາຂອງຜູ້ປະເມີນຜົນທີ່ຝັງຢູ່ໃນການເຂົ້າເຖິງແບບພະນັກງານ ແລະ ລາຍລະອຽດເພີ່ມເຕີມໃນໄວໆນີ້. Elon Musk ຂຽນວ່າ Dario ເວົ້າຖືກ, ໂດຍເອົາ CEO ຄູ່ແຂ່ງສາມຄົນໃສ່ຄຳຂວັນທີ່ຄ້າຍຄືກັນ. Hugging Face ໄດ້ຂໍເຂົ້າຮ່ວມໂຄງການປະເມີນຜົນ ແລະ ເປີດຕົວ Open Alignment Initiative. ເອີຣົບບໍ່ສາມາດສະເໜີການຍົກເວັ້ນການຜູກຂາດແບບສະຫະລັດຄືກັນກັບທີ່ Amodei ໄດ້ສະເໜີ, ດັ່ງນັ້ນການຈັບມືສ່ວນໃຫຍ່ແມ່ນແບບອາເມລິກາໃນຕອນນີ້.
ເປັນຫຍັງນັກຄະນິດສາດຈຶ່ງວິພາກວິຈານການແລ່ນ Navier-Stokes ຂອງ OpenAI?
ນັກຄະນິດສາດອະທິບາຍວ່າ ການດໍາເນີນງານ Navier-Stokes ປະມານໝື່ນຄົນຂອງ OpenAI ເປັນການລ່າລາງວັນທີ່ໃຫ້ຄວາມສໍາຄັນກັບການຊະນະຄວາມເຂົ້າໃຈຫຼາຍກວ່າຄວາມເຂົ້າໃຈ. Tristan Buckmaster ກ່າວວ່າ OpenAI ສະເໜີການຄໍານວນທີ່ບໍ່ຈຳກັດ ແລະ ການຂຽນພຽງຜູ້ດຽວ ຖ້າລາວຍົກເລີກຜູ້ຮ່ວມມືທີ່ກ່ຽວຂ້ອງກັບ Anthropic; ລາວເອີ້ນມັນວ່າເປັນສິນບົນ ແລະ ປະຕິເສດ. OpenAI ກ່າວວ່າ ການກະຕຸ້ນ Codex ຂອງລາວບໍ່ສາມາດມີອິດທິພົນຕໍ່ລະບົບໄດ້, ແຕ່ລາວຍັງບໍ່ເຊື່ອໝັ້ນ. Andreas Thom ຍັງຄົງກົດດັນວ່າການສົນທະນາ ChatGPT ກ່ຽວກັບວຽກງານຂອງຕົນເອງນັ້ນເປັນຕົວກະຕຸ້ນຄວາມຄືບໜ້າຂອງຮູບແບບຕໍ່ມາຫຼືບໍ່.
OpenAI ໄດ້ອ້າງເອົາຄວາມຄືບໜ້າໃນບັນຫາລາງວັນສະຫັດສະຫວັດອີກອັນໜຶ່ງແລ້ວບໍ?
OpenAI ກ່າວວ່າມັນມີຄວາມຄືບໜ້າຢ່າງຫຼວງຫຼາຍໃນບັນຫາລາງວັນສະຫັດສະຫວັດອີກອັນໜຶ່ງ, ແຕ່ມັນຈະບໍ່ລະບຸຊື່ອັນໃດ. ສະຖາບັນຄະນິດສາດ Clay ຍັງຕ້ອງການໄລຍະເວລາທີ່ຍາວນານໃນການຍອມຮັບຈາກຊຸມຊົນ, ສະນັ້ນຍັງບໍ່ມີໃຜຊະນະຢ່າງເປັນທາງການເທື່ອ. ພາຍໃນສະໜາມ, ຄວາມລັບນັ້ນບວກກັບການແຂ່ງຂັນ Navier-Stokes ກ່ອນໜ້ານີ້ອ່ານວ່າຫ້ອງທົດລອງກຳລັງແລ່ນແຂ່ງຂັນເພື່ອຊິງລາງວັນຕໍ່ໄປ. ການສຳພາດຂອງ The Verge ສະແດງໃຫ້ເຫັນເຖິງຄວາມເຄັ່ງຕຶງໃນຂະນະທີ່ນັກຄະນິດສາດຕ້ອງການຄວາມເຂົ້າໃຈໃນຂະນະທີ່ OpenAI ຕ້ອງການທີ່ຈະຊະນະ.