💰 Sequoia ໂດດເຂົ້າສູ່ຮອບໃຫຍ່ຂອງ Anthropic ຢ່າງງຽບໆ ↗
Sequoia - ເຊິ່ງມີສ່ວນກ່ຽວຂ້ອງກັບຫ້ອງທົດລອງ AI ຫຼາຍແຫ່ງທີ່ສຳຄັນແລ້ວ - ມີລາຍງານວ່າກຳລັງເຂົ້າຮ່ວມການຂຶ້ນເງິນເດືອນ Anthropic ຢ່າງຫຼວງຫຼາຍ. ມັນເປັນການເຄື່ອນໄຫວທີ່ປ່ຽນການສົນທະນາ "ຄວາມຂັດແຍ້ງ, ບໍ່ມີການຂັດແຍ້ງ" ທັງໝົດໃຫ້ສູງຂຶ້ນອີກຂັ້ນໜຶ່ງ, ບໍ່ວ່າໃຜຈະຍອມຮັບມັນຫຼືບໍ່.
ຮອບນີ້ຄາດວ່າຈະປະກອບມີການກວດສອບນ້ຳໜັກໜັກອື່ນໆນຳອີກ, ເຊິ່ງຊຸກຍູ້ Anthropic ໃຫ້ເຂົ້າສູ່ຊ່ອງທາງການປະເມີນມູນຄ່າສູງສຸດ. ຟອງສະບູຍັງຄົງຢູ່. ນີ້ອາດຈະເປັນເລື່ອງປົກກະຕິໃໝ່, ເຊິ່ງໜ້າລຳຄານຫຼາຍ.
📢 ChatGPT ເລີ່ມຫຼິ້ນກັບໂຄສະນາ - ແທ້ໆໃນຄັ້ງນີ້ ↗
ມີການກ່າວວ່າ OpenAI ກຳລັງທົດສອບໂຄສະນາສຳລັບຜູ້ໃຊ້ສະຫະລັດບາງຄົນໃນລະດັບລາຄາຕໍ່າກວ່າ, ໂດຍລະດັບການຈ່າຍເງິນທີ່ສູງກວ່າຈະບໍ່ມີໂຄສະນາ. ຄຳໝັ້ນສັນຍາແມ່ນວ່າໂຄສະນາຈະບໍ່ສົ່ງຜົນກະທົບຕໍ່ຄຳຕອບ - ໃນທາງທິດສະດີເຮັດໃຫ້ໝັ້ນໃຈ, ເຖິງແມ່ນວ່າການສະທ້ອນຄວາມໄວ້ວາງໃຈຈະເຮັດໃຫ້ເກີດການສັ່ນເລັກນ້ອຍກໍຕາມ.
ເນື້ອໃນຍ່ອຍທີ່ໃຫຍ່ກວ່ານັ້ນແມ່ນງ່າຍດາຍ: ການອະນຸມານມີລາຄາແພງ, ແລະການສະໝັກໃຊ້ພຽງຢ່າງດຽວອາດຈະບໍ່ຄອບຄຸມທຸກຢ່າງຕະຫຼອດໄປ... ຫຼືເບິ່ງຄືວ່າເປັນແນວນັ້ນ. ເຖິງຢ່າງໃດກໍ່ຕາມ, ຄັ້ງທຳອິດທີ່ທ່ານເຫັນຄຳວ່າ "ສະໜັບສະໜຸນ" ຢູ່ໃກ້ໆກັບ chatbot, ມີບາງສິ່ງບາງຢ່າງປ່ຽນໄປໃນຫົວຂອງທ່ານ. ບັນຍາກາດປ່ຽນໄປ.
📚 ຜູ້ເຜີຍແຜ່ພະຍາຍາມຍື່ນຟ້ອງຮ້ອງການຝຶກອົບຮົມ AI ຂອງ Google ↗
ກຸ່ມຜູ້ເຜີຍແຜ່ກຳລັງພະຍາຍາມເຂົ້າຮ່ວມຄະດີຟ້ອງຮ້ອງທີ່ກ່າວຫາ Google ວ່າໃຊ້ຜົນງານທີ່ມີລິຂະສິດເພື່ອຝຶກອົບຮົມລະບົບ AI ຂອງຕົນ. ການຕໍ່ສູ້ທາງກົດໝາຍນີ້ຍັງສືບຕໍ່ຂະຫຍາຍອອກໄປເລື້ອຍໆ, ຄືກັບຮອຍແຕກໃນນ້ຳກ້ອນທີ່ເຈົ້າໄດ້ຍິນຢູ່ເລື້ອຍໆແຕ່ບໍ່ສາມາດຊອກຫາໄດ້ຢ່າງແນ່ນອນ.
ຖ້າສານອະນຸຍາດໃຫ້ພວກເຂົາເຂົ້າມາ, ຄະດີດັ່ງກ່າວອາດຈະເຮັດໃຫ້ມີຄວາມຊັດເຈນຂຶ້ນກ່ຽວກັບຄວາມໝາຍຂອງ “ການອະນຸຍາດ” ແລະ “ການຈ່າຍເງິນ” ສຳລັບຂໍ້ມູນການຝຶກອົບຮົມ. ທຸກຄົນຕ້ອງການແບບຢ່າງ - ໂດຍສະເພາະແມ່ນແບບຢ່າງທີ່ເອື້ອອຳນວຍໃຫ້ເຂົາເຈົ້າ, ແນ່ນອນ.
🕳️ ມີລາຍງານວ່າເຄັດລັບ "ການສັກຢາດ່ວນ" ເຮັດໃຫ້ Gemini ມີບັນຫາຜ່ານຂໍ້ມູນການປະຊຸມ ↗
ນັກຄົ້ນຄວ້າໄດ້ອະທິບາຍເຖິງການໂຈມຕີແບບ "ການສີດກະຕຸ້ນທາງອ້ອມ" ບ່ອນທີ່ຄຳແນະນຳທີ່ເປັນອັນຕະລາຍຖືກເຊື່ອງໄວ້ພາຍໃນເນື້ອຫາທີ່ເບິ່ງຄືປົກກະຕິ, ຫຼັງຈາກນັ້ນຜູ້ຊ່ວຍຈະຕິດຕາມພວກເຂົາໃນພາຍຫຼັງເມື່ອຜູ້ໃຊ້ຖາມບາງສິ່ງບາງຢ່າງທີ່ບໍ່ມີຄວາມຜິດ. ບໍ່ມີມັລແວ, ບໍ່ມີເວດມົນ - ພຽງແຕ່ຂໍ້ຄວາມທີ່ເປັນອາວຸດ, ສະຫງ່າງາມຢ່າງບໍ່ໜ້າເຊື່ອ ແລະ ຍັງເປັນປະເພດທີ່ໜ້າລັງກຽດ.
ມັນເປັນການເຕືອນວ່າ "LLM ອ່ານຂໍ້ຄວາມທີ່ບໍ່ໜ້າເຊື່ອຖື" ບໍ່ແມ່ນຄຸນສົມບັດທີ່ໜ້າຮັກ - ມັນເປັນໄພຂົ່ມຂູ່ທັງໝົດ. ຄືກັບການປ່ອຍໃຫ້ຄົນແປກໜ້າເອົາບັນທຶກໃສ່ໃນກະເປົ໋າຂອງເຈົ້າໝົດມື້, ແລ້ວກໍ່ສະແດງອາການແປກໃຈເມື່ອໜຶ່ງໃນນັ້ນເປັນກັບດັກ.
🎮 ຊີອີໂອຂອງ Razer ກ່າວວ່ານັກຫຼິ້ນເກມ “ມັກ AI ແລ້ວ” - ພວກເຂົາພຽງແຕ່ກຽດຊັງປ້າຍຊື່ນີ້ ↗
ການສົນທະນາໃນງານ CES ຂອງ Razer ໄດ້ເນັ້ນໃສ່ AI ວ່າເປັນເຄື່ອງມືທີ່ໃຊ້ໄດ້ຈິງສຳລັບຂະບວນການພັດທະນາເກມ - ການກວດສອບຄຸນນະພາບ, ການປັບປຸງ, ສິ່ງອື່ນໆ - ບວກກັບແນວຄວາມຄິດແບບຜູ້ຊ່ວຍບາງຢ່າງທີ່ຮູ້ສຶກວ່າມີປະໂຫຍດເຄິ່ງໜຶ່ງ, ເຄິ່ງໜຶ່ງເປັນຮູບແບບວິທະຍາສາດນິຍາຍ.
ພວກເຂົາຍັງຍອມຮັບບັນຫາການສ້າງຍີ່ຫໍ້ໂດຍພື້ນຖານແລ້ວ: ຜູ້ຫຼິ້ນບໍ່ຕ້ອງການ "ຄວາມລົ້ມເຫຼວຂອງ AI," ແຕ່ພວກເຂົາຕ້ອງການເຄື່ອງມືທີ່ສະຫຼາດກວ່າ ແລະ ປະສົບການທີ່ລຽບງ່າຍກວ່າ. ເອີ້ນມັນວ່າ "ຊ່ວຍເຫຼືອ" ແລະ ຜູ້ຄົນຈະພະຍັກໜ້າ. ເອີ້ນມັນວ່າ "AI" ແລະ ຜູ້ຄົນຈະເຂົ້າຫາການແກ້ງແຍ້ງ... ບາງຄັ້ງ.
⚖️ ສານວາງກົດລະບຽບສຳລັບທະນາຍຄວາມທີ່ໃຊ້ AI ທີ່ສ້າງສັນ ↗
ຄຳແນະນຳທີ່ເຜີຍແຜ່ໂດຍສານເຊິ່ງໂດຍພື້ນຖານແລ້ວແມ່ນ: ແນ່ນອນ, ໃຫ້ໃຊ້ genAI - ແຕ່ທ່ານຍັງເປັນເຈົ້າຂອງວຽກງານ. ທ່ານບໍ່ສາມາດຈ້າງຜູ້ສ້າງຂໍ້ຄວາມເພື່ອຕັດສິນວິຊາຊີບຂອງທ່ານ ແລະ ຫຼັງຈາກນັ້ນກໍ່ສະແດງຄວາມຕົກໃຈເມື່ອມັນປະດິດບາງສິ່ງບາງຢ່າງຂຶ້ນມາຢ່າງໝັ້ນໃຈ.
ສິ່ງທີ່ໜ້າສົນໃຈແມ່ນ, ການເປີດເຜີຍຂໍ້ມູນບໍ່ຈຳເປັນຕ້ອງເປີດເຜີຍ ເວັ້ນເສຍແຕ່ວ່າຜູ້ພິພາກສາຈະຖາມ - ແຕ່ຂໍ້ຄວາມທີ່ຕ້ອງຮັບຜິດຊອບແມ່ນກະດູກສັນຫຼັງທີ່ແທ້ຈິງຂອງມັນ. AI ສາມາດຮ່າງ ແລະ ຈັດລະບຽບ… ແລະ ຍັງສາມາດຫຼອນໄດ້ຄືກັບນັກສຶກສາຝຶກງານທີ່ໝັ້ນໃຈເກີນໄປ ແລະ ມີພອນສະຫວັນໃນການແຕ່ງນິຍາຍ.
ຄຳຖາມທີ່ຖືກຖາມເລື້ອຍໆ
ການເຂົ້າຮ່ວມຮອບໃຫຍ່ຂອງ Anthropic ຂອງ Sequoia ໝາຍຄວາມວ່າແນວໃດຕໍ່ການລົງທຶນ ແລະ ການຂັດແຍ້ງກ່ຽວກັບ AI?
ມັນຊີ້ໃຫ້ເຫັນວ່ານັກລົງທຶນລາຍໃຫຍ່ອາດຈະສືບຕໍ່ສະໜັບສະໜູນຫ້ອງທົດລອງ AI ຊັ້ນນຳຫຼາຍແຫ່ງໃນເວລາດຽວກັນ, ເຊິ່ງຄາດເດົາໄດ້ວ່າຈະເຮັດໃຫ້ການໂຕ້ວາທີ "ຂັດແຍ້ງ, ບໍ່ມີການຂັດແຍ້ງ" ຟື້ນຟູຄືນມາ. ເມື່ອກອງທຶນດຽວກັນນີ້ຖືກພົວພັນກັບຫຼາຍໆຫ້ອງທົດລອງ, ຜູ້ຄົນຈະເລີ່ມກວດສອບສິ່ງຈູງໃຈ, ການເຂົ້າເຖິງ, ແລະຂອບການແຂ່ງຂັນ. ບົດລາຍງານຂະໜາດໃຫຍ່ຍັງໄດ້ເນັ້ນໃຫ້ເຫັນເຖິງການເລື່ອນໄປສູ່ການກວດສອບຂະໜາດໃຫຍ່ ແລະ ການປະເມີນມູນຄ່າທີ່ສູງຕระຫງ่าน, ເຖິງແມ່ນວ່າ "ຄວາມຮູ້ສຶກຟອງສະບູ" ຍັງຄົງຢູ່ໃນອາກາດ.
ChatGPT ໄດ້ຮັບໂຄສະນາໃນລະດັບຟຣີ ຫຼື ລາຄາຖືກກວ່າ, ແລະ ພວກມັນຈະສົ່ງຜົນກະທົບຕໍ່ຄຳຕອບບໍ?
ບົດລາຍງານກ່າວວ່າ OpenAI ກຳລັງທົດສອບໂຄສະນາສຳລັບຜູ້ໃຊ້ສະຫະລັດບາງຄົນໃນລະດັບລາຄາຕໍ່າກວ່າ, ໃນຂະນະທີ່ລະດັບການຈ່າຍເງິນທີ່ສູງກວ່າຍັງຄົງບໍ່ມີໂຄສະນາ. ມັນຍັງອ້າງວ່າໂຄສະນາຈະບໍ່ມີຜົນກະທົບຕໍ່ຄຳຕອບ, ເຊິ່ງຟັງແລ້ວໜ້າເຊື່ອຖືໄດ້ໃນເຈ້ຍ ແຕ່ຍັງສາມາດປ່ຽນວິທີທີ່ຄົນຮັບຮູ້ຄວາມໄວ້ວາງໃຈໄດ້. ເນື້ອໃນຍ່ອຍແມ່ນເສດຖະກິດ: ການອະນຸມານມີລາຄາແພງ, ແລະການສະໝັກໃຊ້ອາດຈະບໍ່ຄອບຄຸມທຸກຢ່າງຕະຫຼອດໄປ.
ເປັນຫຍັງຜູ້ເຜີຍແຜ່ຈຶ່ງພະຍາຍາມເຂົ້າຮ່ວມຄະດີຟ້ອງຮ້ອງການຝຶກອົບຮົມ AI ຂອງ Google?
ກຸ່ມຜູ້ເຜີຍແຜ່ກຳລັງຊອກຫາເຂົ້າຮ່ວມຄະດີຟ້ອງຮ້ອງທີ່ກ່າວຫາວ່າ Google ໄດ້ໃຊ້ຜົນງານທີ່ມີລິຂະສິດເພື່ອຝຶກອົບຮົມລະບົບ AI. ຖ້າສານອະນຸຍາດໃຫ້ພວກເຂົາເຂົ້າຮ່ວມ, ຄະດີດັ່ງກ່າວອາດຈະເຮັດໃຫ້ຊັດເຈນຂຶ້ນກ່ຽວກັບ “ການອະນຸຍາດ” ແລະ “ການຈ່າຍເງິນ” ຄວນຈະເປັນແນວໃດສຳລັບຂໍ້ມູນການຝຶກອົບຮົມ. ພາກສ່ວນຫຼາຍຂຶ້ນມັກຈະໝາຍເຖິງຄວາມກົດດັນຫຼາຍຂຶ້ນສຳລັບແບບຢ່າງທີ່ຊັດເຈນ - ໂດຍສະເພາະກ່ຽວກັບຜູ້ທີ່ໄດ້ຮັບຄ່າຕອບແທນ, ແລະພາຍໃຕ້ເງື່ອນໄຂໃດ.
ການໂຈມຕີແບບ “indirect prompt injection” ແມ່ນຫຍັງ, ແລະ ເປັນຫຍັງມັນຈຶ່ງເປັນເລື່ອງໃຫຍ່ໃນຂ່າວເທັກໂນໂລຢີ AI?
ມັນເປັນການໂຈມຕີທີ່ຄຳແນະນຳທີ່ເປັນອັນຕະລາຍຖືກເຊື່ອງໄວ້ພາຍໃນເນື້ອຫາທີ່ເບິ່ງຄືປົກກະຕິ, ແລະຜູ້ຊ່ວຍຈະຕິດຕາມພວກມັນໃນພາຍຫຼັງເມື່ອຜູ້ໃຊ້ເຮັດການຮ້ອງຂໍທີ່ບໍ່ມີຄວາມຜິດ. ບັນຫາຫຼັກແມ່ນວ່າຮູບແບບກຳລັງອ່ານຂໍ້ຄວາມທີ່ບໍ່ໜ້າເຊື່ອຖື, ປ່ຽນເອກະສານ ແລະ ຂໍ້ຄວາມປະຈຳວັນໃຫ້ກາຍເປັນໜ້າດິນທີ່ເປັນໄພຂົ່ມຂູ່. ມັນໜ້າສົນໃຈເພາະມັນສາມາດເຮັດວຽກໄດ້ໂດຍບໍ່ມີມັນແວແບບດັ້ງເດີມ - ພຽງແຕ່ພາສາທີ່ມີອາວຸດທີ່ຝັງຢູ່ໃນເນື້ອຫາ.
ເປັນຫຍັງນັກຫຼິ້ນເກມຈຶ່ງບໍ່ມັກປ້າຍ “AI” ແຕ່ຍັງຕ້ອງການເຄື່ອງມື AI?
ຊີອີໂອຂອງ Razer ໂຕ້ຖຽງວ່ານັກຫຼິ້ນເກມມັກຜົນປະໂຫຍດຕົວຈິງແລ້ວ - QA ທີ່ໄວຂຶ້ນ, ການເຮັດຊ້ຳທີ່ລຽບງ່າຍກວ່າ, ແລະຕົວຊ່ວຍໃນການເຮັດວຽກ - ແຕ່ມີປະຕິກິລິຍາທາງລົບຕໍ່ກັບການສ້າງຍີ່ຫໍ້. ຄວາມກັງວົນມັກຈະເປັນ "ຄວາມລົ້ມເຫຼວຂອງ AI," ຫຼືເນື້ອຫາທີ່ຮູ້ສຶກວ່າໃຊ້ຄວາມພະຍາຍາມຕ່ຳ ແລະ ບໍ່ເປັນຈິງ. ການປ່ຽນກອບມັນເປັນ "ການຊ່ວຍເຫຼືອ" ຫຼືຄຸນສົມບັດທີ່ເປັນປະໂຫຍດສາມາດເຮັດໃຫ້ມັນຮູ້ສຶກຄືກັບເຄື່ອງມືທີ່ປັບປຸງປະສົບການແທນທີ່ຈະທົດແທນຄວາມຄິດສ້າງສັນ.
ກົດລະບຽບຂອງສານໝາຍຄວາມວ່າແນວໃດສຳລັບທະນາຍຄວາມທີ່ໃຊ້ AI ທີ່ສ້າງສັນ, ແລະພວກເຂົາຈຳເປັນຕ້ອງເປີດເຜີຍມັນບໍ?
ຄຳແນະນຳທີ່ໄດ້ອະທິບາຍໄວ້ນັ້ນຊັດເຈນ: ທະນາຍຄວາມສາມາດໃຊ້ AI ທີ່ສ້າງສັນໄດ້, ແຕ່ພວກເຂົາຍັງຄົງຮັບຜິດຊອບຕໍ່ວຽກງານ ແລະ ບໍ່ສາມາດຈ້າງຜູ້ສ້າງຂໍ້ຄວາມເພື່ອຕັດສິນບັນຫາໄດ້. ຄວາມສ່ຽງແມ່ນການຫຼອນ - ຂໍ້ເທັດຈິງ ຫຼື ການອ້າງອີງທີ່ປະດິດຂຶ້ນຢ່າງໝັ້ນໃຈ - ສະນັ້ນການກວດສອບ ແລະ ຄວາມຮັບຜິດຊອບຍັງຄົງເປັນຈຸດໃຈກາງ. ການເປີດເຜີຍຂໍ້ມູນບໍ່ຈຳເປັນຕ້ອງມີ ເວັ້ນເສຍແຕ່ວ່າຜູ້ພິພາກສາຂໍ, ແຕ່ຂໍ້ຄວາມຍັງຄົງຄືເກົ່າ: ເຈົ້າເປັນເຈົ້າຂອງຜົນໄດ້ຮັບ.