ສູນຂໍ້ມູນ AI ​​ແມ່ນຫຍັງ? [ວິດີໂອ ແລະ ແບບສອບຖາມ]

ຄຳຕອບສັ້ນໆ: ສູນຂໍ້ມູນ AI ​​ແມ່ນ ທີ່ມີຄວາມໜາແໜ້ນສູງ ບ່ອນທີ່ພະລັງງານ, ຄວາມເຢັນ, ໂຄງສ້າງ, ແລະ ບ່ອນເກັບຂໍ້ມູນແມ່ນຂຶ້ນກັບການຝຶກອົບຮົມ ແລະ ການບໍລິການແບບຈຳລອງ, ບໍ່ແມ່ນຫ້ອງເຊີບເວີທີ່ມີ GPU ເພີ່ມເຕີມ. ຊິບໄດ້ຮັບຊື່ສຽງ; ອາ ຄານ ຕັດສິນໃຈວ່າພວກມັນເຮັດວຽກໄດ້ຫຼືບໍ່. ຖ້າຮູບພາບບໍ່ສາມາດອອກໄປໄດ້, ໃຫ້ປັບປຸງຫ້ອງນ້ອຍ; ທີມງານສ່ວນໃຫຍ່ຄວນເຊົ່າ.

ບົດຮຽນຫຼັກ:

ຊິບ ທຽບກັບ ການກໍ່ສ້າງ: ພະລັງງານ, ຄວາມເຢັນ, ຜ້າ ແລະ ການເກັບຮັກສາ ຕັດສິນວ່າຕົວເລັ່ງເຮັດວຽກຫຼືບໍ່.

ສະຖານທີ່ບໍ່ແມ່ນພະລາຊະວັງ: ປັບປຸງສອງຊັ້ນເກັບຂໍ້ມູນເມື່ອຂໍ້ມູນບໍ່ສາມາດອອກໄປໄດ້; ຢ່າຊື້ວິທະຍາເຂດ.

ຄ່າສະເລ່ຍ ທຽບກັບ ຄ່າກາງ: ໃນແປດຮອບ, ຄ່າກາງຂອງ hid ຈະເລີ່ມຕົ້ນໃໝ່; ໃຊ້ຄ່າສະເລ່ຍ 18 ຊົ່ວໂມງ.

ຄວາມຕ້ານທານການໃຊ້ຜິດວິທີ: ຢ່າອ້າງອີງຄ່າ PUE ສຳລັບສອງຊັ້ນວາງໃນຫ້ອງໂຖງປະສົມ.

ຜົນໄດ້ຮັບຕົວຢ່າງ: ແປດການແລ່ນແມ່ນແຜນທີ່ນ້ອຍ, ບໍ່ແມ່ນການປະຫຍັດການຜະລິດ 50%.

ບົດຄວາມທີ່ທ່ານອາດຈະຢາກອ່ານຫຼັງຈາກບົດຄວາມນີ້:

🔗 AI ໜ້າເຊື່ອຖືບໍ? ວິດີໂອ ແລະ ແບບສອບຖາມ
ສຳຫຼວດຄວາມໜ້າເຊື່ອຖືຂອງ AI ຜ່ານວິດີໂອ ແລະ ແບບສອບຖາມແບບໂຕ້ຕອບທີ່ໜ້າສົນໃຈ.

🔗 ວິທີການນຳໃຊ້ AI ໃນຊີວິດປະຈຳວັນ
ຄົ້ນພົບວິທີການທີ່ໃຊ້ໄດ້ຈິງ AI ສາມາດເຮັດໃຫ້ວຽກງານ ແລະ ກິດຈະວັດປະຈຳວັນງ່າຍຂຶ້ນ.

🔗 ວິທີການນຳໃຊ້ AI ໃນບ່ອນເຮັດວຽກ
ຮຽນຮູ້ວິທີການນຳໃຊ້ AI ເພື່ອຜົນຜະລິດໃນບ່ອນເຮັດວຽກທີ່ສະຫຼາດກວ່າ.

🔗 AI ສາມາດຄິດດ້ວຍຕົວມັນເອງໄດ້ບໍ?
ເຂົ້າໃຈວ່າປັນຍາປະດິດສາມາດຄິດໄດ້ຢ່າງເປັນອິດສະຫຼະ ຫຼື ຄິດດ້ວຍເຫດຜົນໄດ້ຢ່າງແທ້ຈິງ.

ມັນແຕກຕ່າງຈາກສູນຂໍ້ມູນ "ປົກກະຕິ" ແນວໃດ

ຫ້ອງໂຖງແບບດັ້ງເດີມເພີ່ມປະສິດທິພາບສຳລັບປະລິມານວຽກ ແລະ ເວລາເຮັດວຽກທີ່ປະສົມປະສານກັນໃນການບໍລິການນ້ອຍໆຫຼາຍຢ່າງ. ແນ່ນອນ, ທ່ານໃສ່ໃຈກ່ຽວກັບຄວາມຊໍ້າຊ້ອນ, ແລະ ກ່ຽວກັບ PUE ເປັນແນວຄວາມຄິດ - ພະລັງງານພິເສດທີ່ອາຄານເຜົາຜານເພື່ອສົ່ງມອບການປະມວນຜົນທີ່ມີວັດ. ໂດຍປົກກະຕິແລ້ວ, ທ່ານບໍ່ໄດ້ອອກແບບທຸກໆທາງຍ່າງອ້ອມຮອບຊັ້ນວາງທີ່ເຮັດໜ້າທີ່ຄືກັບຟາມເຄື່ອງເຮັດຄວາມຮ້ອນແບບພົກພາ.

ເວັບໄຊທ໌ AI ປ່ຽນອັດຕາສ່ວນ. ຄວາມໜາແໜ້ນເພີ່ມຂຶ້ນ. ເຄືອຂ່າຍກາຍເປັນຜ້າທີ່ວຽກງານການຝຶກອົບຮົມບໍ່ສາມາດເຮັດວຽກໄດ້ໂດຍບໍ່ມີມັນ. ການເກັບຮັກສາຕ້ອງເຮັດໃຫ້ຈຸດກວດເຄື່ອນທີ່ ຫຼື ຕົວເລັ່ງຢຸດເຮັດວຽກ, ຄືກັບມ້າແຂ່ງໃນການຈະລາຈອນທີ່ຕິດຂັດ.

ມັນມີຄວາມແຕກຕ່າງທາງດ້ານວັດທະນະທໍາຄືກັນ. ຝ່າຍປະຕິບັດການຂອງວິສາຫະກິດຄິດໃນປີ້ ແລະ ການປ່ຽນແປງປ່ອງຢ້ຽມ. ຝ່າຍປະຕິບັດການ AI ຄິດໃນຄິວວຽກ ແລະ ຄວາມຮູ້ສຶກບໍ່ສະບາຍເມື່ອໂຫນດຕາຍຊ້າໃນໄລຍະຍາວ. ຂ້ອຍຄິດວ່າເຈົ້າຍັງສາມາດເອີ້ນທັງສອງວ່າ "ສູນຂໍ້ມູນ" ໄດ້ເພາະວ່າມັນເປັນ. ປ້າຍຊື່ພຽງແຕ່ເຊື່ອງທໍ່ນໍ້າ.

ບໍ່ແມ່ນການຈັດອັນດັບທາງສິນລະທຳ. ເຄື່ອງຈັກທີ່ແຕກຕ່າງກັນ, ຊື່ຄອບຄົວດຽວກັນ.

GPU, ຕົວເລັ່ງຄວາມໄວ ແລະ ແຣັກທີ່ກິນພະລັງງານ

ຍ່າງໄປຕາມພື້ນຍົກແບບດັ້ງເດີມ ແລະ ຊັ້ນວາງຕ່າງໆເບິ່ງເກືອບສຸພາບ. ຍ່າງໄປແຖວ AI ແລະ ພວກມັນເບິ່ງຄືວ່າຢາກກືນກິນອາຄານ.

ຮາດແວທີ່ໂດດເດັ່ນບໍ່ແມ່ນ CPU ທີ່ສະຫຼາດ. ມັນແມ່ນຖາດເລັ່ງຄວາມໄວ: GPU ຫຼືຊິບ AI ອື່ນໆ, ບັນຈຸຢູ່ໃນເຊີບເວີ, ຈາກນັ້ນແຣັກ, ແລະຈາກນັ້ນແຖວທີ່ແບ່ງປັນແພລະຕະຟອມແບນວິດສູງ. GPU ເຊື່ອມຕໍ່ຊິບເຂົ້າກັນເປັນສິ່ງທີ່ສາມາດປອມຕົວເປັນຕົວເລັ່ງຄວາມໄວຂະໜາດໃຫຍ່ອັນໜຶ່ງ; ແພລະຕະຟອມກຸ່ມເຮັດເຄັດລັບດຽວກັນໃນລະດັບແຖວ. ການຝຶກອົບຮົມແບບຂະໜານຈະເຮັດວຽກໄດ້ພຽງແຕ່ຖ້າລິ້ງເຫຼົ່ານັ້ນຍັງຄົງແຂງແຮງ ແລະຄາດເດົາໄດ້. ຖ້າລືມສິ່ງນັ້ນ ແລະ "ຄລັສເຕີ" ຂອງເຈົ້າແມ່ນກອງຂອງສະຖານີເຮັດວຽກທີ່ມີລາຄາແພງທີ່ແບ່ງປັນລະຫັດໄປສະນີ.

ພະລັງງານຕາມມາຈາກຊິບ. ບໍ່ແມ່ນ PDU ຫ້ອງການຂະໜາດໃຫຍ່. ເມກາວັດຂອງ IT ໂຫຼດເມື່ອຫ້ອງໂຖງເຕັມ - ຂ້ອຍຈະບໍ່ປະດິດຕົວເລກ. ຄວາມໜາແໜ້ນຕໍ່ rack ແມ່ນການປ່ຽນແປງຂອງແຜນການ. rack ໜ້ອຍລົງ. ແຕ່ລະອັນແມ່ນເຕົາໄຟຂະໜາດນ້ອຍ. ປັດໄຈຈຳກັດມັກຈະເປັນສະຖານີຍ່ອຍ, ບໍ່ແມ່ນລາຍການທີ່ຕ້ອງການຂອງ GPU. ທ່ານຮູ້ວ່າມັນເປັນແນວໃດ: ການຈັດຊື້ຕ້ອງການເຄື່ອງເລັ່ງຄວາມໄວຫຼາຍຂຶ້ນ; ບໍລິສັດສາທາລະນູປະໂພກຕ້ອງການການສົນທະນາທີ່ຍາວນານ ແລະ ເຊັກຂະໜາດໃຫຍ່ຫຼາຍ.

ຄຳປຽບທຽບທີ່ໂງ່ໆອັນໜຶ່ງທີ່ຂ້ອຍບໍ່ສາມາດສັ່ນສະເທືອນໄດ້ຄື: ກະຕ່າແມ່ນສັດທີ່ຫິວໂຫຍ. ເຈົ້າສາມາດປັບປຸງພັນສັດທີ່ໄວກວ່າໄດ້. ເຈົ້າຍັງຕ້ອງໃຫ້ອາຫານມັນ, ແລະເຈົ້າຍັງຕ້ອງກຳຈັດຄວາມຮ້ອນອອກ. ຂ້າມອັນໃດອັນໜຶ່ງໄປ ແລະມັນຈະກາຍເປັນທີ່ນັ່ງທັບເຈ້ຍທີ່ມີລາຄາແພງຫຼາຍ.

ບັນຫາພະລັງງານ, ຄວາມຮ້ອນ ແລະ ຄວາມເຢັນ

ໄຟຟ້າເຂົ້າ. ຄວາມຮ້ອນອອກ. ນັ້ນແມ່ນສາສະໜາທັງໝົດ.

ຊັ້ນວາງທີ່ມີຄວາມໜາແໜ້ນສູງຈະປ່ອຍຄວາມຮ້ອນໃນລັກສະນະທີ່ອາກາດບໍ່ເຄີຍຖືກຮຽກຮ້ອງໃຫ້ຈັດການແທ້ໆ. ທ່ານສາມາດຍູ້ອາກາດໃຫ້ແຮງຂຶ້ນ - ເຄື່ອງແລກປ່ຽນຄວາມຮ້ອນປະຕູຫຼັງ, ທາງຍ່າງທີ່ຮ້ອນກວ່າ, ການກັກເກັບທີ່ສະຫຼາດ - ແລະນັ້ນເຮັດວຽກໄດ້ເຖິງຈຸດໜຶ່ງ. ຫຼັງຈາກນັ້ນ, ຂອງແຫຼວຈະປາກົດຂຶ້ນ:

• ການລະບາຍຄວາມຮ້ອນໂດຍກົງໃສ່ຊິບ

• ທໍ່ລະບາຍຄວາມຮ້ອນທີ່ເຮັດໃຫ້ຫ້ອງໂຮງງານເບິ່ງຄືກັບສານເຄມີເຮັດວຽກ

• ການດຳລົງຊີວິດໃນການອອກແບບບາງຢ່າງ, ເຊິ່ງຍັງເຮັດໃຫ້ຄົນທີ່ຄິດວ່ານ້ຳ ແລະ ພະນັກງານຮັບໃຊ້ບໍ່ຄວນແບ່ງປັນປະໂຫຍກດຽວກັນ

ບໍ່ມີສິ່ງໃດໃນນີ້ທີ່ໜ້າສົນໃຈເລີຍ. ທັງໝົດແມ່ນຜະລິດຕະພັນ, ເພາະວ່າເຄື່ອງເລັ່ງຄວາມໄວທີ່ເລັ່ງຄວາມໄວແມ່ນເຄື່ອງທີ່ທ່ານໄດ້ຈ່າຍໄປແລ້ວ ແລະ ບໍ່ສາມາດໃຊ້ໄດ້ຢ່າງເຕັມທີ່.

PUE ຍັງຄົງມີຄວາມສຳຄັນ. ມັນເປັນອັດຕາສ່ວນ, ບໍ່ແມ່ນບຸກຄະລິກກະພາບ. ຜູ້ປະຕິບັດງານໄລ່ຕາມມັນເພາະວ່າທຸກໆວັດທີ່ໃຊ້ໃນພັດລົມ ແລະ ປໍ້າແມ່ນວັດທີ່ບໍ່ໄດ້ໄປຫາ GPU. ຂ້ອຍຈະບໍ່ອ້າງອີງຕົວເລກ "ທົ່ວໄປ"; ສະພາບອາກາດ ແລະ ວິທີທີ່ເຈົ້າແຕ້ມເຂດແດນເຮັດໃຫ້ມັນເຄື່ອນຍ້າຍ, ແລະ ຄວາມແມ່ນຍຳປອມແມ່ນຮ້າຍແຮງກວ່າບໍ່ມີ. ນໍ້າຢູ່ໃນເລື່ອງເຊັ່ນກັນ. ພືດບາງຊະນິດຈິບ. ບາງຊະນິດກືນ. ການລະເຫີຍຄວາມເຢັນ ມີປະສິດທິພາບຈົນກວ່າແມ່ນໍ້າ ຫຼື ໄພແຫ້ງແລ້ງຈະເຮັດໃຫ້ມັນເປັນເລື່ອງການເມືອງ.

ເຄືອຂ່າຍ: ເປັນຫຍັງຜ້າຈຶ່ງມີຄວາມສຳຄັນເທົ່າກັບຊິບ

ຜູ້ຄົນຖ່າຍຮູບ GPU. ພວກເຂົາຄວນຖ່າຍຮູບສະວິດ.

ການຝຶກອົບຮົມແມ່ນການສົນທະນາ. ຕົວເລັ່ງຄວາມໄວຫຼາຍພັນຕົວແລກປ່ຽນການປ່ຽນແປງ, ພາລາມິເຕີ, ແລະຊິ້ນສ່ວນຂອງຮູບແບບ, ໃນຊິ້ງຄ໌ທີ່ແໜ້ນໜາ. ຖ້າໂຄງສ້າງມີຄວາມວຸ້ນວາຍ, ວຽກທັງໝົດຈະລໍຖ້າຢູ່ໃນ hop ທີ່ຊ້າທີ່ສຸດ. ນັ້ນແມ່ນເຫດຜົນທີ່ AI halls ມົວໝອງກັບເຄືອຂ່າຍແບນວິດສູງ, ຄວາມໜ່ວງຊ້າຕ່ຳ, ແລະໂທໂພໂລຢີທີ່ບໍ່ພັບເຄິ່ງເມື່ອລິ້ງລົ້ມເຫຼວ. ໂຄງສ້າງແບບ InfiniBand, Ethernet ໃນບົດບາດດຽວກັນ, GPU ເຊື່ອມຕໍ່ພາຍໃນກ່ອງ, ສາຍໄຟທີ່ຕ້ອງຖືກຕ້ອງໃນຄັ້ງທຳອິດ.

ການອະນຸມານແມ່ນການສົນທະນາທີ່ແຕກຕ່າງກັນ. ການບໍລິການແບບຈຳລອງໃຫ້ຄວາມສຳຄັນກັບຄວາມຊັກຊ້າຂອງຫາງ - ຄຳຕອບທີ່ຊ້າ, ບໍ່ແມ່ນຄຳຕອບໂດຍສະເລ່ຍ. ການເຮັດວຽກເປັນກຸ່ມທຽບກັບເວລາຈິງແບ່ງບຸກຄະລິກກະພາບ. ກຸ່ມການຝຶກອົບຮົມຕ້ອງ ການການເຄື່ອນໄຫວທີ່ໃຫຍ່ໂຕ, ລວມໝູ່, ແບບທັງໝົດຕໍ່ທຸກຄົນ. ກຸ່ມທີ່ໃຫ້ບໍລິການຕ້ອງການການຮ້ອງຂໍຂະໜາດນ້ອຍຫຼາຍ ແລະ ການໂດດດ່ຽວ, ໂດຍບໍ່ມີການຕິດຂັດຢູ່ທີ່ຕົວດຸ່ນດ່ຽງການໂຫຼດ.

ເລື່ອງທີ່ພາດໄປ, ໃນຂະນະທີ່ຂ້ອຍຢູ່ທີ່ນີ້: ຜູ້ຄົນປະຕິບັດຕໍ່ເຄືອຂ່າຍຄືກັບທໍ່ນໍ້າ ແລະ ມັນຝຣັ່ງທອດຄືກັບຮ້ານອາຫານ. ໃນອາຄານນີ້ ທໍ່ນໍ້າຄືຮ້ານອາຫານ. ຖ້າພາດສິ່ງນັ້ນໄປ ເຈົ້າກໍ່ຈະຊື້ເຮືອນຄົວທີ່ບໍ່ສາມາດຮັບການຈັດສົ່ງໄດ້.

ການຝຶກອົບຮົມທຽບກັບການອະນຸມານ: ສອງອາຄານ, ບາງຄັ້ງກໍ່ເປັນຕາມຕົວອັກສອນ

ການຝຶກອົບຮົມແມ່ນການໂຄສະນາຫາສຽງ. ເຈົ້າລວບລວມກຸ່ມ, ປ້ອນຂໍ້ມູນມັນ, ຈຸດກວດສອບຢ່າງເຂັ້ມງວດ, ແລ່ນເປັນເວລາຫຼາຍຊົ່ວໂມງ ຫຼື ຫຼາຍອາທິດ, ແລະອະທິຖານວ່າໂຄງສ້າງຈະບໍ່ມີເຫດການຫຍັງເກີດຂຶ້ນ. ເປັນກຸ່ມຫຼາຍ, ຫິວແບນວິດ, ອົດທົນຢ່າງງຽບໆ - ຈົນກວ່າໂນດທີ່ລົ້ມເຫຼວຈະຫຼຸດພົ້ນຈາກການແລ່ນ. ເຄື່ອງເລັ່ງທີ່ຕາຍແລ້ວອັນດຽວໃນວຽກທີ່ເຊື່ອມຕໍ່ກັນຢ່າງແໜ້ນໜາສາມາດເຮັດໃຫ້ສຽງຮ້ອງທັງໝົດຢຸດຊະງັກໄດ້.

ການອະນຸມານແມ່ນໜ້າຮ້ານ. ຮູບແບບທີ່ໄດ້ຮັບການຝຶກອົບຮົມແລ້ວ, ດຽວນີ້ຕອບຄຳຖາມ, ຈັດປະເພດຮູບພາບ, ສ້າງຂໍ້ຄວາມ. ຄວາມໜ่วงເວລາມີຄວາມສຳຄັນ. ເຄື່ອງເລັ່ງຄວາມໄວທີ່ເກົ່າແກ່ກວ່າເລັກນ້ອຍໃກ້ກັບລູກຄ້າສາມາດເອົາຊະນະເຄື່ອງເລັ່ງຄວາມໄວທີ່ໜ້າສົນໃຈທີ່ຢູ່ໄກອອກໄປຈາກທະວີບໄດ້.

ສະນັ້ນ, ເຈົ້າຈະແບ່ງແຍກກັນ. ວິທະຍາເຂດຝຶກອົບຮົມໄລ່ລ່າພະລັງງານ, ທີ່ດິນ, ແລະ ຄວາມໜາແໜ້ນ. ສະຖານທີ່ອະນຸມານໄລ່ລ່າຄວາມຊັກຊ້າ ແລະ ການມີຢູ່. ຫ້ອງປະຊຸມປະສົມກໍ່ມີຢູ່ເຊັ່ນກັນ, ເພາະວ່າທຶນບໍ່ແມ່ນອະນັນ. ດີ - ບໍ່ແມ່ນສອງອາຄານສະເໝີໄປ. ບາງຄັ້ງຫ້ອງປະຊຸມໜຶ່ງທີ່ມີເຊືອກກຳມະຫຍີ ແລະ ວົງແຫວນເຮັດຄວາມເຢັນສອງອັນ.

ນີ້ຍັງເປັນບ່ອນທີ່ການຈັດວາງຮ່ວມກັນ, ວິທະຍາເຂດແບບ hyperscale, ແລະ ການແບ່ງປັນໃນສະຖານທີ່. Hyperscalers ສ້າງຂຶ້ນໃນລະດັບທີ່ເຮັດໃຫ້ສ່ວນທີ່ເຫຼືອຂອງພວກເຮົາເບິ່ງຄືວ່າພວກເຮົາກຳລັງຈັດແຈງເຟີນີເຈີ. Colos ຂາຍຄວາມໜາແໜ້ນຕາມຊັ້ນວາງ. ໃນສະຖານທີ່ຍັງເກີດຂຶ້ນເມື່ອຂໍ້ມູນບໍ່ສາມາດອອກໄປໄດ້.

ປະລິມານການເກັບຮັກສາ, ຈຸດກວດສອບ, ແລະຊິບທີ່ຫິວໂຫຍ

ບໍ່ມີໃຜເອົາລະບົບໄຟລ໌ຂະໜານໃສ່ໜ້າປົກຂອງແຜ່ນພັບ.

ຂໍ້ມູນການຝຶກອົບຮົມຕ້ອງມາຮອດໄວພໍທີ່ GPU ຈະບໍ່ໄດ້ຮັບຜົນກະທົບ. ຈຸດກວດສອບຕ້ອງລົງຈອດເພື່ອບໍ່ໃຫ້ເກີດການຂັດຂ້ອງໃນອາທິດໜຶ່ງ. ນ້ຳໜັກຂອງແບບຈຳລອງຕ້ອງໂຫຼດກ່ອນທີ່ແບບຈຳລອງທີ່ໃຫ້ບໍລິການຈະຖືກນຳໃຊ້. ປະລິມານການເກັບຮັກສາ - ບໍ່ພຽງແຕ່ຄວາມຈຸ - ແມ່ນຈຸດທີ່ງຽບສະຫງົບ. ທ່ານສາມາດໃຊ້ຈ່າຍຫຼາຍໃນຕົວເລັ່ງຄວາມໄວ ແລະ ເຮັດໃຫ້ພວກມັນໝົດໄປດ້ວຍອາເຣທີ່ສຸພາບທີ່ອອກແບບມາສຳລັບເຄື່ອງ virtual.

ຮູບແບບນີ້ແມ່ນຄຸ້ນເຄີຍ: ກຸ່ມທີ່ເຫຼື້ອມເປັນເງົາ, ຄິວວຽກ, ແລະ ການລໍຖ້າ I/O ຈ້ອງເບິ່ງກັບຄືນຄືກັບໃບແຈ້ງໜີ້ທີ່ຫຍາບຄາຍ. ການຈັດກຸ່ມການປະມວນຜົນໂດຍບໍ່ມີການຈັດກຸ່ມເສັ້ນທາງຂໍ້ມູນແມ່ນວິທີທີ່ທ່ານໄດ້ຮັບການເຮັດວຽກທີ່ມີລາຄາແພງຫຼາຍ. ຮັກສາຊິບໃຫ້ພຽງພໍ ຫຼື ຍອມຮັບວ່າທ່ານໄດ້ຊື້ເຄື່ອງປັ້ນ.

ຊອບແວ, ການຈັດລະບຽບ, ແລະຊັ້ນປະຕິບັດການທີ່ບໍ່ໜ້າສົນໃຈ

ຮາດແວແມ່ນບຸກຄົນທີ່ມີຊື່ສຽງ. ຜູ້ກຳນົດເວລາເຮັດວຽກ.

ສູນຂໍ້ມູນ AI ​​ຈະບໍ່ມີປະໂຫຍດຫຍັງເລີຍ ຖ້າວຽກບໍ່ສາມາດຊອກຫາ GPU ໄດ້, ຖ້າສອງທີມບໍ່ສາມາດແບ່ງປັນກຸ່ມໄດ້ໂດຍບໍ່ມີການຕໍ່ສູ້ກັນ, ຖ້າອັນດັບທີ່ລົ້ມເຫຼວບໍ່ສາມາດທົດແທນໄດ້, ຖ້າເຟີມແວລ່ອງລອຍຈົນກວ່າໂຄງສ້າງຈະລົ້ມເຫຼວໃນການເຄື່ອນໄຫວຊ້າໆ. ການຈັດລະບຽບ, ການສັງເກດການ, ການກໍານົດພະລັງງານ - ຊັ້ນປະຕິບັດການທີ່ບໍ່ໜ້າສົນໃຈ, ເຊິ່ງເປັນວິທີທີ່ເຈົ້າຮູ້ວ່າມັນສຳຄັນ.

ຂ້ອຍມີຈຸດອ່ອນສຳລັບຊັ້ນນີ້. ນອກຈາກນີ້, NIC ທີ່ຖືກຕັ້ງຄ່າບໍ່ຖືກຕ້ອງເຮັດໃຫ້ເປັນບັນຫາການລະບາຍຄວາມຮ້ອນຕະຫຼອດຕອນບ່າຍ... ເຈົ້າຈະພົບມັນດ້ວຍວິທີທີ່ຍາກ.

ເມື່ອ node ຕາຍກາງການແລ່ນ

ໂນດໜຶ່ງຕາຍ. ປ່ອງຢ້ຽມການປ່ຽນແປງຍັງຂັດກັບການຝຶກອົບຮົມທີ່ບໍ່ສົນໃຈປະຕິທິນຂອງເຈົ້າ. ເຈົ້າຈັດຕາຕະລາງວຽກໃຫຍ່ໆເປັນກຸ່ມ, ປິດກັ້ນກຸ່ມການອະນຸມານ, ຂຽນປຶ້ມຄູ່ມືສຳລັບຄວາມລົ້ມເຫຼວທີ່ເບິ່ງຄືວ່າ "ວຽກຊ້າ" ຈົນກວ່າພວກມັນຈະເບິ່ງຄືວ່າ "ວຽກຕາຍແລ້ວ." ຄວາມຊ້ຳຊ້ອນຍັງຄົງມີຄວາມສຳຄັນ - ພະລັງງານ, ການເຮັດໃຫ້ເຢັນ, ເສັ້ນທາງ, ບ່ອນເກັບຂໍ້ມູນ - ແຕ່ໂໝດຄວາມລົ້ມເຫຼວແມ່ນບໍ່ເປັນລະບຽບຄືກັບສະໄລ້ nines-of-uptime ເກົ່າ. ການອະນຸມານ: ການຈຳລອງ, ລະບາຍໂນດທີ່ເຈັບປ່ວຍ, ສືບຕໍ່ຕອບ. ການຝຶກອົບຮົມຕ້ອງການຈຸດກວດສອບ, ບໍ່ແມ່ນຄວາມຄິດໃນແງ່ດີ.

ສະຖານທີ່, ນໍ້າ, ຕາຂ່າຍໄຟຟ້າ, ແລະ ເພື່ອນບ້ານ

ເຈົ້າບໍ່ຄວນວາງສິ່ງເຫຼົ່ານີ້ໄວ້ຂ້າງເຮືອນພັກເພື່ອຊົມວິວ.

ການເຊື່ອມຕໍ່ຕາຂ່າຍໄຟຟ້າມັກຈະເປັນຂະບວນການຄັດເລືອກສະຖານທີ່ທີ່ແທ້ຈິງ. ທີ່ດິນແມ່ນງ່າຍເມື່ອທຽບກັບສະຖານີໄຟຟ້າຍ່ອຍ ແລະ ສາທາລະນູປະໂພກທີ່ມີລູກຄ້າອື່ນໆ. ນໍ້າສໍາລັບເຮັດຄວາມເຢັນ, ຖ້າທ່ານໃຊ້ມັນ, ຈະກາຍເປັນບັນຫາຂອງເພື່ອນບ້ານທັນທີທີ່ຝົນຕົກບໍ່ສຸພາບ. ສຽງດັງ. ຄວາມໜາແໜ້ນທາງສາຍຕາ. ຄວາມຮ້ອນຢູ່ທີ່ຮົ້ວຊາຍແດນ. ຄະນະກຳມະການວາງແຜນຄົ້ນພົບຄວາມຄິດເຫັນກ່ຽວກັບ "ເມກ" ໃນເວລາທີ່ມັນຕ້ອງການທົ່ງນາ ແລະ ແມ່ນ້ຳ.

ຄວາມຊັກຊ້າດຶງໄປທາງອື່ນ. ການອະນຸມານມັກຢູ່ໃກ້ຜູ້ໃຊ້ ແລະ ການເຊື່ອມຕໍ່ກັນ. ການຝຶກອົບຮົມສາມາດຊ່ອນຢູ່ໃນຕະຫຼາດພະລັງງານທີ່ລາຄາຖືກກວ່າ ແລະ ສະພາບອາກາດທີ່ເຢັນກວ່າ. ອຸດສາຫະກຳເວົ້າຄືກັບວ່າມີສະຖານທີ່ທີ່ສົມບູນແບບແຫ່ງໜຶ່ງ. ບໍ່ມີ. ມີການປະນີປະນອມກັບຂ່າວປະກາດ.

ຄວາມຮ້ອນທີ່ເຫຼືອ ແລະ ເຕົາໄຟທີ່ບໍ່ໄດ້ຮັບເຊີນ

ແຜ່ນພັບມັກສ່ວນນີ້ຫຼາຍ. ສົ່ງຄວາມຮ້ອນຂອງສິ່ງເສດເຫຼືອເຂົ້າໄປໃນເຮືອນ, ສະລອຍນ້ຳ, ເຮືອນແກ້ວ; ມັນເປັນປະໂຫຍກທີ່ໜ້າຮັກ. ບາງຄັ້ງວົງວຽນຂອງເມືອງກໍ່ເປັນຄວາມຈິງ. ບາງຄັ້ງວິທະຍາເຂດຢູ່ໃນສະຖານທີ່ທີ່ຜິດ ແລະ ຄວາມຮ້ອນຍັງລອຍຂຶ້ນສູ່ອາກາດ. ຂ້ອຍສົງໄສກັບສະບັບແຜ່ນພັບ; ຂ້ອຍບໍ່ໄດ້ສົງໄສກັບຟີຊິກ.

ໃຜຕ້ອງການ (ແລະໃຜຄວນເຊົ່າແທນ)

ຄົນສ່ວນໃຫຍ່ບໍ່ຈຳເປັນຕ້ອງເປັນເຈົ້າຂອງຫໍປະຊຸມເຫຼົ່ານີ້.

ບັນຊີລາຍຊື່ທີ່ຈະແຈ້ງ:

• Hyperscalers, ເພາະວ່າຜະລິດຕະພັນແມ່ນກອງທັບເຮືອ

• ຫ້ອງທົດລອງ, ເມື່ອເວລາຄິວເປັນຈຸດຕິດຂັດ, ຫຼື ຂໍ້ມູນບໍ່ສາມາດອອກໄປໄດ້

• ທະນາຄານ, ກຸ່ມໂຮງໝໍ, ລັດຖະບານ, ຫຼື ຜູ້ຜະລິດທີ່ມີຊຸດຂໍ້ມູນລັບ - ຢູ່ໃນສະຖານທີ່ ຫຼື ກົງສຸນສ່ວນຕົວສາມາດເປັນເຫດຜົນໄດ້, ເຖິງແມ່ນວ່າມັນຈະເປັນເລື່ອງຕະຫຼົກກໍຕາມ

ທຸກຄົນຄວນເຊົ່າ. ການຈັດວາງຮ່ວມກັນດ້ວຍຄວາມໜາແໜ້ນທີ່ພ້ອມໃຊ້ AI. ການຈອງຄລາວ. ກຸ່ມທີ່ມີການຄຸ້ມຄອງ. ທ່ານຈະໄດ້ຮັບເຄື່ອງເລັ່ງຄວາມໄວໂດຍບໍ່ຕ້ອງກາຍເປັນຜູ້ປະຕິບັດງານຂອງໂຮງງານໄຟຟ້າ. ຄວາມໂລແມນຕິກຈະຈາງຫາຍໄປໃນຄັ້ງທຳອິດທີ່ມີຄົນຖາມວ່າໃຜເປັນຜູ້ຮັບຜິດຊອບຕໍ່ວົງຈອນນ້ຳຢາເຢັນໃນເວລາ 3 ໂມງເຊົ້າ.

ຂ້ອຍຂໍຍອມຮັບວ່າມີຄວາມພາກພູມໃຈ. ການເປັນເຈົ້າຂອງກຸ່ມໄຟຟ້າຮູ້ສຶກຄືກັບການເປັນເຈົ້າຂອງວິທີການຄາດຄະເນ. ຈາກນັ້ນໃບແຈ້ງໜີ້ໄຟຟ້າກໍ່ມາຮອດ, ແລະຄວາມພາກພູມໃຈກໍ່ຢຸດລົງ.

ອາຄານນີ້ໃຊ້ເພື່ອຫຍັງ

ສະນັ້ນ, ສູນຂໍ້ມູນ AI ​​ແມ່ນຫຍັງ? ວິທະຍາເຂດທີ່ມີຄວາມໜາແໜ້ນສູງ ແລະ ຊ່ຽວຊານ ບ່ອນທີ່ຕົວເລັ່ງຄວາມໄວ, ພະລັງງານ, ຄວາມເຢັນ, ຜ້າ ແລະ ການເກັບຮັກສາຖືກຈັດລຽງຕາມຮູບແບບການຝຶກອົບຮົມ ແລະ ການບໍລິການ - ບໍ່ແມ່ນໄອທີທົ່ວໄປທີ່ມີ GPU ຢູ່ແຈ. ມັນເບິ່ງຄືກັບສາງ. ມັນປະຕິບັດຄືກັບສະຖານີພະລັງງານທີ່ຄິດໄລ່.

ຖ້າທ່ານຈື່ຫຍັງບໍ່ໄດ້ອີກ: ຊິບໄດ້ຮັບຊື່ສຽງ; ສະຖານີຍ່ອຍ, ນ້ຳຢາຫຼໍ່ເຢັນ, ແລະເຄືອຂ່າຍຕັດສິນໃຈວ່າຊິບເຫຼົ່ານັ້ນເປັນຄວາມຄິດທີ່ດີຫຼືບໍ່. ການຝຶກອົບຮົມ ແລະ ການອະນຸມານສາມາດແບ່ງປັນຫລັງຄາດຽວກັນ; ພວກເຂົາຍັງຕ້ອງການລັກສະນະທີ່ແຕກຕ່າງກັນ. ອົງກອນສ່ວນໃຫຍ່ຄວນເຊົ່າ. ອົງກອນຈຳນວນໜຶ່ງຄວນສ້າງ. ເພື່ອນບ້ານຈະສັງເກດເຫັນທັງສອງທາງ.

ເມກມີອາຄານຢູ່ສະເໝີ. ໃນທຸກມື້ນີ້ອາຄານມີຄວາມຄິດເຫັນ.

ຕົວຢ່າງໃນໂລກຕົວຈິງ: ຫ້ອງຝຶກອົບຮົມສອງຊັ້ນເມື່ອຮູບພາບບໍ່ສາມາດອອກໄປໄດ້

ສະຖານະການ

ທ່ານ Tomos ເປັນຫົວໜ້າດ້ານພື້ນຖານໂຄງລ່າງຢູ່ Kestrel Precision, ເຊິ່ງເປັນຜູ້ຜະລິດທີ່ມີພະນັກງານ 400 ຄົນໃນ West Midlands. ພວກເຂົາມີຫ້ອງໂຖງຂະໜາດນ້ອຍຢູ່ໃນສະຖານທີ່ແລ້ວຄື: ERP, ການແບ່ງປັນໄຟລ໌, ເຄື່ອງ virtual, ບໍລິເວນປະສົມປະສານທີ່ບົດຄວາມນີ້ເລີ່ມຕົ້ນດ້ວຍ. ລະບົບເຮັດຄວາມເຢັນດ້ວຍອາກາດ. Ethernet ທຳມະດາ. SAN ທີ່ເໝາະສົມກັບແຜ່ນດິດສຳນັກງານ.

ທີມງານວິໄສທັດເຄື່ອງຈັກຕ້ອງການຝຶກອົບຮົມຮູບແບບການກວດກາກ່ຽວກັບຮູບພາບຈາກໂຮງງານ. ຮູບພາບບໍ່ສາມາດອອກຈາກສະຖານທີ່ໄດ້. ພວກມັນສະແດງໃຫ້ເຫັນຂະບວນການທີ່ບໍລິສັດຈະບໍ່ວາງໄວ້ໃນແຜ່ນດິດຄລາວ, ແມ່ນແຕ່ແຜ່ນດິດສ່ວນຕົວ. ວິທີແກ້ໄຂຂອງການຈັດຊື້ແມ່ນເຊີບເວີເລັ່ງຄວາມໄວຄູ່ສີ່ເຄື່ອງ ແລະ ສະໄລ້ທີ່ມີຊື່ວ່າ "ສູນຂໍ້ມູນ AI ​​ຂອງພວກເຮົາ". ເຊີບເວີເຂົ້າໄປໃນສອງຊັ້ນທີ່ມີຢູ່ແລ້ວ, ເພາະວ່າມີພື້ນທີ່, ແລະພື້ນທີ່ຮູ້ສຶກຄືກັບຂໍ້ຈຳກັດ.

ມັນບໍ່ແມ່ນ. ພາຍໃນສອງອາທິດ GPU ເບິ່ງຄືວ່າຫຍຸ້ງຢູ່ແລ້ວຄ່ອຍໆຫຼຸດຄວາມໄວລົງ. ວຽກຕ່າງໆຄ່ອຍໆເລືອຄານເມື່ອຈຸດກວດສອບມາຮອດ SAN. ໂນດໜຶ່ງຈະຕາຍໃນເວລາສິບເອັດໂມງ ແລະ ການແລ່ນກໍ່ຫາຍໄປ. Tomos ບໍ່ໄດ້ລົ້ມເຫຼວໃນການຊື້ຊິບ. ລາວໄດ້ຊື້ກອງເຄື່ອງເຮັດວຽກລາຄາແພງທີ່ໃຊ້ລະຫັດໄປສະນີຮ່ວມກັນ. ອາຄານດັ່ງກ່າວຍັງເປັນຫໍປະຊຸມວິສາຫະກິດ.

ພວກເຂົາບໍ່ຕ້ອງການວິທະຍາເຂດ, ສະຖານີຍ່ອຍໃໝ່, ຫຼື ແມ່ນໍ້າ. ພວກເຂົາຕ້ອງການເຊວຂະໜາດນ້ອຍທີ່ເຮັດໜ້າທີ່ຄືກັບສູນຂໍ້ມູນ AI ​​ໃນຂະໜາດນ້ອຍ: ພະລັງງານທີ່ຊັ້ນວາງສາມາດເກັບໄວ້ໄດ້, ຄວາມຮ້ອນທີ່ປ່ອຍອອກໄປໂດຍບໍ່ຕ້ອງປຸງແຕ່ງຊິບ, ຜ້າທີ່ວຽກງານການຝຶກອົບຮົມສາມາດເວົ້າໄດ້, ບ່ອນເກັບຂໍ້ມູນທີ່ສາມາດເອົາຈຸດກວດສອບໄດ້, ແລະ ປື້ມບັນທຶກການໃຊ້ງານສຳລັບເວລາທີ່ໂຫນດຕາຍ. ເນື່ອງຈາກຮູບພາບບໍ່ສາມາດອອກໄປໄດ້, ການເຊົ່າກະຕ່າສີສີ່ສິບນາທີແມ່ນຄຳຕອບ. ການປັບປຸງສອງຊັ້ນວາງແມ່ນ.

ສິ່ງທີ່ຈຸລັງຕ້ອງການ

• ງົບປະມານພະລັງງານທີ່ວັດແທກໄດ້ໃນແຖວນັ້ນ, ຈາກ PDUs, ບໍ່ແມ່ນມາຈາກລາຍການທີ່ຕ້ອງການຂອງ GPU. ຖ້າຄວາມຈຸສຳຮອງບໍ່ສາມາດສະໜອງໃຫ້ເຊີບເວີທັງສີ່ໃນເວລາຝຶກອົບຮົມ, ການສົນທະນາຈະຢຸດຢູ່ທີ່ນັ້ນ ແລະ ພວກເຂົາເບິ່ງສີທີ່ໜາແໜ້ນກວ່າ, ບໍ່ແມ່ນສິ່ງມະຫັດສະຈັນ

• ການເຮັດໃຫ້ອາກາດເຢັນລົງບໍ່ເຄີຍຖືກຮຽກຮ້ອງໃຫ້ຈັດການໃນຄວາມໜາແໜ້ນນີ້: ເຄື່ອງແລກປ່ຽນຄວາມຮ້ອນປະຕູຫຼັງຖ້າຫ້ອງໂຖງສາມາດເອົາພວກມັນໄດ້, ຫຼືວົງແຫວນແຫຼວຂະໜາດນ້ອຍຖ້າມັນສາມາດເອົາສິ່ງນັ້ນແທນ. ຖ້າບໍ່ມີທັງສອງຢ່າງ, ເຊີບເວີຈະບໍ່ເຂົ້າໄປ

• ຜ້າແພທີ່ມີແບນວິດສູງສະເພາະລະຫວ່າງໂຫນດທັງສີ່, ບໍ່ແມ່ນອີເທີເນັດໃນຫ້ອງການ. ຖ້າຜູ້ຂາຍມີພຽງແຕ່ສະວິດ 10 Gb ໃນລາຍການ, ນັ້ນບໍ່ແມ່ນຄລັສເຕີ

• ບ່ອນເກັບຂໍ້ມູນໄວໃນທ້ອງຖິ່ນສຳລັບຈຸດກວດສອບ ແລະ ຊິ້ນສ່ວນການຝຶກອົບຮົມ, ບໍ່ແມ່ນ VM SAN

• ຕົວກຳນົດເວລາ, ຊ່ວງເວລາຈຸດກວດສອບ, ແລະເສັ້ນທາງການເລີ່ມຕົ້ນໃໝ່ທີ່ຂຽນໄວ້. ຮາດແວແມ່ນບຸກຄົນສຳຄັນ. ຊັ້ນນີ້ແມ່ນວຽກ

• ກ່ອງອະນຸມານທີ່ມີຮົ້ວກັ້ນສຳລັບສາຍໂຮງງານ, ແຍກອອກຈາກການສົນທະນາການຝຶກອົບຮົມ, ເພາະວ່າການຮັບໃຊ້ຕ້ອງການຄວາມຊັກຊ້າຂອງຫາງ ແລະ ການໂດດດ່ຽວ, ບໍ່ແມ່ນການລວມໝູ່

• ການອະນຸຍາດໃຫ້ບັນທຶກພະລັງງານ, ໂມງ GPU, ເຫດການຄວບຄຸມຄວາມໄວ, ແລະ ໂມງຝາຜະໜັງວຽກ. ຖ້າພວກເຂົາບໍ່ສາມາດກວດສອບສິ່ງເຫຼົ່ານັ້ນໄດ້, ພວກເຂົາຈະຖ່າຍຮູບ GPU ແລະພາດສະວິດ

ຕົວຢ່າງຄຳແນະນຳ

ທ່ານ Tomos ໄດ້ກ່າວເຖິງເລື່ອງນີ້ໂດຍຫຍໍ້ໃນສະຖານທີ່ຕ່າງໆ, ດ້ວຍພາສາທຳມະດາວ່າ:

ຢ່າເອີ້ນສິ່ງນີ້ວ່າວິທະຍາເຂດ AI. ສ້າງຫ້ອງຝຶກອົບຮົມສອງຊັ້ນໃນຫ້ອງໂຖງທີ່ມີຢູ່ແລ້ວສຳລັບເຊີບເວີເລັ່ງຄູ່ສີ່ເຄື່ອງ. ຮູບພາບໂຮງງານຍັງຄົງຢູ່ໃນສະຖານທີ່. ຄວາມສຳເລັດແມ່ນ: ໂຫນດທັງສີ່ເຮັດສຳເລັດສູດການຝຶກອົບຮົມການກວດກາ 12 ຍຸກໂດຍບໍ່ມີຕົວຄວບຄຸມຄວາມຮ້ອນ, ຂຽນຈຸດກວດສອບພາຍໃນນາທີບໍ່ແມ່ນຫຼາຍສິບນາທີ, ແລະສືບຕໍ່ຈາກຈຸດກວດສອບນັ້ນເມື່ອພວກເຮົາຂ້າອັນດັບໂດຍເຈດຕະນາ. ການເຮັດໃຫ້ເຢັນຕ້ອງຮັກສາ GPU ໃຫ້ຢູ່ທີ່ໂມງຝຶກອົບຮົມຂອງພວກເຂົາ. ເຄືອຂ່າຍຕ້ອງເປັນຜ້າທີ່ກ່ອງທັງສີ່ແບ່ງປັນກັນ, ບໍ່ແມ່ນເສັ້ນທາງຜ່ານຊຸດຫ້ອງການ. ບ່ອນເກັບຂໍ້ມູນຕ້ອງປ້ອນຊິບ. ຖ້າເຄື່ອງແລກປ່ຽນຄວາມຮ້ອນປະຕູຫຼັງບໍ່ພໍດີ, ໃຫ້ເວົ້າແນວນັ້ນແລະຢຸດ. ຢ່າອ້າງອີງ PUE ສຳລັບສອງຊັ້ນໃນຫ້ອງໂຖງປະສົມ. ຕົວເລກນັ້ນຈະເປັນໂຮງລະຄອນ.

ຫຼັງຈາກນັ້ນ, ລາວເອົາສິ່ງນີ້ເຂົ້າໃນວຽກຝຶກອົບຮົມເອງ:

ຈຸດກວດກາທຸກໆ 30 ນາທີໄປຫາຈຸດເກັບໄວໃນທ້ອງຖິ່ນ. ຖ້າອັນດັບໜຶ່ງຕາຍ, ໃຫ້ເລີ່ມຕົ້ນໃໝ່ຈາກຈຸດກວດກາສຸດທ້າຍທີ່ສົມບູນ. ຢ່າລໍຖ້າຢູ່ SAN. ຢ່າສືບຕໍ່ການຝຶກຊ້ອມໃນຂະນະທີ່ໂມງຫຼຸດລົງຈາກຄວາມຮ້ອນ. ບັນທຶກມັນແລະຢຸດເພື່ອພວກເຮົາຈະສາມາດເຫັນບ່ອນວາງໄດ້.

ຊົ່ວໂມງທີ່ດີມີລັກສະນະແບບນີ້: GPU ທັງແປດໂຕຢູ່ໃນໂມງຝຶກຊ້ອມ, ໄຟລ໌ຈຸດກວດສອບມາຮອດແລ້ວ, ວຽກຍັງຢູ່ໃນຂັ້ນຕອນລັອກ. ຊົ່ວໂມງທີ່ບໍ່ດີມີລັກສະນະແບບນີ້: ພັດລົມເຕັມທີ່ຮ້ອງ, ໂມງປິດລົງ, ຈຸດກວດສອບ 2% ຂຽນຫຼັງຈາກສິບນາທີ, ແລະມີຄົນໃນຫ້ອງການເວົ້າວ່າ "ກຸ່ມເຄື່ອງເປີດແລ້ວ". ໜ້າຈໍເປີດບໍ່ແມ່ນການຝຶກຊ້ອມ.

ວິທີການທົດສອບມັນ

ພວກເຂົາຂຽນແບບທົດສອບກ່ອນການປັບປຸງໃໝ່, ເຊິ່ງເປັນຈຸດປະສົງຫຼັກຂອງການບໍ່ໄວ້ວາງໃຈການສາທິດ.

• ສູດ 12 ຍຸກດຽວກັນ, ຮູບຖ່າຍກວດກາ 120,000 ຮູບດຽວກັນ, ແປດຮອບ

• ເວລາແມ່ນສອດຄ່ອງກັບສູດອາຫານທີ່ສຳເລັດແລ້ວ, ລວມທັງການເລີ່ມຕົ້ນໃໝ່, ວັດແທກຈາກການສົ່ງວຽກໄປຫາຈຸດກວດສອບສຸດທ້າຍຂອງຍຸກທີ 12

• ການສົ່ງຕໍ່ຄວາມຮ້ອນ: ໂມງ GPU ຍັງຄົງຢູ່ທີ່ເປົ້າໝາຍການຝຶກອົບຮົມສຳລັບການແລ່ນ. ເຫດການ throttle ແມ່ນຄວາມລົ້ມເຫຼວເຖິງແມ່ນວ່າວຽກງານຈະສິ້ນສຸດລົງໃນທີ່ສຸດກໍຕາມ

• ການສົ່ງຜ່ານບ່ອນເກັບຂໍ້ມູນ: ເວລາຂຽນຈຸດກວດສອບ, ຄ່າກາງ ແລະ ຮ້າຍແຮງທີ່ສຸດ, ຈາກບັນທຶກວຽກ

• ການສົ່ງຕໍ່ຜ້າ: ວຽກບໍ່ໄດ້ລໍຖ້າຮ່ວມກັນໃນຂະນະທີ່ຕຳແໜ່ງມີສຸຂະພາບດີ. ຖ້າພວກເຂົາບໍ່ສາມາດເຫັນການລໍຖ້ານັ້ນໄດ້, ເຄື່ອງມືກໍ່ຈະບໍ່ສຳເລັດ

• ສອງໃນແປດການແລ່ນໄດ້ຮັບອັນດັບທີ່ຖືກຂ້າໃນຂັ້ນຕອນທີ່ກຳນົດໄວ້, ໂດຍເຈດຕະນາ, ເພື່ອທົດສອບເສັ້ນທາງການເລີ່ມຕົ້ນໃໝ່

• ການອະນຸມານແມ່ນການທົດສອບ 200 ຮູບພາບແຍກຕ່າງຫາກຈາກສາຍໂຮງງານໄປຫາກ່ອງຮັບໃຊ້ທີ່ມີຮົ້ວລ້ອມຮອບ. ຄວາມສຳເລັດຂອງການຝຶກອົບຮົມບໍ່ນັບວ່າເປັນຄວາມສຳເລັດຂອງການຮັບໃຊ້

• ພວກເຂົາບັນທຶກພະລັງງານຂອງແຣັກຈາກ PDU ໃນຕົວຢ່າງ 15 ນາທີ ດັ່ງນັ້ນຈຶ່ງບໍ່ມີໃຜຕ້ອງປະດິດເມກາວັດ

ການຍອມຮັບສຳລັບການເອີ້ນເຊວວ່າ "ພ້ອມໃຊ້ AI": 8 ໃນ 8 ສູດສຳເລັດແລ້ວ; 0 ໃນ 8 ສະແດງໃຫ້ເຫັນການຄວບຄຸມຄວາມຮ້ອນ; ທັງສອງການແລ່ນທີ່ຖືກຂ້າກັບມາດຳເນີນຕໍ່; ຈຸດກວດສອບຍັງຄົງຢູ່ໃນນາທີ. ຖ້າພວກເຂົາພາດສິ່ງນັ້ນ, ພວກເຂົາຍັງມີຫ້ອງເຊີບເວີທີ່ມີກາດກຣາບຟິກທີ່ທັນສະໄໝ.

ຜົນໄດ້ຮັບ

ຜົນໄດ້ຮັບທີ່ເປັນຕົວຢ່າງ, ຈາກການທົດສອບແປດຄັ້ງທີ່ແຕ່ງຂຶ້ນ, ບໍ່ແມ່ນຮູບປັ້ນ Kestrel ທີ່ເຜີຍແຜ່.

ສົມມຸດຕິຖານ: ເຊີບເວີເລັ່ງຄວາມໄວຄູ່ສີ່ເຄື່ອງໃນສອງແຣັກ; ຮູບແບບການກວດກາໜຶ່ງແບບ; ຮູບຖ່າຍ 120,000 ຮູບ; ແປດການແລ່ນຂອງສູດ 12 ຍຸກຄົງທີ່; ໂມງຝາຜະໜັງປະກອບມີການເລີ່ມຕົ້ນໃໝ່ຈົນກວ່າສູດຈະສຳເລັດ; throttle ໝາຍເຖິງການຢຸດເຮັດວຽກທີ່ບັນທຶກໄວ້ຈາກໂມງຝຶກອົບຮົມ; ເວລາຈຸດກວດສອບແມ່ນການຂຽນ, ບໍ່ແມ່ນຄວາມປາດຖະໜາ; ພະລັງງານແຣັກແມ່ນຕົວຢ່າງ PDU, ບໍ່ແມ່ນ PUE ຂອງວິທະຍາເຂດ.

ກ່ອນການປັບປຸງໃໝ່, GPU ໃນແຣັກທີ່ລະບາຍອາກາດທຳມະດາໃນ Ethernet ຂອງຫ້ອງການ ແລະ VM SAN:

• ແລ່ນສຳເລັດ 5 ໃນ 8 ຄັ້ງໃນຄັ້ງທຳອິດ. ໄລຍະເວລາສະເລ່ຍຂອງໂມງຕິດຝາໃນຫ້າຄັ້ງນັ້ນ: 14 ຊົ່ວໂມງ

• 3 ໃນ 8 ຕ້ອງໄດ້ເລີ່ມຕົ້ນໃໝ່ຫຼັງຈາກຢຸດເຮັດວຽກປະມານຊົ່ວໂມງທີ 11 (ສອງຫຼັງຈາກໂນດໜຶ່ງຕາຍດ້ວຍຈຸດກວດສອບທີ່ຄ້າງຄາ, ອີກອັນໜຶ່ງຫຼັງຈາກຈຸດກວດສອບເຕັມ SAN). ລອງໃໝ່ທັນທີ, ບໍ່ຕ້ອງລໍຖ້າຂ້າມຄືນ: ເສຍເວລາ 11 ຊົ່ວໂມງບວກກັບຄວາມພະຍາຍາມຄັ້ງທີສອງ 14 ຊົ່ວໂມງ, ຫຼື 25 ຊົ່ວໂມງເພື່ອເຮັດສູດສຳເລັດຮູບໃນສາມອັນນັ້ນ

• ເວລາສະເລ່ຍໃນການເຮັດສູດສຳເລັດຮູບໃນທັງແປດ, ການເລີ່ມຕົ້ນໃໝ່ລວມມີ: 18 ຊົ່ວໂມງ. (ຫ້າເວລາ 14, ສາມເວລາ 25. ຄ່າກາງຂອງທັງແປດຍັງເປັນ 14, ເຊິ່ງຈະເຊື່ອງການເລີ່ມຕົ້ນໃໝ່. ນັ້ນແມ່ນເຫດຜົນທີ່ຄ່າສະເລ່ຍແມ່ນເສັ້ນຖານຢູ່ທີ່ນີ້.)

• ການຄວບຄຸມດ້ວຍຄວາມຮ້ອນໄດ້ບັນທຶກໄວ້ 7 ຈາກ 8 ຮອບ. ເວລາສະເລ່ຍໃນເວລາຫຼຸດລົງ: 3 ຊົ່ວໂມງໃນຄວາມພະຍາຍາມ 14 ຊົ່ວໂມງ

• ການຂຽນຈຸດກວດສອບ: ສະເລ່ຍ 22 ນາທີ

• ການຂ້າແບບ Rank-kill ບໍ່ແມ່ນການທົດສອບທີ່ພວກເຂົາສາມາດຜ່ານໄດ້. ພວກເຂົາບໍ່ມີປື້ມບັນທຶກ. ການເສຍຊີວິດໂດຍບັງເອີນສອງຄັ້ງແມ່ນການຄົ້ນພົບ

• ການໂຫຼດ IT ສູງສຸດໃນສອງຊັ້ນໃນລະຫວ່າງການຝຶກອົບຮົມ: ປະມານ 18 kW. ແຖວມີວັດ. ມັນບໍ່ມີການເຮັດຄວາມເຢັນ ຫຼື ຜ້າ

ຫຼັງຈາກເຄື່ອງແລກປ່ຽນຄວາມຮ້ອນປະຕູຫຼັງໃນສອງຊັ້ນວາງເຫຼົ່ານັ້ນ, ຜ້າສະເພາະລະຫວ່າງໂຫນດທັງສີ່, ກຸ່ມ NVMe ຂະໜາດນ້ອຍສຳລັບຈຸດກວດສອບ, ຈຸດກວດສອບ 30 ນາທີ, ແລະ ປື້ມບັນທຶກການແລ່ນເລີ່ມຕົ້ນໃໝ່:

• 8 ໃນ 8 ສຳເລັດໃນຄວາມພະຍາຍາມຄັ້ງທຳອິດ. ໂມງແຂວນຝາຜະໜັງສະເລ່ຍ: 9 ຊົ່ວໂມງ

• ການຄວບຄຸມຄວາມຮ້ອນ: 0 ຈາກ 8

• ການຂຽນຈຸດກວດສອບ: ສະເລ່ຍ 90 ວິນາທີ. ຮ້າຍແຮງທີ່ສຸດໃນຊຸດ: 3 ນາທີ

• ການຂ້າແບບ rank-kill ໂດຍເຈດຕະນາທັງສອງຄັ້ງໄດ້ເລີ່ມຕົ້ນຄືນໃໝ່ຈາກຈຸດກວດສອບ 30 ນາທີສຸດທ້າຍ. ມີການໃຊ້ເວລາເພີ່ມເຕີມໃນສອງຮອບນັ້ນ: ປະມານ 40 ນາທີແຕ່ລະຮອບ, ລວມທັງການວິນິດໄສ, ດັ່ງນັ້ນທັງສອງຄັ້ງນັ້ນຈຶ່ງເກືອບ 9 ຊົ່ວໂມງ 40 ນາທີ. ສະເລ່ຍໃນແປດຮອບທີ່ຍັງເຫຼືອແມ່ນ 9 ຊົ່ວໂມງ

• ການໂຫຼດ IT ສູງສຸດຍັງຄົງປະມານ 18 kW. ຊິບດຽວກັນ. ພຶດຕິກຳການກໍ່ສ້າງແຕກຕ່າງກັນ

ໃນຕົວຢ່າງນີ້, ເວລາສະເລ່ຍໃນການເຮັດສູດສຳເລັດຮູບໄດ້ຫຼຸດລົງຈາກ 18 ຊົ່ວໂມງມາເປັນ 9 ຊົ່ວໂມງ, ຫຼື 9 ຊົ່ວໂມງຕໍ່ຄັ້ງ, 72 ຊົ່ວໂມງໃນແປດຮອບ. ຮອບທຳອິດທີ່ເຮັດສຳເລັດແລ້ວໄດ້ຫຼຸດລົງຈາກ 5 ໃນ 8 ເປັນ 8 ໃນ 8. ຮອບ Throttle ໄດ້ຫຼຸດລົງຈາກ 7 ໃນ 8 ເປັນ 0 ໃນ 8. ຕົວເລກສຸດທ້າຍນັ້ນແມ່ນຕົວເລກທີ່ບອກວ່າພວກເຂົາຊື້ເຄື່ອງເລັ່ງຄວາມໄວ ຫຼື ເຄື່ອງຖ່ວງນ້ຳໜັກ. ພວກເຂົາຈະບໍ່ເອີ້ນການປ່ຽນແປງເວລາວ່າເປັນການປະຫຍັດການຜະລິດ 50%. ຮອບແປດຮອບແມ່ນຊຸດນ້ອຍໆ ແລະ ງ່າຍດາຍ.

ຕົວເລກເຫຼົ່ານີ້ແມ່ນຕົວຢ່າງການຄາດຄະເນໂດຍອີງໃສ່ການທົດສອບທີ່ລະບຸໄວ້, ຕົວຢ່າງຂະໜາດນ້ອຍ, ຮູບແບບໜຶ່ງ, ແລະ ຫໍປະຊຸມປະສົມໜຶ່ງ. ພວກມັນບໍ່ແມ່ນ PUE, ບໍ່ແມ່ນເມກາວັດຂອງວິທະຍາເຂດ, ແລະ ບໍ່ແມ່ນຫຼັກຖານທີ່ສະແດງໃຫ້ເຫັນວ່າ Kestrel ຄວນສ້າງສະຖານທີ່ຝຶກອົບຮົມໃນພາກສະໜາມ. ການທົບທວນບັນທຶກແມ່ນໃຊ້ເວລາພາຍໃນ 9 ຊົ່ວໂມງ; ພວກເຂົາບໍ່ໄດ້ປິດບັງມັນ. ຕົວເລກ 18 kW ແມ່ນການອ່ານ PDU ທີ່ມົນ, ບໍ່ແມ່ນໃບແຈ້ງໜີ້ສາທາລະນູປະໂພກ. ພວກເຂົາບໍ່ໄດ້ປ່ຽນ 72 ຊົ່ວໂມງເປັນຄ່າໃຊ້ຈ່າຍ, ເພາະວ່າອັດຕາໄຟຟ້າປະສົມຂອງໂຮງງານຈະເຮັດໃຫ້ເປັນກໍລະນີທຸລະກິດປອມ.

ການກວດສອບການຮັບໃຊ້ແມ່ນແຍກຕ່າງຫາກ ແລະ ນ້ອຍກວ່າ: ຮູບພາບ 200 ເສັ້ນໄປຫາກ່ອງທີ່ມີຮົ້ວລ້ອມຮອບ, ທັງໝົດຢູ່ໃນສະຖານທີ່. ນັ້ນແມ່ນການອະນຸມານ, ບໍ່ແມ່ນການຝຶກອົບຮົມ. ການປະສົມປະສານສອງຢ່າງນີ້ຈະເປັນຄວາມຜິດພາດແບບປະສົມ-ຫ້ອງໂຖງໃນຮູບແບບຫຍໍ້.

ມີຫຍັງຜິດພາດໄດ້ແດ່

• ການຈັດຊື້ຍັງຄົງເອີ້ນເຊີບເວີສີ່ເຄື່ອງວ່າ "ສູນຂໍ້ມູນ AI". ປ້າຍຊື່ເຊື່ອງລະບົບທໍ່ນ້ຳ, ແລະການຊື້ຄັ້ງຕໍ່ໄປແມ່ນ GPU ເພີ່ມເຕີມສຳລັບຊ່ອງທາງດຽວກັນ

• ເຄື່ອງແລກປ່ຽນປະຕູຫລັງເຂົ້າໄປແລະບໍ່ມີໃຜສັ່ງວຽກດ້ານນໍ້າ. ພັດລົມຍັງຮ້ອງ. ໂມງຍັງຕົກຢູ່

• ຜ້າແພນີ້ແມ່ນສະວິດດຽວທີ່ບໍ່ມີເສັ້ນທາງສຳຮອງ. ລິ້ງໜຶ່ງລົ້ມເຫຼວ ແລະ "ກຸ່ມ" ແມ່ນສີ່ສະຖານີເຮັດວຽກອີກຄັ້ງ

• ຈຸດກວດສອບຍັງຄົງຢູ່ໃນ SAN ເພາະວ່າກຸ່ມ NVMe ແມ່ນ "ໄລຍະທີສອງ". ໄລຍະທີສອງບໍ່ມາຮອດກ່ອນໂນດທີ່ຕາຍແລ້ວຕໍ່ໄປ

• ພວກເຂົາອ້າງອີງ PUE ສຳລັບສອງຊັ້ນວາງໃນຫ້ອງໂຖງປະສົມ. ສະພາບອາກາດ, ເຂດແດນ, ແລະສ່ວນທີ່ເຫຼືອຂອງແຖວ ERP ເຮັດໃຫ້ອັດຕາສ່ວນນັ້ນເປັນຊຸດ

• ການຝຶກອົບຮົມ ແລະ ການຮັບໃຊ້ແບ່ງປັນໂຄງສ້າງຮ່ວມກັນ. ຈຸດກວດກາທີ່ມີນ້ຳຖ້ວມເຮັດໃຫ້ສາຍໂຮງງານລໍຖ້າ. ຄວາມຊັກຊ້າຂອງຫາງແມ່ນຜົນຄູນຢູ່ທີ່ນັ້ນ, ບໍ່ແມ່ນຄວາມໜາແໜ້ນ

• ໂນດໜຶ່ງຕາຍ ແລະ ມີຄົນປະຕິບັດຕໍ່ມັນເປັນປີ້ເວລາເຮັດວຽກແທນທີ່ຈະເປັນຈຸດກວດສອບການເລີ່ມຕົ້ນໃໝ່. ການປະຕິບັດງານຂອງວິສາຫະກິດ ແລະ ການປະຕິບັດງານ AI ສົນທະນາກັນຕະຫຼອດຕອນບ່າຍ

• ພວກເຂົາສາມາດເຊົ່າກະຕ່າໄດ້, ຍົກເວັ້ນຮູບພາບຕ່າງໆບໍ່ສາມາດອອກໄປໄດ້. ການລືມຂໍ້ຈຳກັດນັ້ນສົ່ງພວກເຂົາເຂົ້າສູ່ການສົນທະນາໃນຄລາວ ພວກເຂົາຈະຕ້ອງຜ່ອນຄາຍ

ເອົາໄປໃຊ້ຕົວຈິງ

ສູນຂໍ້ມູນ AI ​​ໃນຮູບແບບນີ້ບໍ່ແມ່ນສາງ ແລະ ມັນບໍ່ແມ່ນໃບແຈ້ງໜີ້ GPU. ມັນແມ່ນຫ້ອງທີ່ຊ່ວຍໃຫ້ຕົວເລັ່ງຄວາມໄວສຳເລັດການເຮັດວຽກ: ພະລັງງານທີ່ພວກເຂົາສາມາດຮັກສາໄດ້, ຄວາມຮ້ອນທີ່ເຫຼືອ, ຜ້າ, ຈຸດກວດສອບ, ແລະ ຜູ້ໃດຜູ້ໜຶ່ງທີ່ຕິດຢູ່ເມື່ອອັນດັບໜຶ່ງຕາຍ. Kestrel ບໍ່ຕ້ອງການວິທະຍາເຂດ. ພວກເຂົາຕ້ອງການສອງຊັ້ນວາງເພື່ອຢຸດການສະແດງອອກ. ທີມສ່ວນໃຫຍ່ຄວນເຊົ່າພຶດຕິກຳນັ້ນ. ທີມຈຳນວນໜຶ່ງ, ທີ່ມີຊຸດຂໍ້ມູນລັບ ແລະ ຫ້ອງໂຖງທີ່ສາມາດຮັບຄວາມຮ້ອນໄດ້, ຄວນສ້າງຫ້ອງ ແລະ ປະຕິເສດແຜ່ນສະໄລ້.

ຄຳຖາມທີ່ຖືກຖາມເລື້ອຍໆ

ສູນຂໍ້ມູນ AI ​​ແມ່ນຫຍັງ?

ສະຖານທີ່ຄິດໄລ່ທີ່ມີຄວາມໜາແໜ້ນສູງບ່ອນທີ່ພະລັງງານ, ການເຮັດໃຫ້ເຢັນ, ເຄືອຂ່າຍ, ແລະ ບ່ອນເກັບຂໍ້ມູນແມ່ນໝູນວຽນຢູ່ອ້ອມຮອບການຝຶກອົບຮົມແບບຂະໜານ ແລະ ການບໍລິການແບບຈຳລອງ, ບໍ່ແມ່ນແຖວເຊີບເວີທົ່ວໄປທີ່ເປັນລະບຽບຮຽບຮ້ອຍ. ມັນຖືກອອກແບບມາເພື່ອໃຫ້ຕົວເລັ່ງຄວາມໄວຈຳນວນຫຼວງຫຼາຍສາມາດຝຶກອົບຮົມ ແລະ ໃຫ້ບໍລິການແບບຈຳລອງໂດຍບໍ່ຕ້ອງລະລາຍ, ຢຸດຊະງັກໃນເຄືອຂ່າຍ, ຫຼື ລໍຖ້າຢູ່ໃນແຜ່ນດິດ. ຫໍວິສາຫະກິດທຳມະດາແມ່ນບ້ານປະສົມ. ຫໍ AI ແມ່ນວັດທະນະທຳດຽວທີ່ມີຫົວໜ່ວຍມູນຄ່າເປັນຕົວເລັ່ງຄວາມໄວ, ເຊັ່ນ GPU ຫຼື ຊິບແບບ TPU. ມັນເບິ່ງຄືກັບສາງ ແລະ ປະຕິບັດຕົວຄືກັບສະຖານີພະລັງງານທີ່ຄິດໄລ່.

ສູນຂໍ້ມູນ AI ​​ແຕກຕ່າງຈາກສູນຂໍ້ມູນທຳມະດາແນວໃດ?

ຫໍປະຊຸມແບບດັ້ງເດີມເພີ່ມປະສິດທິພາບສຳລັບປະລິມານວຽກ ແລະ ເວລາເຮັດວຽກທີ່ປະສົມປະສານກັນໃນການບໍລິການນ້ອຍໆຫຼາຍຢ່າງ. ສະຖານທີ່ AI ປ່ຽນອັດຕາສ່ວນ: ຄວາມໜາແໜ້ນເພີ່ມຂຶ້ນ, ເຄືອຂ່າຍກາຍເປັນຜ້າທີ່ວຽກຝຶກອົບຮົມບໍ່ສາມາດຂາດໄດ້, ແລະ ບ່ອນເກັບຂໍ້ມູນຕ້ອງເຮັດໃຫ້ຈຸດກວດສອບເຄື່ອນທີ່ ຫຼື ຕົວເລັ່ງຄວາມໄວຢຸດເຮັດວຽກ. ປະຕິບັດການຂອງວິສາຫະກິດຄິດໃນປີ້ ແລະ ການປ່ຽນແປງປ່ອງຢ້ຽມ. ປະຕິບັດການ AI ຄິດໃນຄິວວຽກ ແລະ ຄວາມຮູ້ສຶກບໍ່ສະບາຍເມື່ອໂຫນດຕາຍຊ້າໃນໄລຍະຍາວ. ທ່ານຍັງສາມາດໂທຫາສູນຂໍ້ມູນທັງສອງໄດ້. ປ້າຍຊື່ພຽງແຕ່ເຊື່ອງທໍ່ນ້ຳ.

ເປັນຫຍັງສູນຂໍ້ມູນ AI ​​ຈຶ່ງໃຊ້ພະລັງງານຫຼາຍ?

ຮາດແວທີ່ໂດດເດັ່ນບໍ່ແມ່ນ CPU ທີ່ສະຫຼາດ. ມັນແມ່ນຖາດເລັ່ງຄວາມໄວ: GPU ຫຼືຊິບ AI ອື່ນໆ, ບັນຈຸຢູ່ໃນເຊີບເວີ, ຈາກນັ້ນແຣັກ, ຈາກນັ້ນແຖວທີ່ແບ່ງປັນຜ້າແບນວິດສູງ. ຄວາມໜາແໜ້ນຕໍ່ແຣັກແມ່ນຈຸດປ່ຽນຂອງເລື່ອງ: ແຣັກໜ້ອຍລົງ, ແຕ່ລະແຣັກເປັນເຕົາອົບຂະໜາດນ້ອຍ. ເມກາວັດຂອງການໂຫຼດໄອທີຈະປາກົດຂຶ້ນເມື່ອຫ້ອງໂຖງເຕັມ, ເຖິງແມ່ນວ່າການປະດິດຕົວເລກທົ່ວໄປບໍ່ຄຸ້ມຄ່າ. ປັດໄຈຈຳກັດມັກຈະເປັນສະຖານີຍ່ອຍ, ບໍ່ແມ່ນລາຍການທີ່ຕ້ອງການຂອງ GPU.

ສູນຂໍ້ມູນ AI ​​ຖືກເຮັດໃຫ້ເຢັນລົງແນວໃດ?

ຊັ້ນວາງທີ່ມີຄວາມໜາແໜ້ນສູງປ່ອຍຄວາມຮ້ອນໃນລັກສະນະທີ່ອາກາດບໍ່ເຄີຍຖືກຮຽກຮ້ອງໃຫ້ຈັດການແທ້ໆ. ທ່ານສາມາດຍູ້ອາກາດໃຫ້ແຮງຂຶ້ນດ້ວຍຕົວແລກປ່ຽນຄວາມຮ້ອນປະຕູຫຼັງ, ທາງຍ່າງທີ່ຮ້ອນກວ່າ, ແລະ ການກັກເກັບທີ່ສະຫຼາດ. ຫຼັງຈາກນັ້ນ, ຂອງແຫຼວຈະປາກົດຂຶ້ນ: ການລະບາຍຄວາມຮ້ອນໂດຍກົງໃສ່ຊິບ, ວົງຈອນນ້ຳຢາຫຼໍ່ເຢັນ, ແລະ ການແຊ່ນ້ຳໃນການອອກແບບບາງຢ່າງ. ເຄື່ອງເລັ່ງຄວາມໄວທີ່ຄວບຄຸມຄວາມໄວແມ່ນອັນທີ່ທ່ານໄດ້ຈ່າຍໄປແລ້ວ ແລະ ບໍ່ສາມາດໃຊ້ໄດ້ຢ່າງເຕັມທີ່. PUE ຍັງຄົງມີຄວາມສຳຄັນເພາະວ່າທຸກໆວັດທີ່ໃຊ້ໃນພັດລົມ ແລະ ປໍ້າແມ່ນວັດທີ່ບໍ່ໄດ້ໄປຫາ GPU. ນ້ຳກໍ່ມີບົດບາດສຳຄັນເຊັ່ນກັນ: ບາງຕົ້ນໄມ້ກໍ່ດື່ມ, ບາງຕົ້ນກໍ່ກືນ.

ເປັນຫຍັງເຄືອຂ່າຍຈຶ່ງມີຄວາມສຳຄັນຫຼາຍເທົ່າກັບ GPU?

ການຝຶກອົບຮົມແມ່ນການສົນທະນາ: ຕົວເລັ່ງຄວາມໄວຫຼາຍພັນຕົວແລກປ່ຽນການປ່ຽນແປງ, ພາລາມິເຕີ, ແລະຊິ້ນສ່ວນຂອງຮູບແບບໃນຊິ້ງຄ໌ທີ່ແໜ້ນໜາ. ຖ້າຜ້າສັ່ນ, ວຽກທັງໝົດຈະລໍຖ້າຢູ່ໃນ hop ທີ່ຊ້າທີ່ສຸດ. ນັ້ນແມ່ນເຫດຜົນທີ່ຫ້ອງ AI ມົວ ...

ສູນຂໍ້ມູນ AI ​​ໃຊ້ເພື່ອຫຍັງ: ການຝຶກອົບຮົມ ຫຼື ການອະນຸມານ?

ການຝຶກອົບຮົມແມ່ນການໂຄສະນາຫາສຽງ: ລວບລວມກຸ່ມ, ປ້ອນຂໍ້ມູນມັນ, ຈຸດກວດສອບຢ່າງເຂັ້ມງວດ, ແລະ ດຳເນີນງານເປັນເວລາຫຼາຍຊົ່ວໂມງ ຫຼື ຫຼາຍອາທິດ. ການອະນຸມານແມ່ນໜ້າຮ້ານ: ຮູບແບບທີ່ໄດ້ຮັບການຝຶກອົບຮົມແລ້ວ, ດຽວນີ້ຕອບສະໜອງໄດ້, ດ້ວຍຄວາມຊັກຊ້າທີ່ສຳຄັນ. ວິທະຍາເຂດການຝຶກອົບຮົມໄລ່ລ່າພະລັງງານ, ທີ່ດິນ, ແລະ ຄວາມໜາແໜ້ນ. ສະຖານທີ່ອະນຸມານໄລ່ລ່າຄວາມຊັກຊ້າ ແລະ ການມີຢູ່. ຫ້ອງເລັ່ງປະສົມມີຢູ່ເພາະວ່າທຶນບໍ່ແມ່ນອະນັນ, ບາງຄັ້ງຫ້ອງເລັ່ງດຽວທີ່ມີວົງແຫວນເຮັດຄວາມເຢັນສອງອັນ. ເຄື່ອງເລັ່ງທີ່ເກົ່າແກ່ກວ່າເລັກນ້ອຍໃກ້ກັບລູກຄ້າສາມາດເອົາຊະນະເຄື່ອງເລັ່ງທີ່ໜ້າສົນໃຈທີ່ຢູ່ໄກອອກໄປຈາກທະວີບ.

ເປັນຫຍັງບ່ອນເກັບຂໍ້ມູນຈຶ່ງມີຄວາມສຳຄັນໃນສູນຂໍ້ມູນ AI?

ຂໍ້ມູນການຝຶກອົບຮົມຕ້ອງມາຮອດໄວພໍທີ່ GPU ຈະບໍ່ໄດ້ຮັບຜົນກະທົບ. ຈຸດກວດສອບຕ້ອງລົງຈອດເພື່ອບໍ່ໃຫ້ເກີດການຂັດຂ້ອງໃນອາທິດໜຶ່ງ. ນ້ຳໜັກຂອງແບບຈຳລອງຕ້ອງໂຫຼດກ່ອນທີ່ແບບຈຳລອງທີ່ໃຫ້ບໍລິການຈະຖືກນຳໃຊ້. ປະລິມານການເກັບຮັກສາ, ບໍ່ພຽງແຕ່ຄວາມຈຸ, ແມ່ນຈຸດທີ່ງຽບສະຫງົບ. ທ່ານສາມາດໃຊ້ຈ່າຍຫຼາຍໃນຕົວເລັ່ງຄວາມໄວ ແລະ ເຮັດໃຫ້ພວກມັນໝົດໄປດ້ວຍອາເຣທີ່ສຸພາບທີ່ອອກແບບມາສຳລັບເຄື່ອງ virtual.

ຈະເກີດຫຍັງຂຶ້ນເມື່ອ node ຕາຍໃນລະຫວ່າງການແລ່ນ?

ຕົວເລັ່ງຄວາມໄວທີ່ຕາຍແລ້ວອັນດຽວໃນວຽກຝຶກອົບຮົມທີ່ມີການເຊື່ອມຕໍ່ກັນຢ່າງແໜ້ນແຟ້ນສາມາດເຮັດໃຫ້ຊຸດສຽງທັງໝົດຢຸດຊະງັກໄດ້. ການຝຶກອົບຮົມຕ້ອງການຈຸດກວດສອບ, ບໍ່ແມ່ນຄວາມຄິດໃນແງ່ດີ. ການອະນຸມານເຮັດໃຫ້ໂຫນດທີ່ເຈັບປ່ວຍໝົດໄປ, ຮັກສາການຕອບແບບຈຳລອງ, ແລະຍັງຄົງເຮັດວຽກຢູ່. ປ່ອງຢ້ຽມການປ່ຽນແປງຍັງປະທະກັບການຝຶກອົບຮົມທີ່ບໍ່ສົນໃຈປະຕິທິນຂອງທ່ານ. ຄວາມຊ້ຳຊ້ອນຍັງຄົງມີຄວາມສຳຄັນຕໍ່ພະລັງງານ, ການເຮັດໃຫ້ເຢັນ, ເສັ້ນທາງ, ແລະການເກັບຮັກສາ, ແຕ່ໂໝດຄວາມລົ້ມເຫຼວແມ່ນບໍ່ເປັນລະບຽບກວ່າສະໄລ້ເວລາເຮັດວຽກເກົ້າປີແບບເກົ່າ.

ຜົນກະທົບຂອງສູນຂໍ້ມູນ AI ​​ຕໍ່ຕາຂ່າຍໄຟຟ້າ, ນ້ຳ ແລະ ເພື່ອນບ້ານແມ່ນຫຍັງ?

ການເຊື່ອມຕໍ່ຕາຂ່າຍໄຟຟ້າມັກຈະເປັນຂະບວນການຄັດເລືອກສະຖານທີ່ທີ່ແທ້ຈິງ. ທີ່ດິນແມ່ນງ່າຍເມື່ອທຽບກັບສະຖານີໄຟຟ້າຍ່ອຍ ແລະ ບໍລິສັດສາທາລະນູປະໂພກທີ່ມີລູກຄ້າອື່ນໆ. ນ້ຳສຳລັບເຮັດຄວາມເຢັນ, ຖ້າທ່ານໃຊ້ມັນ, ຈະກາຍເປັນບັນຫາຂອງເພື່ອນບ້ານທັນທີທີ່ຝົນຕົກບໍ່ສຸພາບ, ພ້ອມກັບສຽງລົບກວນ, ຄວາມໜາແໜ້ນທາງສາຍຕາ, ແລະ ຄວາມຮ້ອນຢູ່ທີ່ຮົ້ວຊາຍແດນ. ການຝຶກອົບຮົມສາມາດຊ່ອນຢູ່ໃນຕະຫຼາດພະລັງງານທີ່ລາຄາຖືກກວ່າ ແລະ ສະພາບອາກາດທີ່ເຢັນກວ່າ. ການອະນຸມານມັກຢູ່ໃກ້ຜູ້ໃຊ້. ບໍ່ມີສະຖານທີ່ທີ່ສົມບູນແບບ. ມີການປະນີປະນອມກັບຂ່າວປະກາດ.

ຂ້ອຍຈຳເປັນຕ້ອງມີສູນຂໍ້ມູນ AI ​​ຫຼື ຂ້ອຍຄວນເຊົ່າບໍ?

ຄົນສ່ວນໃຫຍ່ບໍ່ຈຳເປັນຕ້ອງເປັນເຈົ້າຂອງຫ້ອງໂຖງເຫຼົ່ານີ້. Hyperscalers ສ້າງເພາະວ່າຜະລິດຕະພັນແມ່ນກອງເຮືອ. ຫ້ອງທົດລອງສ້າງເມື່ອເວລາຄິວເປັນຈຸດຈຳກັດ ຫຼື ຂໍ້ມູນບໍ່ສາມາດອອກໄປໄດ້. ທະນາຄານ, ໂຮງໝໍ, ລັດຖະບານ, ຫຼື ຜູ້ຜະລິດທີ່ມີຊຸດຂໍ້ມູນລັບສາມາດເຮັດໃຫ້ການຈັດວາງພື້ນທີ່ພາຍໃນ ຫຼື ສ່ວນຕົວມີເຫດຜົນ. ທຸກຄົນຄວນເຊົ່າ: ການຈັດວາງພື້ນທີ່ຮ່ວມກັນທີ່ພ້ອມໃຊ້ AI, ການຈອງຄລາວ, ຫຼື ກຸ່ມທີ່ມີການຄຸ້ມຄອງ. ທ່ານຈະໄດ້ຮັບຕົວເລັ່ງໂດຍບໍ່ຕ້ອງກາຍເປັນຜູ້ປະຕິບັດງານໂຮງງານໄຟຟ້າ.

ເອກະສານອ້າງອີງ

1. IEA - www.iea.org

2. LBNL - datacenters.lbl.gov

3. ຕາຂ່າຍສີຂຽວ - www.thegreengrid.org

4. LBNL - datacenters.lbl.gov

5. LBNL - datacenters.lbl.gov

6. ສະຖາບັນ Uptime - journal.uptimeinstitute.com

7. NVIDIA - developer.nvidia.com

8. NVIDIA - docs.nvidia.com

9. NVIDIA - docs.nvidia.com

10. NVIDIA - docs.nvidia.com

11. Google Cloud - docs.cloud.google.com

ຊອກຫາ AI ລ່າສຸດໄດ້ທີ່ຮ້ານ AI Assistant ຢ່າງເປັນທາງການ

ກ່ຽວກັບພວກເຮົາ