ຂ້າພະເຈົ້າພະນັນວ່າທ່ານໄດ້ຍິນທຸກສິ່ງທຸກຢ່າງຈາກ "AI ດື່ມກະຕຸກນ້ໍາທຸກຄໍາຖາມບໍ່ພໍເທົ່າໃດ" ກັບ "ໂດຍພື້ນຖານແລ້ວມັນເປັນສອງສາມຢອດ,". ຄວາມຈິງແມ່ນ nuanced ຫຼາຍ. ຮອຍຕີນກາຂອງ AI ເຄື່ອນຍ້າຍຢ່າງກວ້າງຂວາງໂດຍອີງໃສ່ບ່ອນທີ່ມັນແລ່ນ, ການເຕືອນຂອງທ່ານດົນປານໃດ, ແລະສູນຂໍ້ມູນເຮັດໃຫ້ເຄື່ອງແມ່ຂ່າຍຂອງມັນເຢັນ. ດັ່ງນັ້ນ, ແມ່ນແລ້ວ, ຕົວເລກຫົວຂໍ້ມີຢູ່, ແຕ່ມັນອາໄສຢູ່ໃນປ່າສະຫງວນ.
ຂ້າງລຸ່ມນີ້ຂ້າພະເຈົ້າເປີດເຜີຍຕົວເລກທີ່ຊັດເຈນ, ພ້ອມທີ່ຈະຕັດສິນໃຈ, ອະທິບາຍວ່າເປັນຫຍັງການຄາດຄະເນບໍ່ເຫັນດີ, ແລະສະແດງໃຫ້ເຫັນວ່າຜູ້ກໍ່ສ້າງແລະຜູ້ໃຊ້ປະຈໍາວັນສາມາດຫົດແຖບນ້ໍາໂດຍບໍ່ມີການປ່ຽນເປັນພຣະສົງທີ່ມີຄວາມຍືນຍົງ.
ບົດຄວາມທີ່ທ່ານອາດຈະຢາກອ່ານຫຼັງຈາກບົດຄວາມນີ້:
🔗 ຊຸດຂໍ້ມູນ AI ແມ່ນຫຍັງ
ອະທິບາຍວ່າຊຸດຂໍ້ມູນເຮັດໃຫ້ການຝຶກອົບຮົມການຮຽນຮູ້ເຄື່ອງຈັກ ແລະການພັດທະນາຕົວແບບແນວໃດ.
🔗 AI ຄາດຄະເນແນວໂນ້ມແນວໃດ
ສະແດງໃຫ້ເຫັນວິທີການ AI ວິເຄາະຮູບແບບເພື່ອຄາດຄະເນການປ່ຽນແປງແລະຜົນໄດ້ຮັບໃນອະນາຄົດ.
🔗 ວິທີການວັດແທກປະສິດທິພາບ AI
ແຍກຕົວຊີ້ວັດທີ່ຈຳເປັນສຳລັບການປະເມີນຄວາມຖືກຕ້ອງ, ຄວາມໄວ, ແລະຄວາມໜ້າເຊື່ອຖື.
🔗 ວິທີການສົນທະນາກັບ AI
ຊີ້ນຳຍຸດທະສາດການກະຕຸ້ນທີ່ມີປະສິດທິພາບເພື່ອປັບປຸງຄວາມຊັດເຈນ, ຜົນໄດ້ຮັບ ແລະ ຄວາມສອດຄ່ອງ.
AI ໃຊ້ນ້ໍາຫຼາຍປານໃດ? ເລກໄວທີ່ເຈົ້າໃຊ້ໄດ້ຈິງ📏
-
ຕາມການກະຕຸ້ນເຕືອນ, ລະດັບປົກກະຕິໃນມື້ນີ້: ຈາກ ຍ່ອຍມິນລິລິດ ສໍາລັບການເຕືອນຂໍ້ຄວາມປານກາງຢູ່ໃນລະບົບກະແສຫຼັກຫນຶ່ງ, ສູງເຖິງ ຫຼາຍສິບມິນລີລິດ ສໍາລັບການຕອບສະຫນອງຕໍ່ຄອມພິວເຕີ້ທີ່ຍາວກວ່າ, ສູງກວ່າໃນລະບົບອື່ນ. ຕົວຢ່າງ, ບັນຊີການຜະລິດຂອງ Google ລາຍງານ ຂໍ້ຄວາມປານກາງ ~ 0.26 mL (ລວມເອົາການໃຫ້ບໍລິການເຕັມຫົວ) [1]. ການປະເມີນຮອບວຽນຊີວິດຂອງ Mistral ລະບຸ ການຕອບກັບຜູ້ຊ່ວຍ 400-token ທີ່ ~45 ມລ (ສົມມຸດຕິຖານ) [2]. ສະພາບການແລະຕົວແບບມີຄວາມ ສຳ ຄັນຫຼາຍ.
-
ການຝຶກອົບຮົມແບບຈໍາລອງລະດັບຊາຍແດນ: ສາມາດແລ່ນເຂົ້າໄປໃນລ້ ານລິດ , ສ່ວນໃຫຍ່ແມ່ນມາຈາກຄວາມເຢັນແລະນ້ໍາທີ່ຝັງຢູ່ໃນການຜະລິດໄຟຟ້າ. ການວິເຄາະທາງວິຊາການທີ່ອ້າງເຖິງຢ່າງກວ້າງຂວາງຄາດຄະເນປະມານ ~5.4 ລ້ານລິດ ເພື່ອຝຶກອົບຮົມແບບຈໍາລອງ GPT, ລວມທັງ ~ 700,000 ລິດ ທີ່ບໍລິໂພກຢູ່ໃນບ່ອນສໍາລັບການເຮັດຄວາມເຢັນ - ແລະໂຕ້ແຍ້ງສໍາລັບການກໍານົດເວລາອັດສະລິຍະເພື່ອຄວາມເຂັ້ມຂອງນ້ໍາຕ່ໍາ [3].
-
ສູນຂໍ້ມູນໂດຍທົ່ວໄປ: ສະຖານທີ່ຂະຫນາດໃຫຍ່ກວມເອົາ ຫຼາຍຮ້ອຍພັນກາລອນຕໍ່ມື້ ໂດຍສະເລ່ຍຢູ່ໃນຜູ້ປະກອບການທີ່ສໍາຄັນ, ມີຈຸດສູງສຸດທີ່ສູງກວ່າໃນບາງວິທະຍາເຂດຂຶ້ນກັບສະພາບອາກາດແລະການອອກແບບ [5].
ຂໍໃຫ້ມີຄວາມຊື່ສັດ: ຕົວເລກເຫຼົ່ານັ້ນມີຄວາມຮູ້ສຶກບໍ່ສອດຄ່ອງໃນຕອນທໍາອິດ. ພວກເຂົາເຈົ້າແມ່ນ. ແລະມີເຫດຜົນທີ່ດີ.
ຕົວຊີ້ວັດການໃຊ້ນໍ້າດ້ວຍ AI ✅
ຄໍາຕອບທີ່ດີກັບ AI ໃຊ້ນ້ໍາຫຼາຍປານໃດ? ຄວນໝາຍໃສ່ກ່ອງຈຳນວນໜຶ່ງ:
-
ຄວາມຊັດເຈນຂອງເຂດແດນ
ມັນລວມເອົາພຽງແຕ່ ເຢັນຢູ່ໃນບ່ອນ , ຫຼື ນອກສະຖານທີ່ ໃຊ້ໂດຍ ໂຮງງານໄຟຟ້າ ເພື່ອຜະລິດກະແສໄຟຟ້າບໍ? ການປະຕິບັດທີ່ດີທີ່ສຸດຈໍາແນກ ການຖອນນ້ໍາ ທຽບກັບ ການບໍລິໂພກນ້ໍາ ແລະຂອບເຂດ 1-2-3, ຄ້າຍຄືກັນກັບການບັນຊີຄາບອນ [3]. -
ຄວາມອ່ອນໄຫວຂອງສະຖານທີ່
ນໍ້າຕໍ່ກິໂລວັດໂມງ ແຕກຕ່າງກັນໄປຕາມພາກພື້ນ ແລະຕາຂ່າຍໄຟຟ້າ, ດັ່ງນັ້ນການເຕືອນດຽວກັນສາມາດສົ່ງຜົນກະທົບຂອງນໍ້າທີ່ແຕກຕ່າງກັນຂຶ້ນກັບບ່ອນທີ່ມັນໃຫ້ບໍລິການ - ເຫດຜົນສໍາຄັນທີ່ວັນນະຄະດີແນະນໍາ ການກໍານົດເວລາແລະສະຖານທີ່ຮູ້ [3]. -
Workload realism
ຕົວເລກສະທ້ອນເຖິງ ການກະຕຸ້ນການຜະລິດປານກາງ , ລວມທັງຄວາມອາດສາມາດບໍ່ເຮັດວຽກ ແລະສູນຂໍ້ມູນ, ຫຼືພຽງແຕ່ຕົວເລັ່ງຄວາມໄວທີ່ສູງສຸດບໍ? Google ເນັ້ນການບັນຊີເຕັມລະບົບ (idle, CPUs/DRAM, and data-center overhead) ສໍາລັບການ inference, ບໍ່ພຽງແຕ່ TPU math [1]. -
ເທກໂນໂລຍີເຮັດຄວາມເຢັນ
ການລະບາຍຄວາມເຢັນແບບລະເຫີຍ, ການເຮັດຄວາມເຢັນຂອງແຫຼວແບບວົງປິດ, ການເຮັດຄວາມເຢັນຂອງອາກາດ, ແລະວິທີການທີ່ອອກມາ ໂດຍກົງຫາຊິບ ປ່ຽນຄວາມເຂັ້ມຂອງນໍ້າຢ່າງຫຼວງຫຼາຍ. Microsoft ກໍາລັງວາງອອກການອອກແບບທີ່ມີຈຸດປະສົງເພື່ອ ລົບລ້າງການໃຊ້ນ້ໍາເຢັນ ສໍາລັບບາງສະຖານທີ່ຕໍ່ໄປ [4]. -
ໄລຍະເວລາຂອງມື້ແລະລະດູການ
ຄວາມຮ້ອນ, ຄວາມຊຸ່ມຊື່ນ, ແລະເງື່ອນໄຂຕາຂ່າຍໄຟຟ້າເຮັດໃຫ້ ປະສິດທິພາບການນໍາໃຊ້ນ້ໍາ ໃນຊີວິດຈິງ; ການສຶກສາທີ່ມີອິດທິພົນຫນຶ່ງແນະນໍາການກໍານົດເວລາວຽກທີ່ສໍາຄັນໃນເວລາທີ່ແລະບ່ອນທີ່ຄວາມເຂັ້ມຂອງນ້ໍາຕ່ໍາ [3].
ການຖອນນ້ໍາທຽບກັບການບໍລິໂພກນ້ໍາ, ອະທິບາຍ 💡
-
ການຖອນ = ນ້ໍາທີ່ເອົາມາຈາກແມ່ນ້ໍາ, ທະເລສາບ, ຫຼື aquifers (ບາງຄືນ).
-
ການບໍລິໂພກ = ນ້ໍາ ບໍ່ກັບຄືນມາ ເພາະວ່າມັນລະເຫີຍຫຼືຖືກລວມເຂົ້າໃນຂະບວນການ / ຜະລິດຕະພັນ.
ຫໍເຮັດຄວາມເຢັນສ່ວນໃຫຍ່ ບໍລິໂພກ ນ້ໍາຜ່ານການລະເຫີຍ. ການຜະລິດໄຟຟ້າສາມາດ ຖອນປະ ລິມານຂະຫນາດໃຫຍ່ (ບາງຄັ້ງການບໍລິໂພກບາງສ່ວນຂອງມັນ), ຂຶ້ນກັບໂຮງງານແລະວິທີການເຮັດຄວາມເຢັນ. ປ້າຍໝາຍເລກ AI-water ທີ່ໜ້າເຊື່ອຖືເຊິ່ງມັນກຳລັງລາຍງານ [3].
ນໍ້າໄປໃສ AI : ສາມຄຸ 🪣
-
ຂອບເຂດທີ 1 - ການເຮັດໃຫ້ເຢັນໃນສະຖານທີ່
ສ່ວນທີ່ເບິ່ງເຫັນໄດ້: ນ້ຳລະເຫີຍຢູ່ທີ່ສູນຂໍ້ມູນເອງ. ຕົວເລືອກການອອກແບບເຊັ່ນ: ການລະເຫີຍທຽບກັບອາກາດ ຫຼື ຂອງແຫຼວວົງຈອນປິດ ກຳນົດພື້ນຖານ [5]. -
ຂອບເຂດ 2 - ການຜະລິດໄຟຟ້າ
ທຸກໆກິໂລວັດໂມງສາມາດຖືປ້າຍນ້ໍາທີ່ເຊື່ອງໄວ້; ການປະສົມແລະສະຖານທີ່ກໍານົດລິດຕໍ່ກິໂລວັດຊົ່ວໂມງສັນຍານການເຮັດວຽກຂອງເຈົ້າໄດ້ຮັບມໍລະດົກ [3]. -
ຂອບເຂດ 3 -
ການຜະລິດຊິບ ແມ່ນອີງໃສ່ນ້ໍາບໍລິສຸດໃນການຜະລິດ. ທ່ານຈະບໍ່ເຫັນມັນຢູ່ໃນຕົວຊີ້ວັດ "ຕໍ່ທັນທີ" ເວັ້ນເສຍແຕ່ວ່າຂອບເຂດຊາຍແດນປະກອບມີຜົນກະທົບທີ່ມີລັກສະນະເດັ່ນຊັດ (ຕົວຢ່າງ, LCA ເຕັມ) [2][3].
ຜູ້ໃຫ້ບໍລິການຕາມຕົວເລກ, ພ້ອມກັບ nuance 🧮
-
Google Gemini ເຕືອນ
ວິທີການໃຫ້ບໍລິການແບບເຕັມ stack (ລວມທັງ idle ແລະ facility overhead). ຂໍ້ ນ້ໍາ ~0.26 mL ~ 0.24 Wh ; ຕົວເລກສະທ້ອນໃຫ້ເຫັນການຈະລາຈອນການຜະລິດແລະເຂດແດນທີ່ສົມບູນແບບ [1]. -
Mistral Large 2 lifecycle
A LCA ເອກະລາດທີ່ຫາຍາກ (ມີ ADEME/Carbone 4) ເປີດເຜີຍ ~281,000 m³ ສໍາລັບການຝຶກອົບຮົມ + ການນໍາໃຊ້ໃນຕອນຕົ້ນແລະ inference marginal ~45 mL ສໍາລັບ 400-token [2]. -
ຄວາມທະເຍີທະຍານຂອງ Microsoft's zero-water cooling ambitions
Next-gen data centers are designed to consume zero water for cooling , leaning on direct-to-chip approaches ; admin ໃຊ້ຍັງຕ້ອງການນ້ໍາບາງ [4]. -
ຂະໜາດສູນກາງຂໍ້ມູນທົ່ວໄປ
ຜູ້ປະກອບການໃຫຍ່ລາຍງານສາທາລະນະ ຫຼາຍຮ້ອຍພັນແກລອນຕໍ່ມື້ໂດຍສະເລ່ຍ ຢູ່ໃນແຕ່ລະສະຖານທີ່; ສະພາບອາກາດ ແລະການອອກແບບ ຊຸກຍູ້ຕົວເລກຂຶ້ນ ຫຼື ລົງ [5]. -
ພື້ນຖານທາງວິຊາການກ່ອນຫນ້າ
ການວິເຄາະຂອງ seminal "thirsty AI" ຄາດຄະ ເນລ້ານລິດ ເພື່ອຝຶກອົບຮົມແບບຈໍາລອງ GPT, ແລະວ່າ 10-50 ຄໍາຕອບຂະຫນາດກາງ ອາດຈະເທົ່າກັບ 500 mL - ຢ່າງຫຼວງຫຼາຍຂຶ້ນກັບເວລາ / ບ່ອນທີ່ພວກເຂົາແລ່ນ [3].
ເປັນຫຍັງການປະເມີນບໍ່ເຫັນດີຫຼາຍ 🤷
-
ຂອບ ເຂດ ທີ່ ແຕກ ຕ່າງ ກັນ
ບາງ ຕົວ ເລກ ນັບ ພຽງ ແຕ່ ຄວາມ ເຢັນ ໃນ ເວັບ ໄຊ ; ອື່ນໆ ຕື່ມ ນ້ໍາ ໄຟຟ້າ ; LCAs ອາດຈະເພີ່ມ ການຜະລິດຊິບ . ຫມາກໂປມ, ຫມາກກ້ຽງ, ແລະສະຫຼັດຫມາກໄມ້ [2][3]. -
ການເຮັດວຽກທີ່ແຕກຕ່າງກັນ
ການເຕືອນຂໍ້ຄວາມສັ້ນບໍ່ແມ່ນການແລ່ນແບບ multimodal/code ຍາວ; batching, concurrency, ແລະ latency ເປົ້າໝາຍການປ່ຽນແປງການໃຊ້ງານ [1][2]. -
ສະພາບອາກາດທີ່ແຕກຕ່າງກັນ ແລະຕາຂ່າຍໄຟ
ຟ້າ ການລະບາຍຄວາມເຢັນໃນພື້ນທີ່ຮ້ອນ, ແຫ້ງແລ້ງ ≠ ລະບາຍອາກາດ/ຂອງແຫຼວໃນບ່ອນເຢັນ, ຊຸ່ມຊື່ນ. ຄວາມເຂັ້ມຂອງນໍ້າຕາຂ່າຍແຕກຕ່າງກັນຢ່າງກວ້າງຂວາງ [3]. -
ວິທີການຂອງຜູ້ຂາຍ
Google ເຜີຍແຜ່ວິທີການໃຫ້ບໍລິການທົ່ວລະບົບ; Mistral ເຜີຍແຜ່ LCA ຢ່າງເປັນທາງການ. ຄົນອື່ນສະເຫນີການຄາດຄະເນຈຸດທີ່ມີວິທີການ sparse. “ໜຶ່ງສ່ວນສິບຫ້າບ່ວງກາເຟ” ຊື່ດັງ ຕໍ່ຫົວເລື່ອງ - ແຕ່ບໍ່ມີລາຍລະອຽດຂອບເຂດ, ມັນບໍ່ສາມາດປຽບທຽບໄດ້ [1][3]. -
ເປົ້າໝາຍທີ່ເຄື່ອນຍ້າຍ
ຄວາມເຢັນກຳລັງພັດທະນາໄວ. Microsoft ກໍາລັງທົດລອງ ການເຮັດຄວາມເຢັນແບບບໍ່ມີນໍ້າ ຢູ່ບາງບ່ອນ; ການໝູນໃຊ້ສິ່ງເຫຼົ່ານີ້ຈະຫຼຸດນໍ້າໃນພື້ນທີ່ ເຖິງແມ່ນວ່າກະແສໄຟຟ້າໃນຕົ້ນນໍ້າຍັງສົ່ງສັນຍານນໍ້າ [4].
ສິ່ງທີ່ທ່ານສາມາດເຮັດໄດ້ໃນມື້ນີ້ເພື່ອຫຼຸດຜ່ອນຮອຍນ້ໍາຂອງ AI 🌱
-
ຂະໜາດຂວາຂອງຕົວແບບ
ນ້ອຍກວ່າ, ຮູບແບບການປັບແຕ່ງໜ້າວຽກມັກຈະກົງກັບຄວາມຖືກຕ້ອງໃນຂະນະທີ່ການເຜົາຜານຄອມພິວເຕີໜ້ອຍລົງ. ການປະເມີນຜົນຂອງ Mistral ເນັ້ນໃສ່ຄວາມກ່ຽວຂ້ອງຂອງຂະຫນາດກັບຮອຍຕີນທີ່ເຂັ້ມແຂງ - ແລະເຜີຍແຜ່ຕົວເລກ inference ຂອບເພື່ອໃຫ້ທ່ານສາມາດສົມເຫດສົມຜົນກ່ຽວກັບການຊື້ຂາຍ [2]. -
ເລືອກເຂດທີ່ມີນໍ້າ
ຕ້ອງການພື້ນທີ່ທີ່ມີສະພາບອາກາດເຢັນກວ່າ, ມີຄວາມເຢັນທີ່ມີປະສິດທິພາບ, ແລະຕາຂ່າຍໄຟຟ້າທີ່ມີຄວາມເຂັ້ມຂອງນ້ໍາຕ່ໍາຕໍ່ກິໂລວັດໂມງ; ການເຮັດວຽກຂອງ "AI ທີ່ຫິວໂຫຍ" ສະແດງໃຫ້ເຫັນ ເຖິງເວລາ - ແລະສະຖານທີ່ຮູ້ ຕາຕະລາງຊ່ວຍ [3]. -
ປ່ຽນແປງການໂຫຼດຂອງວຽກຕາມເວ
ລາ ກຳນົດເວລາການຝຶກອົບຮົມ/ການສະຫຼຸບຊຸດໜັກສຳລັບຊົ່ວໂມງທີ່ມີປະສິດຕິພາບຂອງນ້ຳ (ຕອນກາງຄືນທີ່ເຢັນກວ່າ, ສະພາບຕາຂ່າຍໄຟຟ້າທີ່ເອື້ອອຳນວຍ) [3]. -
ຖາມຜູ້ຂາຍຂອງທ່ານສໍາລັບຕົວວັດແທກຄວາມໂປ່ງໃສ
ຄວາມຕ້ອງການ ນ້ໍາຕໍ່ທັນທີ , ຄໍານິຍາມເຂດແດນ, ແລະບໍ່ວ່າຈະເປັນຕົວເລກລວມເຖິງຄວາມອາດສາມາດແລະສິ່ງອໍານວຍຄວາມສະດວກ overhead. ກຸ່ມນະໂຍບາຍກໍາລັງຊຸກຍູ້ໃຫ້ມີການເປີດເຜີຍແບບບັງຄັບເພື່ອເຮັດໃຫ້ການປຽບທຽບຫມາກໂປມກັບຫມາກໂປມເປັນໄປໄດ້ [3]. -
ເທັກໂນໂລຢີຄວາມເຢັນເປັນເລື່ອງສຳຄັນ
ຖ້າທ່ານໃຊ້ຮາດແວ, ປະເມີນ ການເຮັດຄວາມເຢັນແບບປິດ/ກົງກັບຊິບ ; ຖ້າທ່ານຢູ່ໃນຄລາວ, ຕ້ອງການພາກພື້ນ / ຜູ້ໃຫ້ບໍລິການທີ່ລົງທຶນໃນ ການອອກແບບແສງສະຫວ່າງນ້ໍາ [4][5]. -
ການນໍາໃຊ້ນ້ໍາສີຂີ້ເຖົ່າແລະທາງເລືອກໃນການນໍາມາໃຊ້ໃຫມ່
ວິທະຍາເຂດຈໍານວນຫຼາຍສາມາດທົດແທນແຫຼ່ງທີ່ບໍ່ແມ່ນ potable ຫຼື recycle ພາຍໃນ loops; ຜູ້ປະກອບການຂະຫນາດໃຫຍ່ອະທິບາຍການດຸ່ນດ່ຽງແຫຼ່ງນ້ໍາແລະການເລືອກຄວາມເຢັນເພື່ອຫຼຸດຜ່ອນຜົນກະທົບສຸດທິ [5].
ຕົວຢ່າງໄວເພື່ອເຮັດໃຫ້ມັນເປັນຈິງ (ບໍ່ແມ່ນກົດລະບຽບທົ່ວໄປ): ການເຄື່ອນຍ້າຍວຽກການຝຶກອົບຮົມຄືນຈາກເຂດຮ້ອນ, ແຫ້ງແລ້ງໃນກາງລະດູຮ້ອນໄປສູ່ເຂດທີ່ເຢັນກວ່າ, ຊຸ່ມຊື່ນໃນພາກຮຽນ spring - ແລະແລ່ນມັນໃນເວລານອກຈຸດສູງສຸດ, ຊົ່ວໂມງທີ່ເຢັນກວ່າ - ສາມາດປ່ຽນໄດ້ທັງ ໃນບ່ອນ ແລະ ນອກສະຖານທີ່ (ຕາຂ່າຍໄຟຟ້າ) ຄວາມເຂັ້ມຂົ້ນຂອງນ້ໍາ. ນັ້ນແມ່ນປະເພດຂອງການປະຕິບັດ, ການສະແດງລະຄອນຕ່ໍາສາມາດປົດລັອກ [3].
ຕາຕະລາງປຽບທຽບ: ການເລືອກດ່ວນເພື່ອຫຼຸດຈຳນວນນໍ້າຂອງ AI 🧰
| ເຄື່ອງມື | ຜູ້ຊົມ | ລາຄາ | ເປັນຫຍັງມັນເຮັດວຽກ |
|---|---|---|---|
| ຕົວແບບທີ່ນ້ອຍກວ່າ, ປັບແຕ່ງໜ້າວຽກ | ທີມງານ ML, ຜູ້ນໍາຜະລິດຕະພັນ | ຕໍ່າ–ປານກາງ | ຄອມພິວເຕີ້ຫນ້ອຍລົງຕໍ່ token = ຄວາມເຢັນຫນ້ອຍ + ນ້ໍາໄຟຟ້າ; ພິສູດແລ້ວໃນການລາຍງານແບບ LCA [2]. |
| ການຄັດເລືອກພາກພື້ນໂດຍນ້ໍາ / kWh | ສະຖາປະນິກ Cloud, ການຈັດຊື້ | ປານກາງ | ປ່ຽນໄປສູ່ສະພາບອາກາດທີ່ເຢັນກວ່າແລະຕາຂ່າຍໄຟຟ້າທີ່ມີຄວາມເຂັ້ມຂອງນ້ໍາຕ່ໍາ; ຄູ່ກັບເສັ້ນທາງທີ່ຮັບຮູ້ຄວາມຕ້ອງການ [3]. |
| ປ່ອງຢ້ຽມການຝຶກອົບຮົມເວລາຂອງມື້ | MLOps, ຕາຕະລາງ | ຕ່ຳ | ຄືນທີ່ອາກາດເຢັນລົງ + ສະພາບຕາຂ່າຍໄຟຟ້າທີ່ດີຂຶ້ນ ຊ່ວຍຫຼຸດຜ່ອນຄວາມເຂັ້ມຂອງນ້ຳທີ່ມີປະສິດທິພາບ [3]. |
| ການເຮັດຄວາມເຢັນໂດຍກົງຫາຊິບ/ວົງປິດ | ການບໍລິການສູນຂໍ້ມູນ | ປານກາງ-ສູງ | ຫຼີກລ່ຽງຫໍຄອຍລະເຫີຍທີ່ເປັນໄປໄດ້, ຫຼຸດການບໍລິໂພກໃນພື້ນທີ່ [4]. |
| ກະຕຸ້ນຄວາມຍາວ & batch ຄວບຄຸມ | ນັກພັດທະນາແອັບ | ຕ່ຳ | Cap runaway tokens, batch smartly, cache results; ມິນລິວິນາທີໜ້ອຍລົງ, ມິນລີລິດໜ້ອຍລົງ [1][2]. |
| ລາຍການກວດສອບຄວາມໂປ່ງໃສຂອງຜູ້ຂາຍ | CTOs, ຄວາມຍືນຍົງນໍາພາ | ຟຣີ | ບັງຄັບໃຫ້ຄວາມຊັດເຈນຂອງເຂດແດນ (ໃນເວັບໄຊທຽບກັບນອກສະຖານທີ່) ແລະການລາຍງານຫມາກໂປມກັບຫມາກໂປມ [3]. |
| ນ້ໍາສີຂີ້ເຖົ່າຫຼືແຫຼ່ງທີ່ຖືກຍຶດຄືນ | ສິ່ງອໍານວຍຄວາມສະດວກ, ເທດສະບານ | ປານກາງ | ການທົດແທນນ້ຳທີ່ບໍ່ສາມາດນຳໃຊ້ໄດ້ຈະຊ່ວຍບັນເທົາຄວາມຕຶງຄຽດໃຫ້ກັບອຸປະກອນທີ່ສາມາດໃຊ້ໄດ້ [5]. |
| ການຮ່ວມມືກັບການໃຊ້ຄວາມຮ້ອນຄືນໃໝ່ | ຜູ້ປະກອບການ, ສະພາທ້ອງຖິ່ນ | ປານກາງ | ປະສິດທິພາບຄວາມຮ້ອນທີ່ດີກວ່າຈະຕັດຄວາມຕ້ອງການຄວາມເຢັນໂດຍທາງອ້ອມ ແລະສ້າງຄວາມດີໃນທ້ອງຖິ່ນ [5]. |
("ລາຄາ" ແມ່ນ squishy ໂດຍການອອກແບບ - ການຕິດຕັ້ງແຕກຕ່າງກັນ.)
ດຳນ້ຳເລິກ: ການຕີກອງນະໂຍບາຍດັງຂຶ້ນກວ່າ 🥁
ອົງການຈັດຕັ້ງວິສະວະກໍາຮຽກຮ້ອງໃຫ້ ເປີດເຜີຍຂໍ້ບັງຄັບ ຂອງສູນຂໍ້ມູນພະລັງງານແລະນ້ໍາເພື່ອໃຫ້ຜູ້ຊື້ແລະຊຸມຊົນສາມາດຕັດສິນຄ່າໃຊ້ຈ່າຍແລະຜົນປະໂຫຍດ. ຄໍາແນະນໍາປະກອບມີຄໍານິຍາມຂອບເຂດ, ການລາຍງານລະດັບເວັບໄຊທ໌, ແລະການຊີ້ນໍາຂອງສະຖານທີ່ - ເນື່ອງຈາກວ່າບໍ່ມີການປຽບທຽບ, ຕົວຊີ້ວັດທີ່ຮູ້ຈັກສະຖານທີ່, ພວກເຮົາກໍາລັງໂຕ້ຖຽງກັນໃນຄວາມມືດ [3].
ດຳນ້ຳເລິກ: ສູນຂໍ້ມູນບໍ່ໄດ້ຈົ່ມດ້ວຍວິທີດຽວກັນ🚰
ມີນິທານທີ່ຍັງຄົງຄ້າງວ່າ "ການເຮັດຄວາມເຢັນໃນອາກາດບໍ່ໃຊ້ນໍ້າ." ບໍ່ຂ້ອນຂ້າງ. ລະບົບອາຍແກັສທາງອາກາດມັກຈະຕ້ອງການ ໄຟຟ້າຫຼາຍ , ເຊິ່ງໃນຫຼາຍພາກພື້ນມີນ ້ໍາທີ່ເຊື່ອງໄວ້ ຈາກຕາຂ່າຍໄຟຟ້າ; ໃນທາງກົງກັນຂ້າມ, ຄວາມເຢັນຂອງນ້ໍາ ສາມາດຕັດພະລັງງານແລະການປ່ອຍອາຍພິດໂດຍຄ່າໃຊ້ຈ່າຍຂອງນ້ໍາໃນສະຖານທີ່. ຜູ້ປະກອບການຂະຫນາດໃຫຍ່ໄດ້ດຸ່ນດ່ຽງການຄ້າເຫຼົ່ານີ້ຢ່າງຈະແຈ້ງຈາກແຕ່ລະເວັບໄຊ [1][5].
ການດໍານ້ໍາເລິກ: ການກວດສອບຄວາມເປັນຈິງຢ່າງໄວວາກ່ຽວກັບການຮຽກຮ້ອງໄວຣັດ🧪
ເຈົ້າອາດຈະໄດ້ເຫັນຄຳເວົ້າອັນກ້າຫານທີ່ການກະຕຸ້ນດຽວເທົ່າກັບ “ຂວດນ້ຳ” ຫຼືອີກດ້ານໜຶ່ງ “ພຽງແຕ່ຢອດໜ້ອຍໜຶ່ງ.” posture ດີກວ່າ: ຄວາມຖ່ອມຕົນກັບຄະນິດສາດ . ປື້ມບັນທຶກທີ່ເຊື່ອຖືໄດ້ຂອງມື້ນີ້ແມ່ນ ~ 0.26 mL ສໍາລັບການກະຕຸ້ນການຜະລິດປານກາງທີ່ມີການໃຫ້ບໍລິການເຕັມຫົວ [1] ແລະ ~ 45 mL ສໍາລັບການຕອບຜູ້ຊ່ວຍ 400-token (ສົມມຸດວ່າຫນ້ອຍ) [2]. “ໜຶ່ງສ່ວນສິບຫ້າບ່ວງກາເຟ” ທີ່ແບ່ງປັນກັນຫຼາຍ ບໍ່ມີຂອບເຂດ/ວິທີການ; ຮັກສາມັນຄືກັບການພະຍາກອນອາກາດທີ່ບໍ່ມີເມືອງ [1][3].
Mini-FAQ: AI ໃຊ້ນ້ໍາຫຼາຍປານໃດ? ອີກເທື່ອຫນຶ່ງ, ໃນພາສາອັງກິດທໍາມະດາ 🗣️
-
ດັ່ງນັ້ນ, ຂ້ອຍຄວນເວົ້າຫຍັງຢູ່ໃນກອງປະຊຸມ?
"ຕາມການກະຕຸ້ນເຕືອນ, ມັນມີຕັ້ງແຕ່ ຢອດໄປຫາສອງສາມ sips , ຂຶ້ນກັບຕົວແບບ, ຄວາມຍາວ, ແລະບ່ອນທີ່ມັນແລ່ນ. ການຝຶກອົບຮົມໃຊ້ເວລາສະນຸກເກີ , ບໍ່ແມ່ນ puddles." ຫຼັງຈາກນັ້ນ, ອ້າງເຖິງຫນຶ່ງຫຼືສອງຕົວຢ່າງຂ້າງເທິງ. -
AI ເປັນເອກະລັກທີ່ບໍ່ດີບໍ?
ມັນ ມີຄວາມເຂັ້ມຂຸ້ນທີ່ : ຊິບພະລັງງານສູງທີ່ບັນຈຸເຂົ້າກັນສ້າງການໂຫຼດຄວາມເຢັນຂະຫນາດໃຫຍ່. ແຕ່ສູນຂໍ້ມູນຍັງເປັນບ່ອນທີ່ເທກໂນໂລຍີປະສິດທິພາບດີທີ່ສຸດມັກຈະລົງຈອດກ່ອນ [1][4]. -
ຈະເປັນແນວໃດຖ້າພວກເຮົາພຽງແຕ່ຍ້າຍທຸກຢ່າງໄປໃຊ້ລະບົບເຮັດຄວາມເຢັນດ້ວຍອາກາດ?
ທ່ານອາດຈະຫຼຸດຜ່ອນ ໃນສະຖານທີ່ ແຕ່ເພີ່ມການ ນອກສະຖານທີ່ ຜ່ານທາງໄຟຟ້າ. ຜູ້ປະຕິບັດງານທີ່ຊັບຊ້ອນຈະຊັ່ງນ້ຳໜັກທັງສອງຢ່າງ [1][5]. -
ຈະເປັນແນວໃດກ່ຽວກັບເຕັກໂນໂລຢີໃນອະນາຄົດ?
ການອອກແບບທີ່ ຫຼີກລ່ຽງນໍ້າເຢັນ ໃນຂະໜາດຈະເປັນຕົວປ່ຽນເກມສຳລັບຂອບເຂດ 1. ຜູ້ປະກອບການບາງຄົນກຳລັງເຄື່ອນຍ້າຍໄປທາງນີ້; ກະແສໄຟຟ້າເທິງນ້ຳຍັງສົ່ງສັນຍານນ້ຳຈົນກວ່າຕາຂ່າຍຈະປ່ຽນ [4].
ຂໍ້ສັງເກດສຸດທ້າຍ - ດົນເກີນໄປ, ຂ້ອຍບໍ່ໄດ້ອ່ານມັນ 🌊
-
ຕໍ່ການກະຕຸ້ນ: ຄິດວ່າ ຍ່ອຍມີລີລິດເຖິງສິບມິນລິລິດ , ຂຶ້ນກັບຕົວແບບ, ຄວາມຍາວວ່ອງໄວ, ແລະບ່ອນທີ່ມັນແລ່ນ. median prompt ~0.26 mL ໃນ stack ໃຫຍ່ຫນຶ່ງ; ~45 mL ສໍາລັບ ການຕອບກັບ 400-token ໃນອີກ [1][2].
-
ການຝຶກອົບຮົມ: ລ້ານລິດ ສໍາລັບຕົວແບບຊາຍແດນ, ເຮັດໃຫ້ການກໍານົດເວລາ, ນັ່ງ, ແລະເຕັກໂນໂລຢີຄວາມເຢັນທີ່ສໍາຄັນ [3].
-
ສິ່ງທີ່ຕ້ອງເຮັດ: ຮູບແບບຂະຫນາດທີ່ຖືກຕ້ອງ, ເລືອກພື້ນທີ່ທີ່ມີນ້ໍາ, ປ່ຽນວຽກຫນັກໄປສູ່ຊົ່ວໂມງທີ່ເຢັນກວ່າ, ຕ້ອງການໃຫ້ຜູ້ຂາຍພິສູດການອອກແບບແສງສະຫວ່າງນ້ໍາ, ແລະຕ້ອງການຂອບເຂດທີ່ໂປ່ງໃສ [1][3][4][5].
ການປຽບທຽບຂໍ້ບົກຜ່ອງເລັກນ້ອຍເພື່ອສິ້ນສຸດ: AI ແມ່ນວົງດົນຕີທີ່ຫິວໂຫຍ - melody ແມ່ນຄິດໄລ່, ແຕ່ drums ເຢັນແລະນ້ໍາຕາຂ່າຍໄຟຟ້າ. Tune ແຖບ, ແລະຜູ້ຊົມຍັງໄດ້ຮັບດົນຕີໂດຍບໍ່ມີການ sprinklers ໄປ. 🎻💦
ເອກະສານອ້າງອີງ
-
Google Cloud Blog - AI ຂອງ Google ໃຊ້ພະລັງງານຫຼາຍປານໃດ? ພວກເຮົາໄດ້ເຮັດຄະນິດສາດ (ວິທີການ + ~0.26 mL median prompt, ການບໍລິການເຕັມຫົວຢູ່ເທິງຫົວ). ການເຊື່ອມໂຍງ
(ເອກະສານດ້ານວິຊາການ PDF: ການວັດແທກຜົນກະທົບດ້ານສິ່ງແວດລ້ອມຂອງການຈັດສົ່ງ AI ໃນລະດັບ Google .) ການເຊື່ອມຕໍ່ -
Mistral AI - ການປະກອບສ່ວນຂອງພວກເຮົາຕໍ່ມາດຕະຖານສິ່ງແວດລ້ອມທົ່ວໂລກສໍາລັບ AI (LCA ກັບ ADEME/Carbone 4; ~ 281,000 m³ ການຝຶກອົບຮົມ + ການນໍາໃຊ້ຕົ້ນ; ~ 45 mL ຕໍ່ 400-token , inference ຂອບ). ເຊື່ອມຕໍ່
-
Li et al. - ເຮັດໃຫ້ AI ມີຄວາມ “ຫິວນໍ້າ” ໜ້ອຍລົງ: ການເປີດເຜີຍ ແລະແກ້ໄຂຮ່ອງຮອຍນ້ຳລັບຂອງຕົວແບບ AI (ການຝຶກອົບຮົມ ນັບລ້ານລິດ , ເວລາ ແລະ ການຈັດຕາຕະລາງການຮັບຮູ້ສະຖານທີ່ , ການຖອນຕົວທຽບກັບການບໍລິໂພກ). ເຊື່ອມຕໍ່
-
Microsoft - ສູນກາງຂໍ້ມູນຮຸ່ນຕໍ່ໄປບໍລິໂພກນ້ໍາສູນສໍາລັບການເຮັດຄວາມເຢັນ (ການອອກແບບໂດຍກົງຫາຊິບເພື່ອແນໃສ່ການເຮັດຄວາມເຢັນທີ່ບໍ່ມີນ້ໍາຢູ່ໃນບາງສະຖານທີ່). ເຊື່ອມຕໍ່
-
ສູນຂໍ້ມູນ Google - ປະຕິບັດການແບບຍືນຍົງ (ການລົງທືນເຮັດຄວາມເຢັນຈາກແຕ່ລະບ່ອນ; ການລາຍງານ ແລະການນຳໃຊ້ຄືນໃໝ່, ລວມທັງການເກັບຄືນ/ນ້ຳສີເທົາ; ຄຳສັ່ງການນຳໃຊ້ລະດັບເວັບໄຊຕາມປົກກະຕິໃນແຕ່ລະມື້). ເຊື່ອມຕໍ່