ಜಿಮ್ ಕೆಲ್ಲರ್ ನೇತೃತ್ವದ ಚಿಪ್ ಕಂಪನಿ Tenstorrent ತನ್ನ ಮುಂದಿನ ಪೀಳಿಗೆಯ ವರ್ಮ್ಹೋಲ್ ಪ್ರೊಸೆಸರ್ ಅನ್ನು AI ವರ್ಕ್‌ಲೋಡ್‌ಗಳಿಗಾಗಿ ಬಿಡುಗಡೆ ಮಾಡಿದೆ, ಇದು ಕೈಗೆಟುಕುವ ಬೆಲೆಯಲ್ಲಿ ಉತ್ತಮ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ನೀಡುತ್ತದೆ ಎಂದು ನಿರೀಕ್ಷಿಸುತ್ತದೆ.ಕಂಪನಿಯು ಪ್ರಸ್ತುತ ಎರಡು ಹೆಚ್ಚುವರಿ PCIe ಕಾರ್ಡ್‌ಗಳನ್ನು ಒದಗಿಸುತ್ತದೆ, ಅದು ಒಂದು ಅಥವಾ ಎರಡು ವರ್ಮ್ಹೋಲ್ ಪ್ರೊಸೆಸರ್‌ಗಳಿಗೆ ಅವಕಾಶ ಕಲ್ಪಿಸುತ್ತದೆ, ಹಾಗೆಯೇ ಸಾಫ್ಟ್‌ವೇರ್ ಡೆವಲಪರ್‌ಗಳಿಗಾಗಿ TT-LoudBox ಮತ್ತು TT-QuietBox ಕಾರ್ಯಸ್ಥಳಗಳನ್ನು ಒದಗಿಸುತ್ತದೆ. ಇಂದಿನ ಎಲ್ಲಾ ಪ್ರಕಟಣೆಗಳು ಡೆವಲಪರ್‌ಗಳನ್ನು ಗುರಿಯಾಗಿರಿಸಿಕೊಂಡಿವೆ, ವಾಣಿಜ್ಯ ಕೆಲಸದ ಹೊರೆಗಳಿಗಾಗಿ ವರ್ಮ್ಹೋಲ್ ಬೋರ್ಡ್‌ಗಳನ್ನು ಬಳಸುವವರಲ್ಲ.
“ನಮ್ಮ ಹೆಚ್ಚಿನ ಉತ್ಪನ್ನಗಳನ್ನು ಡೆವಲಪರ್‌ಗಳ ಕೈಗೆ ಪಡೆಯುವುದು ಯಾವಾಗಲೂ ತೃಪ್ತಿಕರವಾಗಿದೆ. ನಮ್ಮ ವರ್ಮ್ಹೋಲ್™ ಕಾರ್ಡ್‌ಗಳನ್ನು ಬಳಸಿಕೊಂಡು ಅಭಿವೃದ್ಧಿ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಬಿಡುಗಡೆ ಮಾಡುವುದರಿಂದ ಡೆವಲಪರ್‌ಗಳು ಮಲ್ಟಿ-ಚಿಪ್ AI ಸಾಫ್ಟ್‌ವೇರ್ ಅನ್ನು ಅಳೆಯಲು ಮತ್ತು ಅಭಿವೃದ್ಧಿಪಡಿಸಲು ಸಹಾಯ ಮಾಡಬಹುದು,” ಎಂದು ಟೆನ್‌ಸ್ಟೊರೆಂಟ್‌ನ CEO ಜಿಮ್ ಕೆಲ್ಲರ್ ಹೇಳಿದ್ದಾರೆ.ಈ ಉಡಾವಣೆಯ ಜೊತೆಗೆ, ನಮ್ಮ ಎರಡನೇ ತಲೆಮಾರಿನ ಉತ್ಪನ್ನವಾದ ಬ್ಲ್ಯಾಕ್‌ಹೋಲ್‌ನ ಟೇಪ್ ಔಟ್ ಮತ್ತು ಪವರ್-ಅಪ್‌ನೊಂದಿಗೆ ನಾವು ಮಾಡುತ್ತಿರುವ ಪ್ರಗತಿಯನ್ನು ನೋಡಲು ನಾವು ಉತ್ಸುಕರಾಗಿದ್ದೇವೆ.
ಪ್ರತಿ ವರ್ಮ್ಹೋಲ್ ಪ್ರೊಸೆಸರ್ 72 ಟೆನ್ಸಿಕ್ಸ್ ಕೋರ್‌ಗಳನ್ನು ಹೊಂದಿರುತ್ತದೆ (ಅವುಗಳಲ್ಲಿ ಐದು ವಿವಿಧ ಡೇಟಾ ಫಾರ್ಮ್ಯಾಟ್‌ಗಳಲ್ಲಿ RISC-V ಕೋರ್‌ಗಳನ್ನು ಬೆಂಬಲಿಸುತ್ತದೆ) ಮತ್ತು 108 MB SRAM, 160W ನ ಥರ್ಮಲ್ ವಿನ್ಯಾಸ ಶಕ್ತಿಯೊಂದಿಗೆ 1 GHz ನಲ್ಲಿ 262 FP8 TFLOPS ಅನ್ನು ತಲುಪಿಸುತ್ತದೆ. ಸಿಂಗಲ್-ಚಿಪ್ ವರ್ಮ್ಹೋಲ್ n150 ಕಾರ್ಡ್ 12 GB GDDR6 ವೀಡಿಯೊ ಮೆಮೊರಿಯನ್ನು ಹೊಂದಿದೆ ಮತ್ತು 288 GB/s ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಅನ್ನು ಹೊಂದಿದೆ.
ವರ್ಮ್ಹೋಲ್ ಪ್ರೊಸೆಸರ್ಗಳು ಕೆಲಸದ ಹೊರೆಗಳ ವೈವಿಧ್ಯಮಯ ಅಗತ್ಯಗಳನ್ನು ಪೂರೈಸಲು ಹೊಂದಿಕೊಳ್ಳುವ ಸ್ಕೇಲೆಬಿಲಿಟಿಯನ್ನು ಒದಗಿಸುತ್ತದೆ. ನಾಲ್ಕು ವರ್ಮ್ಹೋಲ್ n300 ಕಾರ್ಡ್‌ಗಳೊಂದಿಗೆ ಪ್ರಮಾಣಿತ ವರ್ಕ್‌ಸ್ಟೇಷನ್ ಸೆಟಪ್‌ನಲ್ಲಿ, ಪ್ರೊಸೆಸರ್‌ಗಳನ್ನು ಏಕೀಕೃತ, ವಿಶಾಲವಾದ ಟೆನ್ಸಿಕ್ಸ್ ಕೋರ್ ನೆಟ್‌ವರ್ಕ್‌ನಂತೆ ಸಾಫ್ಟ್‌ವೇರ್‌ನಲ್ಲಿ ಕಾಣಿಸಿಕೊಳ್ಳುವ ಏಕ ಘಟಕವಾಗಿ ಸಂಯೋಜಿಸಬಹುದು. ಈ ಸಂರಚನೆಯು ವೇಗವರ್ಧಕವನ್ನು ಒಂದೇ ಕೆಲಸದ ಹೊರೆಯನ್ನು ನಿರ್ವಹಿಸಲು, ನಾಲ್ಕು ಡೆವಲಪರ್‌ಗಳ ನಡುವೆ ವಿಭಜನೆ ಮಾಡಲು ಅಥವಾ ಏಕಕಾಲದಲ್ಲಿ ಎಂಟು ವಿಭಿನ್ನ AI ಮಾದರಿಗಳನ್ನು ಚಲಾಯಿಸಲು ಅನುಮತಿಸುತ್ತದೆ. ಈ ಸ್ಕೇಲೆಬಿಲಿಟಿಯ ಪ್ರಮುಖ ಲಕ್ಷಣವೆಂದರೆ ಇದು ವರ್ಚುವಲೈಸೇಶನ್ ಅಗತ್ಯವಿಲ್ಲದೇ ಸ್ಥಳೀಯವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. ಡೇಟಾ ಸೆಂಟರ್ ಪರಿಸರದಲ್ಲಿ, ವರ್ಮ್ಹೋಲ್ ಪ್ರೊಸೆಸರ್ಗಳು ಯಂತ್ರದ ಒಳಗೆ ವಿಸ್ತರಣೆಗಾಗಿ PCIe ಅನ್ನು ಅಥವಾ ಬಾಹ್ಯ ವಿಸ್ತರಣೆಗಾಗಿ ಈಥರ್ನೆಟ್ ಅನ್ನು ಬಳಸುತ್ತದೆ.
ಕಾರ್ಯಕ್ಷಮತೆಗೆ ಸಂಬಂಧಿಸಿದಂತೆ, ಟೆನ್‌ಸ್ಟೊರೆಂಟ್‌ನ ಸಿಂಗಲ್-ಚಿಪ್ ವರ್ಮ್ಹೋಲ್ n150 ಕಾರ್ಡ್ (72 ಟೆನ್ಸಿಕ್ಸ್ ಕೋರ್‌ಗಳು, 1 GHz ಆವರ್ತನ, 108 MB SRAM, 12 GB GDDR6, 288 GB/s ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್) 262 FP8 TFLOPS ಅನ್ನು 160W ಬೋರ್ಡ್‌ನಲ್ಲಿ ಸಾಧಿಸಿದೆ ಅಥವಾ 160W dual-chip (128 Tensix ಕೋರ್‌ಗಳು, 1 GHz ಆವರ್ತನ, 192 MB SRAM, ಒಟ್ಟು 24 GB GDDR6, 576 GB/s ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್) 300W ನಲ್ಲಿ 466 FP8 TFLOPS ವರೆಗೆ ತಲುಪಿಸುತ್ತದೆ.
466 FP8 TFLOPS ನ 300W ಅನ್ನು ಸನ್ನಿವೇಶಕ್ಕೆ ಹಾಕಲು, ಈ ಥರ್ಮಲ್ ವಿನ್ಯಾಸದ ಪವರ್‌ನಲ್ಲಿ AI ಮಾರುಕಟ್ಟೆಯ ನಾಯಕ ಎನ್‌ವಿಡಿಯಾ ನೀಡುತ್ತಿರುವುದನ್ನು ನಾವು ಹೋಲಿಸುತ್ತೇವೆ. Nvidia ನ A100 FP8 ಅನ್ನು ಬೆಂಬಲಿಸುವುದಿಲ್ಲ, ಆದರೆ ಇದು INT8 ಅನ್ನು ಬೆಂಬಲಿಸುತ್ತದೆ, 624 ಟಾಪ್‌ಗಳ ಗರಿಷ್ಠ ಕಾರ್ಯಕ್ಷಮತೆಯೊಂದಿಗೆ (ವಿರಳವಾದಾಗ 1,248 ಟಾಪ್‌ಗಳು). ಹೋಲಿಸಿದರೆ, Nvidia ನ H100 FP8 ಅನ್ನು ಬೆಂಬಲಿಸುತ್ತದೆ ಮತ್ತು 300W ನಲ್ಲಿ 1,670 TFLOPS ನ ಗರಿಷ್ಠ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ತಲುಪುತ್ತದೆ (3,341 TFLOPS ವಿರಳವಾಗಿ), ಇದು Tenstorrent ನ ವರ್ಮ್ಹೋಲ್ n300 ಗಿಂತ ಗಮನಾರ್ಹವಾಗಿ ಭಿನ್ನವಾಗಿದೆ.
ಆದಾಗ್ಯೂ, ಒಂದು ಪ್ರಮುಖ ಸಮಸ್ಯೆ ಇದೆ. ಟೆನ್‌ಸ್ಟೊರೆಂಟ್‌ನ ವರ್ಮ್ಹೋಲ್ n150 $999 ಗೆ ಮಾರಾಟವಾಗುತ್ತದೆ, ಆದರೆ n300 $1,399 ಗೆ ಮಾರಾಟವಾಗುತ್ತದೆ. ಹೋಲಿಸಿದರೆ, ಒಂದೇ Nvidia H100 ಗ್ರಾಫಿಕ್ಸ್ ಕಾರ್ಡ್ ಪ್ರಮಾಣವನ್ನು ಅವಲಂಬಿಸಿ $30,000 ಕ್ಕೆ ಚಿಲ್ಲರೆಯಾಗುತ್ತದೆ. ಸಹಜವಾಗಿ, ನಾಲ್ಕು ಅಥವಾ ಎಂಟು ವರ್ಮ್ಹೋಲ್ ಪ್ರೊಸೆಸರ್ಗಳು ಒಂದೇ H300 ನ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ತಲುಪಿಸಬಹುದೇ ಎಂದು ನಮಗೆ ತಿಳಿದಿಲ್ಲ, ಆದರೆ ಅವುಗಳ TDPಗಳು ಕ್ರಮವಾಗಿ 600W ಮತ್ತು 1200W.
ಕಾರ್ಡ್‌ಗಳಿಗೆ ಹೆಚ್ಚುವರಿಯಾಗಿ, ಟೆನ್‌ಸ್ಟೊರೆಂಟ್ ಡೆವಲಪರ್‌ಗಳಿಗೆ ಪೂರ್ವ-ನಿರ್ಮಿತ ಕಾರ್ಯಸ್ಥಳಗಳನ್ನು ಒದಗಿಸುತ್ತದೆ, ಸಕ್ರಿಯ ಕೂಲಿಂಗ್‌ನೊಂದಿಗೆ ಹೆಚ್ಚು ಕೈಗೆಟುಕುವ ಕ್ಸಿಯಾನ್-ಆಧಾರಿತ TT-ಲೌಡ್‌ಬಾಕ್ಸ್‌ನಲ್ಲಿ 4 n300 ಕಾರ್ಡ್‌ಗಳು ಮತ್ತು ಸುಧಾರಿತ TT-QuietBox ಜೊತೆಗೆ EPYC-ಆಧಾರಿತ Xiaolong) ಲಿಕ್ವಿಡ್ ಕೂಲಿಂಗ್ ಕಾರ್ಯ).
ಪೋಸ್ಟ್ ಸಮಯ: ಜುಲೈ-29-2024