தொழில்துறை செய்திகள்: ஜிம் கெல்லர் ஒரு புதிய RISC-V சிப்பை அறிமுகப்படுத்தியுள்ளார்.

ஒவ்வொரு வோர்ம்ஹோல் செயலியும் 72 டென்சிக்ஸ் கோர்களையும் (அவற்றில் ஐந்து பல்வேறு தரவு வடிவங்களில் RISC-V கோர்களை ஆதரிக்கின்றன) மற்றும் 108 MB SRAM ஐக் கொண்டுள்ளன, இது 160W வெப்ப வடிவமைப்பு சக்தியுடன் 1 GHz இல் 262 FP8 TFLOPS ஐ வழங்குகிறது. ஒற்றை-சிப் வோர்ம்ஹோல் n150 அட்டை 12 GB GDDR6 வீடியோ நினைவகத்துடன் பொருத்தப்பட்டுள்ளது மற்றும் 288 GB/s அலைவரிசையைக் கொண்டுள்ளது.

வோர்ம்ஹோல் செயலிகள், பணிச்சுமைகளின் பல்வேறு தேவைகளைப் பூர்த்தி செய்ய நெகிழ்வான அளவிடுதலை வழங்குகின்றன. நான்கு வோர்ம்ஹோல் n300 அட்டைகளைக் கொண்ட ஒரு நிலையான பணிநிலைய அமைப்பில், செயலிகளை ஒரு ஒருங்கிணைந்த, பரந்த டென்சிக்ஸ் கோர் நெட்வொர்க்காக மென்பொருளில் தோன்றும் ஒற்றை அலகாக இணைக்க முடியும். இந்த உள்ளமைவு முடுக்கி ஒரே பணிச்சுமையைக் கையாளவும், நான்கு டெவலப்பர்களிடையே பிரிக்கவும் அல்லது எட்டு வெவ்வேறு AI மாதிரிகள் வரை ஒரே நேரத்தில் இயக்கவும் அனுமதிக்கிறது. இந்த அளவிடுதலின் ஒரு முக்கிய அம்சம் என்னவென்றால், மெய்நிகராக்கம் தேவையில்லாமல் உள்ளூரில் இயங்க முடியும். ஒரு தரவு மைய சூழலில், வோர்ம்ஹோல் செயலிகள் இயந்திரத்திற்குள் விரிவாக்கத்திற்கு PCIe ஐ அல்லது வெளிப்புற விரிவாக்கத்திற்கு ஈதர்நெட்டைப் பயன்படுத்தும்.

செயல்திறனைப் பொறுத்தவரை, டென்ஸ்டோரெண்டின் ஒற்றை-சிப் வோர்ம்ஹோல் n150 அட்டை (72 டென்சிக்ஸ் கோர்கள், 1 GHz அதிர்வெண், 108 MB SRAM, 12 GB GDDR6, 288 GB/s அலைவரிசை) 160W இல் 262 FP8 TFLOPS ஐ அடைந்தது, அதே நேரத்தில் இரட்டை-சிப் வோர்ம்ஹோல் n300 போர்டு (128 டென்சிக்ஸ் கோர்கள், 1 GHz அதிர்வெண், 192 MB SRAM, ஒருங்கிணைந்த 24 GB GDDR6, 576 GB/s அலைவரிசை) 300W இல் 466 FP8 TFLOPS வரை வழங்குகிறது.

466 FP8 TFLOPS இன் 300W ஐ சூழலில் வைக்க, இந்த வெப்ப வடிவமைப்பு சக்தியில் AI சந்தைத் தலைவர் Nvidia வழங்கும்வற்றுடன் ஒப்பிடுவோம். Nvidia இன் A100 FP8 ஐ ஆதரிக்கவில்லை, ஆனால் இது INT8 ஐ ஆதரிக்கிறது, 624 TOPS (sparse இல் 1,248 TOPS) உச்ச செயல்திறனுடன். ஒப்பிடுகையில், Nvidia இன் H100 FP8 ஐ ஆதரிக்கிறது மற்றும் 300W இல் 1,670 TFLOPS (sparse இல் 3,341 TFLOPS) உச்ச செயல்திறனை அடைகிறது, இது Tenstorrent இன் Wormhole n300 இலிருந்து கணிசமாக வேறுபட்டது.

இருப்பினும், ஒரு பெரிய சிக்கல் உள்ளது. டென்ஸ்டோரெண்டின் வோர்ம்ஹோல் n150 $999க்கு விற்பனையாகிறது, அதே நேரத்தில் n300 $1,399க்கு விற்பனையாகிறது. ஒப்பிடுகையில், ஒரு Nvidia H100 கிராபிக்ஸ் அட்டை அளவைப் பொறுத்து $30,000க்கு விற்பனையாகிறது. நிச்சயமாக, நான்கு அல்லது எட்டு வோர்ம்ஹோல் செயலிகள் உண்மையில் ஒரு H300 இன் செயல்திறனை வழங்க முடியுமா என்பது எங்களுக்குத் தெரியாது, ஆனால் அவற்றின் TDPகள் முறையே 600W மற்றும் 1200W ஆகும்.

கார்டுகளுக்கு கூடுதலாக, டென்ஸ்டோரென்ட் டெவலப்பர்களுக்காக முன்பே கட்டமைக்கப்பட்ட பணிநிலையங்களை வழங்குகிறது, இதில் 4 n300 கார்டுகள் (செயலில் குளிர்ச்சியுடன் கூடிய மிகவும் மலிவு விலையில் Xeon-அடிப்படையிலான TT-LoudBox) மற்றும் மேம்பட்ட TT-QuietBox (EPYC-அடிப்படையிலான Xiaolong) திரவ குளிரூட்டும் செயல்பாடு) ஆகியவை அடங்கும்.