AI යටිතල පහසුකම් සඳහා Micron සමාගමේ 512GB මතක සන්ධිස්ථානය වැදගත් වන්නේ PC සඳහාට වඩා වැඩි ප්රමාණයකින්ය.
වාර්තා පවසන්නේ Micron සමාගම 512GB DDR5 මොඩියුලයක සන්ධිස්ථානයට ළඟා වී ඇති අතර 2027 වසරේ දෙවන භාගයේදී 512GB RDIMM විශාල පරිමාණ නිෂ්පාදනය ආරම්භ කිරීමට අපේක්ෂා කරන බවයි. මේ වනවිට එම කාලසටහන වාර්තාවල පරිදි පිළිගන්නා ලෙස සැලකීම වඩා හොඳය—තනිවම සනාථ කර ඇති මාර්ගෝපදේශයක් ලෙස නොසලකා.
Micron වෙතින් දැනටමත් පැහැදිලි දෙය නම්: සමාගම සේවාදායක මතකය ඉතා ඉහළ ධාරිතාවන් වෙත තල්ලු කරමින් සිටීමයි. ඔවුන් 1-gamma DRAM සහ උසස් 3D stacking භාවිත කරමින් 256GB DDR5 RDIMM පරීක්ෂා කර ඇත; වේගයන් 9,200 MT/s දක්වා. Micron පවසන්නේ තනි 256GB මොඩියුලයක්, 128GB මොඩියුල දෙකකට සාපේක්ෂව ක්රියාකාරී බල ශක්තිය 40%කට වඩා අඩු කළ හැකි බවයි.
මගේ තේරුම නම්: මතක ධාරිතාව AI පරිමාණකරණ සමීකරණයේ කොටසක් බවට පත්වෙමින් තිබීමයි—කේවල් පිරිවිතරයක්ම නොවෙයි.
ආකෘති සහ inference workload වර්ධනය වන විට, සේවාදායකයන්ට GPU compute සහ bandwidth සමඟින් වැඩි මතක ධාරිතාවක් අවශ්ය වේ. ඉහළ ධාරිතා RDIMM මගින්, නියමිත මතක අඩිපාරක් (memory footprint) සඳහා අවශ්ය මොඩියුල සංඛ්යාව අඩු කර, බලශක්ති සහ පද්ධති මට්ටමේ කාර්යක්ෂමතාව වැඩි කිරීමට හැක.
නමුත් මෙහි බාධාවක් ඇත: ඉහළ ධාරිතාව පමණක් AI යටිතල පහසුකම් bottleneck විසඳන්නේ නැත. Bandwidth, latency, power, packaging, CPU ගෘහ නිර්මාණය (architecture) සහ මුළු පද්ධති පිරිවැය (total system cost) තවමත් වැදගත් වේ.
ඒ නිසාම, headline එකට පමණක් නොව, sampling සිට production දක්වා Micron සමාගමේ ප්රගතිය දෙස මම වඩා සමීපව බලා සිටිමි. සැබෑ සංඥාව (signal) වන්නේ—ඉහළ ධාරිතා මතකය engineering සන්ධිස්ථානයකින් ඉවත් වී වාණිජමය වශයෙන් වැදගත් ලෙස යෙදවීමක් (commercially meaningful deployment) වෙත මාරු වන්නේද යන්න.
මෙම මාරුව මගින් AI යටිතල පහසුකම් සඳහා වියදම් ඇත්තටම යන්නේ කොතැනටද යන්න ගැන අපට බොහෝ දේ කියා දිය හැක.
වාර්තා පවසන්නේ Micron සමාගම 512GB DDR5 මොඩියුලයක සන්ධිස්ථානයට ළඟා වී ඇති අතර 2027 වසරේ දෙවන භාගයේදී 512GB RDIMM විශාල පරිමාණ නිෂ්පාදනය ආරම්භ කිරීමට අපේක්ෂා කරන බවයි. මේ වනවිට එම කාලසටහන වාර්තාවල පරිදි පිළිගන්නා ලෙස සැලකීම වඩා හොඳය—තනිවම සනාථ කර ඇති මාර්ගෝපදේශයක් ලෙස නොසලකා.
Micron වෙතින් දැනටමත් පැහැදිලි දෙය නම්: සමාගම සේවාදායක මතකය ඉතා ඉහළ ධාරිතාවන් වෙත තල්ලු කරමින් සිටීමයි. ඔවුන් 1-gamma DRAM සහ උසස් 3D stacking භාවිත කරමින් 256GB DDR5 RDIMM පරීක්ෂා කර ඇත; වේගයන් 9,200 MT/s දක්වා. Micron පවසන්නේ තනි 256GB මොඩියුලයක්, 128GB මොඩියුල දෙකකට සාපේක්ෂව ක්රියාකාරී බල ශක්තිය 40%කට වඩා අඩු කළ හැකි බවයි.
මගේ තේරුම නම්: මතක ධාරිතාව AI පරිමාණකරණ සමීකරණයේ කොටසක් බවට පත්වෙමින් තිබීමයි—කේවල් පිරිවිතරයක්ම නොවෙයි.
ආකෘති සහ inference workload වර්ධනය වන විට, සේවාදායකයන්ට GPU compute සහ bandwidth සමඟින් වැඩි මතක ධාරිතාවක් අවශ්ය වේ. ඉහළ ධාරිතා RDIMM මගින්, නියමිත මතක අඩිපාරක් (memory footprint) සඳහා අවශ්ය මොඩියුල සංඛ්යාව අඩු කර, බලශක්ති සහ පද්ධති මට්ටමේ කාර්යක්ෂමතාව වැඩි කිරීමට හැක.
නමුත් මෙහි බාධාවක් ඇත: ඉහළ ධාරිතාව පමණක් AI යටිතල පහසුකම් bottleneck විසඳන්නේ නැත. Bandwidth, latency, power, packaging, CPU ගෘහ නිර්මාණය (architecture) සහ මුළු පද්ධති පිරිවැය (total system cost) තවමත් වැදගත් වේ.
ඒ නිසාම, headline එකට පමණක් නොව, sampling සිට production දක්වා Micron සමාගමේ ප්රගතිය දෙස මම වඩා සමීපව බලා සිටිමි. සැබෑ සංඥාව (signal) වන්නේ—ඉහළ ධාරිතා මතකය engineering සන්ධිස්ථානයකින් ඉවත් වී වාණිජමය වශයෙන් වැදගත් ලෙස යෙදවීමක් (commercially meaningful deployment) වෙත මාරු වන්නේද යන්න.
මෙම මාරුව මගින් AI යටිතල පහසුකම් සඳහා වියදම් ඇත්තටම යන්නේ කොතැනටද යන්න ගැන අපට බොහෝ දේ කියා දිය හැක.