Lonjakan kebutuhan komputasi untuk model kecerdasan buatan skala besar (LLM) telah mendorong industri perangkat keras merombak desain arsitektur chip dari level mendasar. Masalah utama yang selama ini membayangi ekspansi pusat data AI—yakni panas berlebih dan konsumsi daya listrik raksasa—kini mulai teratasi berkat terobosan fabrikasi silikon terbaru.
Melansir siaran pers resmi industri yang diterbitkan melalui PR Newswire, peluncuran prosesor akselerator AI generasi terbaru ini memadukan kemasan 3D canggih (advanced 3D packaging) dengan memori pita lebar berkecepatan tinggi yang ditempatkan langsung di atas die silikon utama. Inovasi ini secara drastis memperpendek jarak transfer elektron dan mereduksi kehilangan energi termal.
Hasil pengujian laboratorium independen menunjukkan bahwa chip ini mampu menjalankan inferensi model bahasa berparameter triliunan dengan efisiensi daya 40 persen lebih hemat dibandingkan arsitektur generasi sebelumnya. Selain itu, kerapatan daya yang lebih rendah membuat kebutuhan sistem pendingin cair (liquid cooling) di pusat data dapat dioptimalkan secara signifikan.
Langkah ini diprediksi akan mempercepat komersialisasi pusat data AI yang lebih ramah lingkungan. Para penyedia layanan komputasi awan global kini dapat memperluas kapasitas layanan pemrosesan AI mereka tanpa harus melipatgandakan pasokan daya jaringan listrik di lokasi data center.