Siapa yang memiliki peluang melawan Google dalam perlombaan AI?
Google TPU adalah chip berukuran GPU yang dikembangkan untuk pembelajaran mendalam, ini adalah prosesor matriks yang khusus untuk beban kerja jaringan saraf.
"Cloud TPU v3 Pods generasi terbaru (lebih dari 1.000 chip TPU individu) didinginkan dengan cairan untuk kinerja maksimum, dan masing-masing memberikan lebih dari 100 petaFLOP daya komputasi. Dalam hal operasi matematika mentah per detik, Cloud TPU v3 Pod dapat dibandingkan dengan superkomputer top 5 di seluruh dunia (meskipun beroperasi pada ketepatan numerik yang lebih rendah).
Itu Cerebras 16nm TSMC wafer berukuran Chip adalah 46,225mm² die kekalahan yang mengkonsumsi 15kW dan paket 400.000 core, itu dikatakan memberikan kinerja dari sebuah peternakan dari seribu Nvidia GPU yang dapat mengambil bulan untuk merakit sementara membutuhkan hanya 2-3% dari yang ruang dan kekuatan.
"Cerebras perangkat kemasan 84 ubin dalam 7x12 larik. Masing-masing mencakup sekitar 4.800 core ditujukan untuk AI jarang linear aljabar dengan 48 KByte SRAM masing-masing (total 18 GB), sumber memori tunggal mereka.
- Bandwidth memori 9 Petabytes / s
- Bandwidth kain 100 Petabits / s
- Optimalisasi asli untuk sparsity (untuk menghindari mengalikan dengan nol)
- Kompatibilitas perangkat lunak dengan Kerangka AI standar seperti TensorFlow dan PyTorch
- Cerebras mengatakan saat ini sedang bekerja dengan pelanggan utama untuk mengevaluasi silikon awal, dan berharap untuk mengirimkan server produksi menggunakan WSE pada pertengahan 2020 "
Sebagai perbandingan, Nvidia Tesla V100 adalah 815mm² dengan 21,1 miliar transistor, sementara chip Cerabras 46.225mm² dengan 1,2 triliun transistor, itu 50x lebih besar.
Ya, itu satu chip; mereka tidak mengiris wafer.