Network
BERITA SUBANG - NVIDIA, IBM, dan beberapa anggota universitas telah menciptakan arsitektur untuk menyediakan akses halus yang cepat ke sejumlah besar penyimpanan data untuk aplikasi harus bergantung pada GPU. Teknologi ini akan menguntungkan bidang-bidang seperti kecerdasan buatan, analitik, dan pelatihan pembelajaran mesin.
Diberi nama Big accelerator Memory (BaM) atau memori akselerator besar, solusi menarik ini merupakan upaya untuk menurunkan ketergantungan GPU NVIDIA dan akselerator perangkat keras yang sebanding pada CPU standar seperti mengakses penyimpanan, yang akan meningkatkan kinerja dan kapasitas.
NVIDIA bisa dibilang merupakan anggota tim proyek BaM yang paling menonjol, di mana perusahaan menggunakan sumber daya mereka yang luas untuk proyek-proyek inventif seperti memindahkan tugas rutin yang berfokus pada CPU ke inti kinerja GPU.
Alih-alih bergantung pada terjemahan alamat virtual, pemuatan data berdasarkan permintaan berdasarkan kesalahan halaman, serta mekanisme berbasis CPU standar tambahan untuk mengelola sejumlah besar data, BaM baru akan menghadirkan arsitektur perangkat lunak dan perangkat keras yang memungkinkan prosesor grafis NVIDIA untuk mengambil data secara langsung dari memori dan area penyimpanan dan memfungsikan data tersebut tanpa hanya mengandalkan core CPU.
"Tujuan BaM adalah untuk memperluas kapasitas memori GPU dan meningkatkan bandwidth akses penyimpanan yang efektif sambil memberikan abstraksi tingkat tinggi untuk utas GPU untuk dengan mudah membuat akses butir halus sesuai permintaan ke struktur data besar dalam hierarki memori yang diperluas," berikut bunyi pernyataan dari paper oleh tim BaM.
Adapun konsep BaM ini memiliki dua fitur menonjol dari cache memori GPU yang dikelola perangkat lunak. Penugasan mentransfer info antara penyimpanan data dan kartu grafis dikelola oleh utas yang terletak di inti GPU, melalui proses penggunaan RDMA, antarmuka PCI Express, dan driver kernel Linux khusus yang memungkinkan SSD untuk menulis dan membaca memori dari GPU bila diperlukan.
Kedua, pustaka perangkat lunak untuk utas GPU meminta data langsung dari NVMe SSD dengan berkomunikasi dengan drive tersebut. Perintah driver disiapkan oleh utas GPU hanya di bawah perintah jika data spesifik yang diminta tidak terletak di lokasi cache yang dikelola perangkat lunak.
Algoritma yang beroperasi pada prosesor grafis untuk menyelesaikan beban kerja yang berat akan dapat mengakses informasi yang diperlukan secara efisien dan paling penting sedemikian rupa sehingga dioptimalkan untuk rutinitas akses data spesifik mereka.
Para peneliti dari tiga kelompok bereksperimen pada prototipe sistem berbasis Linux yang menggunakan BaM dan GPU standar dan NVMe SSD untuk menunjukkan desain sebagai alternatif yang layak untuk pendekatan CPU saat ini yang mengarahkan semua hal.
