Memori analog 8-bit untuk bekerja dengan jaringan saraf

Pada akhir tahun, sebuah artikel muncul di Habré bahwa IBM mampu membuat chip 8-bit pertama berdasarkan memori dengan memori perubahan-fase (phase-change memory, atau PCM).

Hari ini kami akan memberi tahu Anda bagaimana perangkat yang diwakili oleh raksasa TI itu bekerja.


/ foto IBM Research CC BY-ND

Apa tujuan dari pengembangan chip?


Sistem pembelajaran mesin modern terutama beroperasi berdasarkan prosesor grafis (GPU). Mereka membutuhkan pendinginan aktif, karena GPU dapat memanas hingga dua kali lebih cepat daripada central processing unit (CPU). Ini diterjemahkan ke dalam tagihan listrik besar untuk pusat data di mana cluster komputasi tersebut berada.

Masalah pengurangan konsumsi energi penting untuk pusat data (DPC). Menurut analis , pada tahun 2025, pusat data akan mengkonsumsi 20% dari semua listrik yang dihasilkan. Untuk mengurangi biaya pusat data, teknologi baru untuk pembelajaran mesin (MO) sedang dikembangkan. Ini termasuk memori analog perubahan-fase (PCM) 8-bit dari IBM. Menurut pengembang, chip baru akan seratus kali lebih produktif daripada GPU klasik dan akan membutuhkan 280 kali lebih sedikit energi.

Kelebihan memori PCM dijelaskan oleh fakta bahwa pemrosesan dan penyimpanan data terjadi pada satu perangkat. Dalam sistem tradisional, proses-proses ini dipisahkan - data harus ditransfer dari perangkat ke perangkat, dan karenanya, kecepatan perhitungan dan efisiensi energinya berkurang.

Chip ini bekerja dengan angka floating point 8-bit. Biasanya, pembelajaran mesin menggunakan angka dengan akurasi yang lebih besar, namun, menurut peneliti IBM, ini cukup untuk tugas sehari-hari.

Pencipta teknologi berhasil menerapkannya dalam terjemahan teks dan pengakuan ucapan dan gambar. Jeff Welser, wakil presiden riset IBM, membandingkan operasi jaringan saraf dalam sebuah chip dengan seseorang yang melihat sosok buram di jendela berkabut, tetapi masih mengenali kerabat atau temannya di tempat ini.

IBM telah menunjukkan hasil pertama dari memori PCM dengan teknologi pembelajaran mesin. Jaringan saraf tunggal lapis sederhana diluncurkan pada chip, yang mengenali angka tulisan tangan 1, 0 dan 4. Algoritma membedakan gambar dengan akurasi 100 persen.

Cara Kerja Memori Analog IBM


Chip ini terbuat dari paduan germanium, telurium dan antimon, ditempatkan di antara dua elektroda. Ketika arus dilewatkan melalui material, ia mengubah kondisinya dari kristal menjadi amorf. Status ini berarti nol atau satu.

Karena kenyataan bahwa fase tidak berubah dalam seluruh volume paduan, tetapi hanya pada bagiannya, nilai antara antara 0 dan 1 dapat disimpan dalam sel. Ketika ditulis ke memori, angkanya tidak "bulat", dan ini membantu untuk mencapai akurasi yang lebih besar dari algoritma yang bekerja pada chip. Diyakini bahwa metode penyimpanan data ini lebih akurat menyampaikan perilaku neuron di otak manusia.

Saat membaca data, arus kecil dilewatkan melalui sel dan resistensi diukur. Dalam keadaan amorf, resistansi paduan ternyata lebih tinggi daripada yang kristal - parameter ini menentukan jumlah yang disimpan dalam sel.

Meskipun tegangan bacaan lebih rendah dari yang diperlukan untuk mengubah keadaan fase material, itu menyebabkan sedikit pergeseran partikel dan distorsi data. Oleh karena itu, IBM meningkatkan memori PCM dan menambahkan lapisan titanium nitrida tambahan ke perangkat, yang " membungkus " paduan tersebut - itu disebut reflektor.


/ Koelmans, WW et al. Perangkat memori perubahan-fase yang diproyeksikan / CC BY

Saat merekam data, reflektor tidak mempengaruhi aliran arus melalui paduan, karena resistansi titanium nitrida dalam kasus ini lebih tinggi dari resistansi bahan sel. Saat membaca data, resistansi bahan sel menjadi lebih tinggi daripada reflektor, dan oleh karena itu arus melewati lapisan luar, melewati paduan. IBM menyebut jenis memori ini Proj-PCM, atau PCM yang diproyeksikan - "PCM dengan reflektor".

Prospek teknologi


Dalam industri TI, chip baru bereaksi positif. Menurut editor ilmiah Ars Technica, perangkat ini memiliki potensi besar - dengan perkembangan teknologi dan pengurangan ukuran sel memori, IBM dapat meningkatkan produktivitas perangkat setidaknya seratus kali lipat. Namun, raksasa IT belum menyelesaikan beberapa kesulitan.

Yang pertama adalah produksi massal memori PCM. Menurut analis pasar prosesor Linley Gwennap, karakteristik chip, seperti tegangan operasi dan resistansi sirkuit elektronik, bervariasi dari satu perangkat ke perangkat lainnya. Gwennap percaya bahwa IBM belum mengembangkan proses pembuatan yang sesuai, sehingga chip analog tidak akan segera menjadi produk komersial.

Kesulitan lain adalah resistensi terhadap perubahan suhu. Sekarang, di bawah pengaruh panas atau dingin, paduan mengubah fase. Oleh karena itu, pembuat perangkat harus membuat cara untuk melindungi chip dari fluktuasi suhu. Mungkin solusinya adalah mengurangi ukuran perangkat - studi menunjukkan bahwa bahan tersebut kurang rentan terhadap suhu dengan ketebalan lapisan beberapa nanometer.


/ foto IBM Research CC BY-ND

Siapa lagi yang mengembangkan chip untuk MO


Teknologi serupa sedang dikembangkan oleh startup Mythic. Inti dari perangkat perusahaan adalah memori flash multi-level (multi-level cell, atau MLC). Sel chip tidak dapat menyimpan dua atau empat level pengisian daya, seperti pada perangkat memori flash yang lebih umum, tetapi 256. Ini sangat meningkatkan kapasitasnya. Diharapkan bahwa memori tersebut akan digunakan untuk mengimplementasikan algoritma pembelajaran mesin di Internet perangkat: smartphone, drone, speaker pintar dan alat bantu dengar .

Chip serupa lainnya dibuat oleh Syntiant. Perhitungan dalam perangkat juga dilakukan dalam memori MLC. Keuntungan utama dari teknologi ini adalah konsumsi daya yang rendah. Perwakilan perusahaan mengatakan perangkat mereka mengkonsumsi listrik 50 kali lebih sedikit daripada prosesor digital. Syntiant juga akan digunakan dalam gadget bertenaga baterai: smartphone, perangkat yang dapat dipakai, sensor dan kamera pengintai. Startup ini sudah bekerja pada implementasi komersial pertama dari teknologi - mikrofon "pintar".

Secara umum, chip PCM analog belum dirancang untuk komputasi presisi tinggi. Oleh karena itu, mereka digunakan dalam kombinasi dengan prosesor pusat dan grafis. IBM percaya bahwa arsitektur hybrid dapat mencapai keseimbangan antara kinerja dan akurasi. Namun di masa depan, diharapkan memori analog akan dapat menggantikan chip klasik di pusat data.



Blog IaaS Perusahaan Pertama:


Blog IaaS Telegram Kami:

Source: https://habr.com/ru/post/id435072/


All Articles