Prosesor Eyeriss 168-core terbaru - jaringan saraf pada smartphone kami

Selamat datang di pembaca kami di Halaman Blog iCover ! Pada Konferensi Solid State Circuits Conference (ISSCC-2016) Internasional yang diadakan pada awal Februari di San Francisco, tim pengembang dari MIT (Massachusetts Institute of Technology) mendemonstrasikan prototipe saat ini dari chip Eyeriss generasi baru, yang diciptakan sebagai solusi konseptual yang memungkinkan Anda untuk membuat ulang kemampuan algoritma jaringan saraf. dalam berbagai perangkat daya rendah.



Salah satu alasan obyektif mengapa jaringan saraf tiruan belum dikembangkan dengan baik di smartphone atau tablet kami adalah kurangnya pasokan daya yang kompak dari daya yang cukup. Memang, apa yang disebut sistem kecerdasan buatan "otak-seperti", seperti otak, setidaknya dalam bentuk di mana mereka diwakili oleh teknologi modern, tergantung dalam pekerjaan mereka pada prosesor multi-core yang kuat yang mengkonsumsi energi dalam jumlah yang luar biasa dibandingkan dengan otak kita. Bagaimanapun, sampai saat ini, tidak mungkin untuk membayangkan solusi seperti itu di tingkat perangkat kelas pengguna. Pada saat yang sama, gagasan "miniaturisasi" kecerdasan buatan menggairahkan pikiran pengembang untuk waktu yang lama dan, ternyata, sudah membawa hasil yang cukup nyata.

Jaringan saraf telah menjadi fokus perhatian para ilmuwan sejak hari pertama studi kecerdasan buatan, tetapi pada 1970-an, mereka agak dilupakan. Dalam dekade terakhir, teknologi yang terkait dengan menggunakan kemampuan jaringan saraf sedang dipelajari di tingkat program "pembelajaran dalam".

"Pembelajaran mendalam memiliki banyak kegunaan, seperti objek, ucapan, atau pengenalan wajah," kata Vivienne Sze dan Emanuel E. Landsman, asisten profesor di Institut Teknik Elektro dan Komputer Massachusetts, yang kelompoknya dikembangkan chip baru. “Sekarang, jaringan saraf cukup kompleks dan bekerja terutama pada chip yang kuat. Bayangkan Anda dapat mentransfer fungsionalitas ini ke ponsel Anda atau perangkat bawaan dan kemudian memproses sejumlah besar informasi tanpa menggunakan koneksi Wi-Fi. Memproses data dalam jumlah besar pada ponsel cerdas Anda akan memungkinkan Anda untuk menghindari keterlambatan yang timbul dari pertukaran data dengan jaringan, yang, pada gilirannya, akan memungkinkan banyak aplikasi bekerja lebih efisien. Dan selain itusolusi yang diusulkan akan memastikan kualitas baru perlindungan informasi rahasia. "

Jaringan saraf, sebagai suatu peraturan, diimplementasikan berdasarkan prosesor grafis multi-core (GPU). Pada konferensi internasional di San Francisco, para peneliti MIT meluncurkan chip 168-core baru yang dirancang untuk mengimplementasikan algoritma kecerdasan buatan berdasarkan jaringan saraf. Dibandingkan dengan GPU seluler (tidak ditunjukkan, dibandingkan dengan yang mana), prosesor telah menunjukkan efisiensi 10 kali lebih besar, yang memungkinkan Anda untuk menggunakan perangkat seluler khusus untuk menjalankan algoritma kecerdasan buatan yang kuat secara lokal tanpa perlu mengirim data untuk pemrosesan cloud. Sorotan pengembangan tercermin dalam siaran pers MIT 3 Februari 2016.

Chip baru, yang disebut oleh pengembang Eyeriss, dapat digunakan secara luas di Internet of Things, elektronik yang dapat dipakai, kendaraan self-driving, peralatan manufaktur, dan bahkan di bidang pertanian, membantu menyelesaikan dan mengoordinasikan tugas saat ini. Dengan algoritme kecerdasan buatan, perangkat seluler akan dapat membuat keputusan di tingkat lokal, memberikan pengguna hasil yang siap pakai sebagai panduan untuk bertindak, alih-alih sekumpulan data mentah dari Internet. Dan, tentu saja, salah satu aplikasi jaringan saraf lokal adalah penggunaannya dalam menciptakan robot otonom untuk berbagai keperluan.

Bagilah dan taklukkan


Jaringan saraf, sebagai suatu peraturan, memiliki struktur multilayer dan setiap lapisan mengandung sejumlah besar node pemrosesan. Pada tahap awal pemrosesan, data tiba dan didistribusikan di antara simpul-simpul lapisan bawah. Setelah memproses data yang diterima oleh setiap node, hasilnya ditransmisikan untuk diproses ke node lapisan berikutnya. Pada output dari lapisan terakhir, hasil pemecahan masalah terbentuk. Dengan demikian, untuk memecahkan masalah skala besar menggunakan algoritma yang dijelaskan, sumber daya komputasi yang signifikan akan diperlukan.

Persyaratan yang awalnya diberikan kepada chip oleh pengembang sendiri menempatkan mereka dalam kerangka kerja yang agak ketat: di satu sisi, solusinya harus hemat energi, di sisi lain, harus beroperasi dengan blok informasi sederhana. Akhirnya, chip harus memiliki kemampuan untuk mensimulasikan berbagai jenis jaringan saraf, dengan mempertimbangkan tantangan saat ini. Semua persyaratan ini telah berhasil diimplementasikan dalam prosesor Eyeriss.

Chip yang dikembangkan di laboratorium MIT adalah jaringan saraf yang sudah terbentuk, terlokalisasi pada tingkat prosesor 168-inti, yang di masa depan dapat diintegrasikan ke dalam perangkat seluler.

Kunci efisiensi Eyeriss adalah untuk meminimalkan frekuensi pertukaran data antara core dan bank memori eksternal, operasi yang terkait dengan konsumsi daya tinggi dan biaya waktu. Sementara inti GPU tradisional terikat pada satu bank memori umum, masing-masing inti Eyeriss memiliki memori sendiri. Selain itu, data menjalani prosedur kompresi sebelum mandrel ke core tetangga.

Keuntungan lain dari algoritma yang diterapkan adalah kemampuan core untuk "berkomunikasi" satu sama lain secara langsung, melewati "perantara" dalam bentuk bus memori sistem. Ini adalah fitur penting untuk mensimulasikan Convolutional Neural Network (CNN). Semua pekerjaan komputasi yang diperlukan untuk pengenalan pola dan ucapan dilakukan secara lokal di Eyeriss, tanpa perlu mengakses sumber daya jaringan, yang memungkinkan untuk memastikan berfungsinya perangkat secara efektif bahkan tanpa adanya jaringan eksternal.

Akhirnya, keuntungan lain dari Eyeriss adalah prinsip distribusi "pintar" dari tugas-tugas komputasi individual antara inti dalam kerangka masalah tunggal yang dapat dipecahkan. Dalam memori lokalnya, kernel harus menyimpan tidak hanya data yang diproses oleh node, tetapi juga data yang menggambarkan node itu sendiri. Untuk memastikan kinerja maksimum dari proses pemrosesan data, serta memuat Eyeriss dengan jumlah maksimum data dari memori utama, algoritma distribusi data dari kedua jenis dioptimalkan oleh chip real-time yang dirancang khusus untuk tujuan ini, dengan mempertimbangkan karakteristik jaringan saraf saat ini.

Pada Konferensi Sirkuit Solid State International di San Francisco, tim pengembangan, menggunakan kemampuan chip Eyeriss tingkat pengguna, mendemonstrasikan implementasi algoritma pengenalan pola dalam jaringan saraf lokal. Tugas serupa - dicatat dalam siaran pers - dilaksanakan sebelumnya, tetapi pada tingkat proyek pemerintah yang paling modern dari jaringan saraf yang dibuat.

“Pekerjaan ini sangat penting karena menunjukkan betapa efisiennya prosesor tertanam yang tertanam dapat memberikan daya yang diperlukan dan kinerja optimisasi dan membawa proses komputasi yang kompleks dari cloud ke perangkat seluler,” kata Mike Polly, wakil presiden senior lab prosesor seluler Samsung Innovation Lab. menambahkan: "Selain berbagai solusi perangkat keras yang inovatif, studi oleh spesialis MIT dengan jelas menunjukkan bagaimana inti yang tertanam dapat berguna untuk pengembangan aplikasi handler menggunakan arsitektur jaringan standar dan AlexNet Caffe ».

Pendanaan proyek Eyeriss, dimulai dengan penciptaan unit berdasarkan laboratorium MIT, sebagian didanai oleh departemen pertahanan AS DARPA. Tidak mengherankan, orang pertama yang menanggapi pengumuman prosesor dengan bahan editorial yang mengesankan adalah Patrick Tucker, seorang analis militer terkenal. Menurutnya, prosesor Eyeriss baru yang diinstal pada perangkat seluler tentara AS akan dapat memecahkan masalah komputasi paling kompleks yang terkait dengan pemrosesan sejumlah besar informasi tanpa terhubung ke jaringan umum.

Jadi, saat ini, Angkatan Udara AS menerima hingga 1.500 jam video HD dan hingga 1.500 foto resolusi sangat tinggi dari drone yang melayang di atas Afghanistan. Terlebih lagi, semua aliran informasi tanpa akhir ini harus dianalisis secara visual oleh para operator dengan cara lama, karena perangkat lunak komputer yang ada tidak dapat membedakan petani yang berkeliaran di sepanjang jalur gunung dari teroris dengan peluncur rudal yang dipandu. Untuk mengatasi masalah tersebut, metode pembelajaran mesin berdasarkan pelatihan representatif awalnya dibuat.

Prosesor Eyeriss secara ideal cocok untuk pemasangan pada drone militer tak berawak, karena mereka akan memungkinkan pemrosesan cerdas dari serangkaian gambar dan video menggunakan teknologi pembelajaran mendalam langsung di atas pesawat. Pada saat yang sama, data berguna yang disaring dapat dikirim langsung ke unit-unit tempur yang beroperasi di wilayah tertentu dengan melewati pusat analisis informasi operasional.

Ringkasan Singkat

Selama percobaan, chip Eyeriss menunjukkan tingkat efisiensi energi yang sepuluh kali lebih tinggi daripada chip grafis mobile modern. Pada saat yang sama, dengan bantuannya ternyata secara teknologi memungkinkan untuk memastikan pengoperasian algoritma kecerdasan buatan pada perangkat dengan ukuran yang ringkas - dari smartphone dan tablet - hingga elektronik yang dapat dipakai. Penundaan yang dibuat oleh jaringan selama pertukaran data untuk prosesor semacam itu ternyata diminimalkan, karena sebagian besar perhitungan dapat dilakukan secara lokal oleh chip. Berdasarkan Eyeriss, dimungkinkan untuk membuat tidak hanya semua jenis "perangkat pintar", tetapi juga robot dengan tingkat kemandirian tertentu dalam pengambilan keputusan.

Pengembang MIT belum menyebutkan interval waktu tertentu di mana Eyeriss akan dapat berubah menjadi produk komersial dan dengan segala kekuatannya untuk mengungkapkan kemampuannya di tingkat konsumen. Beberapa keterlibatan dalam pengembangan spesialis NVIDIA terkemuka dan minat para peneliti Samsung yang bertanggung jawab menginspirasi optimisme.

Sumber



Pembaca yang budiman, kami selalu senang bertemu dan menunggu Anda di halaman blog kami. Kami siap untuk terus berbagi dengan Anda berita terbaru, bahan ulasan, dan publikasi lainnya, dan akan berusaha melakukan yang terbaik untuk membuat waktu yang dihabiskan bersama kami bermanfaat bagi Anda. Dan, tentu saja, jangan lupa berlangganan kolom kami . Artikel dan acara kami yang lain

Pilihan hadiah istimewa untuk 23 Februari dan 8 Maret dari iCover



Source: https://habr.com/ru/post/id390627/


All Articles