Superkomputer Summit, yang dikembangkan oleh IBM untuk Laboratorium Nasional Oak Ridge, menjadi yang terkuat di dunia pada tahun 2018, mengambil gelar ini dari Cina untuk pertama kalinya dalam lima tahun.Di pantai barat AS, perusahaan paling berharga di dunia berlomba untuk membuat AI lebih pintar. Google dan Facebook membual eksperimen menggunakan miliaran foto dan ribuan prosesor yang kuat. Namun, setelah itu, tahun lalu sebuah proyek dari Tennessee Timur diam-diam melampaui skala AI perusahaan. Dan dia berjalan di bawah kepemimpinan pemerintah AS.
Proyek rekaman itu melibatkan superkomputer paling kuat di dunia,
Summit , dari Oak Ridge National Laboratory. Komputer itu mampu menangkap gelar ini Juni lalu, membawanya kembali ke Amerika Serikat setelah lima tahun keunggulan Cina. Sebagai bagian dari proyek studi iklim, komputer raksasa itu mengunggah eksperimen pembelajaran mesin, yang merupakan hal tercepat yang pernah terjadi sebelumnya.
Summit, yang mencakup area yang setara dengan dua lapangan tenis, menggunakan lebih dari 27.000 GPU kuat dalam proyek ini. Mereka mengarahkan kemampuan mereka untuk bekerja dengan algoritma pembelajaran yang mendalam, sebuah teknologi yang memimpin garis depan AI, yang mampu menggiling informasi dengan kecepatan satu miliar miliar operasi per detik - kecepatan dalam lingkaran superkomputer ini dikenal sebagai exaop [penulis memiliki exaflops di sini - ia mencampuradukkan flops, operasi floating point, dengan ops, operasi secara umum. Kekuatan pemrosesan KTT adalah 122 petaflops, berpotensi maksimum adalah 200 petaflops. Pada saat yang sama, ia menjadi komputer pertama yang mencapai tingkat exaop, atau 10
18 operasi per detik. Selama analisis informasi genetik, kecepatan 1,88 exaop telah dicapai, dan diharapkan 3,3 exaop / approx akan dicapai selama perhitungan campuran. diterjemahkan.].
"Sampai sekarang, pelatihan mendalam belum berkembang ke skala seperti itu," kata Prabhat, kelompok penelitian terkemuka di Pusat Ilmu Pengetahuan Nasional untuk Penelitian Energi di Lawrence Berkeley National Laboratory. (Ya, dia punya satu nama). Timnya berkolaborasi dengan para peneliti di pangkalan utama Summit, Laboratorium Nasional Oak Ridge.
Secara tepat, AI pada komputer yang kuat berfokus pada salah satu masalah terbesar di dunia: perubahan iklim. Perusahaan teknologi melatih algoritma untuk mengenali wajah atau rambu jalan; ilmuwan negara melatih mereka untuk mengenali pola cuaca, misalnya, siklon, dalam kumpulan data berlimpah yang diperoleh dalam simulasi iklim, prakiraan tiga jam atmosfer Bumi, yang membentang selama seabad. (Tidak diketahui berapa banyak energi yang dihabiskan proyek ini atau berapa banyak karbon yang dipancarkannya ke atmosfer.)
Rak dengan peralatan Summit menghubungkan 300 km kabel serat optik, dan 15.000 liter air bersirkulasi setiap menit di sebelah 37.000 prosesor, mendinginkannya.Konsekuensi dari percobaan KTT akan mempengaruhi masa depan AI dan klimatologi. Proyek ini menunjukkan potensi ilmiah dari kemungkinan menerapkan GO ke superkomputer, yang secara tradisional telah terlibat dalam simulasi proses fisik dan kimia, seperti ledakan nuklir, lubang hitam, atau bahan baru. Dia juga menunjukkan bahwa peningkatan daya komputasi - jika diterima - memberikan manfaat bagi MO - dan ini menjadi pertanda baik bagi terobosan di masa depan.
"Sampai kami melakukan proyek ini, kami tidak tahu bahwa itu dapat skala begitu banyak," kata Rajat Monga, direktur teknik Google. Dia dan pembantu Google lainnya membantu proyek dengan mengadaptasi TensorFlow, perangkat lunak MO, ke skala luas Summit.
Sebagian besar pekerjaan dalam penskalaan GO terjadi di pusat data perusahaan Internet, di mana server bekerja sama dalam tugas, memecahnya menjadi beberapa bagian, karena fakta bahwa mereka digabungkan secara relatif bebas dan tidak terhubung ke satu komputer raksasa. Untuk superkomputer seperti Summit, arsitekturnya terlihat berbeda, mereka memiliki koneksi berkecepatan tinggi khusus yang menggabungkan ribuan prosesor menjadi satu sistem tunggal yang dapat bekerja secara keseluruhan. Sampai baru-baru ini, beberapa orang mencoba menyesuaikan MO untuk bekerja pada perangkat keras yang sama.
Monga mengatakan bekerja untuk mengadaptasi TensorFlow ke Summit akan merevitalisasi upaya Google untuk memperluas sistem AI-nya sendiri. Insinyur Nvidia juga membantu dalam proyek ini, memastikan kolaborasi tanpa batas dari puluhan ribu GPU Nvidia.
Fakta bahwa metode ditemukan untuk menyediakan algoritma GO dengan peningkatan daya pemrosesan telah memainkan peran dalam pengembangan aktif teknologi yang telah terjadi baru-baru ini. Teknologi yang digunakan Siri untuk mengenali suara Anda, dan mobil robot Waymo untuk mengenali rambu-rambu lalu lintas, menjadi berguna pada 2012, setelah para peneliti mengadaptasinya untuk bekerja pada GPU Nvidia.
Dalam sebuah
artikel analitik yang diterbitkan Mei lalu, para peneliti dari OpenAI, sebuah lembaga penelitian di San Francisco, salah satu investornya adalah Elon Musk, menghitung bahwa jumlah sumber daya komputasi dalam proyek terbesar terkait dengan MO yang diketahui publik sejak 2012 berlipat ganda kira-kira setiap 3,43 bulan - atau tumbuh 11 kali setahun. Kemajuan semacam itu telah membantu bot dari Alphabet, perusahaan induk Google, mengalahkan juara permainan papan dan video game yang rumit, dan membantu membuat lompatan besar dalam keakuratan terjemahan layanan Google.
Sekarang Google dan perusahaan lain menciptakan jenis chip baru yang dirancang khusus untuk AI untuk melanjutkan tren ini. Google mengatakan bahwa "pod" mereka, yang secara ketat mengintegrasikan lebih dari 1000 chip mereka untuk AI - mereka menyebutnya prosesor tensor, atau TPU - dapat memberikan 100 petaflop daya komputasi, yang 10 kali lipat [tampaknya, dua kali lebih nyata / kira-kira. trans.] kurang dari apa yang dicapai Summit dalam percobaan AI-nya.
Kontribusi KTT untuk klimatologi adalah untuk menunjukkan seberapa besar AI dapat meningkatkan pemahaman kita tentang pola cuaca di masa depan. Ketika para peneliti mengeluarkan prediksi iklim seratus tahun sebelumnya, menjadi sangat sulit untuk membacanya. “Bayangkan Anda memiliki video YouTube yang berdurasi 100 tahun. Secara manual Anda tidak dapat menemukan semua kucing dan anjing di sana, "kata Prabhat. Perangkat lunak yang biasanya digunakan untuk mengotomatisasi proses, katanya, tidak sempurna. Hasil KTT menunjukkan bahwa Kementerian Pertahanan dapat berbuat lebih baik, dan ini seharusnya membantu memprediksi efek badai seperti banjir dan kehancuran. Hasil-hasil KTT menghasilkan para peneliti di Oakridge dan Nvidia
the Gordon Bell Award for Excellence in Supercomputing.
Meluncurkan GO pada superkomputer adalah ide baru yang datang tepat pada waktu yang tepat untuk ahli iklim, kata Michael Pritchard, seorang profesor di University of California, Irvine. Kecepatan lambat dari peningkatan pada prosesor konvensional telah memaksa para insinyur untuk beralih ke pengisian superkomputer dengan peningkatan jumlah chip grafis, di mana kinerja tumbuh lebih andal. "Waktunya telah tiba ketika tidak mungkin lagi untuk meningkatkan daya komputasi dengan cara yang biasa," kata Pritchard.
Perubahan-perubahan ini merupakan hambatan untuk simulasi biasa yang harus disesuaikan. Mereka juga memberikan kesempatan untuk menarik semua kekuatan GO, yang secara alami cocok dengan chip grafis. Ini bisa memberi kita gambaran yang lebih jelas tentang masa depan iklim kita. Kelompok Pritchard tahun lalu menunjukkan bahwa GO dapat menghasilkan simulasi cloud yang lebih realistis dalam prakiraan iklim, yang dapat meningkatkan prakiraan perubahan pola curah hujan.