🧜 🤩 🕰️ Bagaimana rencana Elon Musk dan Y Combinator untuk menghentikan tirani komputer 💅🏽 ⚫️ 🛌

Mereka akan membiayai organisasi baru, OpenAI , untuk menciptakan jenis kecerdasan buatan yang paling canggih - dan kemudian memberikan hasilnya kepada masyarakat.

Seolah-olah area pengembangan AI tidak memiliki persaingan - raksasa seperti Google, Apple, Facebook, Microsoft, dan bahkan pembuat mobil seperti Toyota sudah mencoba untuk merekrut peneliti - itu dapat menyambut pemain baru, tetapi tidak yang sederhana. Ini adalah organisasi nirlaba OpenAI, pengumuman yang berlangsung pada Desember 2015 , dan yang berjanji untuk memberikan semua hasil pekerjaan ke domain publik, termasuk paten - segalanya untuk menghindari distopia di mana komputer lebih unggul dalam kecerdasan manusia.

Pendanaan akan disediakan oleh sekelompok selebriti teknologi termasuk orang-orang seperti Elon Musk, Reid Hoffman, Peter Thiel, Jessica Livingston dan Amazon Web Services. Bersama-sama mereka berencana untuk menghabiskan satu miliar dolar dalam jangka panjang. Musk dan Sam Altman, direktur Y Combinator, yang tim risetnya juga akan berkontribusi (dan Altman juga akan berpartisipasi), akan memimpin proyek.

Tidak mengejutkan melihat dalam seri ini Topeng, yang dikenal karena mengkritik AI. Tapi bagaimana dengan Y Combinator? Inkubator startup, yang dibuka 10 tahun lalu sebagai proyek musim panas, mendanai enam startup. Inkubator membayar gaji mereka kepada para pendiri dan memberikan nasihat berharga tentang pengembangan bisnis. Sejak itu, YC telah membantu hampir seribu perusahaan, termasuk Dropbox, Airbnb, dan Stripe, dan baru-baru ini membuka departemen penelitian. Selama dua tahun terakhir, telah dikelola oleh Altman, yang perusahaannya Loopt dimulai pada 2005, dan pada 2012 dijual seharga $ 43,2 juta. Meskipun YC dan Altman mendirikan OpenAI, dan Altman juga merupakan direktur perusahaan ini, ia masih independen.

Intinya, OpenAI adalah laboratorium penelitian yang dirancang untuk melawan perusahaan besar sehingga mereka tidak dapat memperoleh laba terlalu besar dengan menerima AI yang mereka miliki. Proyek ini juga akan bekerja melawan pemerintah yang dapat menggunakan AI untuk memperkuat kekuatan mereka dan menindas warga. Kedengarannya terlalu idealis, tetapi tim telah mempekerjakan beberapa orang serius, termasuk mantan kepala teknisi Stripe, Greg Brockman (dia akan menjadi kepala teknologi di OpenAI), dan peneliti kelas dunia Ilya Sackweaver, yang bekerja untuk Google dan termasuk dalam kelompok ilmuwan muda yang terkenal, belajar di bawah kepemimpinan pelopor jaringan saraf Jeff Hinton di Toronto. Dia akan menjadi direktur departemen penelitian. Lowongan lainnya diambil oleh orang-orang muda berbakat yang resume termasuk bekerja di proyek penelitian, Facebook AI dan DeepMind.Perusahaan ini juga menawarkan penasihat bintang, termasuk Alan Kay, salah satu pelopor ilmu komputer.

Para pemimpin proyek berbicara dengan saya tentang dia dan aspirasinya. Awalnya saya berbicara dengan Altman, dan sekali lagi bersamanya di perusahaan Musk dan Brockman. Saya menggabungkannya menjadi satu artikel.

Bagaimana semuanya dimulai?

Sam Altman: Kami meluncurkan tim riset YC satu setengah bulan yang lalu, tetapi pemikiran tentang AI telah mengunjungi saya sejak lama, seperti Ilona. Jika Anda memikirkan hal-hal terpenting untuk masa depan seluruh dunia, maka, menurut saya, AI yang baik akan menjadi salah satu yang paling penting di antara mereka. Itu sebabnya kami membuat OpenAI. Organisasi akan mencoba mengembangkan AI yang ramah terhadap manusia. Dan karena ini adalah nirlaba, seluruh dunia akan memilikinya.

Elon Musk: Seperti yang Anda tahu, selama beberapa waktu saya takut terhadap AI. Dan saya banyak berbicara dengan Sam dan Reid [Hoffman], Peter Thiel dan lainnya. Dan kami berpikir, “Apakah tidak ada cara untuk memastikan, atau setidaknya meningkatkan kemungkinan AI akan memberi kita keuntungan?” Sebagai hasil dari pembicaraan, kami memutuskan bahwa mengorganisir NPO akan menjadi ide yang baik. Dan kami akan sangat serius berkonsentrasi pada keamanan.

Dari sudut pandang filosofis, ada elemen penting: kami menginginkan AI yang tersebar luas. Ada dua pendapat - apakah kita membutuhkan banyak AI, atau hanya beberapa AI? Kami pikir banyak yang lebih baik. Dan itu baik jika mereka dapat direpresentasikan sebagai perpanjangan dari kehendak manusia.

Kehendak manusia?

IM: AI sebagai perpanjangan dari diri Anda, yaitu, bahwa seseorang hidup dalam simbiosis dengan AI, alih-alih AI menjadi semacam kecerdasan pusat dari beberapa jenis. Apa yang Anda pikirkan, katakanlah, aplikasi di Internet - Anda memiliki email, jejaring sosial, aplikasi seluler. Mereka, pada dasarnya, membuat Anda superman, dan Anda tidak menganggap mereka sebagai sesuatu yang terpisah, Anda menganggap mereka sebagai perpanjangan dari diri Anda. Oleh karena itu, sejauh kita dapat melakukan AI ke arah ini, kita ingin melakukan ini. Dan kami menemukan banyak insinyur dan peneliti AI yang berpikiran sama.

SA: Kami percaya bahwa lebih baik jika AI berkembang ke arah peningkatan kemampuan individu dan peningkatan orang, dan akan dapat diakses oleh semua orang, dan tidak akan menjadi satu-satunya entitas yang sejuta kali lebih kuat daripada seseorang. Karena perusahaan kami adalah nirlaba, kami akan fokus bukan pada memperkaya pemegang saham, tetapi pada apa yang terbaik untuk masa depan umat manusia.

Tapi bukankah Google berbagi pengembangan dengan publik, seperti yang baru saja dilakukan dengan pembelajaran mesin?

SA: Mereka berbagi banyak perkembangan. Namun seiring berjalannya waktu, saat kita semakin dekat dengan kecerdasan manusia, muncul pertanyaan tentang apa yang Google putuskan untuk dibagikan.

Dan proyek Anda tidak akan melampaui kecerdasan manusia?

SA: Saya kira begitu, tetapi itu akan menjadi proyek open source yang dapat digunakan siapa saja, tidak hanya, katakanlah, Google. Segala sesuatu yang kelompok akan kembangkan akan tersedia untuk semua orang. Jika Anda mengambil pekerjaan ini dan menyesuaikannya dengan kebutuhan Anda, Anda tidak perlu membagikan hasilnya. Tapi semua yang kami lakukan akan tersedia untuk semua orang.

Dan jika saya adalah Dr. Evil, dan menggunakannya untuk tujuan saya sendiri? Apakah kamu tidak membantu saya dengan ini?

IM: Ini pertanyaan yang bagus, dan kami banyak berdebat tentang itu.

SA: Ada banyak pemikiran tentang hal ini. Sama seperti orang melindungi manusia dari para dokter Jahat dengan fakta bahwa ada banyak dari mereka, dan hanya ada satu dokter, jadi kami pikir skema kami akan berhasil, di mana banyak AI akan bekerja melawan penjahat langka. Skema ini lebih baik daripada di mana ada satu AI, lebih kuat dari yang lain. Jika satu hal yang kuat ini lepas dari kumparan, atau Dr. Evil mengendalikannya, dan ia tidak memiliki apa pun untuk ditentang, ini akan menjadi masalah besar.

Apakah Anda akan mengendalikan apa yang tumbuh dari OpenAI?

SA: Kami ingin membangun sistem kontrol dari waktu ke waktu. Sejauh ini, hanya aku dan Ilon. Perkembangan AI nyata masih sangat jauh. Saya pikir kita akan memiliki cukup waktu untuk membuat fungsi kontrol.

IM: Saya akan menghabiskan waktu dengan tim proyek di kantor sekitar sekali seminggu atau dua minggu, belajar tentang pembaruan, mengekspresikan pendapat saya dan memahami seberapa jauh AI telah maju dan seberapa dekat kita dengan sesuatu yang berbahaya. Secara pribadi, saya akan sangat serius tentang keamanan. Saya sangat prihatin dengan ini. Dan jika kita menemukan beberapa momen berisiko, kita pasti akan mengumumkannya kepada publik.

Apakah Anda memiliki contoh AI jahat?

SA: Ada banyak fiksi ilmiah, sebelum implementasi yang masih bertahun-tahun - Terminator dan sejenisnya. Saya tidak khawatir tentang terjadinya hal-hal seperti itu dalam waktu dekat. Tapi masalah seperti apa yang harus dihadapi - meskipun ini bukan AI jahat - demikian pula dengan otomatisasi umum dan hilangnya pekerjaan. Contoh lain dari AI jahat adalah ketika orang berbicara tentang program pintar yang memecahkan komputer lebih baik daripada manusia. Dan ini sudah terjadi.

Apakah Anda mulai bekerja dengan semacam sistem yang sudah jadi?

SA: Tidak. Penelitian akan dimulai seperti di laboratorium mana pun, dan untuk waktu yang sangat lama akan terlihat seperti laboratorium. Sejauh ini tidak ada yang tahu cara membangunnya. Kami sudah memiliki delapan peneliti, dan beberapa lagi akan bergabung dengan proyek dalam beberapa bulan. Sejauh ini, mereka akan bekerja di kantor YC, dan saat mereka tumbuh, mereka akan pindah ke kantor mereka sendiri. Mereka akan bermain dengan ide-ide dan menulis perangkat lunak untuk memahami jika mereka dapat mengembangkan kondisi terkini dalam menciptakan AI.

Akankah orang-orang dari luar berpartisipasi dalam ini?

SA: Tentu saja. Salah satu manfaat dari program terbuka adalah bahwa laboratorium dapat berkolaborasi dengan siapa pun karena mereka dapat berbagi informasi dengan bebas. Sangat sulit untuk bekerja dengan karyawan Google, karena mereka memiliki banyak batasan privasi.

Sam, jika OpenAI akan bekerja di kantor YC, akankah startup Anda memiliki akses ke hasil pekerjaan mereka?

SA: Jika OpenAI dikembangkan menjadi teknologi yang menarik dan semua orang dapat menggunakannya secara gratis, ini akan menjadi nilai tambah bagi perusahaan teknologi mana pun. Tapi tidak lebih dari itu. Namun, kami akan meminta startup kami untuk memberikan informasi sebanyak yang mereka inginkan untuk OpenAI. Dan Ilon juga akan memikirkan tentang apa yang dapat dibagikan Tesla dan SpaceX.

Dan apa, misalnya, informasi yang dapat dibagikan?

SA: Banyak hal. Misalnya, semua data dengan Reddit dapat menjadi set pelatihan yang bagus. Video pelatihan Tesla Robot Mobile juga akan sangat berharga. Sejumlah besar data sangat penting. Orang menjadi lebih pintar dengan membaca buku. Tetapi seseorang menjadi lebih pintar hanya dengan membaca buku sendiri. Dan jika salah satu mesin Tesla, misalnya, menemukan sesuatu tentang situasi baru, maka semua mesin Tesla akan secara otomatis mendapat manfaat dari ini.

IM: Secara umum, kami tidak memiliki sejumlah besar rencana khusus, karena perusahaan ini baru dalam masa pertumbuhan. Dia dalam kondisi embrio. Tetapi Tesla benar-benar memiliki banyak data dari dunia nyata, berkat jutaan mil yang dikumpulkan setiap hari dari armada kami. Tesla mungkin memiliki lebih banyak data dunia nyata daripada perusahaan lain di dunia.

AI membutuhkan daya komputasi yang serius. Infrastruktur apa yang akan Anda miliki?

CA: Kami bermitra dengan Amazon Web Services. Mereka menyediakan proyek kapasitas yang sangat besar.

Dan proyek itu akan mendapat satu miliar?

IM: Kita dapat mengatakan bahwa akan ada lebih banyak lagi. Kami tidak memberikan penawaran harga yang tepat, tetapi pemasukan besar akan datang dari semua individu ini.

Jam berapa sekarang?

SA: Untuk waktu yang diperlukan untuk membuat sistem. Kami akan menghemat, tetapi proyek ini, tampaknya, dirancang selama beberapa dekade, dan akan membutuhkan banyak orang dan peralatan.

Dan untung tidak wajib untuk Anda?

IM: Tepat. Investasi ini bukan dalam laba. Ada kemungkinan bahwa pendapatan akan muncul di masa depan, sama seperti Lembaga Penelitian nirlaba yang menerimanya. Di masa depan, pendapatan mungkin muncul, tetapi tidak akan ada keuntungan yang memperkaya pemilik bersama, tidak akan ada stok dan hal lainnya. Kami pikir juga begitu.

Ilon, Anda sebelumnya telah berinvestasi di perusahaan AI DeepMind, seperti yang saya pahami, karena alasan yang sama - untuk mengikuti perkembangan AI. Dan kemudian Google membelinya. Apakah ini upaya kedua?

IM: Saya sebenarnya bukan investor dalam arti biasa. Saya tidak melakukan investasi dengan tujuan menghasilkan keuntungan finansial. Saya berinvestasi di perusahaan yang saya bantu ciptakan, dan saya dapat membantu seorang teman, baik demi tujuan yang saya yakini, atau karena apa yang membuat saya bersemangat. Saya tidak melakukan diversifikasi di luar perusahaan saya dalam hal materi. Tapi "investasi" saya di DeepMind dibuat untuk pemahaman yang lebih baik tentang AI dan pengawasannya, jika Anda mau.

Apakah Anda akan bersaing dengan ilmuwan terbaik yang dapat bekerja di DeepMind atau Facebook atau Microsoft?

SA: Perekrutan berjalan baik sejauh ini. Para peneliti sangat senang dengan kebebasan, keterbukaan dan kesempatan untuk berbagi pekerjaan mereka, yang tidak ada di laboratorium produksi reguler. Kami telah membentuk tim awal yang berkualitas tinggi sehingga sisanya akan bergabung hanya untuk kerja sama dengan mereka. Dan saya juga berpikir bahwa misi, visi, dan struktur kami sangat populer di kalangan orang.

Berapa banyak peneliti yang akan Anda butuhkan? Ratusan?

SA: Mungkin.

Mari kita kembali ke gagasan bahwa penggunaan AI secara umum dapat menyelamatkan kita dari konsekuensi negatif. Apakah ada risiko yang membuatnya lebih mudah diakses akan meningkatkan potensi bahaya Anda?

SA: Saya ingin menghitung semua jam yang saya habiskan untuk berdebat tentang hal ini dengan Ilon dan yang lainnya. Dan masih 100% saya tidak yakin. Anda tidak bisa 100% yakin? Tetapi cobalah berbagai opsi pengembangan. Keamanan melalui kerahasiaan dalam hal teknologi jarang berhasil. Jika seseorang mendapatkannya sendiri, bagaimana memutuskan siapa yang memiliki Google, pemerintah Amerika, pemerintah Cina, ISIS [organisasi yang dilarang di Rusia - sekitar Terjemahan.], Atau siapa? Ada banyak penjahat di dunia, tetapi umat manusia berkembang. Dan apa yang terjadi jika salah satu dari mereka ternyata satu miliar kali lebih kuat daripada orang lain?

IM: Saya pikir pertahanan terbaik terhadap penggunaan AI yang tidak tepat adalah mempersenjatai sebanyak mungkin orang. Jika setiap orang memiliki kemampuan AI, maka tidak akan ada sekelompok kecil orang yang akan memiliki kekuatan super yang mereka miliki.

Ilon, Anda adalah direktur di dua perusahaan dan duduk di dewan direksi yang ketiga. Tampaknya Anda tidak punya banyak waktu luang untuk mencurahkan untuk proyek barunya.

IM: Itu benar. Tetapi keamanan AI telah menekan pikiran saya terlalu lama, dan saya berpikir bahwa demi ketenangan pikiran saya, saya akan membuat kesepakatan dengan diri saya sendiri.

Bagaimana rencana Elon Musk dan Y Combinator untuk menghentikan tirani komputer