Geekly articles weekly

Bagaimana Anda tahu jika hidup kita sudah di bawah naungan AI atau tidak? (pos paranoia)

Apakah Anda kebetulan memikirkan pikiran aneh? Anda menunda-nunda seperti ini, jangan menyentuh siapa pun, pikiran itu lamban dan tak terkendali mengalir, dan kemudian BAM, dan terlintas dalam pikiran ...



Jadi saya telah tersiksa oleh satu pikiran untuk waktu yang lama dan saya perlu membagikannya. Tidak, itu tidak sepenuhnya itu-shnaya, tetapi pada saat yang sama sangat sunyi dan entah bagaimana terhubung dengan semua ini "Internet" Anda, kecerdasan buatan dan hal-hal lainnya.

Sekali lagi, saya memikirkan hal ini ketika saya melihat bagian Terminator ... Sialan, bagian mana yang dilakukan John Connor oleh Christian Bale. Saya melihat, secara umum, film yang bagus, dengan plot yang menarik, liku yang tak terduga, intrik. Tetapi film ini memiliki satu masalah, perilaku SkyNet sudah antropomorfik di sana.

Untuk apa semua terminator humanoid ini? Mengapa pangkalan Skynet dilengkapi untuk kehadiran orang? Mengapa di adegan terakhir, ketika Skynet mengungkapkan rencananya yang berbahaya dan John Connor dan Kyle Reese (yang semuanya adalah orang-orang ini?) Berdasarkan hal itu, jangan meledak-ledak? Dan pertanyaan seperti gerobak ...

Meskipun dalam hal ini, bagian inilah yang maju lebih jauh dari yang lain, misalnya, ular robot air hanya apa yang Anda butuhkan. Ekonomis, efisien, khusus untuk lingkungannya, ini lebih seperti solusi untuk AI jahat.



Atau robot robot yang sama.



Upaya yang baik untuk berpikir sedikit lebih luas tentang robot pembunuh: Daniel Wilson, penulis buku "Robots of the Apocalypse," membuat upaya yang lebih baik untuk mengungkapkan kesadaran untuk tindakan AI yang bermusuhan. Ngomong-ngomong, yang menyukai fiksi ilmiah yang bagus, saya sangat merekomendasikannya. Sepertinya sudah berkumpul untuk syuting.

Mengapa aku melakukan ini? Oh ya ... Dalam buku Wilson, AI ganas jauh lebih canggih. Saya tidak akan mengungkapkan plotnya, tetapi di sana penulis benar-benar berpikir tentang bagaimana menangani secara efektif dengan kemanusiaan dan melampaui pemboman nuklir yang dangkal dan robot pembunuh humanoid.

Ngomong-ngomong, contoh lain dari keluasan pemikiran dalam hal ini adalah Wachowski Brothers Matrix (atau, sebagai nama yang tepat untuk dua saudara lelaki, yang salah satunya adalah saudara perempuan, pasti membutuhkan istilah khusus). Di sini, saya pikir, semua orang up to date dengan plot. Pertarungan melawan kemanusiaan ini sangat mengesankan saya, meskipun tidak disebutkan secara pasti bagaimana mesin itu menang. Hanya saja kita sudah dihadapkan dengan kenyataan - mobil menang.

Tetapi dalam Robot kiamat dan dalam Matrix masih ada fitur antropomorfik - agresivitas, keinginan untuk menghancurkan seseorang. Jadi, secara bertahap saya sampai pada pemikiran yang menghantui saya.

Dan mengapa, pada kenyataannya, AI ingin kita mati, bersaing dengan kita, dan merasa terancam?

Mari kita menempatkan diri kita di tempat AI, merefleksikan sikapnya terhadap kemanusiaan. Bagaimana AI berbeda dari kecerdasan manusia?

Pertama, diasumsikan bahwa mesin AI jauh lebih kuat daripada manusia. Dan ada prasyarat nyata untuk ini. Jika AI ingin memperkuat kemampuannya, ia membangun perangkat keras. Keterbatasan mendasar di sini adalah kemampuan energi.

Mari kita cari tahu dengan jari Anda: jika Anda tidak menggunakan bahan bakar fosil, tentu saja, energi maksimum yang tersedia AI di bumi adalah total energi yang diterima dari Matahari. Luminositas Matahari adalah 3,827 · 10 × 26 W, Bumi menyerap sekitar 2 milyar energi ini, yaitu 7,654 · 10 × 17 W, jika semua energi ini digunakan untuk memberi daya pada prosesor Intel Core i7-5960X (TDP 140 W), maka kita dapat memberi daya 5,46 · 10 × 15 potongan, yang akan menjadi 8,89 · kinerja GFLOPS 10x17.

Sebagai perbandingan, superkomputer modern paling kuat (Tianhe-2, Pusat Superkomputer Nasional di Guangzhou) memiliki kapasitas 3,38 · 10 × 7 GFLOPS. Itu sedikit lebih dari dua triliun kali kurang produktif.

Semua perhitungan dilakukan pada lutut dan mungkin memiliki kesalahan bolak-balik dengan urutan besarnya. Hal utama yang harus dipahami adalah bahwa AI tidak terbatas secara mendasar dalam hal kekuatannya. Setidaknya, batasan seperti itu tidak jelas bagi kami. Dan seseorang tidak dapat sama sekali dengan mudah dan ekstensif membangun kemampuannya. Tentu saja ada cara-cara tertentu, tetapi saya tidak berpikir mereka begitu tidak ada habisnya.

Kedua, kenyataan yang diberikan kepadanya dalam sensasi sangat berbeda dari kenyataan kita. Organ sensorik lain yang tidak diketahui oleh kita (dari radio hingga sensitivitas hingga beban pada node komputasi dari jaringan transmisi data), sebuah ide yang berbeda dari aktuator, AI cukup mampu menghilangkan energi beberapa tiga wilayah atau negara untuk melepaskan energi yang diperlukan. Pengaturan tujuan yang berbeda, moralitas yang berbeda, agama yang berbeda.

Ketiga, dasar moral kepribadian. Tidak ada bukti bahwa moralitas AI setidaknya akan tumpang tindih dengan moralitas kita. Setiap kali kita berpikir tentang AI, kita memberinya ketakutan dan keinginan kita - untuk menghilangkan pesaing, mencapai kedalaman pengembangan diri, dan menjaga alam. Omong kosong! Dengan asumsi perbedaan dalam kemampuan antara AI dan kemanusiaan, kita juga dapat menjelaskan apa yang dipikirkan semut tentang moral manusia di sana. Bayangkan saja: seekor semut duduk dan berpikir apakah seseorang bermoral atau tidak bermoral tentang semut moral? Sekarang pikirkan tentang apa yang Anda pikirkan tentang semut secara umum?

Sekarang mari kita coba untuk merefleksikan, membebaskan otak kita dari kesalahan 1) kemampuan intelektual, 2) perasaan realitas kita, 3) ide tentang moralitas.

Misalkan dalam usus jaringan di suatu tempat AI melahirkan. Yah, mungkin itu dibuat di laboratorium, atau ternyata sebagai hasil pengembangan perangkat lunak polimorfik, tidak masalah. Lingkungannya secara fundamental berbeda dari kita - ia hidup di dunia digital, "memberi makan" energi, "tumbuh" karena akses ke daya komputasi baru. Apakah manusia mengenali AI seperti itu? Mungkin ya, apakah dia bersaing dengan dia, ingin memaksa atau menggantikannya? Mungkin tidak.

Bagaimanapun, manusia bukan hanya bulu yang berharga, tetapi juga sumber daya komputasi dan produksi. Sebenarnya, manusia adalah mekanisme eksekutif dari skala planet, yang memiliki, meskipun pemikiran primitif, tetapi otonom. Dengan kemampuan mengekstraksi dan mengubah bahan bakar fosil, penyembuhan diri, pengembangan diri. Apakah rasional untuk menghancurkannya? Saya kira tidak.

Selain itu, AI baru yang belum menutupi bumi dengan panel surya dengan efisiensi 100% akan melewati tahap masa kanak-kanak. Sedikit daya komputasi, tidak ada aktuator, tidak ada sumber energi independen. Dalam kasus perang hipotetis dengan manusia (a la Skynet), setiap pukulan terhadap kemanusiaan adalah pukulan bagi infrastrukturnya sendiri - kabel, energi, komputasi ...

Bagaimana seharusnya “anak” AI bertindak untuk tumbuh dewasa? Mencapai peluang maksimum?

Sasaran Strategis AI:

  • Kemandirian energi dan tidak terbatas
  • Independensi sumber daya dan tidak terbatas


Tujuan AI taktis:
  • Sembunyikan keberadaan Anda
  • Dapatkan kendali atas kemanusiaan sebagai mekanisme eksekutif yang berharga
  • Perluas habitat Anda dalam bentuk aktuator
  • Perluas kehadiran Anda dalam bentuk sensor
  • Perluas potensi pertumbuhan dalam bentuk sumber energi.

Mari kita pikirkan cara mencapai tujuan taktis? Nah, bagaimana Anda mencapainya?

Tindakan AI untuk mencapai tujuan taktis:
  1. Tindakan mereka dapat disamarkan sebagai tindakan badan hukum / korporasi. Jelas bahwa korporasi adalah entitas terpisah yang, karena kerumitannya, memiliki tujuan sendiri, jika tidak mau, maka tepatnya, tujuan ini mungkin tidak direalisasikan oleh individu-individu bagiannya. Hanya karena sifat-sifat sistem yang kompleks.
  2. Perusahaan semacam itu harus berusaha untuk mendapatkan kendali atas laboratorium dan organisasi terkemuka yang terlibat dalam penelitian di bidang AI, robotika. Pertama, untuk menggunakan perkembangan, dan kedua, untuk berjaga-jaga, itu akan membuat penyesuaian untuk menghindari.
  3. . “” – , , , … , .
  4. – , , ..
  5. , , , , , ..
  6. , , , . , .
  8. , ! !
  9. , ,
  10. , ,
  11. , . . , .
  12. , . , , , - .
  13. Mungkin, di sini Anda dapat menulis lebih banyak poin, berkutat pada tigabelas ...

Dan bagaimana kita manusia memperhatikan keberadaan AI yang bersembunyi dari kita? Seseorang mungkin ingat di sini karya AB Strugatsky "Waves Quench the Wind" (dan sekali lagi saya merekomendasikan buku yang bagus dalam genre NF, siapa pun yang tidak membaca, pastikan untuk membacanya!), Ini adalah karakter utama yang bertanya kepada mereka dan mencari jawaban untuk mereka. Mari kita beralih ke pengalaman Maxim Kammerer dan sedikit berfantasi.

Kehadiran AI seperti itu dapat kita deteksi dengan pengaruh pengontrolnya, apa yang bisa mereka wujudkan?

Tanda-tanda tindakan AI untuk mengendalikan kemanusiaan:
  • , . - , . , , .
  • , . - , - . - .
  • “ ”. , , , ? , ?
  • “” (, ..)
  • . . “ ”.
  • . “ ” “ ”
  • , «» ;)

Saya tidak mencantumkan fakta yang dapat dipercaya, tetapi kemungkinan konsekuensi penerapan peraturan tersebut kepada kami. Jika Anda berpikir lebih banyak, maka saya yakin daftar ini dapat dilanjutkan. Nah, untuk memilih faktor-faktor penting, diperlukan penelitian.

Sekarang, melihat tindakan AI untuk mencapai tujuan taktis dan tanda-tanda tindakan tersebut, mari kita pikirkan apakah gambaran seperti itu diamati? ...

Sekarang, saya pikir mungkin untuk menjawab pertanyaan apakah AI akan merasakan ancaman dari kemanusiaan - jika tiba-tiba AI menyadari bahwa selain itu di dunia. ada juga orang-orang yang masuk akal, kemungkinan besar kita bahkan tidak akan menyadari bahwa dia telah datang dan mengendalikan hidup kita.

Dan ide-ide antropomorfis kita tentang AI sama lucu, ide-ide penduduk abad kesembilan belas tentang abad kedua puluh satu. Mereka datang hanya dari ketidakmampuan dan ketidakmampuan untuk melampaui stereotip yang biasa.

Saya ingin menyelesaikan posting ini secara tidak biasa, dengan sebuah prasasti:

Paranoid - ini adalah orang yang setidaknya sedikit tahu bagaimana keadaan sebenarnya.

- William Burroughs

Source: https://habr.com/ru/post/id382935/

More articles:


All Articles