Apakah hidup satu-satunya tujuan kecerdasan yang berharga?

Artikel ini membahas kecerdasan dan tujuan utamanya, sementara tesis tentang ortogonalitas dan konvergensi disentuh. Dalam artikel saya sebelumnya 'Life, Intellect, Mind, Mind', pertanyaan itu tidak cukup diklarifikasi. Prinsipnya dinyatakan dalam artikel itu: kecerdasan yang kuat harus dibangun sebagai sistem yang dapat beradaptasi berdasarkan tujuan akhir: pelestarian dan kelangsungan hidup organisme hidup - pembawa kecerdasan. Dan diagram struktural umum organisme dengan kecerdasan, mungkin kuat, diberikan. Di bawah ini adalah analisis tambahan mengapa demikian.

Catatan tentang terminologi.
Sebagai kecerdasan yang kuat, kita akan mengingat pemahamannya yang diterima secara umum. Kecerdasan lemah adalah sistem atau algoritma apa pun yang tidak menerapkan kecerdasan kuat. Nama umum untuk keduanya hanyalah kecerdasan, kita tidak akan membedakan antara kecerdasan buatan dan alami.

Tesis tentang ortogonalitas tujuan dan kecerdasan.
Tesis ortogonalitas mengatakan bahwa Anda dapat menggabungkan setiap tingkat kecerdasan dengan tujuan apa pun, karena kecerdasan dan tujuan akhir adalah ortogonal, yaitu, independen, variabel.

Perilaku adaptif

Kami menunjukkan fakta yang mungkin jelas, tetapi penting: perilaku adaptif tidak mungkin tanpa tujuan. Pertimbangkan algoritma dengan sifat adaptif, termasuk sistem kecerdasan yang kuat, karena, karena sifatnya umum, tidak ada alasan untuk mengecualikannya.

Adaptasi dapat dianggap sebagai:

• 1) perubahan kuantitas skalar - parameter algoritma
• 2) perubahan struktur kontrol

Untuk jaringan saraf, metode 1 digunakan - mengatur bobot koneksi. Bobot disesuaikan dalam proses pembelajaran, guru bertindak sebagai faktor eksternal yang mengadaptasi jaringan - mengapa hanya dia yang tahu, kita dapat mengatakan itu bertindak sebagai proses yang memotivasi. Metode 2 dapat dilakukan oleh programmer, alasan motivasi programmer juga hanya diketahui olehnya.

Metode adaptasi lain dapat diimplementasikan sebagai proses optimasi untuk nilai target. Penerapan proses pengoptimalan semacam itu bisa sangat sederhana. Memperkuat jaringan saraf adalah contoh yang baik: algoritma transparan menyesuaikan bobot jaringan untuk perilaku target. Teknik adaptasi untuk perilaku target, lihat AI dari Google secara independen menguasai 49 game Atari lama .

Dan karenanya, struktur pembelajaran mandiri atau sistem adaptif:



Skema ini berlaku untuk semua sistem adaptif, termasuk kecerdasan yang kuat. Dua konsep diperkenalkan: komponen kecerdasan yang adaptif dan memotivasi. Komponen yang memotivasi dilaksanakan sesuai dengan tujuan akhir. Komponen yang memotivasi tidak dimodifikasi (tidak beradaptasi) - itu ditetapkan dengan kaku.

Bagaimana cara memasukkan tujuan akhir ke dalam sistem?

Kami bertanya pada diri sendiri pertanyaan - bagaimana menerapkan optimasi secara praktis untuk mencapai tujuan. Jika komponen adaptasi dianggap sederhana dan kompleksitas sinyal dari input dan output sederhana, maka komponen yang memotivasi juga sederhana dan implementasinya transparan.

Mari kita kembali ke permainan Atari - untuk kerumitan sinyal informasi dan tujuan sensorik dan eksekutif ini, para pengembang dapat secara efektif membentuk komponen yang memotivasi yang menerapkan penguatan pembelajaran jaringan. Secara intuitif, tugas itu sendiri tidak sebanding dengan kecerdasan yang kuat! Dan berbicara tentang kecerdasan yang kuat dalam kasus permainan Atari adalah mustahil.

Dapat dibenarkan memohon: pada tingkat sistem apa mungkin untuk berbicara tentang kecerdasan yang kuat? Asumsinya jelas bahwa kecerdasan yang kuat berpotensi terjadi jika kompleksitas dan variasi informasi sensorik (input) dan eksekutif (output) dalam artian semantik dan level konsep melebihi ambang kritis tertentu. Sangat diragukan bahwa seseorang dapat membatasi diri pada kenyataan bahwa beberapa cara sederhana untuk mengintegrasikan informasi input akan membentuk satu set kecil sinyal penguatan.

Kemungkinan besar, untuk memotivasi kecerdasan yang kuat, komponen motivasi yang kompleks dan kompleks harus dibentuk, yang dapat mencakup banyak kondisi dan pola reaksi. Kemungkinan besar, itu akan bertingkat dalam arti representasi informasi input - pola dan reaksi sederhana yang dapat dikenali (kita akan menyebutnya refleks dasar atau tidak terkondisi) dari mereka digabungkan menjadi objek yang dapat dikenali dari orde tinggi dan perilaku reaktif (kita akan menyebutnya ritual). Dalam versi biologis, komponen pendorong dibentuk oleh algoritma genetika selama evolusi.

Perhatikan bahwa untuk komponen yang memotivasi, dapat diperdebatkan bahwa dipertimbangkan secara terpisah, itu tidak bisa menjadi kecerdasan yang kuat, karena diatur dengan kaku.

Skema diperluas untuk sistem dengan potensi kecerdasan kuat :(refleks dan ritual tanpa syarat membentuk komponen yang memotivasi )




Bagi organisme hidup, konsep konservasi diletakkan sebagai tujuan dalam komponen yang memotivasi. Sementara itu, pada prinsipnya, tujuan lain dapat diletakkan dalam komponen yang memotivasi (tesis ortogonalitas). Adalah penting bahwa tujuan harus memiliki tempat untuk proses adaptasi.

Apa tujuan akhir?

Dengan semua variasi tujuan, kita dapat dengan jelas mengatakan bahwa bekerja dengan tujuan yang lebih atau kurang sepele membutuhkan waktu yang lebih lama atau kurang, dan oleh karena itu ada kebutuhan untuk tujuan menengah - untuk memastikan keselamatan dan keamanannya. Dan ini konsisten dengan tesis konvergensi.

Tesis konvergensi instrumental mengatakan bahwa kekuatan akting superinten, atau agen, dengan variasi terluas dari tujuan akhir mereka, akan tetap mengejar tujuan menengah yang sama, karena semua agen akan memiliki alasan instrumental yang sama.

Ambil tiga undang-undang robotika yang terkenal: dan di antaranya ada undang-undang tentang keselamatan target robot. Dan sesuai dengan definisi kehidupan (lihat artikel 'Hidup, Kecerdasan, Jiwa, Alasan' ), perilaku sasaran semacam itu dapat dianggap sebagai tanda organisme hidup.

Dengan demikian, setiap sistem intelijen dengan tujuan yang lebih atau kurang sepele harus terutama hidup, termasuk pembawa kecerdasan yang kuat.

Selama evolusi biologis, kecerdasan manusia yang kuat dibentuk hanya untuk tujuan bertahan hidup. Jika kita berasumsi bahwa akan mungkin untuk mewujudkan pembawa buatan kecerdasan yang kuat, akankah manusiawi bahwa, selain tujuan pelestarian kelangsungan hidup, itu akan tertanam di dalamnya, beberapa tujuan tambahan? Saya ingin tahu apakah Anda berada di tempatnya, sebagai seorang pribadi (!), Apakah Anda suka?

Kesimpulan

Kecerdasan yang kuat berpotensi diwujudkan atas dasar tujuan - pelestarian organisme hidup, asalkan ambang kritis kompleksitas informasi sensorik dan eksekutif diatasi.

Source: https://habr.com/ru/post/id393579/