• Breaking News

    Pemberdayaan robot - alternatif yang layak untuk tiga hukum robotika Asimov?

     

    Menjadi semakin jelas bahwa interaksi manusia-robot berkembang pesat, dan inilah saatnya untuk memikirkan cara kerjanya.

    Artikel ini akan menjadi sedikit teknis dan melibatkan beberapa matematika, jadi saya akan mulai dengan kesimpulan:

    Pertumbuhan interaksi manusia-robot terjadi lebih cepat dari yang kita duga. Ini bukan perangkat yang memiliki AI canggih. Mereka adalah perangkat sehari-hari yang dimaksudkan untuk bekerja dengan manusia, misalnya, Transportasi Otomatis, ATM, Pendidikan, Pengawasan dan Keselamatan, Memasak, Obat, Perawatan Rumah, dan Peralatan Pertambangan.  

    • Robot tidak memiliki realitas yang sama dengan manusia.
    • Oleh karena itu, kecil kemungkinan robot dan manusia akan berbagi bahasa.
    • Hukum Asimov tidak dapat diprogram menjadi robot.
    • Hukum Asimov menyertakan istilah seperti "Manusia" dan "Bahaya", yang secara semantik ambigu sehingga robot tidak dapat memahaminya.
    • Dan yang tidak mungkin adalah memprogram ke dalam robot adalah setiap kemungkinan tindakan dan konsekuensi.

    Yang dibutuhkan adalah sesuatu yang mirip dengan Tiga Hukum Asimov, dengan hiasan, yang cukup umum sehingga dapat diterapkan secara universal pada robot dan tidak peduli pada morfologi spesifiknya.

    Banyak hal bermasalah tentang AI saat ini, terutama penyalahgunaannya dari media sosial, disinformasi, bias, dan aplikasi yang dibuat dengan buruk, sehingga berpikir untuk hidup dengan robot tampaknya agak jauh. Saya belum terlalu memikirkan masalah ini sampai saya menemukan sebuah makalah, Pemberdayaan Sebagai Pengganti Tiga Hukum Robotika . Ini adalah judul yang provokatif untuk tulisan akademis yang padat, yang akan saya coba rangkum.

    Para penulis berfokus pada penggunaan robot yang berinteraksi dengan manusia yang berkembang pesat saat ini, bukan visi fantastis dari robot super cerdas dan cara mengendalikannya. Solusi mereka, secara mengejutkan, bukanlah kontrol tetapi pemberdayaan. Ini mengingatkan saya pada Zen yang mengatakan, "Jika sapi Anda sulit diatur, berikan padang rumput yang lebih besar." 

    Ada banyak obrolan yang sebagian besar tidak mendapat informasi tentang bahaya yang membayang dari robot manusia-cerdas atau bahkan super-cerdas dan bagaimana mereka akan dikendalikan dari mengambil alih dari manusia jika mereka bisa. 

    Dalam Rethinking AI Ethics , saya mengusulkan bahwa Tiga Hukum Asimov tidak lengkap, tidak konsisten, dan tidak realistis. Sekadar mengulas, aturan tersebut diperkenalkan dalam cerita pendek Runaround tahun 1942 , dan disusun dalam novel I, Robot of 1950)

    Hukum Pertama

    Sebuah robot mungkin tidak  melukai  seorang  manusia  atau, melalui  tidak bertindak , memungkinkan  manusia untuk datang untuk menyakiti.

    Hukum Kedua

    Robot harus mematuhi perintah yang diberikan oleh manusia kecuali jika  perintah tersebut akan bertentangan dengan Hukum Pertama .

    Hukum Ketiga

    Robot harus  melindungi keberadaannya  selama perlindungan tersebut tidak bertentangan dengan La w Pertama atau Kedua .

    Huruf miring adalah konsep yang membutuhkan kemampuan kognitif yang jauh lebih maju daripada robot saat ini dan robot jangka pendek. Jika Anda berpikir tentang Tiga Hukum, bagaimana Anda akan menggabungkannya secara semantik dan kognitif ke dalam robot? Bagaimana kami menjelaskan "bahaya" (jika Anda ingat, dalam  film iRobot tahun 2004 , robot nakal dapat menafsirkan kata "manusia" dan "bahaya" seperti yang mereka inginkan. Karena mereka mengamati manusia melukai manusia lain, mereka menyimpulkan bahwa mereka perlu membunuh manusia untuk melindungi manusia (kesimpulan bahwa manusia sering mencapai dirinya sendiri).

    Karena robot sehari-hari menjadi lebih banyak di mana-mana, penting untuk dipahami bahwa mereka bukan manusia (meskipun kami secara konsisten membuat antropomorfisasi AI dengan kata-kata seperti train, learn, deicide, neural, dan nama-nama seperti Ross-IBM, Kensho, Zo-Microsoft Amelia, Sofia, Alexa). Masalah dengan menggabungkan Tiga Aturan ke dalam robot saat ini adalah pemahaman semantik yang sulit dari aturan yang diekspresikan dalam bahasa alami. 

    Konsep yang sudah akrab dan langsung, seperti "bahaya," tidak dapat secara naif dikaitkan dengan perspektif robot. Artinya, robot memiliki perspektif yang sangat berbeda dari manusia dan realitas yang sangat berbeda. Sangat diragukan bahwa robot dan manusia dapat memiliki perkiraan bahasa yang sama. Karena sulit untuk membuat robot yang memahami apa yang menyebabkan bahaya,

    Hukum Asimov tidak dapat diprogram menjadi robot. Penulis makalah ini setuju, tetapi tidak untuk alasan epistemologis yang biasa. Sebaliknya, tesis mereka tidak membangun pemahaman verbal yang eksplisit tentang bahasa manusia dan konvensi dalam robot. 

    Konsep pemberdayaan

    Pemberdayaan memberi robot sumber daya untuk bereaksi terhadap berbagai macam situasi dan jenis perwujudan robotik yang berbeda. Seluruh program ini didasarkan pada model matematika, bukan aturan atau kode, terutama penggunaan Metric Spaces, cabang cabang Topologi. Saya mempelajari Ruang Metrik di masa lalu, jadi saya akan menyertakan bagian ini jika orang lain juga melakukannya. Penulis mengklaim bahwa ide ini dikembangkan secara matematis, sehingga tampaknya masuk akal untuk dimasukkan. Definisi formal adalah (tidak perlu membaca untuk makalah ini):

    Ruang metrik , dalam  matematika , terutama  Topologi , himpunan abstrak   dengan fungsi jarak  , disebut metrik, yang menentukan jarak non-negatif antara dua titik mana pun sedemikian rupa sehingga properti berikut ini berlaku: (1) jarak dari yang pertama titik ke titik kedua sama dengan nol jika dan hanya jika titik-titiknya sama, (2) jarak dari titik pertama ke titik kedua sama dengan jarak dari titik kedua ke titik pertama, dan (3) jumlah jarak dari titik pertama titik ke titik kedua dan jarak dari titik kedua ke titik ketiga melebihi atau sama dengan jarak dari titik pertama ke titik ketiga. Sifat terakhir ini disebut  pertidaksamaan segitiga . Ahli matematika Prancis Maurice Fréchet  memprakarsai studi ruang metrik pada tahun 1905. Dari: Ruang metrik | matematika | Britannica .

    Sungguh mengejutkan betapa banyak makalah dan buku yang telah ditulis tentang Ruang Metrik berdasarkan prinsip-prinsip sederhana tersebut.

    Keseluruhan konsep Empowerment merupakan model matematis formal yang belum diimplementasikan dalam robot yang sebenarnya. Ini adalah teori. Tetapi model mereka dapat digunakan secara umum untuk konsep komputasi, seperti pelestarian diri, perlindungan pasangan manusia, dan menanggapi tindakan manusia. 

    Dengan cara itu, ia dapat mendekati Tiga Hukum Robotika Asimov secara operasional tanpa membutuhkan bahasa. Beberapa pedoman ditambahkan untuk robot untuk mempengaruhi tindakan berdasarkan kumpulan faktor saat ini dan morfologi robot. Secara metaforis, ini sama seperti menyalakan Lincoln Anda dengan key fob Toyota tanpa instruksi terpisah.

    Penulis mengusulkan tiga kebijakan tersebut:

    Pertama, " inisiatif robot ": Robot dapat menerapkan prinsip karena prinsip tersebut cukup umum untuk situasi baru menggunakan tujuan baru dan berasal dari kasus baru-baru ini.

    Kedua, "melanggar kesetaraan tindakan" : bagaimana jika tindakan yang berbeda semuanya menghasilkan hasil? "Fasilitas apa yang dimiliki robot untuk bertindak berdasarkan salah satu dari beberapa opsi, dan dapatkah robot mengoptimalkan setelah dapat memastikan bahwa tugas utama terpenuhi?" (ini bukan konsep baru, sering disebut sebagai Hierarchical Constraint Resolution - bila ada beberapa solusi yang sesuai dengan kriteria, pilih saja)

    Terakhir, "keamanan di sekitar robot" : Jawaban mudahnya adalah "tombol pemutus," yaitu langkah drastis untuk mematikan. Tetapi jika robot menjalankan fungsi vital di mana atau saat itu menjaga keselamatan atau mencegah kerusakan, robot harus bertindak daripada berhenti bertindak. Ada kebutuhan yang jelas akan pedoman umum dan sadar situasi yang dapat menginformasikan dan menghasilkan perilaku robot.

    Bagaimana mereka mengusulkan untuk melakukan ini dalam metode formal berbasis non-bahasa untuk menangkap properti yang mendasari robot sebagai alat (di sini saya tidak setuju. Sebagai matematikawan sendiri, saya melihat Ruang Metrik dan Topologi secara umum, sebagai bahasa. Tapi Saya kira maksud mereka adalah bahwa ini bukan Bahasa Alami). 

    Alih-alih menggunakan bahasa, mereka menerapkan ukuran teori informasi Pemberdayaan (ini bukan ide robotika asli, ini kembali ke tahun 2008 dalam makalah Keep Your Options Open: An Information-Based Driving Principle for Sensorimotor Systems , dan konsep dari banyak makalah potensi dan arus informasi kausal secara umum, yang penulis gambarkan sebagai "heuristik untuk menghasilkan karakteristik fenomenologi perilaku yang dapat ditafsirkan sesuai dengan Tiga Hukum dalam aspek tertentu, penting." 

    Kadang-kadang, menurut saya bahasa yang mereka gunakan lebih sulit dipahami daripada sains. Bagaimana robot menunjukkan "karakteristik fenomenologi perilaku?" Saya merasa mereka tergelincir sejenak ke dalam sindrom antropomorfisasi.

    Selanjutnya, kemampuan untuk mengatasi konfigurasi sensorimotor yang berbeda dan cukup berbeda diperlukan untuk definisi pedoman perilaku umum robot. Ini berarti tidak mendefinisikannya secara terpisah untuk setiap robot atau mengubahnya secara manual setiap kali morfologi robot berubah. 

    Berikut perhitungannya.

    Para penulis mengklaim mereka telah mengerjakan ini secara matematis dan memberikan secercah tindakan multi-langkah. Ini terlihat seperti ini:

    𝔈 (r): = C (A t → S t + 1 ∣ r ) ≡ max p (pada ∣∣ r)  I  (S t + 1 ; A t ∣ r )

    Penjelasan sederhana ini adalah bahwa banyak tindakan dapat mempengaruhi suatu keadaan di masa depan, tidak hanya langkah berikutnya tetapi juga hasil di masa depan, katakanlah, t +3, sehingga distribusi hasil dihasilkan mulai dari waktu t. 

    Persamaannya adalah "saluran komunikasi probabilistik," di mana agen mengirimkan informasi tentang tindakannya ( At + 1 , At + 2 , A t + 3) melalui saluran dan mengevaluasi bagaimana hal itu mempengaruhi hasil pada waktu 3 (S t + 3 . )

    Ada kondisi maksimal di sini juga, (max p (at ∣∣ r)  I  (S t + 1 ; A t ∣ r )) yang merupakan pengaruh maksimal dari tindakan agen pada status sensornya di masa depan (upaya potensial). Itu dapat dimodelkan oleh kapasitas saluran Shannon (model lain yang dipahami dengan baik dari teori informasi), yang mengembalikan rasio daya signal-to-noise yang diterima dan apa yang mungkin telah diubah oleh agen pada akhir urutan tindakan 3 langkahnya. 

    Cara lain untuk melihat ini dan menyederhanakannya adalah bahwa Pemberdayaan adalah kapasitas saluran antara aktuator A agen dalam urutan langkah waktu t dan sensornya S pada titik waktu berikutnya. 


    Sumber: https://diginomica.com/robot-empowerment-viable-alternative-asimovs-three-laws-robotics


    Kata siapa UMKM tidak perlu melek keamanan siber (cybersecurity) ? Kami akan membahasnya bersama pak Didi Nurcahya, ITIL®, GSEC - di 16 Feb 2021, pastikan anda terdaftar di https://s.id/eventcerdas16feb . #aptiknas #eventcerdas #dtechcorp #cybersecurity #keamanansiber #cyberawareness

    No comments

    Post Top Ad

    Post Bottom Ad