Akankah Muncul AI yang Berpusat pada Manusia?

Technologue.id, Jakarta - Seperti apa gambaran Artificial Intelligence (AI) di masa depan? Ada dua gambaran kecerdasan buatan yang akan kita temui di masa mendatang. Pertama, AI memperingatkan tentang masa depan di mana kecerdasan buatan akan melampaui kemanusiaan, menciptakan pengangguran massal, dan memperbudak manusia di dunia seperti Matrix atau menghancurkan mereka ala Skynet.

Kedua, tidak adanya kontrol manusia. Sebagian besar narasi seputar AI didasarkan pada keyakinan bahwa otomatisasi dan kontrol manusia menjadi sangat eksklusif.

Pandangan alternatif, yang disebut sebagai "AI berpusat pada manusia", bertujuan untuk mengurangi ketakutan akan ancaman eksistensial dan meningkatkan manfaat bagi pengguna dan masyarakat dengan menempatkan manusia sebagai pusat upaya AI.

"Pendekatan yang berpusat pada manusia akan mengurangi teknologi yang tidak terkendali, menenangkan ketakutan akan pengangguran yang disebabkan oleh robot, dan memberi pengguna rasa penguasaan dan pencapaian yang memuaskan," ujar Profesor ilmu komputer di University of Maryland dan penulis of Human-Centered, Ben Shneiderman.

Shneiderman percaya bahwa dengan kerangka kerja yang tepat, metafora desain, dan struktur tata kelola, kami dapat membuat sistem AI yang dapat memiliki otomatisasi tingkat tinggi dan kontrol manusia.

Untuk menciptakan keseimbangan, Shneiderman menyarankan kerangka kerja berbasis Human-Centered AI (HCAI), yang membuat manusia menjadi pusat sistem yang sangat otomatis. HCAI ditopang oleh tiga ide utama yakni perancang sistem AI harus bertujuan untuk meningkatkan otomatisasi dengan cara yang memperkuat kinerja manusia, perancang harus hati-hati memeriksa dan menentukan situasi di mana kontrol penuh manusia atau kontrol komputer penuh diperlukan. Selain itu, mereka juga harus memahami dan menghindari bahaya dari kontrol manusia atau komputer yang berlebihan.

Sistem AI memungkinkan kerja yang akurat di berbagai tugas. Para pendukung reduksi AI atas kontrol manusia mengklaim bahwa manusia membuat banyak kesalahan. Shneiderman berpendapat bahwa masalah ini dapat diatasi dengan merancang sistem antarmuka pengguna yang tepat dan elemen pengalaman untuk produk bertenaga AI.

"Desainer yang mengadopsi pola pikir HCAI akan menekankan strategi untuk memungkinkan beragam pengguna mengarahkan, mengoperasikan, dan mengontrol perangkat mereka yang sangat otomatis, sambil mengundang pengguna untuk melatih kreativitas mereka untuk menyempurnakan desain," tulisnya di Human-Centered AI.

Teknologi dewasa seperti elevator, kamera, peralatan rumah tangga, atau perangkat medis yang telah digunakan selama beberapa dekade menemukan keseimbangan yang tepat antara otomatisasi dan kontrol manusia saat ini.

Beberapa tahun terakhir kita sama-sama menyaksikan beberapa perkembangan praktis dalam mengatasi tantangan integrasi pembelajaran mesin ke dalam aplikasi dunia nyata. Misalnya, AI (XAI) adalah area penelitian yang berkembang untuk mengembangkan alat yang memberikan visibilitas dan kontrol tentang bagaimana model pembelajaran mesin yang kompleks membuat keputusan mereka.

Alat XAI dapat menyorot area dalam gambar atau kata-kata dalam kutipan teks yang paling banyak berkontribusi pada keluaran jaringan saraf dalam. Fitur tersebut dapat diintegrasikan ke dalam aplikasi bertenaga AI seperti alat pencitraan medis untuk membantu ahli manusia memutuskan apakah mereka dapat mempercayai keputusan yang dibuat oleh asisten AI mereka.

Bahkan fitur sederhana seperti menampilkan skor kepercayaan diri, memberikan beberapa saran keluaran, dan menambahkan kontrol penggeser pengguna dapat membantu mengurangi beberapa tantangan yang dihadapi sistem AI saat ini.

Telebots mengakui bahwa "komputer bukanlah manusia dan manusia bukanlah komputer." Telebot dirancang untuk merangkul perbedaan ini dan menciptakan sinergi yang memperkuat kekuatan keduanya. Alih-alih mencoba meniru elemen kecerdasan manusia, perancang telebot memanfaatkan fitur komputer yang unik, termasuk algoritme canggih, basis data besar, sensor manusia super, tampilan berlimpah informasi, dan efektor yang kuat. Pada saat yang sama, mereka menyediakan fitur yang memungkinkan manusia membuat keputusan tingkat tinggi, sensitif, dan kritis. Kita dapat melihat desain semacam ini pada robot bedah, perangkat lunak pasar keuangan, dan robot yang dioperasikan dengan jarak jauh.

Shneiderman lebih lanjut menekankan bahwa penggunaan AI lebih dari sekadar kesuksesan komersial. Sebaliknya, AI ditujukan untuk mempromosikan kreativitas manusia, tanggung jawab, keberlanjutan, dan keterhubungan sosial. Shneiderman juga meningkatkan self-efficacy, membawa kegembiraan, menyebarkan kasih sayang, dan menghormati martabat manusia.

Contact Information