Kemampuan model untuk menggeneralisasi dipengaruhi oleh keragaman data dan cara model dilatih, para peneliti melaporkan. Sistem kecerdasan buatan mungkin dapat menyelesaikan tugas dengan cepat, tetapi itu tidak berarti mereka selalu melakukannya dengan adil. Jika dataset yang digunakan untuk melatih model pembelajaran mesin mengandung data yang bias, kemungkinan sistem dapat menunjukkan bias yang sama ketika membuat keputusan dalam praktiknya.
Misalnya, jika dataset sebagian besar berisi gambar pria kulit putih, maka model pengenalan wajah yang dilatih dengan data ini mungkin kurang akurat untuk wanita atau orang dengan warna kulit yang berbeda.
Sekelompok peneliti di MIT, bekerja sama dengan para peneliti di Harvard University dan Fujitsu Ltd., berusaha memahami kapan dan bagaimana model pembelajaran mesin mampu mengatasi bias dataset semacam ini. Mereka menggunakan pendekatan dari ilmu saraf untuk mempelajari bagaimana data pelatihan mempengaruhi apakah jaringan saraf tiruan dapat belajar mengenali objek yang belum pernah dilihatnya sebelumnya. Jaringan saraf adalah model pembelajaran mesin yang meniru otak manusia dengan cara mengandung lapisan node yang saling berhubungan, atau “neuron,” yang memproses data.
Hasil baru menunjukkan bahwa keragaman dalam data pelatihan memiliki pengaruh besar pada apakah jaringan saraf mampu mengatasi bias, tetapi pada saat yang sama keragaman dataset dapat menurunkan kinerja jaringan. Mereka juga menunjukkan bahwa bagaimana jaringan saraf dilatih, dan jenis neuron tertentu yang muncul selama proses pelatihan, dapat memainkan peran utama dalam apakah ia mampu mengatasi dataset yang bias.
“Jaringan saraf dapat mengatasi bias dataset, yang menggembirakan. Tetapi takeaway utama di sini adalah bahwa kita perlu memperhitungkan keragaman data. Kita perlu berhenti berpikir bahwa jika Anda hanya mengumpulkan satu ton data mentah, itu akan membawa Anda ke suatu tempat. Kita harus sangat berhati-hati tentang bagaimana kita merancang dataset di tempat pertama, “kata Xavier Boix, seorang ilmuwan penelitian di Departemen Otak dan Ilmu Kognitif (BCS) dan Pusat Otak, Pikiran, dan Mesin (CBMM), dan penulis senior makalah ini.
Related Post : Sistem Keamanan Biometrik Menggunakan Tangan Sebagai Password Yang Aman
