Kemampuan AI Dapat Memantau Keadaan Anak Anda di Sekolah

Teknologi.id - Sekolah dapat segera menggunakan kecerdasan buatan (AI) untuk memantau keadaan emosional siswa.

Intel dan pembuat perangkat lunak Class sedang mengembangkan perangkat lunak yang akan mengawasi wajah dan bahasa tubuh siswa secara digital. Sistem ini dilaporkan dapat mendeteksi apakah siswa merasa bosan, terganggu, atau bingung, tetapi beberapa ahli khawatir bahwa perangkat lunak dapat menyebabkan pelanggaran privasi.

"Produk pemantauan berbasis AI semacam itu harus transparan tentang bagaimana data ini digunakan," Michael Huth, salah satu pendiri perusahaan Xayn dan kepala departemen komputasi di Imperial College London, mengatakan dalam sebuah wawancara email. "Jika digunakan untuk melacak keterlibatan dalam kelompok siswa, di mana keterlibatan pada tingkat individu tidak dicatat, ini agak kurang bermasalah dari perspektif privasi.nJika ada data ini yang akan digunakan untuk mempengaruhi penilaian siswa, bagaimanapun, saya dapat melihat segala macam masalah yang muncul."

Mengawasi Siswa

Class dan Intel telah bermitra untuk mengintegrasikan teknologi berbasis AI yang berjalan bersama dengan perangkat lunak konferensi video Zoom.Perangkat lunak tersebut dapat digunakan untuk memantau siswa, kata laporan itu.

“Melalui kemitraan kami dengan Intel, kami akan dapat menghadirkan fitur baru yang imersif ke perangkat lunak Class yang didorong oleh fungsionalitas yang didukung penelitian," menurut situs web perusahaan tersebut. "Kami juga akan bekerja sama dengan Intel untuk memanfaatkan sumber daya dan memberikan wawasan berharga kepada pendidik dan siswa, studi kasus bersama, laporan resmi, webinar, dan banyak lagi."

Intel mengatakan bahwa perangkat lunak Class masih dalam tahap awal, dan tidak ada rencana untuk mengirim produk ke pasar.

Kemitraan dengan Class bukanlah satu-satunya kolaborasi potensial antara perangkat lunak pembaca emosi Intel dan produsen lain. Brosur online dari Intel mempromosikan papan tulis elektronik baru bernama Viewboard yang ditujukan untuk sekolah. Perangkat lunak Intel "memungkinkan myViewboard untuk menilai dan menampilkan keadaan emosional pelajar sebagai umpan balik langsung untuk pendidik," menurut brosur.

Class merupakam salah satu dari banyak produk perangkat lunak yang dimaksudkan untuk melacak emosi siswa menggunakan AI. Ada juga 4Little Trees, platform pembelajaran deteksi emosi yang merupakan "asisten pengajar virtual yang akan membantu dengan memilih pertanyaan yang paling cocok untuk anda atau menguji anda saat dibutuhkan," menurut situs web perusahaan.

Ashish Fernando, CEO perusahaan AI iSchoolConnect, mengatakan dalam sebuah wawancara email bahwa AI dapat dilatih untuk menilai perilaku dan fitur manusia tanpa dampak bias subjektif yang dimiliki individu.

“AI dapat menilai perilaku manusia dalam jumlah yang jauh lebih besar, termasuk ekspresi mikro yang mudah dilewatkan, dengan kecepatan yang jauh lebih cepat daripada manusia,” kata Fernando. "Di mana umpan balik bisa memakan waktu berjam-jam, AI sekarang dapat memberikan hal yang sama dalam beberapa menit."

Masalah Privasi

Penggunaan AI untuk memantau manusia semakin berkembang. Snapchat memiliki teknologi AI yang menilai tingkat emosional sekelompok orang di acara langsung. Mad Street Den menggunakan computer vision AI untuk membantu pengecer mengenali ekspresi wajah dan emosi calon pembeli. BrainQ memanfaatkan AI untuk memahami bagaimana penumpang berinteraksi dengan kendaraan otonom yang mereka gunakan.

"Ini adalah kasus penggunaan yang bagus untuk keselamatan jalan, tetapi ini menimbulkan pertanyaan tentang hak privasi pengemudi di kendaraan pribadi mereka," kata Huth. "Apakah informasi kelelahan akan dibagikan kepada perusahaan asuransi atau produsen mobil? Atau hanya memperingatkan pengemudi untuk berhenti dan beristirahat? Ini bukan masalah bagi armada mobil komersial seperti truk, van pengiriman, atau taksi."

Satu masalah adalah bahwa informasi AI, seperti gerakan otot untuk menyimpulkan keadaan emosional, mungkin tidak dapat diandalkan, kata Huth. "Ini menciptakan dilema, karena AI yang lebih andal mungkin memerlukan akses ke data yang lebih sensitif seperti sinyal EEG," tambahnya.

Bagi siswa, AI dapat berguna untuk memantau kepatuhan selama ujian online ketika pengawas tidak dapat hadir secara fisik. Tetapi penggunaan AI untuk ini terlalu kontroversial, kata Huth, karena sistem mencoba untuk menentukan apakah seorang siswa berniat untuk menyontek atau menyontek, dan ada potensi nyata untuk positif palsu yang mengakibatkan hukuman yang tidak dapat dibenarkan bagi siswa yang tidak melakukan kesalahan.

"Setiap AI yang digunakan untuk tujuan ini harus cukup kuat untuk mengatasi gangguan toilet, kegelisahan siswa (seperti gerakan mata yang tidak menentu), dan sebagainya," kata Huth.

BACA JUGA: Dokter Hologram Siap Dikirim NASA ke Stasiun Luar Angkasa

(FY)