Kecerdasan buatan telah ada garis bidik kekhawatiran pemerintah mengenai kemungkinan penyalahgunaannya untuk penipuan, disinformasi, dan aktivitas online berbahaya lainnya; Saat ini di Inggris, sebuah regulator sedang bersiap untuk mengeksplorasi bagaimana AI digunakan dalam melawan beberapa hal serupa, khususnya yang berkaitan dengan konten yang berbahaya bagi anak-anak.
Ofcomregulator yang bertugas menegakkan peraturan di Inggris Undang-Undang Keamanan Onlinemengumumkan bahwa mereka berencana untuk meluncurkan konsultasi tentang bagaimana AI dan alat otomatis lainnya digunakan saat ini, dan dapat digunakan di masa depan, untuk secara proaktif mendeteksi dan menghapus konten ilegal secara online, khususnya untuk melindungi anak-anak dari konten berbahaya dan untuk mengidentifikasi pelecehan seksual terhadap anak. materi yang sebelumnya sulit dideteksi.
Alat-alat tersebut akan menjadi bagian dari serangkaian proposal yang disusun Ofcom dengan fokus pada keselamatan anak saat online. Konsultasi untuk proposal komprehensif akan dimulai dalam beberapa minggu mendatang dan konsultasi AI akan dilakukan akhir tahun ini, kata Ofcom.
Mark Bunting, direktur Grup Keamanan Online Ofcom, mengatakan bahwa minat mereka terhadap AI dimulai dengan melihat seberapa baik AI digunakan sebagai alat penyaringan saat ini.
“Beberapa layanan sudah menggunakan alat tersebut untuk mengidentifikasi dan melindungi anak-anak dari konten ini,” katanya dalam sebuah wawancara dengan TechCrunch. “Tetapi tidak banyak informasi mengenai seberapa akurat dan efektif alat-alat tersebut. Kami ingin mencari cara untuk memastikan bahwa industri melakukan penilaian [that] ketika mereka menggunakannya, pastikan bahwa risiko terhadap kebebasan berekspresi dan privasi dikelola.”
Salah satu hasil yang mungkin terjadi adalah Ofcom merekomendasikan bagaimana dan platform apa yang harus dinilai, yang berpotensi menyebabkan tidak hanya platform tersebut mengadopsi alat yang lebih canggih, namun berpotensi dikenakan denda jika mereka gagal memberikan perbaikan baik dalam memblokir konten, atau menciptakan cara yang lebih baik untuk mempertahankan pengguna yang lebih muda. dari melihatnya.
“Seperti kebanyakan peraturan keselamatan online, perusahaan bertanggung jawab untuk memastikan bahwa mereka mengambil langkah yang tepat dan menggunakan alat yang tepat untuk melindungi pengguna,” katanya.
Akan ada kritikus dan pendukung tindakan tersebut. Peneliti AI menemukan cara yang lebih canggih dalam menggunakan AI mendeteksi, misalnya, kepalsuan yang mendalam, serta untuk memverifikasi pengguna secara online. Namun jumlahnya sama banyaknya skeptis yang mencatat bahwa deteksi AI masih jauh dari mudah.
Ofcom mengumumkan konsultasi mengenai alat AI pada saat yang sama ketika mereka menerbitkan penelitian terbarunya mengenai bagaimana anak-anak berinteraksi secara online di Inggris, yang menemukan bahwa secara keseluruhan, terdapat lebih banyak anak kecil yang terhubung dibandingkan sebelumnya, sehingga Ofcom sekarang aktivitas pecah di kalangan kelompok usia yang semakin muda.
Hampir seperempat, atau 24%, dari seluruh anak usia 5-7 tahun sekarang memiliki ponsel pintar sendiri, dan jika Anda memasukkan tablet, jumlahnya meningkat menjadi 76%, menurut survei terhadap orang tua di AS. Kelompok usia yang sama juga lebih banyak menggunakan media di perangkat tersebut: 65% telah melakukan panggilan suara dan video (dibandingkan 59% pada tahun lalu), dan setengah dari anak-anak (dibandingkan 39% pada tahun lalu) menonton media streaming .
Pembatasan usia pada beberapa aplikasi media sosial arus utama semakin berkurang, namun apa pun batasannya, di Inggris pembatasan tersebut tampaknya tidak dipatuhi. Sekitar 38% anak usia 5-7 tahun menggunakan media sosial, menurut temuan Ofcom. WhatsApp Meta, sebesar 37%, adalah aplikasi paling populer di antara mereka. Dan mungkin ini adalah pertama kalinya aplikasi gambar andalan Meta merasa lega karena kurang populer dibandingkan sensasi viral ByteDance, TikTok ditemukan digunakan oleh 30% anak usia 5-7 tahun dengan Instagram 'hanya' 22%. Discord melengkapi daftar tersebut tetapi kurang populer secara signifikan, hanya 4%.
Sekitar sepertiga, atau 32%, anak-anak pada usia ini sudah online sendiri, dan 30% orang tua mengatakan bahwa mereka baik-baik saja jika anak di bawah umur mereka memiliki profil media sosial. YouTube Kids tetap menjadi jaringan paling populer di kalangan pengguna muda, sebesar 48%.
Permainan, yang selalu menjadi favorit anak-anak, telah berkembang dan digunakan oleh 41% anak usia 5-7 tahun, dengan 15% anak-anak pada kelompok usia ini memainkan permainan tembak-menembak.
Meskipun 76% orang tua yang disurvei mengatakan bahwa mereka berbicara dengan anak-anak mereka tentang cara tetap aman saat online, Ofcom menunjukkan, terdapat tanda tanya antara apa yang dilihat seorang anak dan apa yang mungkin dilaporkan oleh anak tersebut. Dalam meneliti anak-anak usia 8-17 tahun, Ofcom mewawancarai mereka secara langsung. Ditemukan bahwa 32% anak-anak melaporkan bahwa mereka melihat konten online yang mengkhawatirkan, namun hanya 20% orang tua mereka yang mengatakan bahwa mereka melaporkan sesuatu.
Bahkan dengan mempertimbangkan beberapa ketidakkonsistenan pelaporan, “Penelitian ini menunjukkan adanya keterputusan antara keterpaparan anak-anak yang lebih besar terhadap konten online yang berpotensi berbahaya, dan apa yang mereka bagikan kepada orang tua mereka tentang pengalaman online mereka,” tulis Ofcom. Dan konten yang mengkhawatirkan hanyalah salah satu tantangannya: pemalsuan yang mendalam juga merupakan sebuah masalah. Di antara anak-anak berusia 16-17 tahun, kata Ofcom, 25% mengatakan mereka tidak percaya diri dalam membedakan yang palsu dari yang asli di internet.
