FCC telah mengusulkan denda $6 juta untuk penipu yang menggunakan teknologi kloning suara untuk menyamar sebagai Presiden Biden dalam serangkaian robocall ilegal selama pemilihan pendahuluan di New Hampshire. Ini lebih tentang robocall daripada AI, tetapi agensi tersebut dengan jelas memposisikan ini sebagai peringatan bagi calon penipu teknologi tinggi lainnya.
Seperti yang mungkin Anda ingat, pada bulan Januari, banyak pemilih di New Hampshire menerima telepon yang mengaku sebagai pesan dari Presiden yang meminta mereka untuk tidak memberikan suara pada pemilihan pendahuluan mendatang. Ini tentu saja palsu – tiruan suara Presiden Biden yang menggunakan teknologi yang telah tersedia secara luas selama beberapa tahun terakhir.
Meskipun pembuatan suara palsu telah dimungkinkan sejak lama, platform AI generatif telah menjadikannya hal yang sepele: lusinan layanan menawarkan suara kloning dengan sedikit batasan atau pengawasan. Anda dapat membuat suara Biden Anda sendiri dengan mudah menggunakan satu atau dua menit pidatonya, yang tentu saja mudah ditemukan secara online.
Apa yang tidak bisa Anda lakukan, jelas FCC dan beberapa lembaga penegak hukum, adalah menggunakan Biden palsu itu untuk menekan pemilih, melalui robocall yang sudah ilegal.
“Kami akan bertindak cepat dan tegas untuk memastikan bahwa pelaku kejahatan tidak dapat menggunakan jaringan telekomunikasi AS untuk memfasilitasi penyalahgunaan teknologi AI generatif untuk mengganggu pemilu, menipu konsumen, atau membahayakan data sensitif,” kata kepala Biro Penegakan FCC, Loyaan Egal. dalam siaran pers.
“Konsultan politik” Steve Kramer adalah pelaku utama, meskipun ia meminta bantuan dari Life Corporation yang teduh (sebelumnya dituduh melakukan robocall ilegal) dan layanan panggilan dari telekomunikasi teduh Lingo, AKA Americatel, AKA BullsEyeComm, AKA Clear Choice Communications, AKA Excel Telekomunikasi, AKA Impact Telecom, AKA Matrix Business Technologies, AKA Startec Global Communications, AKA Trinsic Communications, AKA VarTec Telecom.
Kramer “tampaknya” melanggar beberapa aturan – namun hingga saat ini belum ada proses pidana terhadap dirinya atau kolaboratornya. Hal ini merupakan batasan kekuasaan FCC: mereka harus bekerja sama dengan penegak hukum lokal atau federal untuk memberi bobot pada penentuan tanggung jawab mereka sebagai lembaga ahli.
Denda $6 juta lebih seperti plafon atau aspirasi; seperti halnya FTC dan lainnya, jumlah sebenarnya yang dibayarkan seringkali jauh lebih sedikit karena berbagai alasan, namun meskipun demikian, jumlah tersebut merupakan jumlah yang signifikan. Langkah berikutnya bagi Kramer adalah menanggapi tuduhan tersebut, meskipun tindakan terpisah sedang diambil terhadap Lingo, atau apa pun sebutan mereka sekarang setelah mereka ditangkap lagi, yang dapat mengakibatkan denda atau kehilangan izin.
Suara-suara yang dihasilkan AI secara resmi dinyatakan ilegal untuk digunakan dalam robocall pada bulan Februari, setelah kasus di atas menimbulkan pertanyaan apakah suara-suara tersebut dianggap “buatan” – dan FCC memutuskan, dengan cukup bijaksana, bahwa suara-suara tersebut dihitung sebagai “buatan”.
