W
Selamat datang di TechCrunch Exchange, buletin mingguan startup dan pasar. Ini terinspirasi oleh kolom harian TechCrunch+ yang menjadi asal namanya. Ingin di kotak masuk Anda setiap hari Sabtu? Daftar disini.
Kemampuan teknologi untuk menemukan kembali roda ini mempunyai kelemahan: Ini bisa berarti mengabaikan kebenaran terang-terangan yang telah dipelajari orang lain. Namun kabar baiknya adalah para pendiri baru kadang-kadang menemukan jawabannya sendiri lebih cepat dibandingkan pendahulunya. — Anna
AI, kepercayaan dan keamanan
Tahun ini adalah tahun Olimpiade, tahun kabisat. . . dan juga itu tahun pemilu. Tapi sebelum kamu menuduhku defaultisme ASSaya tidak hanya memikirkan sekuel Biden vs. Trump: Lebih dari 60 negara demikian menyelenggarakan pemilu nasionalbelum lagi Parlemen Uni Eropa.
Bagaimana setiap perubahan suara ini dapat berdampak pada perusahaan teknologi; Misalnya saja, pihak-pihak yang berbeda cenderung memiliki pandangan yang berbeda mengenai regulasi AI. Namun sebelum pemilu berlangsung, teknologi juga akan berperan untuk menjamin integritas mereka.
Integritas pemilu kemungkinan besar tidak ada dalam pikiran Mark Zuckerberg ketika ia menciptakan Facebook, dan mungkin bahkan ketika ia membeli WhatsApp. Namun 20 dan 10 tahun kemudian, kepercayaan dan keamanan kini menjadi tanggung jawab yang tidak dapat dihindari oleh Meta dan raksasa teknologi lainnya, suka atau tidak suka. Hal ini berarti berupaya mencegah disinformasi, penipuan, ujaran kebencian, CSAM (materi pelecehan seksual terhadap anak-anak), tindakan menyakiti diri sendiri, dan masih banyak lagi.
Namun, AI kemungkinan akan mempersulit tugas ini, dan bukan hanya karena deepfake atau karena memberdayakan sejumlah besar pelaku kejahatan. Kata Lotan Levkowitz, partner umum di Usaha Hutan:
Semua platform kepercayaan dan keamanan memiliki hal ini database berbagi hash, jadi saya bisa mengunggah hal buruk di sana, berbagi dengan semua komunitas saya, dan semua orang akan menghentikannya bersama-sama; tapi hari ini, saya bisa melatih model tersebut untuk mencoba menghindarinya. Jadi, bahkan pekerjaan klasik mengenai kepercayaan dan keselamatan, karena Gen AI, menjadi semakin sulit karena algoritme dapat membantu mengatasi semua hal ini.
Dari renungan hingga ke depan
Meskipun forum online telah mempelajari satu atau dua hal tentang moderasi konten, tidak ada pedoman jaringan sosial yang bisa diikuti oleh Facebook ketika pertama kali diluncurkan, sehingga dapat dimengerti bahwa diperlukan waktu untuk menyelesaikan tugas tersebut. Namun menyedihkan untuk mengetahui dari dokumen internal Meta bahwa sejak tahun 2017, masih ada keengganan internal untuk mengadopsi langkah-langkah yang dapat melindungi anak-anak dengan lebih baik.
Zuckerberg adalah salah satu dari lima CEO teknologi media sosial yang baru-baru ini hadir di sidang Senat AS tentang keamanan online anak-anak. Kesaksian bukanlah yang pertama sejauh ini untuk Meta, tetapi masuknya Discord juga perlu diperhatikan; Meskipun telah berkembang melampaui akar permainannya, hal ini merupakan pengingat bahwa ancaman kepercayaan dan keamanan dapat terjadi di banyak tempat online. Artinya, aplikasi game sosial, misalnya, juga dapat menempatkan penggunanya pada risiko phishing atau grooming.
Akankah perusahaan-perusahaan baru memiliki pengakuan lebih cepat dibandingkan FAANG? Itu tidak dijamin: Para pendiri sering kali beroperasi berdasarkan prinsip pertama, yaitu baik dan buruk; itu kurva pembelajaran moderasi konten adalah nyata. Namun OpenAI jauh lebih muda dibandingkan Meta, jadi sangat menggembirakan mendengar bahwa OpenAI sedang membentuk tim baru untuk mempelajari keselamatan anak — meskipun hal tersebut mungkin merupakan hasil dari pengawasan yang dilakukan.
Namun, beberapa startup tidak menunggu tanda-tanda adanya masalah untuk mengambil tindakan. Penyedia solusi kepercayaan dan keselamatan yang didukung AI dan merupakan bagian dari portofolio Grove Ventures, Pagar Aktif melihat lebih banyak permintaan masuk, kata CEO-nya Noam Schwartz kepada saya.
“Saya telah melihat banyak orang yang menghubungi tim kami dari perusahaan yang baru didirikan atau bahkan pra-peluncuran. Mereka memikirkan keamanan produk mereka selama tahap desain [and] mengadopsi konsep yang disebut keselamatan berdasarkan desain. Mereka menerapkan langkah-langkah keamanan dalam produk mereka, sama seperti saat ini Anda memikirkan tentang keamanan dan privasi saat membuat fitur.”
ActiveFence bukan satu-satunya startup di bidang ini yang Kabel digambarkan sebagai “kepercayaan dan keamanan sebagai sebuah layanan.” Namun perusahaan ini adalah salah satu perusahaan terbesar, terutama sejak Spectrum Labs diakuisisi pada bulan September. Jadi, senang mendengar bahwa kliennya tidak hanya mencakup nama-nama besar yang takut akan krisis PR dan pengawasan politik, namun juga tim-tim kecil yang baru saja memulai. Teknologi juga memiliki peluang untuk belajar dari kesalahan masa lalu.
