Ini adalah postingan tamu dari John Carr, pemikir terkemuka di Inggris Raya tentang menghapus gambar pelecehan anak dari internet. Blog asli tentang investigasi oleh New York Times muncul di John's Desiderata situs web. Kami telah menampilkan blog terbaru lainnya dari John sini, di sini dan di sini.

Pada bulan September New York Times memproduksi pertama dalam serangkaian artikel di mana mereka berfokus pada respons industri internet terhadap ledakan pertumbuhan dalam pendeteksian materi pelecehan seksual terhadap anak (csam) online.

Mereka mulai dengan statistik yang disediakan oleh NCMEC. Pada tahun 1998 mereka menerima 3,000 laporan csam. Jumlah 2018 adalah 18.4 juta laporan, merujuk 45 juta gambar diam dan video csam.

Kami diberi tahu di a artikel selanjutnya pada 2013, kurang dari 50,000 video csam telah dilaporkan. Pada 2018 naik menjadi 22 juta. Video telah menjadi area pertumbuhan utama. Itu Pusat Perlindungan Anak Kanada dan Inggris Yayasan Internet Watch telah menyaksikan tingkat pertumbuhan yang serupa.

Meskipun angka-angka ini mengejutkan, mungkin yang mereka tunjukkan hanyalah peningkatan penyebaran proaktif dan efektivitas alat yang digunakan untuk mendeteksi csam oleh sejumlah kecil perusahaan internet.

Namun, apa yang pada prinsipnya ditunjukkan oleh artikel-artikel New York Times adalah kurangnya respons industri internet yang lebih luas dan memang ketidakcukupan respons dari beberapa aktor utama industri. Kami telah dituntun ke jalan taman.

Jika keselamatan dan keamanan anak benar-benar tertanam dalam budaya perusahaan, cerita semacam itu yang diterbitkan oleh New York Times tidak akan mungkin terjadi. Namun mereka telah muncul selama bertahun-tahun jika tidak pernah sebelumnya dengan detail forensik seperti itu.

Koalisi Teknologi

Pada tahun 2006 itu Koalisi Teknologi didirikan. Inilah misinya

Visi kami adalah untuk memberantas eksploitasi seksual anak online. Kami telah berinvestasi dalam kolaborasi dan berbagi keahlian satu sama lain, karena kami menyadari bahwa kami memiliki tujuan yang sama dan menghadapi banyak tantangan yang sama.

Ini adalah rubrik standar. Anda mendengarnya sepanjang waktu. Dari semua orang. Itu tidak benar.

Pelaku Anak Jalankan Merajalela sebagai Perusahaan Teknologi Lihat Jalan Lain

Itulah judul untuk yang kedua artikel dalam seri New York Times. Ini benar-benar memukau fasad dari dorongan industri kolektif yang energik dan bertujuan untuk menyingkirkan csam dari internet.

Berikut adalah beberapa ekstrak dari potongan:

Perusahaan memiliki alat teknis untuk menghentikan resirkulasi citra pelecehan dengan mencocokkan gambar yang baru terdeteksi dengan basis data materi. Namun industri tidak mengambil keuntungan penuh dari alat ini.

Secara khusus kami diberitahu

Jejaring sosial terbesar di dunia, Facebook, secara menyeluruh memindai platformnya, terhitung lebih dari 90 persen dari citra yang ditandai oleh perusahaan teknologi tahun lalu, tetapi perusahaan tidak menggunakan semua database yang tersedia untuk mendeteksi material… .. (penekanan ditambahkan).

Apple tidak memindai penyimpanan cloud-nya…. dan mengenkripsi aplikasi perpesanannya, membuat deteksi hampir mustahil. Produk konsumen Dropbox, Google, dan Microsoft memindai gambar ilegal, tetapi hanya jika seseorang membagikannya, bukan saat diunggah.

… Perusahaan lain, termasuk…. Yahoo (milik Verizon), mencari foto tetapi bukan video, meskipun konten video terlarang telah meledak selama bertahun-tahun. 

Menurut Kali

Tidak ada daftar tunggal hash gambar dan video yang dapat digunakan oleh semua perusahaan yang relevan.

Google dan Facebook mengembangkan alat untuk mendeteksi video csam yang berbeda dan tidak kompatibel. Rencana untuk membuat proses berbagi video "Sidik jari" (hashes untuk mempercepat deteksi) tampaknya punya pergi ke mana-mana. 

Masih ada lagi

Perusahaan teknologi jauh lebih mungkin untuk meninjau foto dan video dan file lain di platform mereka untuk…. Deteksi malware dan penegakan hak cipta. Tetapi beberapa bisnis mengatakan bahwa mencari konten penyalahgunaan berbeda karena dapat menimbulkan masalah privasi yang signifikan.

Amazon, yang diakui bukan anggota Koalisi Teknologi, tetapi penyedia layanan cloud terbesar di dunia, tidak memindai apa-apa.

Seorang juru bicara Amazon…. mengatakan bahwa "privasi data pelanggan sangat penting untuk mendapatkan kepercayaan pelanggan kami," …… Microsoft Azure juga mengatakan tidak memindai materi, mengutip alasan yang sama.

Pada titik tertentu akan menarik untuk mendekonstruksi apa "Kepercayaan pelanggan" sangat berarti.

Dan kami tahu semua ini karena…

Bagaimana kita mengetahui semua ini? Apakah itu muncul sebagai akibat dari deklarasi terbuka oleh perusahaan teknologi? Tentu saja tidak. Mengikuti analisis yang cermat oleh tim akademisi yang berdedikasi? Tidak. Apakah kebenaran diungkap oleh lembaga penegak hukum, LSM, atau lembaga pemerintah yang akhirnya memutuskan omertà bukan untuk kepentingan umum? Tidak.

Kami telah memperoleh wawasan ini karena manajemen New York Times memutuskan untuk memberikan dua jurnalis, Michael Keller dan Gabriel Dance, ruang dan sumber daya untuk mengejar kisah yang terbukti penting.

Saya bertemu orang-orang ini untuk pertama kalinya di kantor New York Times Senin lalu, tetapi saya berbicara dengan mereka pada bulan Juni. Mereka telah menyelidiki csam sejak Februari, terbang di sekitar (secara harfiah), berbicara dengan banyak orang, mengumpulkan hal-hal bersama dari pada rekaman dan dari sumber rekaman.

Itu adalah upaya besar yang membuat percikan yang sepadan di halaman depan kertas. Tampaknya memiliki efek yang diinginkan.

Surat dari lima Senator

Salah satu konsekuensi langsung dari artikel New York Times muncul minggu lalu ketika lima Senator AS (dua Demokrat, tiga Republik) menulis secara mengesankan surat terinci untuk tiga puluh enam perusahaan teknologi. Mereka termasuk semua anggota Koalisi Teknologi dan lebih banyak lagi. Para Senator menginginkan jawaban sebelum 4th Desember.

Mari kita lihat bagaimana tanggapan perusahaan. Surat itu berisi semua pertanyaan yang benar. Mereka adalah jenis perusahaan teknologi yang seharusnya secara hukum diminta untuk menjawab. Setelah pemilu Inggris berakhir, semoga kita dapat bergerak cepat untuk membentuk regulator yang kuat yang dapat meminta mereka yakin bahwa mereka akan menerima jawaban yang jujur. Keraguan atau penolakan apa pun oleh perusahaan AS untuk menanggapi surat Senator hanya akan menambah rasa urgensi di sini.

The New York Times telah membantu anak-anak di seluruh dunia

Anak-anak di seluruh dunia berhutang banyak pada Keller dan Dance dan bos-bos mereka, tetapi tidak banyak skandal yang diperlukan sebuah surat kabar untuk membukanya. Di mana badan kepentingan publik yang memiliki sumber daya dan kemampuan untuk melacak dan melaporkan secara konsisten dari waktu ke waktu mengenai hal-hal semacam ini? Itu tidak ada. Itu harus.

Saya telah berdebat selama berabad-abad bahwa kita membutuhkan Observatorium Global, antara lain untuk melakukan secara rutin apa yang baru saja dilakukan oleh New York Times. Di suatu tempat perlu ada agen independen dengan sumber daya yang memadai yang mengutamakan minat anak-anak dan industri teknologi tinggi dalam pandangannya. Tetapi tubuh seperti itu perlu dipertahankan dari waktu ke waktu. Itu adalah hal yang besar dan mahal untuk dilakukan, tetapi saya akan mencoba melakukannya lagi.