Jadi bulan November tahun 2019 lalu, saya menghadiri sebuah konferensi Agile Testing Days seputar Software Testing di Potsdam, Jerman. Konferensi ini berlangsung selama seminggu dan terdiri dari berbagai macam format mulai dari workshop, tutorial, keynote talks dan presentasi-presentasi dari orang-orang yang expert di bidangnya.
Salah satu sesi yang menarik adalah sebuah topik yang berjudul “Where next for tech ethics?” oleh Cennyd Bowles. Topik ini dilatarbelakangi keadaan industri teknologi saat ini yang sangat besar impact-nya terhadap kehidupan sosial, politik dan moral kita. Gimana sih para teknolog bisa mengubah dan memasukkan aspek moral dan etika ke dalam perusahaan-perusahaan teknologi? Apakah etika bisa jadi komitmen bersama industri atau hanya sekedar omongan saja?
Yang terjadi di awal 2010an..
Asal muasal etika teknologi ini didengungkan adalah beragamnya kejadian tidak etis di awal taun 2010an seperti:
- 2012 : Latanya Sweeney, seorang profesor di universitas Harvard melalui sebuah penelitian yang dia kerjakan, menemukan bahwa terdapat diskriminasi ras dan bias pada layanan Google AdSense untuk ads delivery melalui suggestions ketika user melakukan pencarian terhadap nama orang dari komunitas African-American. Nama-nama orang berkulit putih diberikan sugestif yang netral, sementara nama-nama orang yang identik dengan berkulit hitam seperti DeShawn, Darnell dan Jermaine diberikan sugestif yang berhubungan dengan catatan kriminal dimana kata-kata seperti “arrest” sering muncul di sugestif.
- Teknologi facial recognition gagal mengenali wajah yang berkulit gelap, hingga sampai saat ini.
- Kekecewaan dari para pengguna teknologi khususnya dari kaum minoritas yang kurang direpresentasikan seperti perempuan, perempuan kulit berwarna, komunitas LGBT – mengalami pengalaman di abusif di beberapa platform teknologi.
Walaupun para perusahaan teknologi ini membawa dunia ke genggaman kita semua …
Setengah dekade kemudian, banyak terjadinya kesalahan teknis yang sangat besar, seperti..
- 2016 : Pengguna twitter berhasil membuat teknologi chatbot AI keluaran Microsoft bernama “Tay” menjadi rasis hanya dalam waktu kurang dari 24 jam berinteraksi dengan para pengguna twitter
- 2015 : Google Photos melabeli grup orang-orang berkulit hitam dengan tag GORILLA. Bukannya mencari solusi atas masalah tersebut, Google hanya minta maaf dan hanya nge-ban kata gorilla dari produknya.
- 2015 : Flickr, dengan layanan auto-recognition-nya juga melabeli sebuah foto pria berkulit hitam dan wanita berkulit putih dengan auto tagging berlabel kera dan binatang.
- Berbagai kasus facebook dengan fake news, manipulasi data untuk kepentingan politik, banyaknya data leaks, dsb.
Pergerseran yang terjadi beberapa tahun belakangan ini..
Publik mulai kecewa dan percaya dengan teknologi distopia. Bahwa FBI selalu mengamati apa saja yang kita lakukan, Facebook selalu mendengarkan segala percakapan kita melalui mic hape, dan sebagainya. Namun walaupun dengan segala bentuk pesimistis terhadap teknologi, publik masih saja membeli berbagai produk para tech giants ini. Dari sini cuman ada 2 kesimpulan:
- Publik masih menemukan value yang sangat tinggi dari produk-produk teknologi tersebut
- Tapi pada saat yang bersamaan, ini menunjukkan betapa helpless-nya kita sebagai konsumen atas ketergantungan ini dan lack of power kita yang hanya bisa mengonsumsi
Yang harus kita hindari?
Mendukung orang-orang dengan high profile berada dalam bagian ethic public board. Jadi beberapa tahun belakangan ini, tech giants seperti Google, Microsoft dan Facebook meng-inisiasi ethical board yang berfungsi untuk memonitor dan memastikan bahwa kode etik diperhitungkan di seluruh proses development produk. Namun yang terjadi adalah mereka memiliki conflict of interest dan tidak memikirkan publik sebagai pemilik data yang berhak dilindungi privacy nya. Mereka mengimplementasikan persuasive technology, yang meng-encourage orang-orang jadi mabuk dengan produknya. Jadi intinya lebih baik memilih orang-orang yang low profile agar bisa lebih merepresentasikan rakyat jelata.
Yang harus kita tingkatin? Aturan dan hukum!
Beberapa aturan yang telah diterapkan belakangan ini seperti aturan proteksi data GDPR di Eropa, California Consumer Privacy Act (CCPA) untuk para penduduk di state California, Amerika atau bahkan Personal Data Protection Bill 2019 di India.
Sering lelah ketika tiap saat kita mengunjungi website selalu ditanyakan apakah kita menerima cookies policies ? Yap, ini adalah salah satu hal yang diterapkan untuk meminta ijin kita sebagai pemilik data agar kita punya kontrol data seperti apa yang bersedia kita berikan. Misalnya nih kita mau kontak sebuah website untuk membeli produk dan dia meminta tanggal lahir kita, ini kan gak ada hubungannya. Di salah satu workshop yang saya hadiri mengenai GDPR, trainer-nya bilang kalau dia selalu mengontak perusahaannya langsung jika dia merasa janggal akan data pribadi yang diminta ketika dia kontak via website. Jadi, kita juga musti lebih jeli setiap menggunakan sebuah produk, aplikasi atau website agar tidak mau asal memberikan data pribadi kita yang tidak ada hubungannya dan tidak diperlukan untuk mengakses aplikasi yang kita mau pakai.
tampak rupa 