Mengapa itu buruk ketika Internet tahu segalanya tentang Anda?

Halo, Habr! Saya membawa kepada Anda terjemahan dari artikel "Bahaya Overpersonalisasi" oleh Kim Flaherty dan Kate Moran.

Intinya: Personalisasi konten yang berlebihan mengarah pada persepsi yang seragam dan acuh tak acuh terhadap informasi oleh pengguna dan dapat menyebabkan kelelahan dari produk Anda secara keseluruhan.

Dalam banyak hal, personalisasi informasi bermanfaat bagi kemanusiaan. Pengguna internet begitu kewalahan dengan berbagai macam konten yang difilter berdasarkan popularitas dan memberikan informasi yang menarik bagi pengguna hanya dapat mengurangi upaya pengguna secara signifikan dan menjadikan penelusuran Internet jauh lebih produktif dan nyaman.

Namun, banyak pengguna tahu bahwa setiap interaksi mereka di jaringan dimonitor dan dianalisis. Semua data ini ditandai dan disegmentasi untuk membuat profil dan koleksi individual untuk setiap klien (cerita, produk, iklan dan berita, film, game ...). Namun dalam kasus apa personalisasi berlebihan menjadi masalah?

Dalam penelitian kami, kami menemukan beberapa kekurangan personalisasi informasi yang berlebihan. Secara khusus, salah satu masalah adalah bahwa pengguna, setelah memilih kategori di mana ia ingin menerima informasi, dengan demikian "mengarahkan dirinya ke sudut" dan mulai menerima hanya informasi yang sebelumnya telah ditentukan untuk dirinya sendiri. Namun, orang sering memiliki beragam aspek dan cenderung mengubah selera mereka dari waktu ke waktu dan di bawah pengaruh berbagai keadaan. Sistem yang berfokus pada satu pengguna tertentu berisiko menjadi membosankan atau bahkan menyebalkan bagi yang lain.

Akurasi atau relevansi

Masalah dengan personalisasi didasarkan pada keseimbangan antara akurasi hasil dan relevansinya (IR).

Ambil pencarian untuk informasi sebagai contoh.

Akurasi adalah persentase hasil yang ditemukan untuk istilah pencarian Anda (apa yang sebenarnya Anda cari).

Relevansi adalah persentase dari semua hasil yang relevan yang sudah diketahui oleh mesin pencari (semua yang Anda cari sebelum permintaan ini, data tambahan tentang lokasi Anda dan seterusnya ...).

Jika kita berbicara tentang mesin pencari, rasio metrik ini memungkinkan Anda untuk mendapatkan hasil terbaik dan menemukan apa yang Anda butuhkan saat ini.

Sejak awal, mesin pencari Google tidak mengandalkan keakuratan, tetapi pada relevansi (personalisasi) informasi, yang memungkinkan mereka menonjol di antara para pesaing. Pencarian di sumber data yang hampir tak ada habisnya harus relevan, dan seharusnya tidak membuat kita secara independen memahami setiap hasil yang berpotensi berguna bagi kita.

Demikian pula, banyak produk digital juga lebih memilih relevansi daripada akurasi - mencoba memastikan konten yang direkomendasikan pasti relevan bagi pengguna. Akibatnya, mereka benar-benar mematuhi informasi yang sudah mereka ketahui tentang pengguna (topik yang diminati, konten yang disukai sebelumnya, dll.). Namun, strategi yang sama, yang sangat bagus untuk mesin pencari dan menemukan informasi yang diperlukan, sama sekali tidak cocok untuk membangun umpan di jejaring sosial.

Misalnya, mari kita bayangkan pengguna yang melihat foto dalam layanan bersyarat. Pengguna kami memiliki dua minat utama - ia sangat menyukai kucing dan anjing.

Dalam layanan kami, 100 posting dengan foto kucing dan 100 posting dengan foto anjing (ditambah ribuan posting tentang topik lain). Kemungkinan besar, pengguna ingin melihat salah satu dari 200 publikasi tentang kucing atau anjing, tetapi segera setelah ia merespons positif posting dengan kucing, sistem akan membangun rekomendasi untuk pengguna tanpa tanda-tanda bahwa ia menyukai anjing. Akibatnya, pengguna akan menerima rekaman yang seluruhnya terdiri dari foto-foto kucing.

Kami melihat bahwa pengguna menerima serangkaian posting yang sangat akurat, sangat relevan, tetapi dengan melakukan itu kami menghilangkan keberagamannya. Idealnya, ia ingin melihat posting tentang kucing dan anjing, tetapi aplikasi tidak menggunakan potensi penuhnya dan pengguna cepat atau lambat kehilangan minat pada konten yang dilihat. Selain itu, mungkin pengguna ini akan berpikir bahwa platipus adalah hewan paling lucu di dunia jika dia pernah melihatnya. Namun, beberapa foto platypus dalam aplikasi tidak akan pernah ditampilkan kepada pengguna kami.

Personalisasi berlebihan berbahaya bagi organisasi dan pengguna:

• Pengguna berulang kali melihat jenis konten yang sama, praktis tidak memiliki kesempatan untuk memperluas wawasan dan minat mereka;
• Perusahaan tidak menerima informasi yang cukup dan, oleh karena itu, tidak mengenal penggunanya dengan cukup baik.

Pendekatan ini difokuskan pada pengguna sebagai karakter satu dimensi, dan bukan pada kepribadian yang kompleks dan beragam seperti kita.

Pengalaman homogen

Kami telah melihat di atas bahwa personalisasi berlebihan dapat mengarah pada pengalaman negatif (dalam konteks jejaring sosial) dan bahwa itu hanya dapat memuaskan sebagian dari banyak minat pengguna. Tapi apa yang dipikirkan pengguna sendiri tentang ini? Bagaimana mereka merespons personalisasi berlebihan?

Keadaan lelah

Kami [penulis] mulai bosan dengan membalik-balik feed Instagram. Yang kita lihat hanyalah kucing dan dekorasi. Ya, kami sama-sama menyukai kucing dan perhiasan, dan Instagram tentu saja memperhitungkannya. Interaksi kami dengan jenis posting ini menciptakan efek bola salju. Sebagian besar konten yang diiklankan secara algoritmik kepada kami oleh platform cocok dengan kategori-kategori ini, sehingga seiring waktu, halaman pribadi kami mulai menjadi jenuh dengan konten homogen yang sama dengan yang kita lihat pada orang lain. (Ya, Instagram memiliki tab Temukan khusus di mana Anda dapat menemukan sesuatu yang baru untuk diri Anda sendiri ... Tetapi untuk menuju ke tab ini, seseorang perlu berupaya pada dirinya sendiri, dan konten dari tab ini tidak terhubung dengan cara apa pun dengan umpan utama Anda).

Para peserta dalam penelitian kami mengungkapkan perasaan yang sama; dalam beberapa kasus, personalisasi yang berlebihan mengarah pada fakta bahwa pengguna kehilangan minat pada aplikasi atau benar-benar meninggalkannya.

Beberapa peserta studi di Amerika Serikat membuka-buka Instagram dan Facebook, bahkan tanpa membaca posting, menjelaskan hal ini karena kurangnya bahan-bahan baru dan menarik dalam umpan mereka.

"Membosankan."
"Ritual rutin di pagi hari."
“Saya terus-menerus melihat orang yang sama di Facebook; tidak ada keraguan tentang itu. "

Seorang gadis bahkan memperhatikan bahwa karena konten dalam umpannya menjadi membosankan, ia terus menggulir umpan untuk mencari sesuatu yang menarik: "Hari ini saya tidak menemukan sesuatu yang menarik di Facebook, tetapi yang lucu, saya akan terus memutar umpan sampai sampai saya menemukan sesuatu yang menarik; itu sangat adiktif. "

Perilaku ini terkait dengan fenomena Vortex, yang berarti bahwa orang merasa tertarik ke dunia online hampir bertentangan dengan kehendak mereka menggunakan metode desain lengket (misalnya, aliran konten terus menerus yang disediakan jejaring sosial untuk kita). Pengguna berusaha untuk mendapatkan pengembalian emosional atas konten yang baik. Dalam kasus ini, telepon berubah menjadi mesin slot mini: mereka menarik tuas, menghadapi puluhan kegagalan dan terus bermain dengan harapan akhirnya menang.

Beberapa peserta dalam penelitian kami di China for the Life Online melaporkan bahwa mereka awalnya aktif menggunakan TikTok (jejaring sosial untuk berbagi musik dan video): konten pada platform itu sangat menarik. Beberapa pengguna mengatakan bahwa mereka duduk dan menonton video selama berjam-jam dengan cepat. Tetapi suatu saat mereka menjadi bosan. Semuanya mulai terlihat sama, jadi mereka berhenti menggunakan aplikasi. “Ini hampir sama dengan konten yang diterbitkan berulang-ulang. Saya tidak punya keinginan khusus untuk terus melihat ini. " - Kata salah satu peserta dalam penelitian ini.

Kelelahan karena konten karena personalisasi berlebihan tidak hanya ada di jejaring sosial. Dalam penelitian kami pada sistem rekomendasi, seorang pengguna Amazon mencatat bahwa ia memenuhi rekomendasi produk yang ketinggalan jaman dan membosankan di bagian Recommendations for You.
Melihat melalui strip makanan, dia berkomentar: "Saya melihat beberapa hal ini, misalnya, minyak Argan beberapa tahun yang lalu ... Jadi ini bukan rekomendasi yang sangat relevan bagi saya sekarang [...] Selama beberapa tahun selera saya mungkin telah berubah.

Misalnya, saya membeli asam laktat 4 tahun yang lalu dan saya tidak berpikir bahwa rekomendasi ini masih relevan bagi saya. "

Contoh ini menunjukkan bagaimana analisis minat pengguna di segmen sempit dapat menyebabkan rekomendasi menjadi membosankan dan tidak relevan. Seperti yang dicatat oleh peserta kami, minat cenderung berubah seiring waktu. Selain itu, Amazon melewatkan kesempatan untuk mengeksplorasi minat pelanggan saat ini dan merekomendasikan mereka produk baru.

Pengguna lain yang menjelajahi bagian Jelajahi di Amazon menambahkan produk cumi ke keranjang ... "Saya sangat menyukai cumi-cumi, dan Amazon mulai menunjukkan kepada saya lebih banyak hal dengan gambar cumi [...], ini masalahnya jika saya mencari yang baru dan menarik hal-hal, maka rekaman saya akan hampir sepenuhnya diisi dengan cumi-cumi. Saya tidak ingin dia [Amazon] hanya menawarkan cumi-cumi, meskipun saya pikir cumi-cumi itu sangat keren. "

Cara kerjanya hampir sama seperti Anda masih anak-anak dan memberi tahu ibu Anda bahwa Anda suka kucing. Setelah itu, untuk setiap Natal, Anda akan menerima hadiah yang berbentuk kucing.

Untuk meringkas ... konten yang dipersonalisasi dapat memengaruhi interaksi pengguna dengan aplikasi Anda, dan membuat pengguna Anda bosan ... dan karena itu, Anda tidak akan mengetahui lebih banyak informasi tentang pengguna Anda dan tidak akan dapat menyesuaikan aplikasi dengan harapan baru mereka.

Konten yang direplikasi

Jenis konten yang sama yang Anda temukan di jejaring sosial seperti TikTok dan Instagram diperparah oleh fakta bahwa pengguna komunitas lainnya membuat konten serupa dan duplikat, hanya untuk masuk ke dalam penerbitan algoritma dalam mengejar popularitas.

Instagram memiliki profil yang mendefinisikan konten yang direplikasi dan trik serupa yang pengguna ulangi satu per satu. Misalnya, foto dengan jenis lanskap yang sama dan titik pandang atau sudut tampilan yang sama ... Meskipun foto diambil pada waktu yang berbeda oleh pengguna yang berbeda, semuanya sama. ( @insta_ulangi )

Bahkan sampai pada titik bahwa seorang pengguna Cina dengan sengaja berencana untuk mereproduksi beberapa gambar populer pada perjalanannya yang akan datang ke Paris. Gadis itu melihat posting di Redbook, yang dibuat oleh pengguna lain di Paris. Foto-foto itu mengilhami dia untuk mengunjungi tempat yang sama, dan dia bermaksud untuk membuat kembali posting favoritnya di akunnya sendiri.

"Saya ingin meniru perjalanan dari blog populer yang saya lihat di Internet - saya akan difoto di tempat yang sama dan dalam pose yang sama, dari sudut yang sama."

Kamera gema

Gejala lain dari pengalaman superpersonal, homogen.

Kamera gema adalah situasi yang diciptakan oleh konten bertarget kuat yang “memakan” kepercayaan kami dan diperkuat oleh fakta bahwa kami melihat hal yang sama dalam rekaman kami. Efek gema memicu polarisasi sosial di antara orang-orang.

Misalnya, di Facebook, orang suka berinteraksi dengan konten yang mereka sukai (seperti, berbagi dengan teman ...). Dengan demikian, seiring waktu, ketika platform mengidentifikasi minat pengguna, algoritma mulai hanya menampilkan pesan-pesan yang secara khusus dirancang untuk pengguna tersebut (atau grup pengguna). Dalam hal ini, menciptakan dunia di mana pengguna hanya mengkonsumsi jenis pesan yang memperkuat keyakinan dan minatnya. Orang tidak lagi melihat pesan yang menantang keyakinan mereka atau memperluas sudut pandang mereka.

Jika setiap pernyataan ditujukan untuk mengkonfirmasi minat kami, kami kehilangan kesempatan untuk belajar tentang pengalaman lain. Hasil: dalam kehidupan nyata, orang-orang dipisahkan sejelas di dunia virtual.

Sebelum kami mulai menerima konten yang ditargetkan di web, komunikasi kami terdiri dari membahas berita yang sama dan dengan demikian menciptakan rasa kebersamaan. Pandangan dunia kami dibentuk dengan membaca dan memahami informasi yang sama dengan orang lain dan sebagai hasilnya, orang lebih bersatu. Pada bulan Maret 2017, The New York Times mengumumkan bahwa mereka akan mulai bereksperimen dengan berita yang dipersonalisasi untuk pembaca online-nya. Berita ini telah menimbulkan keprihatinan di kalangan banyak orang. Orang-orang mengeluh bahwa mereka tidak dapat berbagi berita yang sama dan mendiskusikan cerita yang sama dengan yang telah dibaca oleh teman dan kerabat mereka.

Sisi gelap personalisasi

Personalisasi dapat dengan mudah membuat Anda takut dalam beberapa situasi. Meskipun sebagian besar konsumen tahu bahwa tindakan mereka sedang dipantau untuk memberikan rekomendasi terbaik kepada mereka, ini bisa menjadi masalah jika salah satu tindakan Anda dapat menyebabkan gelombang spam ke email atau nomor telepon Anda.

Kami bertanya kepada beberapa peserta dalam survei Life Online kami bagaimana perusahaan menentukan iklan mana yang akan ditampilkan kepada pengguna. Sebagian besar pengguna tahu bahwa iklan dan konten lain telah dipersonalisasi berdasarkan tindakan pengguna sebelumnya. Ketika seseorang mencari sesuatu di mesin pencari dan kemudian tiba-tiba terus melihat hasil pencariannya di seluruh jaringan.

Misalnya, seorang peserta Cina dalam survei kami memberi tahu kami: “Jika saya melihat toilet di Taobao, maka akan ada informasi tentang peralatan rumah tangga di mana-mana. Kerugian dari ini adalah bahwa jika saya sudah membeli sesuatu, iklan akan tetap muncul. Dan saya akan pahit jika saya melihat diskon pada barang yang baru saya beli. "

Sebagian besar peserta kami tidak tahu persis bagaimana situs mengirimkan informasi tentang tindakan pengunjung di antara mereka sendiri. Terkadang ada situasi ketika konten yang dipersonalisasi benar-benar melanggar batas-batas yang menurut pendapat mereka harus diketahui oleh situs atau perangkat tentang pengguna. Latihan ini tampak sangat menyeramkan.

Sebagai contoh, salah satu peserta dalam penelitian kami di China berkomentar bahwa ia memahami mengapa di telepon ia menerima iklan yang terkait dengan aplikasi seluler, tetapi ketika ia menggunakan komputer dan menerima informasi yang berkaitan dengan aktivitasnya yang baru-baru ini dilakukan di telepon seluler, ini dapat mengejutkannya. Ini juga menakutkan para pengguna yang tampaknya diketahui dan digunakan oleh Facebook dari permintaan pengguna baru-baru ini ke Amazon dan Google.

(Meskipun kami tidak menentang sistem antarmuka pengguna yang terpadu, kadang-kadang masih layak membatasi harapan pengguna dan melindunginya dari sistem backend yang serba tahu.)
Orang-orang juga takut akan informasi yang terkait erat dengan informasi rahasia pengguna. Misalnya, informasi tentang makanan atau tentang kehamilan, persiapan untuk pemakaman, atau resep untuk mengobati penyakit medis eksotis yang ditunjukkan kepada pengguna dapat menyebabkan reaksi emosional yang kuat jika mereka ditampilkan di luar konteks dan berhubungan langsung dengan pengguna. Beberapa interaksi online harus tetap dirahasiakan atau harus diperlakukan dengan hati-hati.

Menghindari personalisasi berlebihan

Sekarang kami memiliki kemampuan teknis untuk melacak, menganalisis, dan mempersonalisasikan pengalaman pengguna dalam produk kami hingga detail terkecil, menjadi jelas bahwa memang ada penghalang antara keinginan untuk personalisasi dan kekurangan serius yang muncul dari personalisasi berlebihan. Mungkin sudah tiba saatnya untuk mengambil langkah mundur dan mengevaluasi kemampuan kita. Berdasarkan poin rasa sakit yang diamati dalam penelitian kami, kami telah mengumpulkan beberapa rekomendasi yang harus dipertimbangkan perusahaan untuk mencegah kesalahan yang terkait dengan informasi personalisasi:

• Perluas batas-batas kesadaran. Pertimbangkan memperluas segmen untuk memberikan tingkat personalisasi tertentu, tetapi pada saat yang sama menyediakan beragam konten untuk pengguna. Halaman personalisasi yang sering diajukan di New York Times mengindikasikan bahwa organisasi tersebut berusaha untuk mencapai keseimbangan antara menyediakan cerita yang dipersonalisasi dan konten yang dibagikan.
• Kocok dan campur. Jangan terlalu bergantung pada minat pelanggan Anda yang terkenal. Buat strategi konten yang secara sengaja memperkenalkan konten yang tidak pantas ke dalam umpan pengguna Anda. Pertimbangkan untuk menyeimbangkan antara konten yang ditargetkan dan pengenalan produk baru atau populer yang melampaui minat Anda. Juga pertimbangkan bagaimana pesan-pesan ini dikirimkan kepada pengguna akhir. Saluran, pesan SMS, dan email lebih cocok untuk melaporkan peristiwa penting, sementara jejaring sosial mungkin lebih cocok untuk mencampur informasi tentang produk Anda, karena sumber-sumber ini lebih terbuka untuk melihat dan menemukan informasi baru dan unik. Dalam pembentukan bahan-bahan umum, cobalah membuat berbagai konten, yang, dalam umpan dari orang yang bukan dari audiens target Anda, akan dapat menarik perhatian tambahan.
• Jangan gunakan algoritma umum. . , . , , , . , .
• . , .

.