Penipuan AI hampir tiba, bagaimana kita harus mencegahnya?

Sebarang teknologi adalah pedang bermata dua. Apakah bahaya yang mungkin dibawa oleh kecerdasan buatan (AI) kepada kita?

Pada masa ini, saintis, usahawan, media dan orang lain di sekeliling kita telah membincangkan bahaya jangka panjang AI, seperti kemungkinan pekerja akan kehilangan pekerjaan mereka, mengatasi atau menggantikan pemikiran manusia, malah menyebabkan manusia kehilangan mereka. minat terhadap tamadun, dsb.

Walau bagaimanapun, bahaya yang dibawa oleh AI kepada kita ada di hadapan mata kita. Dan, bagi kebanyakan orang, mereka tidak tahu bahawa mereka adalah mangsa sehingga mereka mengalaminya secara langsung.

Baru-baru ini, berita bahawa "seorang bos syarikat menghadapi penipuan AI yang mengubah wajah dan telah ditipu sebanyak 4.3 juta yuan dalam masa 10 minit" merupakan topik carian hangat di tapak web berita utama. Menurut mangsa, penipu itu berjaya berpura-pura menjadi rakannya melalui teknologi AI mengubah wajah dan onomatopoeia, dan kemudian menipunya “Ketika itu, dia membuat panggilan video kepada saya, dan saya turut mengesahkan wajah dan suaranya dalam video, jadi Kemudian saya merehatkan pengawal saya.”

Walaupun kejadian ini telah menyedarkan orang ramai tentang penipuan "mengubah wajah AI", sebenarnya, terdapat lebih banyak contoh "mengubah wajah AI". Selebriti popular menjual barangan di bilik siaran langsung, beberapa video tidak senonoh wajah dalam imej, dsb., mungkin semua penipuan yang dibuat oleh penjenayah menggunakan teknologi AI.

Selain itu, penjenayah juga akan menggunakan teknologi AI untuk mengekstrak fail suara selepas mencuri akaun WeChat orang lain, dan melakukan penipuan dengan memajukan suara WeChat.

Persoalannya, apabila kita menikmati kemudahan yang dibawa oleh teknologi AI, bagaimanakah kita harus menangani penipuan baharu seperti "AI face-changer"?

Pada Disember tahun lalu, Pentadbiran Ruang Siber China, Kementerian Industri dan Teknologi Maklumat, dan Kementerian Keselamatan Awam bersama-sama mengeluarkan "Peraturan Mengenai Pengurusan Sintesis Dalam Perkhidmatan Maklumat Internet", yang menyebut bahawa: Deep pembekal perkhidmatan sintesis mempunyai kawalan ketat ke atas kandungan yang dijana atau diedit menggunakan perkhidmatan mereka Kandungan maklumat harus ditambah dengan logo yang tidak menjejaskan penggunaannya. Perkhidmatan yang menyediakan fungsi yang menjana atau mengubah kandungan maklumat dengan ketara, seperti dialog pintar, suara manusia yang disintesis, penjanaan wajah, adegan simulasi yang mengasyikkan, dsb., hendaklah ditanda dengan jelas untuk mengelakkan kekeliruan atau salah faham oleh orang ramai.

Pada awal bulan ini, platform video pendek turut mengeluarkan "Spesifikasi Platform dan Inisiatif Industri mengenai Kandungan Dijana Kecerdasan Buatan", yang jelas melarang penggunaan teknologi kecerdasan buatan generatif untuk mencipta dan menerbitkan kandungan yang melanggar, termasuk tetapi tidak. terhad kepada hak potret dan hak harta intelek dsb. Setelah ditemui, platform akan menghukum anda dengan teruk.

Jika ia melibatkan aktiviti komersial seperti penstriman langsung barangan, siaran langsung mengubah wajah yang dinyatakan di atas mungkin merupakan pelanggaran hak potret selebriti dan artis yang berkaitan, dan keadaan akan menjadi lebih serius. Perlu diingat bahawa walaupun siaran langsung bertukar muka hanya untuk hiburan dan tidak menguntungkan, ia tetap merupakan pelanggaran tanpa persetujuan pemegang hak potret.

Jadi, secara peribadi, bagaimanakah kita harus berhati-hati dengan penipuan baharu seperti "AI face-changer"?

Pada 24 Mei, Persatuan Internet China mengeluarkan amaran, "Menghadapi penipuan baharu menggunakan teknologi AI, orang awam perlu lebih berhati-hati dan memperkukuh pencegahan Secara khusus, kita harus menjadi orang pertama yang bertanggungjawab untuk keselamatan maklumat peribadi , Dan apabila memindahkan dana dari jauh, pastikan anda melakukan beberapa pengesahan dan pastikan "beg wang" anda terkawal.

Bagi industri, Xiong Zhi, pengulas khas The Paper, percaya bahawa peraturan mesti diwujudkan secepat mungkin untuk menjelaskan garis merah perlindungan maklumat dan mengukuhkan penyeragaman dan panduan tingkah laku penyedia perkhidmatan teknikal. Hanya AI yang menukar wajah, onomatopoeia AI, dsb. berada dalam setiap pautan Hanya dengan kebenaran berasaskan bukti dan ketat untuk menyukarkan penipuan, kami dapat melindungi maklumat dan keselamatan harta benda dengan lebih baik.

Akhir sekali, jika anda merasakan bahawa anda menderita atau telah mengalami perubahan wajah AI, onomatopoeia AI dan penipuan lain, anda mesti belajar menggunakan "undang-undang" untuk mengalahkan "sihir AI". Sudah tentu, cara terbaik untuk menanganinya ialah memilih untuk tidak mempercayainya.

Atas ialah kandungan terperinci Penipuan AI hampir tiba, bagaimana kita harus mencegahnya?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!