La fraude à l'IA approche à grands pas, comment devrions-nous la prévenir ?

Toute technologie est une arme à double tranchant. Quel mal l’intelligence artificielle (IA) peut-elle nous apporter ?

Actuellement, les scientifiques, les entrepreneurs, les médias et d'autres personnes autour de nous discutent des méfaits à long terme de l'IA, par exemple, elle peut entraîner la perte d'emploi des travailleurs, surpasser ou remplacer la pensée humaine, et même entraîner la perte des humains. leur compréhension du contrôle civilisé, etc.

Cependant, le mal que nous apporte l’IA est juste devant nous. Et, pour la plupart des gens, ils ne savent pas qu’ils sont une victime jusqu’à ce qu’ils en fassent l’expérience directe.

Récemment, la nouvelle selon laquelle « un propriétaire d'entreprise a été victime d'une arnaque à l'IA qui a changé son visage et a été escroqué de 4,3 millions de yuans en 10 minutes » figurait sur la liste de recherche la plus recherchée des principaux sites d'information. Selon la victime, l'escroc a réussi à se faire passer pour son ami grâce à la technologie de changement de visage et d'onomatopées, puis à l'escroquer : « À ce moment-là, il m'a passé un appel vidéo, et j'ai également confirmé son visage et sa voix dans le message. vidéo, alors j'ai relâché ma garde. »

Bien que cet incident ait rendu les gens plus conscients de l'arnaque du « changement de visage par l'IA », en fait, il existe bien plus d'exemples de « changement de visage par l'IA » Des célébrités populaires vendant des produits dans des salles de diffusion en direct, certaines indécentes. les visages dans la vidéo, etc., peuvent tous être des escroqueries créées par des criminels utilisant la technologie de l'IA.

De plus, les criminels utiliseront également la technologie de l'IA pour extraire des fichiers vocaux après avoir volé les comptes WeChat d'autres personnes et commettent des fraudes en transmettant des voix WeChat.

La question est la suivante : lorsque nous apprécions la commodité apportée par la technologie de l'IA, comment devrions-nous gérer les nouvelles escroqueries telles que le "changement de visage par l'IA" ?

En décembre de l'année dernière, l'Administration du cyberespace de Chine, le ministère de l'Industrie et des Technologies de l'information et le ministère de la Sécurité publique ont publié conjointement le « Règlement sur la gestion de la synthèse profonde des services d'information sur Internet », qui mentionnait que : Les fournisseurs de services de synthèse profonde n'ont aucun contrôle sur l'utilisation de leurs services pour générer ou modifier du contenu. Le contenu informatif doit être ajouté avec des logos qui n'affectent pas son utilisation. Les services qui fournissent des fonctions qui génèrent ou modifient de manière significative le contenu de l'information, tels que le dialogue intelligent, les voix humaines synthétisées, la génération de visages, les scènes simulées immersives, etc., doivent être clairement signalés pour éviter toute confusion ou tout malentendu de la part du public.

Au début de ce mois, une courte plate-forme vidéo a également publié les « Spécifications de la plate-forme et initiatives de l'industrie sur le contenu généré par l'intelligence artificielle », qui interdisent clairement l'utilisation de la technologie de l'intelligence artificielle générative pour créer et publier du contenu contrefait, y compris mais ne se limitant pas aux droits de portrait, aux droits de propriété sur les connaissances, etc., une fois découverts, la plateforme les punira sévèrement.

S'il s'agit d'activités commerciales telles que la diffusion en direct de produits, la diffusion en direct d'échange de visage mentionnée ci-dessus peut constituer une violation des droits de portrait des célébrités et des artistes concernés, et la situation sera plus grave. Il convient de noter que même si les diffusions en direct d’échange de visages sont uniquement destinées au divertissement et ne sont pas rentables, elles constituent néanmoins une contrefaçon sans le consentement du titulaire des droits de portrait.

Alors, personnellement, comment faut-il se méfier des nouvelles arnaques comme le « AI face-changeing » ?

Le 24 mai, l'Internet Society of China a émis un avertissement : « Face aux nouvelles escroqueries utilisant la technologie de l'IA, le grand public doit être plus vigilant et renforcer la prévention. Plus précisément, nous devrions être la première personne responsable des affaires personnelles ! sécurité des informations , et assurez-vous d'effectuer plusieurs vérifications lors du transfert d'argent à distance et de garder votre « sac d'argent » sous contrôle.

Quant à l'industrie, le commentateur spécial Xiong Zhi de The Paper estime que des réglementations doivent être établies dès que possible pour clarifier la ligne rouge de la protection des informations et renforcer la normalisation et l'orientation du comportement des prestataires de services techniques Only AI. le changement de visage, les onomatopées de l'IA, etc. sont omniprésents. Ce n'est que lorsque les liens sont bien fondés et strictement autorisés, ce qui rend la fraude plus difficile, que nous pouvons mieux protéger les informations et la sécurité des biens de chacun.

Enfin, si vous sentez que vous souffrez ou avez souffert du changement de visage de l'IA, des onomatopées de l'IA et d'autres escroqueries, vous devez apprendre à utiliser la « loi » pour vaincre la « magie de l'IA ». Bien sûr, la meilleure façon d’y faire face est de choisir de ne pas y croire.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!