Les autorités du New Hampshire ont émis des avertissements suite à la découverte d'un appel automatisé frauduleux utilisant une imitation de la voix du président Joe Biden, provenant d'une entreprise spécialisée en intelligence artificielle basée au Texas. Cet incident a ravivé les inquiétudes concernant le potentiel abus des technologies de synthèse vocale par IA pour influencer négativement le processus électoral, notamment en supprimant des votes, en diffamant des candidats politiques ou en incitant à la violence.
Le sergent-détective Gerald Yott, affilié à la police de l'État du Michigan, a souligné les risques associés au clonage vocal par IA, expliquant que cette technologie peut manipuler la voix de quelqu'un pour créer des escroqueries convaincantes, rendant difficile pour les victimes de distinguer le vrai du faux. À l'heure actuelle, aucune législation fédérale ou étatique n'interdit spécifiquement l'utilisation non consensuelle de la voix d'une personne.
Matthew Martin, propriétaire d'une petite entreprise, a illustré la facilité avec laquelle une imitation vocale convaincante peut être générée en utilisant la technologie IA, mettant en lumière la nécessité de vigilance. Face à cette menace, la police conseille aux citoyens d'établir un code ou un mot de passe familial pour se prémunir contre les fraudes vocales.
Le bureau du procureur général du Michigan a mis en place un dispositif pour signaler le clonage vocal et d'autres escroqueries liées à l'IA. Bien que la technologie de clonage vocal soit encore relativement nouvelle, les forces de l'ordre formées sont en mesure de distinguer les voix synthétisées des voix humaines réelles en analysant les gammes de fréquences, offrant une lueur d'espoir dans la lutte contre ce type de fraude.