Η τεχνολογία κλωνοποίησης φωνής με χρήση τεχνητής νοημοσύνης εξελίσσεται ραγδαία, προκαλώντας σοβαρές ανησυχίες για τη χρήση της. Φωνές διασήμων, όπως της Τζένιφερ Άνιστον, της Όπρα Γουίνφρεϊ και του Ντέιβιντ Ατένμπορο, έχουν κλωνοποιηθεί χωρίς τη συναίνεσή τους, με την τελευταία περίπτωση να χρησιμοποιείται για παραπλανητικές ειδήσεις στις ΗΠΑ. Οι ειδικοί προειδοποιούν ότι οι νόμοι για την ιδιωτικότητα και τα πνευματικά δικαιώματα δεν ανταποκρίνονται στις προκλήσεις αυτής της τεχνολογίας.

Η αύξηση της χρήσης της κλωνοποίησης φωνής για απάτες είναι ανησυχητική, με έρευνες να δείχνουν 30% αύξηση τέτοιων περιστατικών στο Ηνωμένο Βασίλειο το τελευταίο έτος. Οι απατεώνες συχνά εκμεταλλεύονται την τεχνολογία για να πείσουν θύματα να στείλουν χρήματα, χρησιμοποιώντας φωνές που μοιάζουν με αυτές των παιδιών τους.

Η βιομηχανία των φωνητικών αφηγήσεων προσπαθεί να προσαρμοστεί, με κάποιες εταιρείες να κλωνοποιούν τις φωνές των καλλιτεχνών τους. Ωστόσο, τα κλωνοποιημένα μοντέλα ακόμα δυσκολεύονται να αποδώσουν φυσικά την ανθρώπινη συναισθηματική έκφραση. Οι ειδικοί επισημαίνουν ότι παρά την πρόοδο, η πλήρης αναπαραγωγή της συναισθηματικής πολυπλοκότητας της ανθρώπινης φωνής παραμένει μακρινός στόχος.

Ο Δρ. Ντόμινικ Λις, ειδικός στην τεχνητή νοημοσύνη, τονίζει την ανάγκη για κυβερνητική ρύθμιση, ώστε να αποτραπεί η κακόβουλη χρήση της τεχνολογίας. Παρόλο που υπάρχουν ήδη θετικά παραδείγματα χρήσης, όπως το έργο "Virtually Parkinson" με την έγκριση της οικογένειας του Μάικλ Πάρκινσον, η ανεξέλεγκτη ανάπτυξη της κλωνοποίησης φωνής αποτελεί σοβαρό κίνδυνο για την ιδιωτικότητα, την ασφάλεια και τα πνευματικά δικαιώματα.