Διαδίκτυο στα όπλα καθώς ο χρήστης του 4Chan χρησιμοποιεί προσομοιωτή φωνής AI για να παραποιήσει τη φωνή της Emma Watson, την κάνει να διαβάσει την αυτοβιογραφία του Χίτλερ
Τα πρώην στελέχη της Google και της Palantir μαζί εγκαινίασαν την startup Elevenlabs, η οποία είχε στόχο να δημιουργήσει υψηλής ποιότητας ακουστικά ψεύτικα διασημότητες μέσω του εργαλείου κλωνοποίησης φωνής AI. Αλλά η κυκλοφορία τους beta σύντομα απέτυχε με πολλούς να καταχρώνται τις φωνές διασημοτήτων, συμπεριλαμβανομένης της Emma Watson, μέσω του εργαλείου κλωνοποίησης φωνής AI.
Πολλοί θαυμαστές έχουν μείνει εξαγριωμένοι από την ανήθικη και ανήθικη χρήση του εργαλείου AI αφού ορισμένα τρολ καταχρώνται τις αγαπημένες τους φωνές διασημοτήτων για να περάσουν εξωφρενικά σχόλια. Αλλά η startup έχει διαβεβαιώσει τους πάντες ότι πρόκειται να αλλάξουν το μοντέλο της για να αποφύγουν περαιτέρω προβλήματα.
Οι θαυμαστές εξοργίστηκαν αφού ο χρήστης του 4Chan έκανε κακή χρήση της φωνής της Emma Watson μέσω του εργαλείου AI
Η εισαγωγή του εργαλείου κλωνοποίησης φωνής AI από την Elevenlabs έχει βάλει φωτιά στο Διαδίκτυο αφού πολλά τρολ εκμεταλλεύονται τη χρήση αυτού του δωρεάν εργαλείου. Αν και πολλοί έχουν χρησιμοποιήσει το λογισμικό για να δημιουργήσουν υγιεινό περιεχόμενο, ένα μέρος του Διαδικτύου έχει κάνει κατάχρηση του εργαλείου για να κάνει διασημότητες να εκτοξεύουν φυλετικές συκοφαντίες και εξωφρενικά σχόλια και την κακή χρήση του της Emma Watson η φωνή ήταν η σταγόνα που ξεχείλισε το ποτήρι.
Πρόσφατα. Η μητρική πλακέτα ανέφερε την ακραία κατάχρηση του λογισμικού AI για τη δημιουργία προσβλητικού βαθύ ψεύτικου ήχου. Αλλά το άχυρο που έσπασε την πλάτη της καμήλας ήταν ένας χρήστης του 4Chan, ο οποίος δημιούργησε ένα κλιπ του Χάρρυ Πόττερ Η πρωταγωνίστρια Emma Watson διαβάζει ο αγώνας μου , η αυτοβιογραφία του ναζί δικτάτορα Αδόλφου Χίτλερ.
Οι θαυμαστές έχουν εξοργιστεί με αυτήν την ανήθικη χρήση του λογισμικού σχετικά με την Emma Watson και άλλες διάσημες προσωπικότητες, όπως ο Joe Rogan, ο Robin Williams, κ.λπ. κατάχρηση του εργαλείου κλωνοποίησης φωνής τους.
Διαβάστε επίσης: Ο σκηνοθέτης του «Prisoner of Azkaban» ζήτησε από το τρίο του Χάρι Πότερ να γράψει ένα δοκίμιο για τον χαρακτήρα τους - η Emma Watson έγραψε 16 σελίδες, ο Daniel Radcliffe είχε μια περίληψη 1 σελίδας, ο Rupert Grint δεν έγραψε μία
Η Elevenlabs υπόσχεται να αποφύγει περαιτέρω κατάχρηση του εργαλείου AI
Η Startup ήταν συγκλονισμένη από τη θετική ανταπόκριση στην αρχή, καθώς πολλοί χρησιμοποιούσαν το εργαλείο κλωνοποίησης φωνής AI για υγιεινή δημιουργία. Αλλά η εταιρεία αντιμετώπισε σύντομα ένα πρόβλημα αφού τα trolls άρχισαν να εκμεταλλεύονται το λογισμικό για κακόβουλους σκοπούς. Η Elevenlabs διαβεβαίωσε το Διαδίκτυο ότι εξετάζει σε βάθος το θέμα και ανακαλύπτει τις πιθανές λύσεις.
Αν και οι δημιουργοί του Elevenlabs παραδέχτηκαν ότι μπορούν να εντοπίσουν τους χρήστες που κάνουν κατάχρηση της ισχύος του εργαλείου AI, αναζητούν πρόσθετα μέτρα ασφαλείας για να αποφύγουν αυτό το ζήτημα. Οι δημιουργοί μοιράστηκαν διαφορετικές ιδέες για να αντιμετωπίσουν το θέμα, το οποίο περιλαμβάνει μια εισαγωγή της μη αυτόματης επαλήθευσης για κάθε κλωνοποίηση και την πλήρη επαλήθευση ταυτότητας του χρήστη μέσω πληρωμής ή οποιασδήποτε άλλης μεθόδου.
Αν και η beta δοκιμή της Startup ξεκίνησε με μικτό τρόπο, με πολλούς θαυμαστές να εξοργίζονται για την ανήθικη χρήση των φωνών των διασημοτήτων μέσω του εργαλείου AI, ειδικά της Emma Watson. Αλλά οι άνθρωποι έχουν επίσης αναγνωρίσει ότι η startup δεν ξεπέρασε την κατάσταση και έλαβε ενεργά μέτρα για να αντιμετωπίσει αυτά τα τρολ στο Διαδίκτυο.
Πηγή: Μέγγενη
