Das Internet ist in Aufruhr, als 4Chan-Benutzer einen KI-Sprachsimulator verwendet, um Emma Watsons Stimme zu fälschen und sie dazu bringt, Hitlers Autobiografie zu lesen
Die ehemaligen Google- und Palantir-Mitarbeiter gründeten gemeinsam das Startup Elevenlabs, dessen Ziel es war, mithilfe ihres KI-Tools zum Klonen von Stimmen hochwertige Audio-Deepfakes von Prominenten zu erstellen. Doch ihr Beta-Start schlug bald fehl, da viele die Stimmen von Prominenten, darunter Emma Watson, mithilfe des KI-Tools zum Klonen von Stimmen missbrauchten.
Viele Fans sind über den unethischen und unmoralischen Einsatz des KI-Tools empört, nachdem einige Trolle ihre Lieblingsstimmen von Prominenten missbraucht haben, um empörende Kommentare abzugeben. Aber das Startup hat allen versichert, dass es sein Modell ändern wird, um weitere Probleme zu vermeiden.
Fans sind wütend, nachdem 4Chan-Benutzer Emma Watsons Stimme mithilfe eines KI-Tools missbraucht hat
Die Einführung des KI-Tools zum Klonen von Stimmen von Elevenlabs hat das Internet in Aufruhr versetzt, nachdem zahlreiche Trolle die Verwendung dieses kostenlosen Tools ausgenutzt haben. Obwohl viele die Software nutzen, um nützliche Inhalte zu generieren, hat ein Teil des Internets das Tool missbraucht, um Prominente dazu zu bringen, rassistische Beleidigungen und unverschämte Kommentare auszustoßen Emma Watsons Die Stimme war der letzte Tropfen, der das Fass zum Überlaufen brachte.
In letzter Zeit. Motherboard berichtete über den extremen Missbrauch der KI-Software zur Erstellung beleidigender Deep-Fake-Audiodaten. Aber der Tropfen, der das Fass zum Überlaufen brachte, war ein 4Chan-Benutzer, der einen Clip davon erstellte Harry Potter Star Emma Watson liest Mein Kampf , die Autobiographie des Nazi-Diktators Adolf Hitler.
Die Fans waren über diese unethische Nutzung der Software über Emma Watson und andere berühmte Persönlichkeiten wie Joe Rogan, Robin Williams usw. empört. Elevenlabs, das die Technologie der Öffentlichkeit zugänglich gemacht hat, hat sich mit diesem wachsenden Problem befasst und geschworen, dagegen anzukämpfen Missbrauch ihres Tools zum Klonen von Stimmen.
Lesen Sie auch: Der Regisseur von „Der Gefangene von Askaban“ bat das Harry-Potter-Trio, einen Essay über seine Figur zu schreiben – Emma Watson schrieb 16 Seiten, Daniel Radcliffe hatte eine einseitige Zusammenfassung, Rupert Grint schrieb keine
Elevenlabs verspricht, weiteren Missbrauch des KI-Tools zu verhindern
Das Startup war von der positiven Resonanz zu Beginn überwältigt, da viele das KI-Tool zum Klonen von Stimmen für gesunde Kreationen nutzten. Doch das Unternehmen stand bald vor einem Problem, als Trolle begannen, die Software für schändliche Zwecke auszunutzen. Elevenlabs hat dem Internet versichert, dass sie sich eingehend mit der Angelegenheit befassen und nach möglichen Lösungen suchen.
Obwohl die Macher von Elevenlabs zugegeben haben, dass sie auf die Benutzer zurückgehen können, die die Leistungsfähigkeit des KI-Tools missbrauchen, suchen sie nach zusätzlichen Sicherheitsmaßnahmen, um dieses Problem zu vermeiden. Die Ersteller teilten unterschiedliche Ideen zur Lösung des Problems mit, darunter die Einführung einer manuellen Überprüfung für jedes Klonen und einer vollständigen ID-Überprüfung des Benutzers durch Zahlung oder eine andere Methode.
Obwohl der Betatest des Startups einen gemischten Start verlief, waren viele Fans wütend über den unethischen Einsatz von Promi-Stimmen durch das KI-Tool, insbesondere Emma Watson. Die Leute würdigten das Startup aber auch dafür, dass es die Situation nicht vertuscht und aktiv gegen diese Internet-Trolle vorgeht.
Quelle: Vize
