Diese KI hat Joe Rogans Stimme perfekt imitiert und ist irgendwie gruselig
Wenn es um künstliche Intelligenz geht, denken wir normalerweise an Dinge wie Automatisierung, Bildmanipulation, maschinelles Lernen oder auch nur an Science Fiction. Das tun wir normalerweise nicht Denken Sie an Joe Rogan . Eine Firma namens Dessa hat jedoch künstliche Intelligenz entwickelt, die Sprache mit überraschender Genauigkeit und Wiedergabetreue emulieren kann. Und ihr erstes Thema war Joe Rogan.
Was macht Jillian Barberie jetzt?
Joe Rogans Schimpansen-Hockey-Team
Als Dessa der Welt sein neues Projekt vorstellte, taten sie dies mit einer tiefen Fälschung von Joe Rogans Stimme. Eine Deepfake ist eine Video-, Bild- oder Audioaufnahme, die durch künstliche Intelligenz manipuliert wird, um jemand anderem zu ähneln. Beispielsweise, dieses gif von Amy Adams als Nicolas Cage.
Deepfakes gibt es schon eine Weile, aber bis vor kurzem haben sie nicht viel öffentliche Aufmerksamkeit erhalten. Sie wurden normalerweise für maschinelles Lernen oder für Hollywood-Projekte verwendet. Jetzt, da die Technologie und unser Verständnis dafür wachsen, sehen wir häufiger Deepfakes.
Das neue Audio-Deepfake von Joe Rogan ist ein hervorragendes Beispiel. Dessa hat ein Video erstellt von Text-zu-Stimme Joe Rogan Deepfakes, alle ironisch. Die erste Deepfake des Videos zeigt Joe Rogan, der überzeugend über eine Schimpansen-Eishockeymannschaft spricht.
'Freunde, ich habe euch allen etwas Neues zu erzählen. Ich habe beschlossen, eine Eishockeymannschaft zu sponsern, die ausschließlich aus Schimpansen besteht. Ich habe es satt, dass mir Leute sagen, dass Schimpansen nicht in der Lage sind, Menschen im Sport zu treten. Schimpansen sind einfach überlegene Sportler, und diese Schimpansen haben hart gearbeitet “, sagt der Deepfake. Und ehrlich gesagt ist es ein sehr überzeugendes Faksimile von Rogans Stimme.
Als Antwort auf die tiefe Fälschung, Rogan schrieb auf Instagram 'Ich habe gerade eine von der KI erzeugte Audioaufnahme gehört, in der ich über Schimpansenhockeyteams gesprochen habe, und sie ist erschreckend genau. Zu diesem Zeitpunkt habe ich vor langer Zeit genug Inhalte da draußen gelassen, damit ich im Grunde genommen alles sagen kann, was sie wollen. Meine Position ist es also, mit den Schultern zu zucken und vor Ehrfurcht den Kopf zu schütteln und es einfach zu akzeptieren. Die Zukunft wird wirklich komisch, Kinder. “
Die Auswirkungen von Deepfake Tech
Joe Rogan | Michael S. Schwartz / Getty Images
Wenn sich die Deepfake-Technologie verbessert, muss sich die Gesellschaft mit den Auswirkungen auseinandersetzen, die sich aus der Herstellung überzeugender Sprach- und Videodaten ergeben. Joe Rogans Kommentar zur Zukunft ist wahrer denn je.
Dessa schrieb über ihre Enthüllung auf Medium 'Es ist surreal für unsere Ingenieure, sagen zu können, dass sie mit KI eine lebensechte Nachbildung von Joe Rogans Stimme erstellt haben.' Ganz zu schweigen von der Tatsache, dass das Modell in der Lage wäre, eine Nachbildung der Stimme eines anderen zu erstellen, sofern ausreichende Daten verfügbar sind. Als KI-Praktiker, die reale Anwendungen erstellen, sind wir uns insbesondere der Tatsache bewusst, dass wir über die Auswirkungen sprechen müssen. Denn die gesellschaftlichen Auswirkungen auf Technologien wie die Sprachsynthese sind eindeutig massiv. Und die Auswirkungen werden alle betreffen. Arme und reiche Verbraucher. Unternehmen und Regierungen. “
Dessa lieferte auch einige Beispiele für Vor- und Nachteile der Deepfake-Technologie und was sie dazu beitragen kann. Zu den Nachteilen gehörten Spammer oder Betrüger, die sich als Angehörige ausgeben, um vertrauliche Informationen abzurufen, Zugang zu Hochsicherheitsbereichen sowie politische Rahmenbedingungen oder Propaganda.
Zu den Profis gehört jedoch eine verbesserte Zugänglichkeit für diejenigen, die Text-to-Speech-Tools zur Kommunikation verwenden, beispielsweise für diejenigen mit Lou-Gherig-Krankheit. Wir könnten in Zukunft auch automatisiertes Überspielen für Filme oder Shows in anderen Sprachen sehen.
Dessa fügte hinzu: 'Wir werden nicht vorgeben, alle Antworten zu haben, wie diese Technologie ethisch aufgebaut werden kann. Wir glauben jedoch, dass es in den kommenden Jahren unweigerlich gebaut und zunehmend in unserer Welt umgesetzt wird. Neben der Sensibilisierung und Anerkennung dieser Probleme möchten wir diese Arbeit auch als einen Weg zeigen, um ein Gespräch über die Sprachsynthese zu beginnen, das geführt werden muss. “
Fanreaktionen auf Joe Rogans Deepfake
Diesen Beitrag auf Instagram ansehen
Die Reaktionen der Fans reichten von beeindruckt bis besorgt. Ein Nutzer auf YouTube kommentierte scherzhaft: Sie sagen also, wir können jetzt unsere eigenen JRE-Podcasts erstellen? Die Zukunft ist wild, Mann. “
„Das ist wirklich schrecklich…. Sie können jemanden so einfach einrichten “, schrieb ein anderer Benutzer.
Ein Instagram-Nutzer scherzte, dass es überhaupt keine Fälschung war. Sie schrieben: 'Die Wahrheit ist, Sie haben vergessen, dass Sie gestern tatsächlich auf Pilzen darüber gesprochen haben, und ein heißes Mikrofon hat es aufgenommen.'
Ein Benutzer mit einer düstereren Einstellung sagte: „Wie lange dauert es, bis Ihre Arbeit besser ist als Sie?!?! Das ist der beängstigende Teil, wenn die KI besser in der Lage ist, unterhaltsame Gespräche für uns zu führen. '
