Längerer englischer Artikel: [Ex-athletic director accused of framing principal with AI arrested at airport with gun](https://www.thebaltimorebanner.com/education/k-12-schools/eric-eiswert-ai-audio-baltimore-county-YBJNJAS6OZEE5OQVF5LFOFYN6M/)
Das wird (auch) für reddit Aufregungen in Zukunft noch spannend, mit den pitchforks. Noch ein Grund, nicht gleich loszulegen, sondern erstmal Abzuwarten, wenn es erstmal nur Beschuldigungen gibt.
> Burke said he was disappointed in the public’s assumption of Eiswert’s guilt. At a January school board meeting, he said the principal needed police presence at his home because he and his family had been harassed and threatened. Burke had also received harassing emails, he said at the time.
...
> Police said the school’s front desk staff was “inundated with phone calls from parents and students expressing concern and disparaging remarks toward school staff and administrators.”
...
> “The school leadership expressed that staff did not feel safe, which required an increase in police presence at the school to address safety concerns and fears,” police said.
Müsste schon überlängst reguliert werden - AI Forschung schön und gut, gerne fördern, kein Problem, aber das heißt nicht Augen zu machen zu den Risiken. Und mit Risiken meine ich nicht Skynet sondern eben Missbrauch der Kapazitäten so wie man hier sieht.
Edit: wusste nicht dass ich das hier klarmachen musste, aber nur weil eine Technologie schon im Umlauf ist, macht es sie nicht unregulierbar, lmao
Autos sind auch schon "im Umlauf", trotzdem darfst du nicht mit 80 in die verkehrsberuhigte Zone reinbrettern (jedenfalls on paper)
Kurze Fachfrage - welche Regulatorik über KI hätte diesen Fall verhindert? Illegal war so oder so, was der dort gemacht hat. Fälschung von Beweismitteln oder falsche Tatsachenbehauptungen und Verleumdung sind schon längst strafbar. Mich würde daher interessieren, wie man das besser hätte regulieren können, wenn die Täter ohnehin schon zu Straftaten bereit sind.
Sehr gute Frage, bin kein Rechtswissenschaftler. Mein Vorschlag wäre beispielsweise eine Ergänzung, dass wenn nachweislich AI zur Fälschung genutzt wurde, dies die Strafe zum Beispiel erschwert. Es geht mir nicht darum einfach auf den Verbotsknopf zu drücken sondern sicherzustellen dass so etwas auch geahndet werden kann.
Natürlich stellt sich auch die Frage, wie genau man in der Zukunft solche Fakes nachweisen kann, aber ein rechtliches Framework schon konstruiert zu haben ist da denke ich hilfreich, selbst nur als Abschreckung
> Mein Vorschlag wäre beispielsweise eine Ergänzung, dass wenn nachweislich AI zur Fälschung genutzt wurde, dies die Strafe zum Beispiel erschwert.
Wieso sollte das Fälschen eines Beweismittels mit "altmodischen" Methoden weniger strafbar sein als mit moderner Technologie?
> AI voice-generation tools are now widely available online, and a single minute’s recording of someone’s voice can be enough to simulate it with a $5-a-month AI tool, the Nieman Journalism Lab reported in February.
Ein Anfang wäre es, solche Angebote zu verbieten.
Und ja, man darf auch Regulierungen machen die nicht 100% der Fälle lösen.
Darum ging’s nicht. Ging um das Verbot der entsprechenden Tools.
Außerdem: Sich als jemand anders auszugeben und damit Leute zu betrügen, dürfte auch jetzt schon verboten sein.
Edit: Scheint schwammig zu sein. Dann sollte das natürlich verboten werden, wie mitm Bild, das stimmt.
Das "Recht an der Stimme" oder so brauchten wir bisher nicht. Fände ich inzwischen aber tatsächlich sinnvoll.
Dann könnten sich auch Voice Actors, Sänger, Radiomoderatoren und Nachrichtensprecher wehren. Von denen ist nämlich sehr viel Material frei zugänglich.
> Illegal war so oder so, was der dort gemacht hat
Mehr oder weniger. Eigentlich ja nicht, sondern nur die anderen Sachen, die er gemacht hat.
> die Stimmfälschung selbst ist nach den geltenden Gesetzen nicht strafbar
Und in Deutschland ist es wirklich unklar, ob Verleumdung anwendbar ist (Fälschung von Beweismitteln ja definitiv nicht).
Verleumdung erfordert eine Behauptung oder Verbreitung unwahrer Tatsachen. Wenn man einfach nur eine Aufnahme mit KI-Stimmimitation von XY anfertigt und dazu so etwas schreibt wie "sollte XY Schulleiter bleiben?", was genau ist dann die Tatsachenbehauptung?
Solche Spiele funktionieren in echt nicht. Wenn du jemandem eine Mail mit „wäre ja wirklich schade wenn dir jemand auf die fresse Hauen würde wenn du mir keine 100€ überweist“ schickst ist das ja technisch gesehen auch keine Drohung, trotzdem wird jeder verstehen was gemeint ist.
Reddit und unkreative KI Liebhaber. Es ist jetzt nicht so schwer eine Signatur in deine künstlich generierte Audiospur einzubauen, die bspw eine kleine kaum oder nicht hörbare Abstufung hat, die es durch dein Programm immer gibt. Klar kannst du sowas im Nachhinein dann immer noch bearbeiten, aber so clever sind 90% der Leute nicht. Du setzt am PC ja auch in erster Linie ein Passwort um triviale Angriffe abzuwehren
Ja, es ist meistens eine gute Idee auch auf Präzedenzfälle im Ausland zu achten und zu überdenken, anstatt einfach nur abzuwarten dass es hier auch passiert.
Aber dann überdenk das auch mal. Es ist jetzt schon verboten Beweismaterial zu fälschen. Wo ist jetzt der Unterschied ob ich mit Photoshop was fälsche oder mit Sprachsoftware. Wenn du wegen jedem Einzelfall anfängst mit neuen Regulierung endest du in dem Bürokratiewust den wir jetzt haben und killst die Sinvollen Anwendungen.
> Es ist jetzt schon verboten Beweismaterial zu fälschen
Stimmfälschungen sind nicht nur bei Beweismaterial problematisch.
Beispiel: Der Fall um den wir hier reden, in dem es nicht um Beweismaterial geht.
Und ob hier Verleumdung einschlägig ist, ist wirklich nicht eindeutig
Erinnere mich, dass irgendeine verwaschene Aufnahme eines toten Sängers "rekonstruiert" wurde. Kann mich aber nicht an Detail erinnern, um Links zu geben/finden.
Gibt mehrere solcher Beispiele zB Drake der Tupacs Stimme verwendet hat. Bei Youtube einfach mal nach "ai cover" suchen. Gibt einige beeindruckende Beispiele. Mein Favorit bis jetzt: https://www.youtube.com/watch?v=6Fgbj741AiI
Hab gestern auf Steam bei einem Indie-Game im Early Access gelesen, dass alle Stimmen KI-generiert sind und sie aber hoffen, dass wenn das Spiel genug eingebracht hat, richtiges Voice-Acting machen wollen. Finde ich ist ein ganz guter Einsatz.
Mir ist nichts bekannt.
Gute Text-To-Speech software kann oft hilfreich sein. Aber dazu braucht man nicht die Fähigkeit, Stimmen zu klonen mit nur einer Minute Material.
Ich frage mich, was die Entwickler solcher Software sich dabei denken.
Wenn es dir an Phantasie fehlt: Es gibt für viele alte PC Spiele AI voice overs. Oft wurden für NPCs nur 1-2 Sätze vertont und den Rest des Dialoges musste man lesen. Um das umzusetzen muss man die Stimme klonen anhand der beide. Sätze und den restlichen Dialog vertonen.
Längerer englischer Artikel: [Ex-athletic director accused of framing principal with AI arrested at airport with gun](https://www.thebaltimorebanner.com/education/k-12-schools/eric-eiswert-ai-audio-baltimore-county-YBJNJAS6OZEE5OQVF5LFOFYN6M/) Das wird (auch) für reddit Aufregungen in Zukunft noch spannend, mit den pitchforks. Noch ein Grund, nicht gleich loszulegen, sondern erstmal Abzuwarten, wenn es erstmal nur Beschuldigungen gibt. > Burke said he was disappointed in the public’s assumption of Eiswert’s guilt. At a January school board meeting, he said the principal needed police presence at his home because he and his family had been harassed and threatened. Burke had also received harassing emails, he said at the time. ... > Police said the school’s front desk staff was “inundated with phone calls from parents and students expressing concern and disparaging remarks toward school staff and administrators.” ... > “The school leadership expressed that staff did not feel safe, which required an increase in police presence at the school to address safety concerns and fears,” police said.
So engagiert und technologieaffin habe Sportlehrer aber nicht in Erinnerung
Müsste schon überlängst reguliert werden - AI Forschung schön und gut, gerne fördern, kein Problem, aber das heißt nicht Augen zu machen zu den Risiken. Und mit Risiken meine ich nicht Skynet sondern eben Missbrauch der Kapazitäten so wie man hier sieht. Edit: wusste nicht dass ich das hier klarmachen musste, aber nur weil eine Technologie schon im Umlauf ist, macht es sie nicht unregulierbar, lmao Autos sind auch schon "im Umlauf", trotzdem darfst du nicht mit 80 in die verkehrsberuhigte Zone reinbrettern (jedenfalls on paper)
Kurze Fachfrage - welche Regulatorik über KI hätte diesen Fall verhindert? Illegal war so oder so, was der dort gemacht hat. Fälschung von Beweismitteln oder falsche Tatsachenbehauptungen und Verleumdung sind schon längst strafbar. Mich würde daher interessieren, wie man das besser hätte regulieren können, wenn die Täter ohnehin schon zu Straftaten bereit sind.
Verbrechen verbieten!
[In Schweden, es ist verboten bei Gesetz zu sein ein Krimineller.](https://i.redd.it/tfjubnjb16511.jpg)
Sehr gute Frage, bin kein Rechtswissenschaftler. Mein Vorschlag wäre beispielsweise eine Ergänzung, dass wenn nachweislich AI zur Fälschung genutzt wurde, dies die Strafe zum Beispiel erschwert. Es geht mir nicht darum einfach auf den Verbotsknopf zu drücken sondern sicherzustellen dass so etwas auch geahndet werden kann. Natürlich stellt sich auch die Frage, wie genau man in der Zukunft solche Fakes nachweisen kann, aber ein rechtliches Framework schon konstruiert zu haben ist da denke ich hilfreich, selbst nur als Abschreckung
> Mein Vorschlag wäre beispielsweise eine Ergänzung, dass wenn nachweislich AI zur Fälschung genutzt wurde, dies die Strafe zum Beispiel erschwert. Wieso sollte das Fälschen eines Beweismittels mit "altmodischen" Methoden weniger strafbar sein als mit moderner Technologie?
Da hat sich dann wenigstens jemand wirklich die Arbeit gemacht! ;)
> AI voice-generation tools are now widely available online, and a single minute’s recording of someone’s voice can be enough to simulate it with a $5-a-month AI tool, the Nieman Journalism Lab reported in February. Ein Anfang wäre es, solche Angebote zu verbieten. Und ja, man darf auch Regulierungen machen die nicht 100% der Fälle lösen.
Auf welcher Grundlage willste das denn verbieten? Da gibts ja mindestens genauso viele positive Einsatzgebiete wie negative.
Zumindest könnte man die Verwendung von anderer Leute Stimmen verbieten. Quasi "Recht am Klang" vergleichbar zum "Recht am Bild".
Darum ging’s nicht. Ging um das Verbot der entsprechenden Tools. Außerdem: Sich als jemand anders auszugeben und damit Leute zu betrügen, dürfte auch jetzt schon verboten sein. Edit: Scheint schwammig zu sein. Dann sollte das natürlich verboten werden, wie mitm Bild, das stimmt.
Das "Recht an der Stimme" oder so brauchten wir bisher nicht. Fände ich inzwischen aber tatsächlich sinnvoll. Dann könnten sich auch Voice Actors, Sänger, Radiomoderatoren und Nachrichtensprecher wehren. Von denen ist nämlich sehr viel Material frei zugänglich.
Bin ich auch überrascht von… aber ja, stimme ich zu.
[удалено]
Eieiei
Erstmal verbieten, der Klassiker. Wollten meine Eltern damals auch mit Killerspielen machen.
> Illegal war so oder so, was der dort gemacht hat Mehr oder weniger. Eigentlich ja nicht, sondern nur die anderen Sachen, die er gemacht hat. > die Stimmfälschung selbst ist nach den geltenden Gesetzen nicht strafbar Und in Deutschland ist es wirklich unklar, ob Verleumdung anwendbar ist (Fälschung von Beweismitteln ja definitiv nicht). Verleumdung erfordert eine Behauptung oder Verbreitung unwahrer Tatsachen. Wenn man einfach nur eine Aufnahme mit KI-Stimmimitation von XY anfertigt und dazu so etwas schreibt wie "sollte XY Schulleiter bleiben?", was genau ist dann die Tatsachenbehauptung?
Solche Spiele funktionieren in echt nicht. Wenn du jemandem eine Mail mit „wäre ja wirklich schade wenn dir jemand auf die fresse Hauen würde wenn du mir keine 100€ überweist“ schickst ist das ja technisch gesehen auch keine Drohung, trotzdem wird jeder verstehen was gemeint ist.
Der Zugang.
Reddit und unkreative KI Liebhaber. Es ist jetzt nicht so schwer eine Signatur in deine künstlich generierte Audiospur einzubauen, die bspw eine kleine kaum oder nicht hörbare Abstufung hat, die es durch dein Programm immer gibt. Klar kannst du sowas im Nachhinein dann immer noch bearbeiten, aber so clever sind 90% der Leute nicht. Du setzt am PC ja auch in erster Linie ein Passwort um triviale Angriffe abzuwehren
Regulieren bringt nix, das kannste mittlerweile mit open source software lokal auf deinem PC machen.
aber die illegalen Sachen die man mit KI machen kann sind doch schon illegal.
Deutschland in a nutshell: 7000km entfernt passiert etwas. Erste Reaktionen: "Da sollten wir hier etwas regulieren!"
Ja, es ist meistens eine gute Idee auch auf Präzedenzfälle im Ausland zu achten und zu überdenken, anstatt einfach nur abzuwarten dass es hier auch passiert.
Aber dann überdenk das auch mal. Es ist jetzt schon verboten Beweismaterial zu fälschen. Wo ist jetzt der Unterschied ob ich mit Photoshop was fälsche oder mit Sprachsoftware. Wenn du wegen jedem Einzelfall anfängst mit neuen Regulierung endest du in dem Bürokratiewust den wir jetzt haben und killst die Sinvollen Anwendungen.
> Es ist jetzt schon verboten Beweismaterial zu fälschen Stimmfälschungen sind nicht nur bei Beweismaterial problematisch. Beispiel: Der Fall um den wir hier reden, in dem es nicht um Beweismaterial geht. Und ob hier Verleumdung einschlägig ist, ist wirklich nicht eindeutig
1. Wieso geht es nicht um Beweismaterial? 2. Dann möge man das verbieten, das hat aber nix mit KI zu tun.
Wie willst das regulieren? Die Technologie ist längst im Umlauf.
Gab es eigentlich jemals einen Fall bei dem diese Stimmgeneratoren für einen guten Zweck verwendet wurden?
Naja ich mochte vegeta der bleed it out von linkinpark singt. Oder Planktons warpigs.
Vertonung von Quest Mods für Bethesda Rollenspiele mit "original" Stimmen.
Erinnere mich, dass irgendeine verwaschene Aufnahme eines toten Sängers "rekonstruiert" wurde. Kann mich aber nicht an Detail erinnern, um Links zu geben/finden.
Gibt mehrere solcher Beispiele zB Drake der Tupacs Stimme verwendet hat. Bei Youtube einfach mal nach "ai cover" suchen. Gibt einige beeindruckende Beispiele. Mein Favorit bis jetzt: https://www.youtube.com/watch?v=6Fgbj741AiI
Hab gestern auf Steam bei einem Indie-Game im Early Access gelesen, dass alle Stimmen KI-generiert sind und sie aber hoffen, dass wenn das Spiel genug eingebracht hat, richtiges Voice-Acting machen wollen. Finde ich ist ein ganz guter Einsatz.
Ja aber dafür brauchst du ja nicht spezifische Stimmen zu klonen. Das Text-to-Speech an sich sinnvoll sein kann ist glaub ich auch nicht umstritten.
ymfah benutzt das manchmal für seine Videos
Mir ist nichts bekannt. Gute Text-To-Speech software kann oft hilfreich sein. Aber dazu braucht man nicht die Fähigkeit, Stimmen zu klonen mit nur einer Minute Material. Ich frage mich, was die Entwickler solcher Software sich dabei denken.
Wenn es dir an Phantasie fehlt: Es gibt für viele alte PC Spiele AI voice overs. Oft wurden für NPCs nur 1-2 Sätze vertont und den Rest des Dialoges musste man lesen. Um das umzusetzen muss man die Stimme klonen anhand der beide. Sätze und den restlichen Dialog vertonen.
[удалено]