| Re:Wie immer wird neue Technik mißbraucht |  |
>Und das ist, scheint auch durchaus gewünscht zu sein. Fake News sehen nun so realistisch aus wie nie zuvor.
Wie können Fake-News durch AI realistischer aussehen? Irgendwelchen Quatsch im Standard-Format einer Newsmeldung zu schreiben kann man auch ganz ohne AI. Die Kompetenz und den Willen diesen Quatsch zu erkennen oder mangels seriöser Quellen anzuzweifeln braucht man in beiden Varianten.
Das Problem ist doch in beiden Fällen, dass Menschen aus Bequemlichkeit, weil es ins eigene Weltbild passt oder wegen fehlender eigner Fähigkeiten zu kurz gedachte und simple Lösungen und Lügen akzeptieren.
>Fake Bilder, Fake Videos, Fake alles.
Geht auch alles jetzt schon, nur mit mehr Aufwand von Seiten des Erstellers. Eine höhere Verbreitung sollte doch eher die Zweifel erhöhen als Fake Bilder und Videos glaubhafter zu machen.
>Noch nie konnte man Leute so hochprofessionell belügen, um sie ihm ihr Geld zu bringen.
Hast Du dafür Beispiele? Wenn es auf Fake-Bildern und Fake-Videos basiert ist das doch nur eine kurze Momentaufnahme, bis die Gesellschaft in der Breite erkannt hat, dass man Bildern und Videos nicht vertrauen kann, da sie nun eben noch leichter als bisher produziert werden können. Da hätte ich eher bei einer geringen Verbreitung noch ein Problem gesehen, da ein seltener Deep-Fake viel glaubwürdiger sein konnte, bevor das so einfach zugänglich war.
Das einzige was mir einfallen würde wäre dass Malware nun leichter richtig übersetzte Texte verwenden kann, die nicht schon durch die vielen Grammatik-Fehler auffallen. Dafür reicht aber bereits ein besserer Übersetzer, dafür braucht es keine komplexe AI.
Allgemein könnte man AI nutzen um leichter glaubhaft Emails für das Malware/Phishing-Umfeld zu erstellen. z.B. Emails die abgegriffene Emails aufgreifen und daraus passende Antworten erstellen und mit Malware-Links oder Anhängen versehen. Dieses Problem ist aber auch nicht neu und wenn sich das weiter verbreitet würde ich eher davon ausgehen, dass sich Dinge wie Signaturen, SPF, DKIM und DMARC noch schneller durchsetzen. Also Maßnahmen die es schon länger gibt, die bisher aber auf Grund der geringen Verbreitung und aus Bequemlichkeit nicht in der Bereite eingesetzt werden.
Geht also auch wieder in die Richtung, dass die Kurve zunächst mal nach oben geht, der Mensch sich dann aber daran anpasst und weniger vertrauensselig wird. Was dann sogar im Hinblick auf bereits bestehende Täuschungsversuche vorteilhaft sein kann.
>Die Gene Roddenberry Vision einer gereiften Menschheit, die in Harmonie mit Technik lebt und ein altruistisches Streben nach Frieden und Miteinander verbindet, ist weit weg. Wie kann ich möglichst effizient den Mitmenschen abzocken und die Konkurrenz vernichten? Dafür wirds verwendet.
Ist das nicht ein Problem der aktuellen Form des Kapitalismus und nicht von AI?