DACH - Deutschsprachige Community für Deutschland, Österreich, Schweiz

2128 readers

265 users here now

Das Sammelbecken auf feddit.org für alle Deutschsprechenden aus Deutschland, Österreich, Schweiz, Liechtenstein, Luxemburg und die zwei Belgier. Außerdem natürlich alle anderen deutschprechenden Länderteile der Welt.

Ursprünglich wurde diese Community auf feddit.de gegründet. Nachdem feddit.de mit immer mehr IT-Problemen kämpft und die Admins nicht verfügbar sind, hat ein Teil der Community beschlossen einen Umzug auf eine neue Instanz unter dem Dach der Fediverse Foundation durchzuführen.

Für länderspezifische Themen könnt ihr euch in folgenden Communities austauschen:

Eine ausführliche Sidebar mit den Serverregeln usw. findet ihr auf der Startseite von feddit.org

___

founded 5 months ago

MODERATORS

[email protected]

MS Copilot macht tübinger Gerichtsreporter zum Verbrecher (www.swr.de)

submitted 2 months ago* (last edited 2 months ago) by norimee to c/[email protected]

29 comments fedilink hide all child comments

Martin Bernklau wird Opfer der Künstlichen Intelligenz

Martin Bernklau aus Tübingen hat sich nie etwas zuschulden kommen lassen. Doch das, was er jetzt erlebt, versetzt ihn in Schock. Im Chat mit Copilot, der Künstlichen Intelligenz (KI) von Microsoft, wird er als verurteilter Kinderschänder, Ausbrecher aus der Psychiatrie oder Witwenbetrüger bezeichnet.
....
Zusätzlich liefert Copilot noch die volle Adresse von Bernklau mit Telefonnummer und Routenplaner.
...
Viele Jahrzehnte war Bernklau Gerichtsreporter, hat für verschiedene Zeitungen über Prozesse aus dem Landgericht Tübingen berichtet - über Fälle von Missbrauch, Gewalt und Betrug, mit denen er jetzt in Verbindung gebracht wird, weil sie auch im Internet zu finden sind. Die KI kombiniert, trägt zusammen und macht so den Reporter zum Täter.
.....
Der zuständige Datenschutzbeauftragte vom bayerischen Landesamt wendet sich - Monate nach einer Beschwerde Bernklaus - mit dem Fall an Microsoft. Dort sichert man zu, das Problem abzustellen. Tatsächlich verschwinden die Einträge recht schnell. Doch nach ein paar Tagen erscheinen dieselben Aussagen wieder im Chat. ...

EDIT: Der Link hat gefehlt! Sorry.

you are viewing a single comment's thread
view the rest of the comments

[–] General_Effort 0 points 2 months ago (1 children)

Wenn dich die NPCs in einem Spiel als Milchtrinker beleidigen, wirst du damit leben müssen. Das heißt aber nicht, dass es eine Ausnahme für Programme gibt. So funktioniert das nicht.

[–] [email protected] 4 points 2 months ago (1 children)

Wenn mich ein NPC im Spiel beleidigt, sagt er das nur mir.

Wenn eine Person vor anderen Falschaussagen über mich trifft, dann ist das nicht in Ordnung. Ob das jetzt im Kontext eines Spiels ist, der Realität oder eines statistischen Programms. Alles nicht in Ordnung, wenn ich nicht damit einverstanden bin.

[–] General_Effort 1 points 2 months ago (1 children)

Ich verstehe, dass du dich irgendwie gestört fühlst. Man könnte die Gesetze ändern. Aber was genau will man damit erreichen? Warum ist es so wichtig zu kontrollieren, was andere Leute mit ihren Geräten machen?

Mir geht es bei dieser Frage um diesen Willen zur Machtausübung. Es gibt ja schon ultra-viele Vorschriften, sodass man Computer-technisch kaum was machen kann. Ich glaube nicht, dass es Lemmy-Instanzen in der EU gibt, die rechtskonform sind. Was soll sowas?

[–] [email protected] 1 points 2 months ago (1 children)

Wie ein anderer bereits schrieb, ließe sich die Gesetzeslage so, sei sie denn tatsächlich so wie hier vermutet, ausnutzen. Man schreibe ein statistisches Programm (GPT) welches von einer breiten Masse benutzt wird und dessen Aussagen, mangels technischer Kenntnisse, größtenteils für Wahr genommen werden. Man nutze dieses Programm explizit für die Verbreitung von Fake News. Man beeinflusse so politische und gesellschaftliche Verhältnisse. Verfolgt werden kann solch Praxis anscheinend nicht, da keine wahrhafte Person dafür verantwortlich ist. Das ist ein Problem.

So etwas gibt es ja schon in Form von Twitter/X, nur, dass es immens mehr Arbeit ist den gewünschten Content manuell in persona zu moderieren. Diese Arbeit übernimmt das hypothetische böse GPT für dich.

Siehst du das nicht als Problem?

[–] General_Effort 1 points 2 months ago

Das wird so nicht funktionieren. Es ist ziemlich egal, wie du die Verleumdung verbreitest. Es kommt darauf an, dass du es tust.

In diesem Fall ist es ziemlich unwahrscheinlich, dass irgendjemand bei OpenAI jemals auch nur von diesem Mann gehört hat. Wie können sie ihn dann verleumden?

Sollte sein Ruf durch das Produkt gelitten haben, dann gäbe es wahrscheinlich die Möglichkeit Schadenersatz zu verlangen. Der Artikel gibt aber keinen Hinweis auf so einen Schaden. Ich sehe nicht mal einen Hinweis, dass sonst irgendwer ChatGPT über den Mann befragt hätte, geschweige denn die Aussage geglaubt hat.