this post was submitted on 10 Aug 2023
26 points (93.3% liked)
DACH - jetzt auf feddit.org
8872 readers
1 users here now
Diese Community wird zum 01.07 auf read-only gestellt. Durch die anhäufenden IT-Probleme und der fehlende Support wechseln wir als Community auf www.feddit.org/c/dach - Ihr seid herzlich eingeladen auch dort weiter zu diskutieren!
Das Sammelbecken auf feddit für alle Deutschsprechenden aus Deutschland, Österreich, Schweiz, Liechtenstein, Luxemburg und die zwei Belgier. Außerdem natürlich alle anderen deutschprechenden Länderteile der Welt.
Für länderspezifische Themen könnt ihr euch in folgenden Communities austauschen:
Eine ausführliche Sidebar findet ihr hier: Infothread: Regeln, Feedback & sonstige Infos
Auch hier gelten die Serverregeln von https://feddit.de !
Banner: SirSamuelVimes
founded 1 year ago
MODERATORS
you are viewing a single comment's thread
view the rest of the comments
view the rest of the comments
Grandios wie die Supermarktkette dann meint die Schuld auf ein paar Scherzkekse zu schieben.
Wenn eure scheiß KI nicht in der Lage ist zu erkennen dass es keine tödlichen Cocktails anbieten soll, wie lange dauert es dann bis es jemandem mit Allergie fälschlich versichert dass gekochte Erdnüsse keinen anaphylaktischen Schock auslösen.
Und dann gibt es auch noch den Elefanten im Raum: Selbst wenn man das überlebt, ich glaube nicht, dass ein technisches System, das Chlorgas essbar findet, wirklich die Fähigkeiten hat dir ein leckeres Rezept vorzuschlagen.
Die fragwürdigen (wenn auch nicht giftigen) Kreationen der App waren überhaupt erst der Grund, warum Leute angefangen haben, Haushaltsmittel als Zutaten einzugeben.
Nicht unbedingt. Intelligenzen (nicht nur künstliche) funktionieren bei Dingen, von denen sie Ahnung haben gut, können aber auch Empfehlungen zu Dingen geben, von denen sie nichts verstehen. Die Trainingsdaten hier werden ziemlich sicher nichts mit Bleichmittel beinhaltet haben, aber neuronale Netzwerke daran zu hindern dann immer noch ein Ergebnis zu liefern ist anscheinend nicht so einfach.
So wie ich das verstanden habe, hat die KI aus vom Nutzer vorgegebenen Zutaten ein "schmackhaftes" Rezept kreiert. Wenn du angibst, dass du Erdnüsse als Zutat verwenden willst, dann darf die KI ja wohl davon ausgehen, dass du weißt, ob du Erdnüsse verträgst oder nicht. Dasselbe für Bleichmittel. Allenfalls könnte man eine Liste von Zutaten definieren, bei deren Verwendung die App dann davor warnt, dass sie allergieauslösend oder gänzlich ungenießbar seien. Das hat allerdings mit KI nicht viel zu tun sondern ist eine reine Datenbankabfrage.
Naja, wenn die KI zum Beispiel nachfragt ob man unter Umständen eine Zutat da hat für ein bestimmtes Gericht, dann kann man schon in diese Falle tappen.
Außerdem ist die Limitierung völlig vergessen worden, die App wurde ohne anscheinende Blacklist veröffentlicht, ein schwerwiegender Fehler, einen denn man nicht so einfach mit 'kann man ja patchen' abtun sollte.
Ist halt die Frage, von welchem Verhältnis von Nutzer und KI man ausgeht.
Für mich ist KI ein Kind mit einer blühenden Fantasie. Sag ihm, es soll sich irgendwas ausdenken, und es sagt Dinge, die dir selber nie in den Sinn gekommen wären. Viele davon sind Unsinn, darum braucht es natürlich immer noch einen Erwachsenen (der User!), der entscheidet, was tatsächlich umgesetzt wird.
Für manche Leute ist KI aber anscheinend der Führer, der befiehlt, und sie folgen ihm blind, und wenn die ganze Sache in die Hose geht, reden sie sich damit raus, dass sie ja nur Befehle ausgeführt hätten. Diesen Leuten kann ich auch nicht helfen; aus ihrer Unmündigkeit müssen sie schon selbst herausfinden.
Wenn man sich daran erinnert wie vor ein paar Monaten ein Anwalt ChatGPT für die Recherche nutzte und keine von den Fällen nachgeprüft hatte, sollten wir uns glaube ich nochmal doppelt überlegen KI für die Erstellung von Anleitungen zur Essenszubereitung zu nehmen
Das Blöde ist, dass es Lebensmittel gibt, die nur bei bestimmter Zubereitung gegessen werden können. Grüne Bohnen sind zum Beispiel giftig, wenn sie nicht ordentlich gekocht werden.
._.