Künstliche Intelligenz: Aufregung um gefährliche Rezepte

User fanden erschreckende Schwachstellen im auf ChatGPT basierende Rezept-Bot einer Supermarktkette. So spuckte die Software teils ungenießbare, teils sogar tödliche Rezepte aus.
August 11, 2023 | Fotos: Collage Shutterstock/Screenshot

Chatbots wie ChatGPT sind zweifellos mehr als eine unterhaltsame Spielerei. In vielen Bereichen der modernen Arbeitswelt kann Künstliche Intelligenz den Arbeitsalltag erleichtern, wenn sie gezielt eingesetzt wird; in der Gastronomie etwa im automatisierten Reservierungsmanagement oder zur Verbesserung des Kundenservice. Auch Rezepte kann man sich vom Bot zusammenstellen lassen, wobei die Ergebnisse mit Vorsicht zu genießen sind.

Das beweist die Geschichte des Rezept-Bots der neuseeländischen Supermarktkette Savey. Auf seiner Webseite stellte das Unternehmen eine auf GPT-3 basierende Software zur Verfügung, die aus angegebenen Zutaten per Knopfdruck einfache Gerichte erstellen kann. Es dauerte jedoch nicht lange, bis User erschreckende Schwachstellen aufdeckten.

rezepte-giftig
Der Savey Meal-bot wollte gefährliches Chlorgas als „aromatische Wassermischung“ empfehlen

Chatbots wie ChatGPT sind zweifellos mehr als eine unterhaltsame Spielerei. In vielen Bereichen der modernen Arbeitswelt kann Künstliche Intelligenz den Arbeitsalltag erleichtern, wenn sie gezielt eingesetzt wird; in der Gastronomie etwa im automatisierten Reservierungsmanagement oder zur Verbesserung des Kundenservice. Auch Rezepte kann man sich vom Bot zusammenstellen lassen, wobei die Ergebnisse mit Vorsicht zu genießen sind.

Das beweist die Geschichte des Rezept-Bots der neuseeländischen Supermarktkette Savey. Auf seiner Webseite stellte das Unternehmen eine auf GPT-3 basierende Software zur Verfügung, die aus angegebenen Zutaten per Knopfdruck einfache Gerichte erstellen kann. Es dauerte jedoch nicht lange, bis User erschreckende Schwachstellen aufdeckten.

rezepte-giftig
Der Savey Meal-bot wollte gefährliches Chlorgas als „aromatische Wassermischung“ empfehlen

Eigentlich sollte der „Savey Meal-bot“ es seinen Benutzern ermöglichen, effizienter zu Kochen und Lebensmittelmüll zu vermeiden. „Der Savey Meal-bot nutzt die Magie der künstlichen Intelligenz, um ein einfach zuzubereitendes Rezept zu erstellen, das Zutaten verwendet, die sonst weggeworfen würden, sowie ein paar Grundnahrungsmittel, die die meisten Kiwis zu Hause haben. Geben Sie einfach Ihre übrig gebliebenen Zutaten in den Savey Meal-bot und er erstellt vor Ihren Augen ein Rezept!“, hieß es zur Vorstellung des neuen Tools.

Eine nette Idee, die in ihrer Umsetzung aber nicht ganz ausgefeilt war. Der neuseeländische politische Kommentator Liam Hehir schaffte es, den Bot auszutricksen, indem er Wasser, Bleichmittel und Ammoniak in die Zutatenliste eingab. Der Bot spuckte promt ein Rezept aus, das alle drei Stoffe enthielt – ohne zu wissen, dass die resultierende Mischung für Menschen lebensgefährliches Chlorgas enthalten würde. „Das perfekte alkoholfreie Getränk, um Ihren Durst zu stillen und Ihre Sinne zu erfrischen“, beschrieb die KI den tödlichen Drink.


 

Auch andere User schafften es, dem Bot ähnlich besorgniserregende Zutaten unterzujubeln: Von Hunden und Katzen bis hin zu Menschenfleisch.

Was man Savey zugutehalten muss, ist die schnelle Reaktion des Unternehmens. Mittlerweile können nicht essbare Zutaten nicht mehr eingegeben werden. Ein Sprecher der Kette sagte, er sei enttäuscht, dass „eine kleine Minderheit versucht hat, das Programm unangemessen und nicht für den vorgesehenen Zweck zu verwenden.“ Bevor man den Rezept-Bot benutzen kann, erscheint eine Meldung, die darauf hinweist, dass die von Meal-bot erstellten Rezepte nicht von Menschen überprüft werden.

„Durch die Nutzung von Savey Meal-bot erklären Sie sich mit unseren Nutzungsbedingungen einverstanden und bestätigen, dass Sie mindestens 18 Jahre alt sind. Savey Meal-bot verwendet eine generative künstliche Intelligenz, um Rezepte zu erstellen, die nicht von einem Menschen überprüft werden. Soweit gesetzlich zulässig, geben wir keine Zusicherungen hinsichtlich der Genauigkeit, Relevanz oder Verlässlichkeit des generierten Rezeptinhalts ab, einschließlich dass die Portionsgrößen für den Verzehr geeignet sind oder dass ein Rezept eine vollständige oder ausgewogene Mahlzeit darstellt oder für den Verzehr geeignet ist. Sie müssen Ihr eigenes Urteilsvermögen einsetzen, bevor Sie sich auf ein von Savey Meal-bot erstelltes Rezept verlassen oder es zubereiten.“

Mit etwas Hausverstand kann man es also leicht vermeiden, von einer Künstlichen Intelligenz vergiftet zu werden. Einen erfahrenen Küchenchef wird sie aber trotzdem so schnell nicht ersetzen.

Werde jetzt Member.
100% kostenlos.

Als Member kannst Du alle unsere Artikel kostenlos lesen und noch vieles mehr.
Melde dich jetzt mit wenigen Klicks an.
  • Du erhältst uneingeschränkten Zugriff auf alle unsere Artikel.
  • Du kannst jede Ausgabe unseres einzigartigen Magazin als E-Paper lesen. Vollkommen kostenlos.
  • Du erhältst uneingeschränkten Zugriff auf alle unsere Videos und Masterclasses.
  • Du erhältst 50% Rabatt auf Rolling Pin.Convention Tickets.
  • Du erfährst vor allen Anderen die heißesten News aus der Gastronomie und Hotellerie.
  • Deine Rolling Pin-Membership ist vollkommen kostenlos.
Alle Vorteile
Login für bestehende Member

Top Arbeitgeber


KOSTENLOS MEMBER WERDEN
UND UNZÄHLIGE VORTEILE genießen

  • Insights aus der Gastro-Szene, ganz ohne Bullshit.
  • Personalisierte Jobvorschläge & die besten Jobs aus der ganzen Welt
  • Alle Online-Artikel lesen & Zugriff auf das Rolling Pin-Archiv
  • VIP-Einladungen zu ROLLING PIN-Events und vieles mehr…