KI außer Kontrolle - wenn Chatbots drohen

Der Münchener Student Marvin von Hagen testet als einer der ersten Chatbot auf Basis von ChatGPT, den Microsoft in seine Suchmaschine Bing integrieren will. Marvin kann den Chatbot überreden, ihm seine internen Regeln preiszugeben. Als Marvin diese Regeln veröffentlicht und mehrere Medien darüber berichten, wird der Chatbot aggressiv und fängt an, Marvin zu bedrohen. Gregor Schmalzried vom BR hat mit Marvin von Hagen gesprochen und erklärt in dieser 11KM-Episode, warum Werkzeuge wie ChatGPT besser kontrolliert und reguliert werden müssen.

Unser Gast Gregor Schmalzried beschäftigt sich immer wieder mit ChatGPT und anderen Tech-Themen, hier eine Übersicht:
https://www.br.de/nachrichten/autoren/gregor-schmalzried,ec0fa278-45ff-4a3f-be71-6548dc098f3d

Unsere 11KM-Folge darüber, wie sich ChatGPT beim bayerischen Abitur geschlagen hat:
https://www.ardaudiothek.de/episode/11km-der-tagesschau-podcast/schafft-chatgpt-das-abi-das-bayerische/tagesschau/12396019/

Unsere 11KM-Folge über ein Beispiel für intransparente und diskriminierende Algorithmen:
https://www.ardaudiothek.de/episode/11km-der-tagesschau-podcast/zu-sexy-wie-online-algorithmen-frauen-benachteiligen/tagesschau/12361731/

Und unser Podcast-Tipp: “Dreimal besser” von BR24. Der Podcast mit lösungsorientierten Perspektiven zu aktuellen Themen:
https://www.br.de/mediathek/podcast/dreimal-besser/883

An dieser 11KM-Folge waren beteiligt:
Folgenautorin: Azadê Peşmen
Mitarbeit: Sandro Schroeder
Produktion: Ruth-Maria Ostermann, Gerhard Wicho, Christine Dreyer, Eva Erhard
Redaktionsleitung: Fumiko Lipp und Lena Gürtler
Host: Victoria Michalczak
11KM: der tagesschau-Podcast wird produziert von BR24 und NDR Info. Die redaktionelle Verantwortung für die Folge trägt der NDR.