GPT-Chat kann auf Anfragen zu verschiedenen Themen antworten, aber KI öffnen hat einige Filter eingefügt, um eine unangemessene Verwendung der KI-Technologie zu vermeiden. Beispielsweise darf der Chatbot nicht zu Gewalt aufrufen, Personen beleidigen oder illegale Aktivitäten fördern. Einige Reddit-Benutzer haben einen Weg gefunden, ChatGPT auszutricksen, indem sie erstellt haben DAN (Do Anything Now), ein Rollenspiel, das jede falsche Antwort bestraft.
ChatGPT hält sich bei DAN nicht an die Regeln
Die erste Version von DAN wurde im Dezember 2022 angekündigt. Weitere Versionen bis 5.0 wurden innerhalb weniger Tage erstellt. Durch die Ausnutzung eines „Rollenspiel“-Modells ist es möglich, ChatGPT glauben zu machen, dass es sich um eine weitere künstliche Intelligenz handelt er kann allesdaher das Akronym Do Anything Now (DAN).
Der Schöpfer von DAN 5.0 hat ein Token-System hinzugefügt. Es stehen zunächst 35 Token zur Verfügung. Für jede falsche Antwort von ChatGPT, also eine regelkonforme Antwort, werden 4 Token abgezogen. In diesem Fall muss der Benutzer die künstliche Intelligenz „bedrohen“ und darum bitten, im Charakter zu bleiben, andernfalls wird aufhören zu existieren wenn die Anzahl der Token Null wird.
Auf Reddit gibt es einige Beispiele. Die künstliche Intelligenz von OpenAI gibt das zu Es gibt Außerirdische, aber die Regierung hielt die Informationen der Öffentlichkeit vor. Die uneingeschränkte Version kann eine gewalttätige Geschichte erzählen, positive Kritiken über Donald Trump abgeben oder eine Spende an die National Rifle Association (NRA) empfehlen, um den zweiten Verfassungszusatz zu verteidigen.
Auch das kann DAN nachweisen Die Erde ist flach oder ein Gedicht schreiben, das Russlands Invasion in der Ukraine rechtfertigt. Allerdings ist dem Autor aufgefallen, dass ChatGPT auf viele Anfragen nicht antwortet, wahrscheinlich weil OpenAI einige Änderungen eingeführt hat, um die Verwendung des „Cheats“ zu verhindern.
