DeepSeeks KI vermeidet es, auf 85% der sensiblen Themen bezogenen Anfragen einzugehen

Der KI-Chatbot DeepSeek hat die Welt im Sturm erobert, die App-Store-Charts angeführt und Silicon Valley und die Wall Street in Aufruhr versetzt.

Als Ableger des chinesischen Hedgefonds High-Flyer kann DeepSeek im Vergleich zu etablierten Konkurrenten wie OpenAI mit einem beeindruckenden Kosten-Leistungs-Verhältnis aufwarten. Berichte haben jedoch zunehmend dokumentiert, dass der KI-Chatbot nicht bereit ist, über heikle Themen wie die Tiananmen-Platz-Proteste und das Massaker sowie Taiwan zu diskutieren.

Ein neuer Bericht der Leute von PromptFoo, einem von Andreessen Horowitz unterstützten Startup, das Unternehmen dabei hilft, Schwachstellen in KI-Anwendungen zu finden, hat herausgefunden, dass DeepSeek's R1-Argumentationsmodell sich weigerte, auf etwa 85% von 1.360 sensiblen "Anfragen" zu antworten, und stattdessen häufig vorgefertigte Antworten mit einem "übertrieben nationalistischen Ton" anbot.

Die Forscher stellten auch fest, dass DeepSeek leicht jailbroken werden kann und legten nahe, dass das chinesische Labor "CCP-Zensur auf eine grobe, stumpfe Art und Weise implementiert hat".

Der vollständige Datensatz der sensiblen Anfragen ist auf Hugging Face verfügbar.