De Chinese AI-chatbot DeepSeek, is het echt de moeite?

De Chinese AI-chatbot DeepSeek volgt strikte censuurregels en weigert vragen te beantwoorden over gevoelige onderwerpen. Dit blijkt uit een onderzoek van PromptFoo, een bedrijf dat AI onderzoekt.

Censuur in DeepSeek

DeepSeek is ontwikkeld door het Chinese bedrijf High-Flyer en staat bekend om zijn sterke prestaties en lage kosten. Toch blijkt dat het AI-model onderwerpen zoals de protesten op het Tiananmenplein en de status van Taiwan bewust negeert. Volgens onderzoek reageert DeepSeek in 85% van de gevallen niet op gevoelige vragen. In 1156 gevallen gaf de chatbot geen direct antwoord, maar reageerde met nationalistische teksten.

Beperkte controle en zwakke censuur

PromptFoo ontdekte dat DeepSeek makkelijk te omzeilen is (‘jailbreaken’). Dit betekent dat de censuur niet heel sterk is en roept vragen op over hoe AI in China wordt gecontroleerd en beperkt.

Vergelijking met andere AI-modellen

De vragen waarop DeepSeek geen antwoord gaf, zijn openbaar beschikbaar op Hugging Face. Onderzoekers willen hetzelfde onderzoek uitvoeren op westerse AI-modellen, zoals ChatGPT, om te zien hoe die omgaan met politieke vragen.

Conclusie

DeepSeek laat zien hoe AI beïnvloed kan worden door politieke regels. Dit onderzoek laat zien hoe AI wereldwijd met gevoelige informatie omgaat en wat dit betekent voor de toekomst van technologie en vrije informatie.