Das Leck unter der KI-Cloud: Warum ausgerechnet die Inferenz-Software Daten verrät

NEAR AI gehackt, bei Cloudflare fremde Prompts in den Antworten, bei Fireworks Notion-Chats abgeflossen: Gemeldet wurde jeder Vorfall für sich. Zusammen zeigen sie, dass die Software, die offene Modelle in der Cloud ausliefert, zur Schwachstelle geworden ist. Wir haben die Sicherheitslücken bei SGLang nachgezählt, sie mit vLLM und TensorRT-LLM verglichen und erklären, wo auch „vertrauliche“ KI nicht schützt.

Ganzer Artikel mit Quellen: https://tokenstrom.de/posts/das-leck-unter-der-ki-cloud-warum-ausgerechnet-die-inferenz-software-d/

Gesprochen von einer KI-Stimme.