Skip to content

Commit

Permalink
Add German Translation of the 2025 Top 10 for LLM Applications.
Browse files Browse the repository at this point in the history
  • Loading branch information
phischde committed Jan 13, 2025
1 parent 9edd6b8 commit a474a46
Show file tree
Hide file tree
Showing 12 changed files with 435 additions and 307 deletions.
22 changes: 13 additions & 9 deletions 2_0_vulns/translations/de-DE/LLM00_Preface.md
Original file line number Diff line number Diff line change
@@ -1,24 +1,24 @@
## Schreiben der Projektleiter
## Vorwort der Projektleiter

Die OWASP Top 10 für Large Language Model Applications (LLM) wurden 2023 als ein von der Community vorangetriebenes Projekt ins Leben gerufen, um Sicherheitsprobleme, die speziell bei KI-Anwendungen auftreten, hervorzuheben und zu beheben. Seitdem hat sich die Technologie in immer mehr Branchen und Anwendungen verbreitet, und damit auch die damit verbundenen Risiken. Da LLMs immer tiefer in alle Bereiche eingebettet werden, von der Kundeninteraktion bis hin zu internen Abläufen, entdecken Entwickler und Sicherheitsexperten neue Schwachstellen und Wege, diese zu beheben.
Die OWASP Top 10 für LLM-Applikationen wurden im Jahr 2023 als ein von der Community vorangetriebenes Projekt ins Leben gerufen, um die spezifischen Sicherheitsprobleme von KI-Anwendungen aufzuzeigen und zu beheben. Seitdem hat sich diese Technologie in immer mehr Branchen und Anwendungen verbreitet, und mit ihr die damit verbundenen Risiken. Da LLMs immer tiefer in alle Bereiche, von der Kundeninteraktion bis hin zu internen Prozessen, integriert werden, entdecken Entwickelnde und Sicherheitsfachleute neue Schwachstellen - und Möglichkeiten, diese zu beheben.

Die Liste von 2023 war ein großer Erfolg, um das Bewusstsein zu schärfen und eine Grundlage für die sichere Nutzung von LLM zu schaffen, aber seitdem haben wir noch mehr gelernt. Für die neue Version 2025 haben wir mit einer größeren, vielfältigeren Gruppe von Mitwirkenden weltweit zusammengearbeitet, die alle an der Gestaltung dieser Liste mitgewirkt haben. Der Prozess umfasste Brainstorming-Sitzungen, Abstimmungen und Feedback aus der Praxis von Fachleuten, die sich intensiv mit der Sicherheit von LLM-Anwendungen befassen, sei es durch Beiträge oder durch die Verfeinerung dieser Einträge durch Feedback. Jede Stimme war entscheidend, um diese neue Version so gründlich und praktisch wie möglich zu gestalten.
Die Liste von 2023 war ein großer Erfolg bei der Sensibilisierung und der Schaffung einer Grundlage für die sichere Nutzung von LLMs, und wir haben seitdem noch mehr gelernt. Für die neue Version 2025 haben wir mit einer größeren und vielfältigeren Gruppe von Mitwirkenden weltweit zusammengearbeitet, die alle an der Gestaltung dieser Liste mitgewirkt haben. Der Prozess umfasste Brainstorming-Sitzungen, Abstimmungen und Feedback aus der Praxis von Fachleuten, die sich intensiv mit der Sicherheit von LLM-Anwendungen beschäftigen, sei es durch Beiträge oder durch die Verbesserung der Einträge durch Feedback. Jede Stimme war entscheidend, um diese neue Version so umfassend und praxisnah wie möglich zu gestalten.

### Was ist neu in den Top 10 von 2025

Die Liste von 2025 spiegelt ein besseres Verständnis der bestehenden Risiken wieder und enthält wichtige Aktualisierungen darüber, wie LLMs heute in realen Anwendungen eingesetzt werden. So wird beispielsweise „**unbegrenzter Verbrauch**“ auf das ausgeweitet, was zuvor als Denial-of-Service bezeichnet wurde, und umfasst nun auch Risiken im Zusammenhang mit dem Ressourcenmanagement und unerwarteten Kosten ein dringendes Problem bei groß angelegten Einsatz von LLMs.
Die Liste von 2025 spiegelt ein besseres Verständnis der bestehenden Risiken wider und enthält wichtige Aktualisierungen darüber, wie LLMs heute in realen Anwendungen eingesetzt werden. Beispielsweise wurde das Konzept des „Unbegrenzten Verbrauchs“ (Unbounded Consumption) erweitert, um Risiken im Zusammenhang mit dem Ressourcenmanagement und unerwarteten Kosten zu berücksichtigen - ein drängendes Problem bei der großflächigen Einführung von LLM-Anwendungen.

Der Eintrag „**Vektor und Einbettung**“ geht auf die Anfragen der Community nach Anleitung zur Sicherung von Retrieval-Augmented Generation (RAG) und anderen einbettungsbasierten Methoden ein, die heute zu den Kernpraktiken für die Begründung von Modellausgaben gehören.
Der Eintrag „Schwachstellen in Vektoren und Embeddings“ (Vector and Embeddings) ist eine Reaktion auf Anfragen aus der Community nach Anleitungen zur Absicherung von Retrieval-Augmented Generation (RAG) und anderen auf Einbettungen basierenden Methoden, die heute zu den grundlegenden Praktiken für die Absicherung von Modellausgaben gehören.

Wir haben auch „**Offenlegung des Systems Prompts**hinzugefügt, um einen Bereich mit realen Schwachstellen zu behandeln, der von der Community stark nachgefragt wurde. Viele Anwendungen gingen davon aus, dass Eingabeaufforderungen sicher isoliert waren, aber jüngste Vorfälle haben gezeigt, dass Entwickler nicht davon ausgehen können, dass die Informationen in diesen Eingabeaufforderungen geheim bleiben.
Wir haben auch „Offenlegung des Systems Prompts“ (System Prompt Leakage) hinzugefügt, um einen Bereich realer Exploits abzudecken, der von der Community stark nachgefragt wurde. Viele Anwendungen gingen davon aus, dass Prompts sicher isoliert sind, aber jüngste Vorfälle haben gezeigt, dass Entwickelnde nicht davon ausgehen können, dass die Informationen in diesen Prompts vertraulich bleiben.

**Excessive Agency** wurde erweitert, da vermehrt agentenbasierte Architekturen eingesetzt werden, die der LLM mehr Autonomie verleihen können. Wenn LLMs als Agenten oder in Plug-in-Einstellungen agieren, können nicht überprüfte Berechtigungen zu unbeabsichtigten oder riskanten Aktionen führen, wodurch dieser Eintrag wichtiger denn je ist.
„Übermäßige Handlungsfreiheit“ (Excessive Agency) wurde angesichts des zunehmenden Einsatzes von Agentenarchitekturen, die dem LLM mehr Autonomie verleihen können, erweitert. Wenn LLMs als Agenten oder in Plugin-Umgebungen agieren, können ungeprüfte Berechtigungen zu unbeabsichtigten oder gefährlichen Aktionen führen, was diesen Eintrag wichtiger denn je macht.

### Die Zukunft

Wie die Technologie selbst ist auch diese Liste ein Produkt der Erkenntnisse und Erfahrungen der Open-Source-Community. Sie wurde durch Beiträge von Entwicklern, Data Scientists und Sicherheitsexperten aus verschiedenen Sektoren gestaltet, die sich alle für die Entwicklung sichererer KI-Anwendungen einsetzen. Wir sind stolz darauf, diese Version von 2025 mit euch zu teilen, und hoffen, dass sie euch die Werkzeuge und das Wissen an die Hand gibt, um LLMs effektiv zu sichern
Wie die Technologie selbst ist auch diese Liste ein Produkt der Erkenntnisse und Erfahrungen der Open-Source-Community. Sie wurde durch Beiträge von Entwickelnden, Data Scientists und Sicherheitsfachleuten aus verschiedenen Sektoren gestaltet, die sich alle für die Entwicklung sichererer KI-Anwendungen einsetzen. Wir sind stolz darauf, diese Version von 2025 mit Ihnen zu teilen und hoffen, dass sie Ihnen Werkzeuge und Wissen zur Verfügung stellt, um LLMs effektiv abzusichern.

Vielen Dank an alle, die bei der Erstellung dieses Dokuments mitgeholfen haben, und an alle, die es weiterhin nutzen und verbessern. Wir sind dankbar, mit euch an dieser Arbeit beteiligt zu sein.
Vielen Dank an alle, die an der Erstellung dieses Dokuments mitgewirkt haben und an alle, die es weiterhin nutzen und verbessern werden. Wir sind dankbar, an dieser Arbeit beteiligt gewesen zu sein.


###@ Steve Wilson
Expand All @@ -36,7 +36,11 @@ LinkedIn: https://www.linkedin.com/in/adamdawson0/
Rico Komenda
[https://www.linkedin.com/in/ricokomenda/](https://www.linkedin.com/in/ricokomenda/)

Philippe Schrettenbrunner
[https://www.linkedin.com/in/philippe-schrettenbrunner/](https://www.linkedin.com/in/philippe-schrettenbrunner/)

### Über diese Übersetzung

Bei der Erstellung dieser Übersetzung haben wir uns bewusst dafür entschieden, nur menschliche Übersetzer einzusetzen, in Anerkennung der außerordentlich technischen und kritischen Natur der OWASP Top 10 für LLM-Applikationen. Die oben aufgeführten Übersetzer verfügen nicht nur über ein tiefes Verständnis des Originalinhalts, sondern auch über die sprachliche Kompetenz, um diese Übersetzung sinnvoll zu gestalten.

###@ Talesh Seeparsan
Expand Down
Loading

0 comments on commit a474a46

Please sign in to comment.