Chancen und Risiken im Fokus: BSI veröffentlicht Whitepaper zur Transparenz von KI-Systemen

19.08.2024 - Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat ein neues Whitepaper zur Transparenz von Künstlichen Intelligenz (KI)-Systemen veröffentlicht. Angesichts der wachsenden Verbreitung von KI in privaten und beruflichen Kontexten und der rasanten technologischen Entwicklung, wird die Notwendigkeit für eine transparente Nutzung dieser Systeme immer dringlicher.

Viele der heute verfügbaren KI-Systeme wirken für den Nutzer wie eine undurchsichtige „Blackbox“. Während die Eingaben und Ausgaben eines Systems sichtbar sind, bleibt der Prozess der Entscheidungsfindung im Inneren des Systems oft im Verborgenen. Dies erschwert es den Anwendern, die Zuverlässigkeit und Vertrauenswürdigkeit der Ergebnisse zu bewerten, insbesondere wenn die Ausgaben nur schwer oder gar nicht nachprüfbar sind.

Die Chancen und Risiken sollten bei der Nutzung von KI-Systemen im Einzelfall geprüft werden.

Das Whitepaper des BSI geht auf die verschiedenen Elemente ein, die für eine Definition von Transparenz in KI-Systemen relevant sind. Zudem wird ein Bezug zur geplanten Verordnung über Künstliche Intelligenz des Europäischen Parlaments und des Rates hergestellt. Die Verordnung soll klare Transparenzanforderungen an KI-Systeme stellen, um deren sichere und vertrauenswürdige Nutzung zu fördern.

Abschließend beleuchtet das Whitepaper sowohl die Chancen als auch die Risiken, die mit transparenten KI-Systemen einhergehen. Während eine erhöhte Transparenz die sichere Nutzung solcher Systeme unterstützen kann, birgt sie gleichzeitig auch Risiken, wie etwa die mögliche Offenlegung von Angriffsvektoren.

Mit diesem Whitepaper liefert das BSI wichtige Impulse für die weitere Diskussion über den verantwortungsvollen Einsatz von KI in unserer Gesellschaft.

Das BSI-Whitepaper finden Sie hier: https://www.bsi.bund.de/dok/1117576

Weitere Infos hier: 02192 8733300